【研究意义】进入21世纪以来,农业劳动力不断向其他产业转移,结构性短缺和老龄化趋势已成为全球问题。人工智能技术、传感器新技术的快速发展为智慧农业的发展提供了新的动力和可能。农作物的信息采集是智慧农业中一个重要环节,尤其是产量信息获取显得尤为重要[1-4]。实时准确、鲁棒性高的果园估产,是我国农业进入智慧农业的一个必不可少的阶段。通过产量预测不仅可以使果农及时掌握果园生产状况,从而指导水果定价或预计果园利润,还可为合理计划收获期采摘人力数目和费用提供定量依据,以免在收获期过多或者过少的雇佣采摘劳动者而使成本较高或耽误采摘进度,也可为后期的物流运输规划提供更早地决策。
【前人研究进展】目前,柑桔园估产依然采用传统的人工田间抽样、目测清点单株果实数量等方式,对测产人员的经验要求较高,劳动强度较大,精度较低,耗时较长。随着传感器技术、图像处理技术及人工智能算法的迅速发展,水果产量在线自动识别及产量预估已成为一种新趋势[5-8]。利用图像处理技术,通过拍摄果期数字图像建立产量估测模型,具有成本低、操作简单等特点[9-10]。但是水果自动识别算法中的准确性、识别速度和鲁棒性对于水果产量预测至关重要[11-13]。由于在线识别水果的环境较复杂,受到不确定的自然光照、复杂的冠层结构、水果在不同生长期变化的颜色、形状和大小的影响,另外图像中果实被枝叶遮挡、果实之间互相重叠等影响水果形状的外部因素,从而影响识别正确率[14-16]。蔡健荣等针对自然光照条件下的成熟柑橘彩色图像,采用2R-G-B色差分量,通过Ostu自适应阈值算法进行图像分割,利用形态运算消除随机噪声,标记分割区域,通过数学方法进一步去除背景区域;在果实重叠问题上,利用函数提取边界,再结合形态学运算实现分割,经验证95%果实能被正确识别[17]。该方法是最传统的图像处理方法,处理步骤非常复杂,不易掌握,图像处理的时间也比较长。华南农业大学熊俊涛应用faster RCNN方法研究了自然环境下绿色柑橘的识别问题,该方法较好地解决了绿色柑橘和背景树叶颜色相近而难以区分的问题,实验结果表明在不同光照条件下检测绿色柑橘的F值分别为77.45%[18]。LIU等构建了一个Cr-Cb颜色空间对自然环境下的柑橘进行水果和树干的识别,该研究表明其能把水果正确识别率提高到90.8%,虚假识别率降低到11.2%[19]。美国佛罗利达大学DORJ等通过把RGB颜色空间图像转化成HSV颜色空间图像来对柑橘进行识别,结果表明通过图像处理方法得到的柑橘产量预估与通过人工方法计数得到的结果相比,其相关系数R2达到0.93,但是该方法非常复杂,包括阈值确定、水果分割、去噪、形态操作、特征抽取和分类等[8]。【本研究切入点】过去研究中对果实进行识别的主要研究步骤包括图像采集、颜色空间转换或直方图、果实背景分割、标签、形态学处理、噪声过滤、特征提取、分类等,或者采用较为复杂的深度学习法,这些方法比较繁琐,不容易掌握。本研究在不同的颜色空间下将果实与背景直接进行分割。
【拟解决的关键问题】基于Lab颜色空间提出了一种快速、准确地对果园柑橘进行识别及产量预估方法。该方法不需要进行阈值分割、去噪等繁琐的图像处理过程,直接应用Lab颜色空间中的“a”分量进行图像识别及技术。该方法对果实重叠、被遮挡及光线变化具有较好的鲁棒性。
试验于2018年12月在美国加利福尼亚州的Shiraz Ranch农场进行图像采集。所用相机为iphone XR手机,架设在距离树2.13 m的三脚架,距离地面高度1.45 m,采用自然光背景下的“自动聚焦”模式,无光学或数字缩放,不使用闪光灯,所拍摄的图像像素为4 032×3 024(大小约5.5 M)。图像处理的硬件包括Intel Core i5处理器电脑,windows 64位操作系统,4 GB RAM,软件为Matlab (版本号:2017b,Mathwoks 公司)。
考虑算法对不同类型的柑橘识别的鲁棒性,分别对25棵桔子树和橙子树的两侧在晴天和阴天进行图像采集,具体数据如表1所示。
表1 柑橘树图像采集信息
Table 1 Information of citrus image
果树类别Category of citrus trees天空颜色Color of sky柑橘 Citrus 晴天 蓝色阴天 白色橙子 Orange 晴天 蓝色阴天 蓝白天气情况Weather
本研究通过应用RGB相机采集到RGB图像,考虑到成熟柑橘及柑橘园背景颜色并没有蓝色,因此将B分量值设定为0,并将RGB颜色空间转换成Lab颜色空间。在此基础上,分析RGB颜色空间的“R”“G”和“B”分量,以及Lab颜色空间的“L”“a”和“b”分量,分析得出的“a”分量能容易区分成熟柑橘和其他背景颜色。因此,应用“a”分量中的图片,根据柑橘的圆形特征,通过霍夫圆变换进行柑橘识别并计数,具体步骤如图1所示。
图1 基于Lab颜色空间的柑橘园树上水果计数方法
Fig.1 On-tree citrus counting methods based on Lab color space
颜色空间的选择对于果园果实与背景的分割比较重要。同一图片在不同的颜色空间下存在明显区别。因此,找出能易区分果实与自然背景颜色的颜色空间十分重要,果树和背景的灰度值差别越大,越容易把果实与背景分离。最常用的颜色空间有RGB(Red, Green, Blue)颜色空间,但由于红色、绿色和蓝色这3种颜色之间存在很强的相关性,因此RGB颜色空间的单个颜色分量并不适合自然环境下成熟水果的分割。常用的方法是把RGB颜色空间转换到HSV 和CIEL*a*b*(以下简称Lab)颜色空间来得到合适的分量或分量组合。
Lab颜色空间能够描述人眼可见颜色,不受参考的设备模型影响。在Lab颜色空间,用数字化的方法来描述人的视觉感应,其中L分量(light)用以表示像素亮度,取值范围[0,100];a通道和b通道只负责颜色的多少,a通道取值范围[127,-128],表示从红色到绿色的范围;b通道表示从黄色到蓝色的范围,取值范围[127,-128]。
由于RGB颜色空间是非线性的,不能直接转换成Lab空间,因此必须先转换成XYZ颜色空间,再把XYZ颜色空间转换到Lab颜色空间。其转换公式包括两部分:
(1)RGB与XYZ颜色空间的转换公式如下:
(2)XYZ与Lab颜色空间的转换公式为:
本研究通过MATLAB编程对柑橘进行识别并进行计数。在对识别结果进行分析时,设定果实识别正确率、产量预估正确率对该方法进行评估与讨论。
本试验根据不同的树干背景分两种情况进行背景(除果实外的都算做背景)剔除,选取成熟柑橘的典型图片,图片中包含天空、土壤、树叶等复杂背景,且该图片包括柑橘之间重叠、被果实遮挡等影响柑橘识别及技术的图像处理难题。图2中,(A)为脐橙树RGB图,近水果光照度为168 lx,近相机光照度为138 lx。
图2 RGB图像及其分量转换到Lab颜色空间图像及分量
Fig.2 RGB image and its components converted to Lab color space
在图2中,RGB的“B”分量已在程序中设定为0,因此图形为黑色,没有果实和背景信息;“R”和“G”分量图像果实和背景颜色没有显著区分,不适用于图像识别。Lab颜色空间下的Lab图像背景为红色,不适合提取果实图像;“L”和“b”分量仅为小点,无法对该小点进行识别;“a”分量中果实显示为白色,其余复杂背景(如树叶,树枝,土壤、天空等)均显示为黑色,非常适合应用软件对柑橘进行识别及计数。由于柑橘类水果的形状大多为圆形或椭圆形,本研究采用MATLAB软件(版本号:R2018a),应用霍夫圆变换算法对柑橘的形状特征进行识别并自动计数,得出图3(A)的橙子数为113,识别结果见图3(B),识别时间为1.03 s。通过人工对脐橙树进行计数的结果117,其中漏数7个,因土壤及树干等背景影响,导致虚数(虚假柑橘数)3个。
图3 原始RGB图形及自动识别结果
Fig.3 Original RGB image and automatic detection result
根据公式(7)和公式(8),计算得出柑橘识别正确率为94.01%,产量预估正确率为96.58%。由于相关文献并没有做产量预估正确率分析,该方法与文献中的研究方法在识别正确率及识别时间两个性能上进行比较,结果如表2所示。
表2 不同图像处理方法识别正确率及识别时间比较
Table 2 Detection accuracy and time comparison of different image processing methods
方法Method识别正确率Detection accuracy (%)识别时间Detection time (s)转换到Cr-Cb颜色空间,应用椭圆形特征识别[18]Transfer to Cr-Cb color space, apply elliptical feature recognition[18]90.8 0.33阈值确定、水果分割、去噪、形态操作、特征抽取和分类等[8]Threshold determination, fruit segmentation, denoising, morphological manipulation, feature extraction and classification [8]93.0 26.05转换到Lab颜色空间,应用圆形特征识别Convert to Lab color space, apply circular feature recognition 94.0 1.03
识别个数是从图像处理中得到的柑橘的数量,可从数量方面反映柑橘的产量。本研究根据识别数量实现对柑橘的产量预估,选取10株自然环境下的柑橘树图片(每棵树拍两面,共20幅图片)进行图像处理,得出其自动识别的柑橘产量,并与人工计数结果进行比较,应用Excel绘制其线性回归曲线图(图4)。
图4 线性回归分析结果
Fig.4 Result of linear regression analysis
本研究结果表明,应用Lab颜色空间中的“a”分量进行霍夫圆变换,对树上柑橘进行识别并计数,所用时间为1.03 s,识别速度比基于Cr-Cb颜色空间的柑橘识别方法慢,但识别率提高3.2%。Dorj在文献中采用的传统阈值确定及去噪、形态操作等处理方法,虽然识别正确率能达到93%,但识别时间长达26.05 s,该方法如果用在水果自动采摘中对水果的定位上,由于速度太慢达不到实时定位的要求。本方法无论是识别时间和识别正确率都达到一个较高水平,通过人工计数的柑橘数量与基于机器视觉的图像识别数量的回归曲线分析图4可知,其相关系数R2达0.9879。
由于柑橘图像采集来源于RGB相机,隐藏在树深处的柑橘可能不能显示,仅根据该RGB图像进行产量预估仍会存在一定误差,要提高产量预测精度,可尝试应用多种传感器对柑橘园图像进行采集,但该方法将增加设备成本及处理时间。图片中另一个影响精度的是由于果实之间的过度重叠或过度遮挡,这种情况也会导致识别错误。
本研究把自然环境下成熟柑橘园的原始RGB图像转换到Lab颜色空间进行图像处理,并经过分析得出其中的“a”分量能较好地去除除柑橘外的背景,在此基础上,根据柑橘的圆形形状特征,应用霍夫圆变换,对成熟柑橘进行识别并计数,该方法简单易操作,识别速度快,且识别精度高,对果实重叠或被遮挡等具有较好的鲁棒性。但该方法只适合对成熟的柑橘进行识别,对不成熟的柑橘识别并不适应。
[1] 李寒.基于机器视觉的目标检测在精细农业中的关键技术研究[D].北京:中国农业大学,2014.LI H.Study on Target Detection Technology Applied on Precision Agriculture Based on Machine Visio[D].Beijing:China Agricultural University, 2014.
[2] 陈兵旗,吴召恒,李红业,王进.机器视觉技术的农业应用研究进展[J].科技导报,2018,36(11):54-65.doi:10.3981/j.issn.1000-7857.2018.11.006.CHEN B Q, WU Z H, LI H Y, WANG J.Research of machine vision technology in agricultural application:Today and the future[J].Science & Technology Review, 2018,36(11):54-65.doi:10.3981/j.issn.1000-7857.2018.11.006.
[3] 王辉.机器视觉技术在果园自动化中的应用研究[D].北京:中国农业机械化科学研究院,2011.WANG H.Applied research of machine vision in orchard automation[D].Beijing:Chinese Academy of Agricultural Mechanization Sciences, 2011.
[4] GONGAL A, AMATYA S, KARKEE M.Sensors and systems for fruit detection and localization:A review[J].Computers and Electronics in Agriculture, 2015,16:8-19.doi:10.1016/j.compag.2015.05.021.
[5] ZEESHAN M, SHEIKH Z, AHMAD R S, ASAD S.Detection and counting of on-tree citrus fruit for crop yield estimation[J].International Journal of Advanced Computer Science and Applications, 2016,7(5):519-523.doi:10.14569/IJACSA.2016.070569.
[6] WANG Q, NUSKE S, BERGERMAN M, SINGH S.Automated crop yield estimation for apple orchards//Experimental robotics[C].Springer, Heidelberg, 2013:745-758.
[7] TRAN C C, NGUYEN D T, LE H D, TRUONG Q B, TRUONG Q D.Automatic dragon fruit counting using adaptive thresholds for image segmentation and shape analysis//2017 4th NAFOSTED Conference on Information and Computer Science[C].Hanoi, 2017:132-137.
[8] DORJ U O, LEE M, YUN S S.An yield estimation in citrus orchards via fruit detection and counting using image processing[J].Computers and Electronics in Agriculture, 2017 (140):103-112.doi:10.1016/j.compag.2017.05.019.
[9] WALTER M J, JOSÉ C B.Automatic green fruit counting in orange trees using digital images[J].Computers and Electronics in Agriculture, 2016(127):572-581.doi:10.1016/j.compag.2016.07.023.
[10] CHLINGARYAN A, SUKKARIEH S, WHELAN B.Machine learning approaches for crop yield prediction and nitrogen status estimation in precision agriculture:A review[J].Computers and Electronics in Agriculture, 2018(151):61-69.doi:10.1016/j.compag.2018.05.012.
[11] STEIN M, BARGOTI S, UNDERWOOD J.Image based mango fruit detection, localisation and yield estimation using multiple view geometry[J].Sensors, 2016,16 (11):1-25.doi:10.3390/s16111915.
[12] 程洪,LUTZ Damerrow, MICHAEL Blanke, 孙宇瑞.基于图像处理与支持向量机的树上苹果早期估产研究[J].农业机械学报,2015,46(3):9-14.doi:10.6041/j.issn.1000-1298.2015.03.002.CHENG H, LUTZ D, MICHAEL B, SUN Y R.Early yield estimation of “GALA” apple trees using image processing combined with support vector machine[J].Transactions of the Chinese Society for Agricultulral Machinery,2015, 46(3):9-14.doi:10.6041/j.issn.1000-1298.2015.03.002.
[13] LÜ Q, CAI J R, LIU B, LIE D, ZHANG Y J.Identification of fruit and branch in natural scenes for citrus harvesting robot using machine vision and support vector machine[J].International Journal of Agricultural and Biological Engineering, 2014, 7(2):115-121.doi:10.3965/j.ijabe.20140702.014.
[14] CHEN Y H, LEE W S.Identification and determination of the number of overlapping citrus fruit in natural outdoor conditions//ASABE and CSBE/SCGAB Annual International Meeting[C].Montreal, Quebec Canada, 2014.
[15] LU J, SANG N.Detecting citrus fruits and occlusion recovery under natural illumination conditions[J].Computers and Electronics in Agriculture, 2015,110(c):121-130.doi:10.1016/j.compag.2014.10.016.
[16] 卢军,胡秀文.弱光复杂背景下基于 MSER 和 HCA 的树上绿色柑橘检测[J].农业工程学报 ,2017,33(19):197-202.doi:10.11975/j.issn.1002-6819.2017.19.025.LU J, HU X W.Detecting green citrus fruit on trees in low light and complex background based on MSER and HCA [J].Transactions of the Chinese Society of Agricultural Engineering, 2017, 33(19):196-201.doi:10.11975/j.issn.1002-6819.2017.19.025.
[17] 蔡健荣,周小军,李玉良,范军.基于机器视觉自然场景下成熟柑橘识别[J].农业工程学报,2008,24(1):175-178.doi:10.3321/j.issn:1002-6819.2008.01.034.CAI J R, ZHOU X J, LI Y L, FAN J.Recognition of mature oranges in natural scene based on machine vision[J].Transactions of the Chinese Society of Agricultural Engineering, 2008, 24(1):175-178.doi:10.3321/j.issn:1002-6819.2008.01.034.
[18] 熊俊涛,刘振,汤林越.自然环境下绿色柑橘视觉检测技术研究[J].农业机械学报,2018,49(4):45-52.doi:10.6041/j.issn.1000-1298.2018.04.005.XIONG J T, LIU Z, TANG L Y.Visual detection technology of green citrus under natural environment[J].Transactions of the Chinese Society for Agricultulral Machinery, 2018,49(4):45-52.doi:10.6041/j.issn.1000-1298.2018.04.005.
[19] LIU T H, REZA E, TOUDESHKI A, ZOU X J, WANG H J.Detection of citrus fruit and tree trunks in natural environments using a multielliptical boundary model[J].Computers in Industry,2018,99:9-16.doi:10.1016/j.compind.2018.03.007.
Fast Detection and Yield Estimation of Ripe Citrus Fruit Based on Machine Vision