2. 南昌工程学院 信息工程学院,江西 南昌 330099
2. School of Info. Eng., Nanchang Inst. of Technol., Nanchang 330099, China
随着计算机技术的进步,雾霾图像的智能化处理在室外监控、行车记录系统以及遥感影像处理方面得到越来越广泛的应用。为了提高户外系统工作的鲁棒性和可靠性,对图像进行去雾处理,增强雾天降质图像的景物细节信息具有重要意义。经过去雾处理后的图像具有更高的利用价值,能够用来获得有效信息、提高视觉感受等。
目前,去雾算法普遍被分为基于物理模型的图像复原和基于非物理模型的图像增强[1]两大类。前者通过雾霾图像的物理模型[2],得到图像传感器在雾霾天气下的成像机理,从而倒推出图像复原的表达式,求解出真实的清晰图像;后者着重强调对比度的提高,在忽略雾天图像退化模型的基础上,突出感兴趣区域,获取有用的场景信息。基于物理模型的去雾算法大体能够分为:从偏微分角度、根据深度关系以及获取先验信息的雾天图像复原[1]。基于非物理模型的去雾算法主要有直方图均衡化算法[3]、同态滤波算法[4]、小波变换算法[5]以及Retinex算法[6]等。直方图均衡化算法通过对原图进行非线性变换,使图像的直方图分布较为均匀,恢复出较为清晰的图像,但是忽略图像的局部信息,出现颜色偏差[3]。Verma等[7]完成了图像的自动去雾,该原理是通过对曲波变化的特性进行分析,在此基础上进行消失点检测。曲波变换算法[8]弥补了小波变换在场景边缘处理效果较差的不足,但是在景深不连续的地方会产生光圈效应。自适应饱和度反馈算法[9]能够提高饱和度反馈法的自适应性,在局部相关性的基础上,通过获得的亮度、饱和度,得到饱和度反馈的极性和程度,具有较高的灵活性,但易增加噪声。Jobson等[6]在1997年提出单尺度Retinex算法(single-scale Retinex,SSR),此外,还提出了对雾气分布均匀的雾天图像具有良好效果的多尺度Retinex算法(multi-scale Retinex,MSR)[10],但是去雾后的图像存在色彩失真。此后,Jobson等[11]引入色彩恢复的概念,利用原图各波段的色彩比例因子对图像进行色彩恢复,提出了带色彩恢复的多尺度Retinex算法(multi-scale Retinex with color restoration,MSRCR),该算法在明暗对比强烈的边缘处,会出现光晕伪影现象,并有部分色彩失真现象。芮义斌等[12]在Retinex算法的基础上,对MSR算法进行改进,通过对薄雾图像进行正态截取拉伸获得了理想的增强效果,但该方法对于浓雾天气不适用。毕国玲等[13]提出基于照射反射模型和有界运算的多谱段图像增强,结合广义有界运算模型和引导滤波,通过有界广义对数比(general log-radio,GLR)模型中的减法、加法、乘法求取多尺度反射分量,并对多个谱段的图像进行增强,可避免传统运算结果中发生的光晕和越界现象,但是对于高亮度图像增强效果不好。Zhang等[14]采用低阶技术以及重叠平均的图像滤波方法,对单幅图像进行视觉增强,但处理后的图像易产生颜色失真。Li等[15]在通过反射分量提取细节部分的同时,利用像素及其周围像素的照度分量来保持场景的自然性,去雾后的图像边缘处会出现光晕伪影。Yu等[16]提出一种基于HSV色彩空间的(HSV-integrated multi-scale retinex,HSV-IMSR)算法,通过增强后的亮度分量V调整饱和度来消除色彩失真问题及光晕现象,但该算法不适用于低照度雾天图像。
受以上算法启发,针对多尺度Retinex算法和带色彩恢复的多尺度Retinex算法存在色彩失真以及晕光等问题,提出了Retinex模型下基于融合策略的雾霾图像增强算法。本文算法处理后的图像细节清晰,色彩流畅,改进了MSR和MSRCR算法细节缺失以及颜色失真的不足。
1 基于Retinex模型的图像增强算法Retinex理论即视网膜大脑皮层理论,广泛用于图像处理领域,是一种基于人类视觉感知的色彩理论。Retinex模型解释了人类对自然界场景的视觉感知,即通过自动调节获得的场景信息,忽略场景的照度分量,从而获得物体表面的反射光,感知物体的真实色彩。
1.1 多尺度Retinex(MSR)算法在Retinex模型中,成像设备输出的户外图像由两方面构成:一方面,来自入射光的照度部分,与光照强度有关,为低频分量;另一方面,来自于物体本身的反射性质,是人眼较易识别的高频信息,反映物体的色彩和本质属性。Retinex模型的公式如下:
$I(x,y) = R(x,y)L(x,y)$ | (1) |
式中:
在Land提出Retinex算法基础上,Jobson等经过研究实验于1997年提出了单尺度Retinex(single scale Retinex,SSR)算法[6]。通过将式(1)转换到对数域,能够将复杂的乘法转变为简单的加法,使之更加符合人眼对于色彩的视觉感知,其公式如下:
$\begin{aligned}[b]{R_i}(x,y) = & \log {I_i}(x,y) - \log {L_i}(x,y) = \\ & \log \left[ {{I_i}(x,y)} \right] - \log \left[ F(x,y) * {I_i}(x,y) \right]\end{aligned}$ | (2) |
式中:
$F(x,y) = \lambda {{\rm{e}}^{ - {{({x^2} + {y^2})} / {{c^2}}}}}$ | (3) |
式中:
针对SSR算法存在的问题,Jobson等提出了多尺度Retinex(multi-scale retinex,MSR)增强算法[10]。MSR算法不仅采用了细节增强的小尺度因子,还结合了大尺度因子的色调再现,通过对大、中、小尺度SSR进行加权求和,弥补SSR算法的不足,实现色彩恢复与动态压缩能力的同步提高,使输出结果得到改善。MSR算法可用公式描述如下:
${R_i}(x,y) = \sum\limits_{k = 1}^N {{\omega _k}\{ \log \left[ {{I_i}(x,y)} \right] - \log \left[ {F_k}(x,y) * {I_i}(x,y) \right]} \} $ | (4) |
式中:
${F_k}(x,y) = \lambda {{\rm{e}}^{ - {{({x^2} + {y^2})} / {{c_k}^2}}}}$ | (5) |
式中,
针对MSR算法的缺陷,Jobson等对MSR算法进行改进,提出带色彩恢复的多尺度Retinex算法(MSRCR)[11]。通过引入色彩权重,将MSR与颜色恢复因子相结合,实现色彩的校正[11],公式如下:
$\begin{aligned}[b]{R_{{\rm{MSRC}}{{\rm{R}}_i}}}(x,y) = & {C_i}(x,y){R_{{\rm{MS}}{{\rm{R}}_i}}}(x,y) = \\ & {C_i}(x,y)\sum\limits_{k = 1}^N {{\omega _k}\{ \log\left[ {{I_i}(x,y)} \right] - } \\ & \log\left[ {F_k}(x,y) * {I_i}(x,y) \right]\} \end{aligned}$ | (6) |
式中,
${C_i}(x,y) = f\left[ {{\alpha {I_i}(x,y)} / {\sum\limits_{n = 1}^N {{I_n}(x,y)} }}\right]$ | (7) |
式中,
$\begin{aligned}[b]{C_i}(x,y) = & \beta \log \left[ {{\alpha {I_i}(x,y)} / {\sum\limits_{n = 1}^N {{I_n}(x,y)} }} \right]= \\ & \beta \left\{ {\log \left[ {\alpha {I_i}(x,y)} \right] - \log \left[ {\sum\limits_{n = 1}^N {{I_n}(x,y)} } \right]} \right\}\end{aligned}$ | (8) |
式中,
$\begin{aligned}[b]{R_{{\rm{MSRC}}{{\rm{R}}_{{i}}}}}(x,y) = & G[{C_i}(x,y)\sum\limits_{k = 1}^N {{\omega _k}\{ \log \left[ {{I_i}(x,y)} \right] - } \\ & \log [{F_k}(x,y) * {I_i}(x,y)]\} + b]\end{aligned}$ | (9) |
式中,
单尺度Retinex算法虽然简单易懂,耗时较短,但是处理后的图像达不到色彩与细节同时增强的良好效果,且细节增强的同时易产生光晕;MSR算法和MSRCR算法运算量相对较高,且容易产生噪声放大、色彩失真等情况。
针对这些问题,提出了Retinex模型下基于融合策略的雾霾图像增强算法。该算法主要包括以下3部分:1)在HSV空间实现色彩增强,根据亮度分量
![]() |
图1 算法流程图 Fig. 1 Algorithm flowchart |
2.1 HSV空间色彩增强
RGB空间是根据红绿蓝三原色的不同混合比例,得到自然界的各种颜色,在进行去雾处理时,若RGB分量的比值变化,会造成图像的色彩失真。若两个像素点
$\frac{{{x_2}}}{{{x_1}}} = \frac{{{y_2}}}{{{y_1}}} = \frac{{{{\textit{z}}_2}}}{{{{\textit{z}}_1}}} = K$ | (10) |
式中,
为了避免颜色失真,首先获取雾霾图像的亮度分量,再进行色彩增强。由于HSV色彩空间的3个分量相互独立[16],对
$V(x,y) = \mathop {\max }\limits_{c \in \{ r,g,b\} } {I^c}(x,y)$ | (11) |
基于Retinex理论,获取照度分量表达式如下:
$L(x,y) = F(x,y) * V(x,y)$ | (12) |
式中,
${R^c}(x,y) = {{{I^c}(x,y)} / {L(x,y)}},c \in \left\{ {r,g,b} \right\}$ | (13) |
由
为了修正照度分量,采用自适应
$L'(x,y) = L{(x,y)^{\gamma (x,y)}}$ | (14) |
$\gamma (x,y) = {{\left[ {L(x,y) + p} \right]} / {\left( {1 + p} \right)}}$ | (15) |
式(14)、(15)可防止图像的过度增强,也可通过改变
${\hat I^c}(x,y) = {R^c}(x,y) \cdot L'(x,y),c \in \left\{ {r,g,b} \right\}$ | (16) |
根据修正的Retinex模型,能够增强图像的色彩,使其更加鲜艳。在此基础上,进一步改进SSR算法,增加图像的细节信息。
2.2 RGB空间细节增强高斯滤波是图像处理中常用的降噪平滑方法。由于高斯函数是根据像素点的位置信息进行数据处理,无法根据像素值的大小判断图像的具体内容,因此,不具备保边的效果,处理后的图像边缘模糊,细节信息减少。作者采用快速双边滤波器[19]代替高斯滤波器实现SSR算法平滑图像,通过在空域和值域对像素点的位置关系和亮度信息进行判断,可以在进行降噪处理的同时,保持细节信息,减少光晕现象。
双边滤波的权函数表达式如下:
${w_p} = f( {\| {p - q} \|} ) \cdot g( {\| {{I_p} - {I_q}} \|} ) $ | (17) |
式中,
${\hat R_i} = \alpha {I_i} + (1 - \alpha ){R_i}$ | (18) |
式中,
最后,进行加权融合,得到输出图像,公式如下:
$\left\{ \begin{aligned}& R'(x,y) = k \cdot {R_1}(x,y) + \left( {1 - k} \right){R_2}(x,y),\\& G'(x,y) = k \cdot {G_1}(x,y) + \left( {1 - k} \right){G_2}(x,y),\\& B'(x,y) = k \cdot {B_1}(x,y) + \left( {1 - k} \right){B_2}(x,y)\end{aligned} \right.$ | (19) |
式中,
仿真测试所用的计算机配置为:Intel(R)Core(TM)i5–2300 CPU@2.80 GHz,4.00 GB内存。测试使用的软件环境为MATLAB2015,操作系统为Windows 7。
3.1 主观评价为验证改进算法的性能,将文中所提出的改进算法与MSR、MSRCR算法的去雾图像进行比较,MSR和MSRCR算法中的尺度参数分别为10、54、167,对比结果如图2所示。由图2可知:雾天环境导致图像质量下降,场景的色彩和细节显示较少,图片整体感觉较为模糊,经过不同Retinex算法处理后的图像对比度和清晰度都有提高。第1组图像经MSR和MSRCR算法增强后,图像细节较明显,但图像整体偏亮,出现过度增强的效果,右上角树林处产生少许颜色失真;第2组图像经MSR和MSRCR算法增强后出现明显的颜色失真,且图像上方树林处出现光晕现象;第3组图像经过MSR和MSRCR算法增强后,图像较为模糊,近景处出现颜色失真,图片整体效果偏灰色。本文算法处理上述3组雾天图像时,没有出现明显的颜色失真和光晕现象,提高了图像的对比度,达到了细节增强的效果,说明本文方法去雾的有效性。
![]() |
图2 不同算法的去雾效果图 Fig. 2 Defogging effect maps of different algorithms |
3.2 客观评价
以图像的标准差、平均梯度、信息熵、峰值信噪比和运行时间5个方面为评价指标:
1)标准差(对比度)
标准差能够反映图像中每个像素点灰度值与均值的差值大小,该值越大,则代表像素值的跳变越大,对比度越大。大多数雾天图像的灰度级会集中在某个区域,无雾图像与之相反,因此,标准差具有相对分散的灰度级分布,计算式如下:
$\sigma = \sqrt {\frac{{\displaystyle\sum\limits_{x = 1}^M {\displaystyle\sum\limits_{y=1}^N {{{\left( {f(i,j) - \mu } \right)}^2}} } }}{{M \times N}}} $ | (20) |
2)信息熵
信息熵表示图像信息量的多少,图像的细节信息随着信息熵的增加而增加。通过对图像中每点以及周围区域的像素点灰度分布的提取,可得信息熵计算式如下:
$H = - \sum\limits_{g = 0}^{L - 1} {p(g)} {\rm log}\;p(g)$ | (21) |
式中,
3)峰值信噪比(
$PS\!NR = 10\lg \;{\frac{{\displaystyle\sum\limits_{i,j = 0}^{M - 1,N - 1} {f(i,j)_{\max }^2} }}{{\displaystyle\sum\limits_{i,j = 0}^{M - 1,N - 1} {{{(f'(i,j) - f(i,j))}^2}} }}} $ | (22) |
式中,
4)平均梯度
平均梯度能够反映图像边缘区域的灰度值变化,表示图像的清晰度以及细节的表达能力,图像层次也随着该值的增大而增加。
$\bar r = \frac{{\displaystyle\sum\limits_{i = 1}^{M - 1} {\displaystyle\sum\limits_{j = 1}^{N - 1} {\sqrt {\frac{{{{(f(i + 1,j) - f(i,j))}^2} + {{(f(i,j + 1) - f(i,j))}^2}}}{2}} } } }}{{(M - 1)(N - 1)}}$ | (23) |
式中,
5)运行时间
算法的效率与运行时间密切相关,若算法运行速度较快,则需要时间很短,对于实时去雾更具有实际意义。
根据图2的结果,表1从上述5个方面的指标对不同算法的实时性、效果的明显性进行客观评价。
由表1可知:本文算法处理后的图像标准差增加,表明图像的对比度提高,灰度级分布相对分散。不同算法增强后图像的平均梯度都增加,说明图像的层次结构清楚,细节信息增加。不同算法得到的去雾图像信息熵都有一定的提高,表明图像整体信息量的增加,更符合人眼的视觉感受;其中,本文算法处理后的图像信息熵相对较高。同MSR、MSRCR算法处理后的去雾图像相比,本文算法的去雾图像峰值信噪比最高,能够有效抑制图片中的噪声,使图片更贴合原图。此外,本文算法具有最短的运算时间,能够满足实时性需求,更适用于实际的工程中。
表1 不同算法的性能比较 Tab. 1 Comparison of performance of different algorithms |
![]() |
由图2和表1可知:本文算法得到的去雾图像不论在主观质量还是客观质量上都有更明显的改善;经过本文算法处理后的图像提高了对比度,更加符合人眼的视觉效果,同时,避免了颜色失真,保持了图像的细节信息,还具有良好的可操作性。但是在输出图像中,也发现某些局部区域的处理效果不明显,图像整体不够平滑。
4 结 论针对MSR算法和MSRCR算法处理后的图像易出现晕光、边缘模糊以及色彩失真等现象,提出Retinex模型下基于融合策略的雾霾图像增强算法。该算法首先在HSV空间实现色彩增强,根据亮度分量
本研究尚有待改进之处:1)进行去雾处理时,很多参数需要手动设定,不能根据图像的信息进行智能处理;2)只适用于雾霾或者风沙天气,对于雨雪等恶劣天气并不适用;3)适用于单幅图像去雾,对于视频图像的清晰化处理并不适用。
[1] |
Guo Fan,Cai Zixing,Xie Bin,et al. Review and prospect of image dehazing techniques[J]. Journal of Computer Applications, 2010, 30(9): 2417-2421. [郭璠,蔡自兴,谢斌,等. 图像去雾技术研究综述与展望[J]. 计算机应用, 2010, 30(9): 2417-2421.] |
[2] |
Narasimhan S G,Nayar S K. Contrast restoration of weather degraded images[J]. IEEE Transactions on Pattern Analysis and Machine Intelligence, 2003, 25(6): 713-724. DOI:10.1109/TPAMI.2003.1201821 |
[3] |
Cai Chaofeng,Ren Jingying. Compared to contrast enhancement of hand vein images based on histogram equalization[J]. Journal of Computer Applications, 2013, 33(4): 1125-1127. [蔡超峰,任景英. 基于直方图均衡化的手背静脉图像对比度增强[J]. 计算机应用, 2013, 33(4): 1125-1127. DOI:10.3724/SP.J.1087.2013.01125] |
[4] |
Seow M J,Asari V K. Ratio rule and homomorphic filter for enhancement of digital colourimage[J]. Neurocomputing, 2006, 69(7/8/9): 954-958. DOI:10.1016/j.neucom.2005.07.003 |
[5] |
Russo F. An image enhancement technique combining sharpening and noise reduction[J]. IEEE Transactions on Instrumentation and Measurement, 2002, 51(4): 824-828. DOI:10.1109/TIM.2002.803394 |
[6] |
Jobson D J,Rahman Z,Woodell G A. Properties and performance of a center/surround retinex[J]. IEEE Transactions on Image Processing, 1997, 6(3): 451-462. DOI:10.1109/83.557356 |
[7] |
Verma M,Kaushik V D,Pathak V K.An efficient deblurring algorithm on foggy images using curvelet transforms[C]//Proceedings of the Third International Symposium on Women in Computing and Informatics.New York:ACM,2015:426–431.
|
[8] |
Li Yanping,Jiang Ying,Hu Jinming,et al. Face recognition method based on curve transform and cosine measure[J]. Computer Science, 2016, 43(5): 294-297. [李艳萍,姜颖,胡金明,等. 基于曲波变换和余弦测度的人脸识别方法[J]. 计算机科学, 2016, 43(5): 294-297. DOI:10.11896/j.issn.1002-137X.2016.5.056] |
[9] |
Lu Di,Huang Xin,Liu Changyuan,et al. Binarization method based on local contrast enhancement[J]. Journal of Electronics & Information Technology, 2017, 39(1): 240-244. [卢迪,黄鑫,柳长源,等. 基于区域对比度增强的二值化算法[J]. 电子与信息学报, 2017, 39(1): 240-244. DOI:10.11999/JEIT160197] |
[10] |
Rahman Z,Jobson D J,Woodell G A.Multi-scale retinex for color image enhancement[C]//Proceedings of 3rd IEEE International Conference on Image Processing.Lausanne:IEEE,2002:1003–1006.
|
[11] |
Jobson D J,Rahman Z,Woodell G A. A multiscale retinex for bridging the gap between color images and the human observation of scenes[J]. IEEE Transactions on Image Processing, 1997, 6(7): 965-976. DOI:10.1109/83.597272 |
[12] |
Rui Yibin,Li Peng,Sun Jintao. Method of removing fog effect from images[J]. Journal of Computer Applications, 2006, 26(1): 154-156. [芮义斌,李鹏,孙锦涛. 一种图像去薄雾方法[J]. 计算机应用, 2006, 26(1): 154-156. DOI:10.3969/j.issn.1001-3695.2006.01.052] |
[13] |
Bi Guoling,Xu Zhijun,Zhao Jian,et al. Multispectral image enhancement based on irradiation-reflection model and bounded operation[J]. Acta Physica Sinica, 2015, 64(10): 100701. [毕国玲,续志军,赵建,等. 基于照射_反射模型和有界运算的多谱段图像增强[J]. 物理学报, 2015, 64(10): 100701. DOI:10.7498/aps.64.100701] |
[14] |
Zhang Yongqin,Ding Yu,Xiao Jinsheng,et al. Visibility enhancement using an image filtering approach[J]. EURASIP Journal on Advances in Signal Processing, 2012, 220. DOI:10.1186/1687-6180-2012-220 |
[15] |
Li Bo,Wang Shuhang,Geng Yanbing.Image enhancement based on Retinex and lightness decomposition[C]//Proceedings of the 2011 18th IEEE International Conference on Image Processing.Brussels:IEEE,2011:3417–3420.
|
[16] |
Yu J H,Kim Y T,Lee N K,et al. Effective color correction method employing HSV color model[J]. Journal of Measurement Science and Instrumentation, 2012, 3(1): 39-45. DOI:10.3969/j.issn.1674-8042.2012.01.009 |
[17] |
Rakshit S,Ghosh A,Shankar B U. Fast mean filtering technique (FMFT)[J]. Pattern Recognition, 2007, 40(3): 890-897. DOI:10.1016/j.patcog.2006.02.008 |
[18] |
Wang Shuhang,Zheng Jin,Hu Haimiao,et al. Naturalness preserved enhancement algorithm for non-uniform illumination images[J]. IEEE Transactions on Image Processing, 2013, 22(9): 3538-3548. DOI:10.1109/TIP.2013.2261309 |
[19] |
Papari G,Idowu N,Varslot T. Fast bilateral filtering for denoising large 3D images[J]. IEEE Transactions on Image Processing, 2017, 26(1): 251-261. DOI:10.1109/TIP.2016.2624148 |