基于改进的BP神经网络的血液细胞图像分割

合集下载

改进的逼近迭代法在帘子布疵点识别中的应用

改进的逼近迭代法在帘子布疵点识别中的应用

改进的逼近迭代法在帘子布疵点识别中的应用摘要:数字图像分割对于图像处理来说是很关键的。

在逼近迭代的基础上引入了信息熵的概念。

文中算法改变了逼近迭代法中循环终止条件,并且使阈值的选取自适应地根据分成的目标与背景的频数比率来确定,使其均值更能接近整幅图的期望值,结果更精确。

实验结果表明,与直方图双峰法、最大类间方差法(Otsu 法)、逼近迭代法相比,文中方法能有效克服背景和目标灰度对比度不大造成的困难,分割所得的图像最清晰、完整,去噪能力最强。

关键词:图像分割;逼近迭代;信息熵0 引言帘子布疵点检验通常是靠人工检测的,这是一个主观和耗时的过程。

近年来机器视觉的发展实现了图像获取成本低、质量好的情况,而且计算机技术的发展又使得图像处理和模式识别的执行速度变得越来越快。

因此,以机器视觉为基础的自动检测成为人工检测很好的代替,可以实现准确识别疵点类型、降低劳动强度、减少人工费用、缩短生产周期和提高生产效率。

在这样一个在线检测系统中,图像处理算法是整个系统最为核心的部分。

1 逼近迭代法图像中视为目标与背景两类区域的组合,目标占图像的总面积比为θ,则背景占总面积的比为1-θ,目标像素的灰度级的正态概率密度p(z),其均值为μ,方差为σ2。

背景像素的灰度级也具有正态概率密度q(z),其均值为υ,方差为τ2。

这幅图像总的灰度级概率密度为H(z)(1)表示。

这种方法的原理是将直方图用两个或多个正态分布的概率密度函数近似的方法,阈值取为对应两个或更多个正态分布量最大值之间的最小概率处最近的灰度值。

2 改进的逼近迭代法在信息论中,熵是作为事件出现概率的不确定性的量度,能有效反映事件包含的信息。

在图像处理中,可以根据图像的各个像素点的灰度分布情况,定义图像的熵。

对于一幅不含疵点的织物图像而言,其纹理特征是确定的。

当有疵点出现时,图像的纹理特征遭到破坏,其熵值相应地会发生变化。

由于疵点的灰度变化会引起局部熵值的极大变化,所以很容易检测出疵点的存在。

基于深度学习的医学图像分割方法研究共3篇

基于深度学习的医学图像分割方法研究共3篇

基于深度学习的医学图像分割方法研究共3篇基于深度学习的医学图像分割方法研究1基于深度学习的医学图像分割方法研究医学影像分析在临床诊断和治疗中扮演着重要的角色。

医学影像分析从图像中提取医学信息,帮助医生更好地诊断患者并制定治疗方案。

然而,大量医学影像数据需要分析,而且这些数据通常包含大量噪声和复杂的结构,因此对医学影像进行分析和诊断是一项具有挑战性的任务。

为了解决这个问题,深度学习技术已经被引入到医学图像处理中。

深度学习通过学习复杂函数来提取高级特征,已经在许多领域取得了卓越成果。

在医学图像处理中,深度学习技术能够自动提取和学习大量的特征,提高医学图像分割的准确性和速度。

在深度学习的基础上,研究人员提出了各种医学图像分割方法。

卷积神经网络(CNN)是深度学习中最常用的模型之一,已经被广泛用于医学影像分割。

CNN模型能够学习到图像的局部特征,并将它们组合成更高级的特征,从而实现对图像的精细分割。

例如,一种基于CNN的医学影像分割方法是U-Net,该方法使用CNN网络进行学习和训练,并将输出的结果与输入的结果进行比较,再进行调整和优化,以实现更准确的分割。

此外,还有许多其他的深度学习模型被应用于医学图像分割中,例如递归神经网络(RNN)、长短期记忆网络(LSTM)、深度置信网(DBN)等,这些模型在医学图像分割中也表现出了很好的效果。

然而,采用深度学习方法进行医学图像分割时还存在一些问题。

首先,在医学图像分割中,显著的不均衡性是一个普遍的问题。

因为病变区域只占总体图像的一小部分,而正常区域则占大多数,导致算法倾向于错误地将病变区域划分为正常区域。

为了解决这个问题,研究人员提出了各种方法,如加权交叉熵损失函数、Dice系数等。

除此之外,还存在一些问题,如样本缺乏和容易受到噪声和图像质量的影响等。

针对这些问题,研究人员在医学图像分割中采用了数据增强、自适应模型优化等方法,以提高模型的鲁棒性和稳定性。

综上所述,采用深度学习方法进行医学图像分割是一项具有前景的研究,但仍需要进一步完善和优化。

基于改进小波神经网络的图像压缩算法

基于改进小波神经网络的图像压缩算法

基于改进小波神经网络的图像压缩算法周岩;王雪瑞【摘要】在传统神经网络的基础上,引入小波函数而构成的小波神经网络具有极强的函数映射能力,在图像压缩领域有着较多应用.为了进一步提高图像的压缩质量,引入了遗传算法对传统小波神经网络算法进行改进,在对小波基平移和伸缩参数系数进行寻优时,将其作为种群初始化,经过选择、交叉和变异,获得最佳染色体,最后将最佳染色体转化成对应的权值、伸缩系数和平移系数从而进行小波神经网络映射.实验结果表明,改进后的小波神经网络图像压缩方法相较传统小波神经网络法,均方误差分别降低了14.8%和16.7%,图像信噪比分别提高了9.15%和7.11%,图像压缩质量有了较大提高.【期刊名称】《西安文理学院学报(自然科学版)》【年(卷),期】2016(019)002【总页数】5页(P37-41)【关键词】图像处理;遗传算法;小波神经网络;图像压缩;编码【作者】周岩;王雪瑞【作者单位】河南工程学院计算机学院,郑州451191;河南工程学院计算机学院,郑州451191【正文语种】中文【中图分类】TP391随着多媒体与信息技术的发展,图像信息的存储和传输显得愈发重要[1].为了实现在有限的设备中存储或者传输这些海量信息,就需要对其进行编码压缩处理[2-3],但传统的编码方法在压缩效率和压缩效果方面无法满足需要.许多学者正在探索新的更有效的方法,Kunt[4]等人于1985年提出了“第二代”图像编码技术,主要有基于模型的编码、基于区域分割的编码、基于分形的编码和基于神经网络编码等.文献[5]和文献[6]将小波变换与神经网络结合应用对图像进行压缩编码,也都实现了不错的效果.但传统的小波神经网络法很容易陷入局部最小点,且全局搜索能力较弱.遗传算法是通过模拟生物在自然状态下的遗传与进化过程而成的一种具有自适应性的全局优化搜索算法[7],广泛应用于数学优化、机器人学、图像处理、生产调度、控制理论和机器学习中,遗传算法可以对多峰、复杂、非线性和不可微函数达到较好的全局搜索效果[8].引入遗传算法对小波神经网络的图像压缩方法进行改进,在确定小波基平移和伸缩系数时,利用遗传算法对其进行寻优,依次进行选择、交叉和变异等遗传操作,获得最佳染色体,最后将最佳染色体转化成对应参数值,在小波神经网络的隐含层映射中,得到压缩图像,有更好的图像压缩质量.1.1 小波神经网络小波神经网络与BP网络类似,是通过将小波函数作为基底的连接型网络,通常都是由输入层、隐含层和输出层三部分组成.其中,隐含层的激活函数就是小波函数[9].小波神经网络的学习算法:设样本点的总个数为N,小波分解层数为M,继而根据样本点对网络进行训练,直到满足预先定义的精度要求.通常采用梯度下降法减小误差函数,定义代价函数为:进一步可以将误差函数表示为:为最小化误差函数,需要求得最优的网络参数W1,a1,b1,…,Wk,ak,bk.通过累积误差逆传播算法进行调整,有:1.2 遗传算法优化原理遗传算法是通过自适应迭代的方法,对全局进行优化和搜索,并将生物的进化抽象为选择、交叉和变异3个遗传算子,并根据适者生存和优胜劣汰的自然法则,通过分析个体的适应度函数,即目标函数,从而对个体施加遗传操作来实现群体内个体结构重新组合的迭代运算,直至得到具有最大适应度的个体作为最优解输出[10]. 遗传算法基于概率方法迭代,具有一定的随机性,基本思想如下:首先对小波神经网络中的伸缩系数、平移系数和权值等参数进行编码,同时确定初始目标地函数值,将训练样本数设定为初始种群数,利用小波神经网络算法对网络进行训练,按照训练结果确定个体的适应度函数,利用选择、交叉和变异等遗传算子对其进行运算,获得最佳染色体后,将最佳染色体转化成对应的伸缩系数、平移系数和权值.2.1 基于小波神经网络的图像压缩处理将遗传算法对小波神经网络进行改进后的新算法用于图像压缩领域,将第一层神经元设置为原始待压缩图像,则隐含层的神经元为图像压缩结果,第三层的神经元输出为解压重建后的图像,如图1所示.当输入的图像经过小波神经网络的训练加权后,得到的隐含层为原始图像的压缩编码,可以通过量化器转换成适合信息通道传输的离散信号,直到接收后再转成相应的连续信号,最后到达输出层经加权后解码即为原图像.设原始图像为K×L的灰度图像,则训练样本总数为K×L.对于某个特征点gxy,相应的网络输出为:利用均方差函数:2.2 改进过程在对小波基的平移和伸缩参数系数进行寻优时,引入遗传算法.具体操作如下:Step 1:将种群规模设为P,即选择P条染色体来初始化种群.每一条染色体分别用一个网络结构来进行编码.Step 2:利用小波神经网络对各初始参数进行训练,并对初始参数(伸缩系数、平移系数和权值)进行编码,每个个体设置成问题的一个解.Step 3:按照训练的结果来确定每一个个体的适应度函数:Step 4:若计算结果满足终止条件,则转向Step 8.Step 5:采用适应度比例进行选取遗传算子,再根据个体的选择几率与其适应度值成正比的原则进行遗传运算,也就是说,只有适应度较大的个体才能以相对应大小的概率遗传给子代个体.Step 6:选择操作之后的种群,按照概率Pc随机选择两个个体来进行交叉算子,则[11]:Step 7:对每一个个体进行变异操作,变异概率为Pm,则[12]:Step 8:根据终止条件跳出算法循环,得到最佳染色体,将染色体转化成所对应的伸缩系数、平移系数和网络权值.确定各参数之后,构建g(w)和w,当小波神经网络进行第i次迭代时,通过共扼梯度下降的手段得出搜索的方向:2.3 压缩与解压过程图像压缩流程:Step1:输入图像;Step2:对小波参数Wk,ak,bk进行初始化;Step3:初始化神经网络权值,隐含层节点数并随机调节各个参数;Step4:对小波参数Wk,ak,bk依次进行编码,选择P条染色体初始化该种群;Step5:通过在遗传算法的寻优过程中得到最佳的染色体,并将其变成所对应的小波参数;Step6:与设定好的误差函数比较,当满足误差要求时,将训练好的隐含层参数存储为压缩数据;否则重新寻优.图像解压过程:Step1:存储的训练后隐含层参数数据设置为小波网络第二层的相应参数;Step2:通过和已训练好的第二层与输出层的权值进行双向变换,得到输出层的参数数据;Step3:输出层数据进行规范化处理;Step4:得到解压缩后的图像灰度矩阵.为了验证本文提出的算法在实际压缩过程中的性能,分别通过对Lena图像和Antenna图像采用传统小波神经网络法和本文提出的算法对其进行压缩实验.利用MATLAB编程对图像进行压缩仿真,当在对两幅图像的压缩比均为4∶1时,得到的仿真结果如图2所示.通常采用均方误差MSE和峰值信噪比PSNR两个参数来定量地评价图像的质量,为了进一步分析压缩图像的滤波效果,定义如下:从表1中可以看出,对于Lena图像,相对于传统小波神经网络法,本文算法MSE降低了14.8%,图像信噪比提高了9.15%,对于Antenna图像,本文算法的MSE降低了16.7%,图像信噪比提高了7.11%,可见图像的保真度有了一定幅度提高,压缩质量有了较大的提高.在传统基于小波神经网络的图像压缩算法基础上,引入遗传算法,提出改进小波神经网络图像压缩算法.对小波网络中的权值、伸缩因子和平移因子等参数进行编码,并确定初始目标函数值,依次进行选择、交叉和变异等遗传操作,获得最佳染色体,最后将最佳染色体转化成对应的权值、伸缩系数和平移系数从而优化小波神经网络过程.通过对两幅图像的仿真实验结果表明:提出的改进方法比传统小波神经网络算法,在均方误差方面分别降低了14.8%和16.7%,同时将信噪比分别提高了9.15%和7.11%,大大提高了压缩后图像的质量.王雪瑞(1977—),女,河南登封人,河南工程学院计算机学院副教授,硕士,主要从事计算机应用与网络安全研究.。

基于U-Dense-net网络的DSA图像冠状动脉血管分割

基于U-Dense-net网络的DSA图像冠状动脉血管分割

浙江理工大学学报,2021,45(3):390-399J o u r n a l o f Z h e jia n g S c i-T e c h U n iv e r s ityD O I:10. 3969/j.i s s n.l673-3851(n).2021. 03.013基于U-Dense-n e t网络的D S A图像冠状动脉血管分割王卓英1,童基均1,蒋路茸1,潘哲毅2(1.浙江理工大学信息学院,杭州310018;2.武警海警总队医院信息科,浙江嘉兴314000)摘要:冠状动脉血管是研究心血管疾病的重要基础.为准确分割D S A(D ig ita l subtraction angiography)图像 冠状动脉血管,提高训练过程中血管特征的有效利用率,提出了一种基于U-D e n s e n e t网络的分割方法。

该方法首先对数据集进行限制对比度直方图均衡化预处理;然后对预处理结果进行图像粗分割,基于U-D e n se n e t网络,在解码器部分融合密集残差块和注意力机制实现深度神经网络模型,加强特征映射,充分提取局部特征,实现血管与背景的分类;最后利用形态学处理、阈值分割、基于多点区域生长的连通域分析进行图像细分割,实现血管的提取。

将 测试结果和3位专家手工标注的标准图进行对比分析,结果表明:该数据集的分割结果精确率、召回率、F,分数分别为83. 22%、89. 81%、86. 04%,3种特性曲线下的平均面积为0.9923。

与其他方法比较,该方法提取到的血管信息较为完整,为精确分割冠状动脉血管提供了一种解决方案。

关键词:冠状动脉血管;图像分割;U-Dense~ne t;密集残差块;注意力机制;深度神经网络;DSA中图分类号:TS391.4 文献标志码:A 文章编号:1673-3851 (2021) O5-O39(M0Coronary artery segmentation of DSA images basedon U-Dense-net networkWANG Zhuoyi?jg], TONG Jiju n1 •,JIA N G Lurong], PA N Zheyi2(1. S c h o o l o f In fo r m a tio n S c ie n c e an d T e c h n o lo g y, Z h e jia n g S c i-T e c h U n iv e r s ity,H a n g z h o u310018, C h in a;2. In fo rm a tio n O ffic e, H o s p ita l o f C o a s t G u a r d C o rp s o fC h in e se P e o p le’s A r m e d P o lic e F o r c e s, J ia x in g314000,C h in a)Abstract:C o r o n a r y a r te r y is an im p o rta n t b a s is fo r th e s tu d y o f c a r d io v a sc u la r d ise a se s. In o rd e r to s e g m e n t c o ro n a ry a r te r ie s a c c u r a te ly in D S A(d ig ita l s u b tr a c tio n a n g io g r a p h y)im a g e an d im p ro v e th e e ffe c tiv e u tiliz a tio n o f vavscular fe a tu r e s in th e tra in in g p r o c e s s, th is p a p e r p r o p o s e s a se g m e n ta tio n m e th o d b a se d on U-D e n se-n e t. F i r s t l y, th e d a ta s e t is p r e p ro c e sse d b y lim itin g c o n tr a s t an d e q u alizin g h is to g r a m s. S e c o n d ly, th e p r e p r o c e s s e d r e s u lt s a re r o u g h ly se g m e n te d. B a se d o n U-D e n s e-n e t, o u r stu d y im p le m e n ts a d e e p n e u ra l n e tw o rk m o d e l b y fu s in g th e d e n se re sid u a l b lo c k an d a tte n tio n m e c h a n ism in th e d e c o d e r to s tr e n g th e n fe a tu r e m a p p in g, fu lly e x tr a c t lo c al fe a tu r e s an d re aliz e th e c la s s ific a tio n o f b lo o d v e s s e ls an d b a c k g r o u n d s. In th e e n d, m o r p h o lo g ic a l p r o c e s s in g, th re sh o ld s e g m e n ta tio n an d co n n e cte d c o m p o n e n t a n a ly s is b a s e d on m u lti-p o in t r e g io n g ro w th a re u se d to se g m e n t th e im a g e s fin e ly an d e x tr a c t v e s s e ls. T h e te s t r e s u lt s a re c o m p a re d w ith th e sta n d a r d d ra w in g s a n n o ta te d b y th re e e x p e r ts m a n u a lly, a n d it is fo u n d th a t th e a c c u ra c y r a t e, re c all r a te an d F i sc o r e o f the se g m e n ta tio n r e s u lt o f th is d a ta s e t a re83. 22%, 89. 81%an d86. 04%r e s p e c tiv e ly, an d th e m e an are a u n d er th re e R O C c u r v e s is 0. 9923. T h e c o m p a riso n收稿日期:2020 — 09—02 网络出版日期:2021—02 — 04基金项目:国家自然科学基金项目(61602417);浙江理工大学基础研究项目(2019Q042);浙江理工大学“521人才培养计划”作者简介:王卓英(1996 —),女,山西吕梁人,硕士研究生,主要从事智能医学图像处理方面的研究。

一种基于神经网络的图像复原方法

一种基于神经网络的图像复原方法

第35卷,增刊红外与激光工程2006年10月一种基于神经网络的图像复原方法王辉,杨杰,黎明,蔡念(上海交通大学图像处理与模式识别研究所,上海200240)摘要:提出了一种基于B P神经网络的图像复原算法。

在分析图像模糊机制的基础上,为了降低输入维数,该方法采用滑动窗口操作来提取特征,同时为了加快训练速度和改善网络复原效果,首先对图像进行边缘提取,对图像内边缘区域和平坦区域分别采用滑动窗口获得训练集。

利用B P神经网络的学习能力,通过训练,建立含有退化信息(高斯模糊)的模糊图像和清晰图像之间的映射关系模型,利用该模型对模糊图像进行复原,得到的复原图像在视觉上和定量分析上都获得了较好的效果。

关键词:图像复原;B P神经网络;滑动窗口;特征提取中图分类号:TP39l文献标识码:A文章编号:1007—2276(2006)增D-0121-05I m age r es t or at i on m et hod based on ne ur al ne t w or kW A N G H ui,Y A N G Ji e,U M i ng,C A I N i觚(b埘i加le ofh嶝Pr∞ess白略如dPat t锄R∞ognj t i on,sh锄曲I ai Ji∞1bnguniver si哆,Sh强曲ai200|240,aa蛐A bst r act:B ase d on B P neu r al net w or k,an i m a ge r es t or at i on m et l l od is pre se nt ed.’ro r educe m e i np ut di m ens i on,a sl i di ng w i nd ow m et l l od is e m pl oyed t o obt a i n m e f ea t ur es of t he bl uⅡed i m a ge.For t ll e pu叩ose of accel em t i n g t r a i ni ng and i m pm V i ng m e r es t or at i on per fbm ance,m e s l i di ng w i ndow is appl i ed t0t ll e edg e part and sm oom pa r t t0get m e t r ai l l i ng s et s,r espect i V el y.A m appi ng m odel bet、Ⅳeen bl urr ed i I I l age aI l d c l e ar i m a ge i s es t abl i s hedⅡl r o ugh t r a i ni ng t he B P neur al ne t w or k and m e n it i s us ed t o r es t o r e t he bl urr ed i m age.A t t l le end,s曲ul at ion exper i m ent s ar e pe西D nn ed aI l d t he re sul t s show m at t ll is m odel i s pr act i cal.ex昀c t i on K ey w or ds:I I nage R e st o瑚畦on;B P ne l l r a l ne t、)l,ork;Sl i di ng w i ndow;Feat ur e0引言图像复原的目的就是由退化图像,选择合适的最优化准则,得到尽可能与原始图像接近的改善图像Ⅲ。

基于BP神经网络的高分辨率遥感影像分类处理

基于BP神经网络的高分辨率遥感影像分类处理

B P神经 网络 算法进行 影像 分 类研 究。首先提 取 分类 所需 的光谱 和纹理 特征 源 ;然后根 据影 像和地物 特 征, 建立 B P神 经 网络 , 于样本 训 练和 分类 处理 , 用 实现地 物 分类 。为验证 该 方 法的可 靠性 , 用 20 选 06年 l 1月获取 的四 川省 成 都平原 某 区域 的 Q i Br 影 像作 为 源数 据 , 以总体精 度和 Kap uc i k d 并 p a系数 作 为精度 评定指 标, 行 高分辨 率遥感 影像 的地物 分类 实验 。结果 显 示, 进 结合 影像 光谱 和纹理 特征 的 B P神 经 网络 分类方 法, 不仅 可 以达到 较 高的分 类精度 , 能有 效保证 B 还 P神 经 网络分 类训 练的稳 定性 和收敛 速度 。 【 关键诵】 地 物分 类 光谱特 征 纹理特征 B P神经 网络
米 级 分辨率 的趋 势 。 高分 辨率遥 感 影像 成 为 当今 遥 感领域 的主要数 据 资料 , 它借 助 获取速度 快 、 空 问分辨率高 、 物信 息详尽 及可提供 立体 影像等 特 地
点, 已表现 出逐步 取代 中低分辨 率影 像 的趋 势 , 并 在 商业和 民用 的很 多领 域 中发挥 出重 大作 用 。 对 高分辨率遥 感影像进 行分类处 理 , 取 出其 中丰 富 提 的信息资源 , 可进行 各类 实际 的生产 和应用 , 城 如 图 1 测 区 Quc B r 真 彩色 和全 色) 像 i i k d( 影
首先 根 据美 国查维茨提 出的最 佳指数 因子 O F I
( pi u I d x atr分析法 O t' m n e co) r a F 来确 定影像多光 谱
细节 信 息清晰丰 富 , 即使 同类地 物 的灰度值 也 存在 差异 的特 点 , 虑 到 C N 纹理 正好 能够 表 征 局部 考 O 的灰 度变 化频率 . , 从而 可 以较好 地 反映 出影像 中各

基于BP神经网络的苹果图像分割算法


图像 。光 照情 况可 分 为 4种 : 向光 ; 背 光 ; 果 实 ① ② ③
在阴影中; 阴天 。由于光照情况的差异 , ④ 所采集 图 像 的质量肯定有所不 同, 这将直接影响下一 步图像处
理 的结 果 。 因此 , 择一 种 能 够适 应 所 有光 照 条 件 的 选
机器视 觉 系统工 作 的关 键 环 节 是 图像 处 理 , 要 而
0 引 言
苹果 采摘 机 器 人 两 个 主要 任 务 : 别 和 定 位 , 识 并 且无 损 的采摘 到果 实 。第 一个 任 务 是识 别 和 定 位 … 。 本文描述 的 机器 视觉 系统 包 括 一 个用 来 捕 获 果 园 中 富士苹 果图像 的彩 色 C D摄 像 头 和 一 个处 理 已捕 获 C 图像 的 P C机 。
20 0 8年 1 1月
农 机 化 研 究
第 1 1期
基 于 B 神 经 网 络 的 苹 果 图 像 分 割 算 法 P
王津 京 ,赵 德安 ,姬 伟 ,蔡 纪鹤 ,李 发 忠
22 1 ) 1 0 3
( 江苏 大学 电气 信 息工 程 学 院 ,江苏 镇 江

要: 针对 目前苹 果采 摘 机器 人 图像 分 割运 算 量大 、 时多 等 问题 , 过分 析选 取 3×3邻 域 像 素 色度 值 作 为 耗 通
( —G +( R ) R—B) G—B) (
s = 1一 m n 尺, ) i( G, () 2
1 图像特征提取
试验 采用 从 江 苏 省 徐 州 市 丰 县苹 果示 范 基 地 实 地拍 摄 的红 富士苹 果 图像 , 数 码 相机 在 实 际 环境 自 为
收 稿 日期 :2 0 0 0 8— 3—3 1

基于改进分水岭算法的医学图像分割_张利红

[7 ]
标记图像; ( 2 ) 将背景标记图像进行欧氏距离变换[4], 以 完成目标的细化。 背景标记图像可以表示成一个 a ij ] , 二维数组, 其大小与原图像相同, 记为 A M ×N = [ a ij = 1 的像素对应目标, a ij = 0 对应于背景, 其中, y) | a xy = 0 } 为背景集合, 令 B = { ( x, 则距离变换 j) 求 就是对 A 中所有像素点 ( i, d ij = min{ D[ ( i, j) , ( x, y) ] , ( x, y) ∈ B} , 式中 D[ ( i, j) , ( x, y) ] = 槡 ( i - x) 空间变换图像;
2

7]提出由闭文献[ 开运算完成预处理以滤除 y) 为 f( x, y) 噪声, 再做闭运算平滑图像, 其中 M( x, 平滑后的图像, M( x, y) = [ ( f( x, y ) g ( x , y) ) ° g( x, y) ] y) g ( x , ( 3) 单尺度形态学梯度定义为: Grad[f( x, y) ] = [ f( x, y) g( x, y) ] - [ f( x, y) Θg( x, y) ] ( 4) 单尺度形态学梯度算子的性能取决于结构元 y) 的大小。结构元素过大过小都产生不出 素 g( x, 有意义的结果, 这里采用多尺度的形态学梯度, 并 将此和式( 3 ) 结合起来, 则有: MG n[ f( x, y) ] = 1 {[ ( M( x, y) g i ( x, y) ] - n∑ i =0 [ M( x, y) Θgi ( x, y) ] } Θgi -1 ( x, y) ]( 5 ) 考虑到医学图像的特点和计算的复杂度, 故选 择的是一组圆盘型的结构元素, 其半径选择的分别 2、 5 和 7。 是 1、

一种基于TransUnet_的臂丛神经超声图像分割网络

doi:10.3969/j.issn.1003-3114.2023.04.002引用格式:刘伟光,孔令军.一种基于TransUnet 的臂丛神经超声图像分割网络[J].无线电通信技术,2023,49(4):597-603.[LIU Weiguang,KONG Lingjun.A Brachial Plexus Nerve Ultrasonography Segmentation Network Based on TransUnet[J].Radio Com-munications Technology,2023,49(3):597-603.]一种基于TransUnet 的臂丛神经超声图像分割网络刘伟光,孔令军∗(金陵科技学院网络与通信工程学院,江苏南京211169)摘㊀要:在医疗图像分割领域中,以臂丛神经(Brachial Plexus,BP )超声图像为例的部分超声图像中存在对比度低㊁边缘模糊和噪声多等问题,使得对目标区域的准确分割十分困难㊂为此,基于TransUnet 网络框架将Transformer 模块引入U-Net 网络编码端,利用其自注意力机制更好地捕捉图像中的全局特征,提高模型的特征提取能力;同时将空洞卷积应用到网络的跳跃连接来增大感受野,降低特征图中的噪声影响,为解码端提供更显著的特征㊂实验表明,与传统的U-Net㊁SegNet 以及基于Transformer 的MedT(Medical Transformer)相比,设计的网络模型具有更高的Dice 系数和IoU 值,Dice 系数较前三者最高提升了13.2%㊂关键词:医学图像分割;U-Net;Transformer;空洞卷积中图分类号:TN919.81㊀㊀㊀文献标志码:A㊀㊀㊀开放科学(资源服务)标识码(OSID):文章编号:1003-3114(2023)04-0597-07A Brachial Plexus Nerve Ultrasonography SegmentationNetwork Based on TransUnetLIU Weiguang,KONG Lingjun ∗(Faculty of Network and Telecommunication Enineering,Jinling Institute of Technology,Nanjing 211169,China)Abstract :In the field of medical image segmentation,there are problems such as low contrast,blurred edges,and noise in someultrasound images,such as the Brachial Plexus (BP)ultrasound images,which make accurate segmentation of the target area difficult.Therefore,in this paper,we introduce Transformer modules into the encoding end of the U-Net network based on the TransUnet frame-work,using its self-attention mechanism to better capture global features in the image and improve the model s feature extraction capa-bilities.At the same time,we apply dilated convolutions to the skip connections of the network to increase the receptive field,reduce noise in the feature map,and provide more prominent features for the decoding end.Experiments show that compared with traditional U-Net,SegNet,and MedT (Medical Transformer)based on Transformer,the network model designed in this paper has a higher Dice co-efficient and IoU value,with the Dice coefficient improved by up to 13.2%compared to the three approaches mentioned before.Keywords :medical image segmentation;U-Net;Transformer;dilated convolution收稿日期:2023-03-27基金项目:江苏省大学生创新训练项目(202213573025Z);江苏省高等学校基础科学(自然科学)研究重大项目(22KJA510009);金陵科技学院高层次人才科研启动资金(jit-b-202110);江苏高校 青蓝 工程资助Foundation Item :Jiangsu Province College Student Innovation Training Project (202213573025Z);Major Project of Basic Science (Natural Science)Research in Higher Education Institutions in Jiangsu Province (22KJA510009);Jinling University of Science and Technology s High-level Talent Re-search Start-up Fund (jit-b-202110);Qing Lan Project in Jiangsu Province0 引言数字医疗领域中,医学图像处理发挥着重要作用,通过图像分割技术可以有效地提取医生所需的信息㊂在医学成像技术中,超声扫描是一种广泛使用的方法,它通过诊断和分析身体内部结构(如肌肉和神经)来检测各种疾病和损伤㊂然而,与高对比的CT 和MRI 相比,超声图像中存在前景和背景颜色相似㊁阴影和低对比度区域,仅依靠颜色和纹理等信息进行病变区域的准确分割十分困难[1],特别是在臂丛神经(Brachial Plexus,BP)超声图像的分割中㊂超声BP图像通常由于成像期间电子设备的干扰而产生扭曲,导致纹理粗糙且信噪比较低㊂此外,由于神经区域在图像中不是明显的结构,目标轮廓不清晰,使医生难以找到神经的精确位置进行手术㊂因此,自动分割BP超声图像以获取感兴趣区域对于手术的成功至关重要㊂1㊀相关工作传统的神经超声图像分割方法主要包括以下几种:①基于阈值分割:该方法将超声图像中的像素值与设定的阈值进行比较,从而将图像分为不同的区域㊂这种方法简单易行,但对噪声和光照变化比较敏感㊂②基于边缘检测:该方法通过检测超声图像中的边缘来实现分割㊂常见的边缘检测算法包括So-bel算子㊁Canny算子等㊂这种方法对噪声和光照变化的鲁棒性较好,但在图像存在弱边缘或复杂背景时容易出现误分割㊂③基于区域生长:该方法从一个种子像素开始,通过像素间的相似度判断将相邻像素加入同一区域,最终得到完整的分割结果㊂这种方法对噪声和光照变化的鲁棒性较好,但容易受到种子像素的选择和区域生长顺序的影响㊂这些方法往往依赖于手工设计的特征和规则,且对超声图像的质量要求较高,分割结果经常存在不准确㊁不稳定等问题㊂因此,基于深度学习的卷积神经网络(Convolutional Neural Network,CNN)已成为流行的图像分割技术㊂这种方法通过卷积运算自动学习图像中的特征信息,既节省了工作量,也提取了更准确的特征㊂许多学者提出了基于CNN的超声神经图像分割方法㊂例如,文献[2]使用Gabor滤波器进行边缘检测,然后使用U-Net进行图像分割㊂文献[3]使用中值滤波进行去噪,并使用ResU-Net 构建了一个新的神经网络模型以改善分割的鲁棒性㊂文献[4]使用Prewitt算子进行边缘检测,并使用改进的M-Net[5]进行图像分割㊂文献[6]改进了U-Net模型,并提出了QU-Net模型用于BP分割㊂文献[7]提出了一种改进型U-Net分支融合算法,使用多尺度卷积结构替换原始结构中的普通卷积层,增强了特征提取能力,并结合了扩张卷积来替换浅层和深层池化操作,提高了低层特征利用率㊂文献[8]使用SegNet进行超声图像分割,并表明使用基于多个边界增强的自适应对比度增强算法进行图像预处理可以提高模型的准确性㊂文献[9]使用EfficientNetB3搭建U-Net框架,并使用空洞卷积去除特征图中的噪声以在BP超声图像获取显著的位置信息㊂2017年,Google Brain团队提出了神经网络模型Transformer[10],它采用了自注意力机制来实现对输入序列中不同部分的加权计算,从而更好地捕捉输入序列中的关键信息㊂Transformer模型在自然语言处理领域的成功应用,激发了人们将其应用于其他领域的研究热情㊂在计算机视觉领域,Transformer模型已被应用于图像分类任务中,在许多分割任务中其效果超过了传统的CNN[11]㊂2021年,Chen等人[12]提出一种新兴的神经网络架构TransUnet,它是在Transformer和U-Net的基础上发展而来㊂在医学影像分析领域,TransUnet表现出色,能够对医学影像进行高效且准确地分割和识别㊂相比传统的U-Net模型,TransUnet具有更高的空间感知能力和更好的上下文理解能力㊂U-Net 在处理一些复杂的医学影像时,其局限性会显现出来㊂TransUnet则采用了Transformer的思想,利用自注意力机制,使得网络能够更好地理解不同区域之间的关系,从而更准确地进行分割和识别㊂这些研究改变了CNN在视觉领域不可撼动的地位,表明了Transformer模型在计算机视觉领域有广泛的应用前景㊂多数以U-Net为框架的模型受CNN感受野的影响不能很好地利用全局信息,且在超声图像分割中,通过预处理图像来减少噪声影响会增加网络复杂度㊂为解决此问题,本文使用以下方法:①基于TransUnet网络,利用其自注意力机制来进一步提取特征,并通过跳跃连接弥补Transformer在局部细节上的损失;②在U-Net网络的跳跃连接结构使用空洞卷积来增大感受野,减少噪声影响,为解码端提供更显著的特征;③使用欠采样提高模型的性能㊂2㊀网络设计2.1㊀网络编码端本文设计的网络结构如图1所示㊂为了在解码路径利用中间的高分辨率特征图,网络编码端采用CNN和Transformers混合模型,CNN部分将ResNet-50[13]用作特征提取器㊂由于Transformer采用一维线性编码,对CNN 输出的特征图进行处理,将输出x 重塑为若干二维小图像块{x i ɪR P 2㊃C ∣i =1,2, ,N },每个图像块大小为P ˑP ,数量为N =HW /P 2㊂对x i 进行线性投影,公式如下:z 0=[x 1E ,x 2E , ,x N E ]+E pos ,(1)式中:E ɪR (P 2㊃C )ˑD 为线性投影矩阵,E pos ɪR N ˑD 为位置编码,z 0是经过线性投影后的向量,输入Trans-former 部分中进行运算㊂图1㊀本文设计的网络整体结构Fig.1㊀Overall structure of the network㊀㊀在Transformer 部分中共包含12个Transformer 块,其具体结构如图2所示,包括两个归一化层(Layer Norm,LM)㊁一个多头自注意力(Multi-headedSelf-Attention,MSA)一个和多层感知机(Multilayer Perceptron,MLP)㊂MSA 用于提取序列中不同位置之间的关系,并将这些关系用于计算每个位置的权重㊂该过程通过将输入序列拆分为多个头进行并行计算㊂在每个头中,序列中的每个位置都会与序列中其他位置计算相似度,并使用softmax 函数将这些相似度转换为权重㊂这些权重被用于对所有位置进行加权求和,得到每个位置的输出表示㊂其注意力机制如下:设Q ㊁K ㊁V 分别为当前的图像块㊁当前图像块与被查询图像块间的相关性以及被查询的图像块,表示为矩阵形式:Q =q 1 qm éëêêêùûúúú,K =k 1 k n éëêêêùûúúú,V =v 1 v n éëêêêùûúúú,(2)式中:Q 和K 的维度均为m ˑd k ,V的维度为n ˑd v ,d k 和d v 是当前图像块和被查询的图像块的维度㊂通过计算Q 和K 的乘积,得到注意力矩阵A ,维度为m ˑn :A =softmaxQK T ㊀d k()㊂(3)图2㊀单个Transformer 模块结构Fig.2㊀Structure of a singleTransformer module最后将矩阵A和V相乘,得到输出矩阵O,维度为mˑd v:O=AV㊂(4)通过MSA,模型能够学习到不同位置之间的关系,从而提取出序列中的关键特征㊂MLP用于将多头自注意力层中提取到的特征进行变换㊂在Transformer中,MLP由两个全连接层组成,其中第一层应用线性变换,第二层应用激活函数㊂通过MLP,模型能够将MSA中提取到的特征进行非线性映射,进一步提高特征的表达能力㊂MLP 还有助于模型在多个不同抽象层次上学习特征表示,使得模型能够更好地捕捉序列中的抽象特征㊂网络中串联了多个Transformer模块,第l层的输出为:zᶄl=MSA(LN(z l-1))+z l-1,(5)zl=MLP(LN(zᶄl))+zᶄl㊂(6) 2.2㊀带空洞卷积的跳跃连接参考U-Net框架,将CNN部分的一二三层提取的特征X1E㊁X2E㊁X3E作为跳跃连接的起点,其特征尺寸分别为原图尺寸的1/2㊁1/4和1/8㊂为了进一步提取显著特征或全局信息,对不同的跳跃连接进行不同的处理,公式如下:X iEᶄ=F i(X i E),∀i={1,2,3},(7)式中:X i E为输入特征,经过非线性变换函数F i后输出含有更多显著特征或全局信息的特征X i Eᶄ㊂变换函数F i的公式表示如下:F1(X)=Up2☉P max☉((C13☉C23☉C53)(X)+X),(8)F2(X)=Up2☉P max☉((C13☉C23)(X)+X),(9)F3(X)=Up2☉P max☉C13(X),(10)式中:☉表示网络层的连接,X为输入特征,C13㊁C23和C53分别表示空洞率为1㊁2和5的3ˑ3卷积层, P max表示2ˑ2的最大池化层,Up2表示2倍上采样㊂以式(8)为例,输入特征X依次经过空洞率为1㊁2和5的卷积,卷积核大小为3ˑ3㊂将得到的特征经过最大池化层提取显著特征,同时经过一次下采样操作㊂为了防止梯度消失和特征退化,在跳跃连接中构建残差连接:X与最大池化层的输入特征相加㊂最后,特征经过一次上采样后进入解码端㊂这样构造的原因是:特征X1E㊁X2E㊁X3E处于网络相对较浅的位置,拥有较多的纹理特征,同时由于原图含有较多噪声,在相应的跳跃连接中使用最大池化提取显著特征,同时起到抑制噪声的作用㊂2.3㊀网络解码端如图1所示,网络的解码端包括解码器和分割头两部分㊂解码器部分,将Transformer输出的隐藏特征z l 变形为HPˑW P,通过一系列的2ˑ上采样算子㊁3ˑ3卷积和ReLU层,将其从HPˑW P恢复到HˑW的全分辨率㊂分割头部分,用于将解码器输出的特征图转换为对每个像素点的分割预测,输出大小等于输入图像的大小,并且包含每个像素点的预测结果㊂2.4㊀损失函数由于数据集正负样本严重失衡,本文使用与区域相关的Dice Loss作为损失函数㊂Dice Loss是一种常用的评价分割模型性能的损失函数,通常用于二分类或多分类问题㊂它的本质是一种相似度度量方法,可以用来比较两个集合的相似程度㊂在分割任务中,可以将模型输出的分割结果和真实的分割标注看做两个集合,然后使用Dice Loss来衡量它们的相似度㊂具体表示为:L=2XɘYX+Y,(11)式中:X为掩模,Y为网络输出的预测图,L为Dice Loss,XɘY为X和Y之间的交集,X和Y分别表示X和Y的所有元素数值和㊂L数值越小X和Y 之间的相似度越大,反之越小㊂与交叉熵损失函数相比,Dice Loss在处理类别不平衡的情况下更加适用,因为它能够更好地处理正负样本之间的比例失衡㊂此外,Dice Loss也比交叉熵损失更加平滑,因此在训练过程中更不容易发生震荡和梯度爆炸问题㊂3㊀实验与分析实验环境如下:NVIDIA GeForce RTX3080 (10GB)显卡,AMD5900X CPU,32GB DDR4内存;训练时间9h㊂具体参数设置:周期为200,批次大小为8,优化器采用Adam,学习率为0.0001,动量为0.9,权重衰减为0.0001,输入尺寸为256ˑ256ˑ3㊂同时,使用数据增强技术来防止过拟合问题,包括水平翻转和随机平移缩放等㊂针对BP超声图像正负样本失衡的问题,对正样本使用欠采样平衡样本数量㊂本文所使用的数据集包含带标注的BP超声图像5500张,其中正样本(有目标)与负样本(无目标)比例约为3ʒ5,样例如图3所示㊂将训练集按照4ʒ1划分为本文实验的训练集和测试集,为了保证训练集与测试集数据分布相同,使训练集和测试集中正负样本图像数目比同样为3ʒ5㊂数据集划分如表1所示㊂表1㊀数据集划分Tab.1㊀Data set partitioning目标划分训练集张数测试集张数有目标1613415无目标2787685总共44001100(a )臂丛神经元超声图像(b )臂丛神经元超声图像对应掩模图3㊀BP 数据集样例Fig.3㊀BP dataset example㊀㊀对照算法:通过实验将本文所提算法与另外4种算法进行比较,分别为U-Net [14]㊁Seg-Net [15]㊁标准的TransUnet [12]和MedT [16]㊂U-Net 网络结构由编码器和解码器两部分组成㊂编码器通过多个卷积层和池化层逐步提取图像特征,并将其编码为低维特征向量㊂解码器通过反卷积层和上采样层将低维特征向量解码为与原图像相同大小的特征图,并通过多次卷积操作进行像素级别的分类㊂U-Net 的优势在于其强大的特征提取和信息融合能力,能够在相对较小的数据集上进行有效的图像分割㊂Seg-Net 网络结构与U-Net 类似,但解码器中使用了最大值池化层的索引来记录编码器中的位置信息,从而提高了解码器的准确性和分辨率,能够在较大的数据集上进行高效的图像分割㊂MedT 网络使用了一种门控轴向注意(Gated Axial-Attention)模型,用于应对医学图像数据数量相对较低,难以有效地训练Transformer 问题㊂该模型通过在自注意模块中引入额外的控制机制来扩展现有的体系结构㊂此外,为了在医学图像上有效地训练模型,使用局部-全局训练策略(LoGo),进一步提高了性能,对整个图像和patch 进行操作,分别学习全局和局部特征㊂在BP 超声数据集上对U-Net㊁Seg-Net㊁TransU-net㊁MedT 以及本文提出的算法进行评估,结果如表2所示㊂表2㊀模型性能对比实验结果Tab.2㊀Experimental results of model performancecomparison模型测试集Dice 系数IoUSeg-Net 0.5810.557U-Net0.6090.582TransUnet 0.6540.641MedT 0.6730.660本文算法0.6850.667㊀㊀从表2可以看出,相比于传统的Seg-Net 和U-Net 模型,TransUnet 拥有更高的Dice 系数和IoU 值,在测试集上的Dice 系数和IoU 值分别达到了0.654和0.641,表明在U-Net 编码端引入Trans-former 可以提高模型的性能㊂相较于TransUnet,使用了门控注意力机制的MedT 在测试集上的Dice 系数和IoU 值分别达到了0.673和0.660,比TransUnet 高出了1.9%,证明了通过门控注意力机制应对小尺度医疗图像的有效性㊂与TransUnet 和MedT 相比,本文算法效果进一步提高,Dice 系数和IoU 值分别达到了0.685和0.667,表明了使用带有空洞卷积的跳跃连接处理BP 超声图像的有效性㊂为进一步佐证跳跃连接在分割中的必要性,在BP 超声数据集和MoNuSeg 数据集上对Vision Transformer (ViT)[11]㊁U-Net㊁TransUnet 以及本文算法进行评估,结果如表3所示㊂表3㊀BP 超声数据集和MoNuSeg 数据集上模型性能对比结果Tab.3㊀Comparison of model performance on BPultrasound dataset and MoNuSeg dataset模型BP USDice 系数IoU MoNuSegDice 系数IoUViT0.5350.5170.7130.511U-Net0.6090.5820.8050.680TransUnet 0.6540.6410.8010.682本文算法0.6850.6670.8120.683㊀㊀从表3可以看出,在医学图像分割方面,ViT网络框架直接使用Transformer进行分割的效果并不理想,无法与U-Net网络性能相匹配㊂TransUnet由于在ViT基础上进一步引入跳跃连接,分割效果与U-Net已不相上下,本文算法通过在跳跃连接中使用空洞卷积增大感受野,网络性能优于U-Net,在噪声更多的BP超声数据集中性能优势更为明显㊂图4为5种模型的部分预测图对比,可以看出本文算法产生的预测图更加平滑,与人工标注的掩膜更相似㊂图4㊀不同模型的预测图Fig.4㊀Predicted images of different models㊀㊀鉴于所使用的数据集存在正负样本失衡的问题,为了防止模型过分依赖负样本特征,对本文算法使用周期欠采样(Periodic Undersampling,PUS)方法,在每个训练周期随机选择一半没有目标的图像以及全部的有目标图像㊂与不使用欠采样的模型相比,结果如表4所示㊂从表4可以看到,使用周期欠采样训练得到的模型有更好的性能㊂在测试集上Dice系数和IoU值分别提高了2.8%和2.2%,表明周期欠采样方法能提高模型的性能㊂表4㊀欠采样对模型性能影响的实验结果Tab.4㊀Impact of undersampling on model performance模型欠采样测试集Dice系数IoU本文算法0.6850.667ɿ0.7130.6894 结束语本文使用TransUnet网络框架进行BP超声图像分割,并在跳跃连接上使用空洞卷积来提取特征㊂实验结果表明,相比与传统网络,Transformer的引入以及带有空洞卷积的跳跃连接能够提高网络的性能㊂同时,针对BP超声图像正负样本失衡问题,周期欠采样方法能够显著改善模型分割效果,提高模型性能㊂在后续的工作中,有几个方向值得关注和探究㊂可以考虑更换损失函数和优化器,进一步提高网络的训练和优化效果㊂同时,Transformer的引入大大增加了模型的参数量,可以尝试更改网络编码端的CNN主干网,更高效地提取初步特征,并压缩Transformer模块的层数,探究更加轻量级的网络结构,在保证分割性能的同时进一步提高网络的运行速度和效率㊂参考文献[1]㊀TIAN Q C,MENG Y.Image Semantic Segmentation Basedon Convolutional Neural Network[J].Journal of ChineseComputer Systems,2020,41(6):1302-1313.[2]㊀KAKADE A,DUMBALI J.Identification of Nerve in Ul-trasound Images Using U-net Architecture[C]ʊ2018In-ternational Conference on Communication Information andComputing Technology(ICCICT).Mumbai:IEEE,2018:1-6.[3]㊀WANG R,SHEN H,ZHOU M.Ultrasound Nerve Segmen-tation of Brachial Plexus Based on Optimized ResU-Net[C]ʊ2019IEEE International Conference on ImagingSystems and Techniques(IST).Abu Dhabi:IEEE,2019:1-6.[4]㊀ABRAHAM N,ILLANKO K,KHAN N,et al.Deep Learn-ing for Semantic Segmentation of Brachial Plexus NervesinUltrasound Images Using U-Net and M-Net[C]ʊ20193rdInternational Conference on Imaging,Signal Processingand Communication(ICISPC).Singapore:IEEE,2019:85-89.[5]㊀FU H,CHENG J,XU Y,et al.Joint Optic Disc and CupSegmentation Based on Multi-label Deep Network and Po-lar Transformation[J].IEEE Transactions on Medical Im-aging,2018,37(7):1597-1605.[6]㊀龙法宁,朱晓姝,甘井中.基于卷积神经网络的臂丛神经超声图像分割方法[J].合肥工业大学学报:自然科学版,2018,41(9):1191-1195.[7]㊀张克双,邬春学,张生,等.基于U-Net改进的多尺度融合超声神经分割算法研究[J].计算机工程与科学,2022,44(9):1676-1685.[8]㊀杨桐,张姗姗,江方舟,等.基于深度学习与自适应对比度增强的臂丛神经超声图像优化[J].计算机科学,2019,46(11A):236-240.[9]㊀孔令军,王茜雯,包云超,等.一种基于深度学习的臂丛神经超声图像分割网络[J].无线电工程,2021,51(9):841-847.[10]VASWANI A,SHAZEER N,PARMAR N,et al.Attentionis All You Need[C]ʊProceedings of the31st Internation-al Conference on Neural Information Processing Systems.Long Beach:ACM,2017:6000-6010.[11]DOSOVITSKIY A,BEYER L,KOLESNIKOV A,et al.AnImage is Worth16ˑ16Words:Transformers for ImageRecognition at Scale[J/OL].(2020-10-22)[2023-03-20].https:ʊ/abs/2010.11929. [12]CHEN J,LU Y,YU Q,et al.TransUnet:TransformersMake Strong Encoders for Medical Image Segmentation[J/OL].(2021-02-08)[2023-03-20].https:ʊarxiv.org/abs/2102.04306.[13]HE K,ZHANG X,REN S,et al.Deep Residual Learningfor Image Recognition[C]ʊProceedings of the IEEE Con-ference on Computer Vision and Pattern sVegas:IEEE,2016:770-778.[14]RONNEBERGER O,FISCHER P,BROX T.U-net:Convo-lutional Networks for Biomedical Image Segmentation[C]ʊMedical Image Computing and Computer-assisted Inter-vention-MICCAI2015:18th International Conference.Mu-nich:MICCAI,2015:234-241.[15]BADRINARAYANAN V,KENDALL A,CIPOLLA R.Seg-net:A Deep Convolutional Encoder-Decoder Architecturefor Image Segmentation[J].IEEE Transactions on PatternAnalysis and Machine Intelligence,2017,39(12):2481-2495.[16]VALANARASU J M J,OZA P,HACIHALILOGLU I,et al.Medical Transformer:Gated Axial-attention for Med-ical Image Segmentation[C]ʊMedical Image Computingand Computer Assisted Intervention-MICCAI2021:24thInternational Conference.Strasbourg:MICCAI,2021:36-46.作者简介:㊀㊀刘伟光㊀金陵科技学院本科在读㊂主要研究方向:通信工程㊁深度学习㊂㊀㊀(∗通信作者)孔令军㊀博士,金陵科技学院副教授,硕士生导师㊂主要研究方向:人工智能与信息科学交叉研究㊁通信与存储系统中新型信号处理与纠错码技术㊂北京交通大学信号与信息处理专业博士学位,新加坡南洋理工大学㊁东南大学双博士后; 2014年海外人才引进加入南京邮电大学,并获得教育部留学回国基金;2015年破格晋升副教授,同年获聘为硕士生导师;主持国家级㊁省部级科研项目11项;荣获2018 苏州高新区科技创新创业领军人才 称号㊂发表SCI期刊近30篇(其中IEEE TRANS10篇),EI期刊和顶级国际会议论文30余篇,发明专利10余项㊂。

声象理论与技术

通过引入量子信道传输率、单光子捕获概率、检测因子和数据筛选因子,给出了自由空间量子密钥分配中量子密钥比特率的表达式。

针对低轨卫星地面站间激光链路,进行了量子密钥比特率的数值仿真研究。

结果表明,在低轨卫星地面站间进行量子密钥分配是可行的。

参110609469一种新的多进制正交扩频通信及F PGA实现刊,中/周映//系统工程与电子技术.!2005,27(12).!1999 2001,2009(G)提出将一种新的按段复合的伪随机码序列应用到多进制正交扩频通信中,该序列保持了Walsh码的同步正交性,非同步时相关特性也较理想。

由于复合码的内在相似性,可以用一个匹配滤波器实现输入信号和m个本地复合序列的相关运算,大大节约了F PGA 资源消耗。

实验证明,在高斯白噪声信道中,该硬件系统较之具有相同扩频增益的直扩系统,误比特率更低。

参80609470深水通信技术刊,中/陈湘文//现代通信技术.! 2005,(4).!18(C)本文介绍了深水通信的概念、特点、以及现有技术的优缺点,提出了解决深水通信困难的新技术。

参80609471基于混沌同步的保密通信刊,中//计算机工程与应用.!2005,41(35).!118128(D2)本部分报道了网络、通信与安全#栏目的3篇文章,内容涉及基于混沌同步的保密通信(作者:胡爱花,无锡江南大学通信与控制工程学院);一个优化的I P DiffSer v实时记费管理机制(作者:冯陟,西安西北工业大学电子信息学院);一种适用于移动电子商务的微支付方案(作者:崔岩,郑州信息工程大学信息工程学院)。

0609472一个安全有效的门限签名方案刊,中//计算机工程与应用.!2005,41(36).!125134(L2)本部分报道了网络、通信与安全#栏目的3篇文章,内容涉及一个安全有效的门限签名方案(作者:黄梅娟,陕西师范大学数学与信息科学学院);基于三维猫映射的图像加密算法(作者:刘英,汕头大学广东省数字图像处理重点实验室);核心路由器中多端口线卡调度的设计与实现(作者:廖鹰,郑州信息工程大学)。

  1. 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。

使其每次迭代不再沿着 单一 的负梯度方 向,而是允许误差沿
播 ,调整和修改网络的连接权值 ,使误差达到最小,其 学
习过 程 包 括 前 向计 算和 误差 反 向传 播 。
着恶化的方 向进行搜索 ,同时通过在最速 梯度 下降法和高斯 牛顿法之间 自适应调整来优化 网络权值 ,使 网络 能够有效
能 有 效 地 克 服 已有 方 法无 法克 服 的 边 缘 检 出问题 ,使 得 分 割 图像 能 更 好 的接 近 真 实 图像 。 关 键 词 :神 经 网络 ;B P算 法 ;LM 算 法 ; 非 线性 系 统 ; 白细 胞 -
中图分类号 : P 9 T 3
文献标识码 :B
输 出节 点为
Ⅳ 2 ^ i

I 引言
神经 网络( 人工神经网络 的简称1 是基于仿 生学原理而建 , 立起 来的新型学科 。它首先 由最简 单的神经元开始 ,然后按 照大脑 的基本结构连接组合为层次模 型,最后通过学 习使其 具备智 能性。 由于其具备 良好 的非线性 映射 能力、快速 的并 行处理 能力 、较强的 自学习 自组织能 力及完备的联想能力等 , 因此受到 了广大科研 工作者的青睐 。 中 B 其 P网络是 目前应用
对B P算法的改进迫在眉睫 。本文首先介绍 了传统的 B P网络 与B P学习算法,并在此基础上提 出了一种采用 L M 算法的 . 改进 B P神经 网络 ,着重探讨 了该改进 B P算法 中参数的选取 和优化规则, 同时建立起 了基于改进 B P神经 网络的非线性系 统 图像分割模型。 通过将其用于医学图像的边缘 吻合,进一步 证 明 了 改进 B P网络 相 比较 于 传 统 B 网络 而 言 , 缘 检 准 率 、 P 边 边缘检全性 高,实时性能强 ,稳定效果更好。
厂 + ) ( ∑ =
hl =
hl =
・∑ + ) 】( 厂 ・ + 2 ( )
i1 =
反 向传 播 :
PN
定 误 函 为 = ∑( 一 义 差 数 E 吉 z)
kJ ,
( 3 )
最广 的神经 网络模型之一 ,其结构简单 ,仿 真能力强 ,易于 实现 ,近年 来 已被广泛地应用于评估预测 、专家 系统、图像
权值调整量为
△ .

( 4)

国 = 一7 —— /
修正权值为
: +△ : 一

() 5
为隐 层节点h的阈 , 输出 值, 为 节点 , 的闽值,, ’
为转移函数, 7 为学 习步长 ,尸 为样本数, k= 12… 尸 。 / ,
3 改进 B P算法 的基本 思想和 步骤
研 究 与设计
微 型 电脑 应用
20 0 8年第 2 4卷 第 4 期
基 于 改进 的 B P神 经 网络 的血 液 细 胞 要 :采用 B P神经网络来分割 白细胞显微 图像 ,在边缘检全上的效果尚不理想, 针对 此问题 , 出 了改进 B 提 P神经 网络。 提 出了一种 采用 LM 算 法的改进 B - P神经网络。在 此基础上建立 了基于改进 B P神 经网络 的非线性 系统模型。实验结果表明,它
B P学 习算 法 的 基 本 思 想 就 是 通 过 网 络输 出误 差 的 反 向传
点向多方 向变化均会使误差增加 ,以致无法逃 出这个局部最 小点 。 文针对非线性系统的特点,对传统的 B 本 P网络进行了
改进 ,引 人 了 L vn egMaqad 优 化 算 法 。其 基本 思想 是 e ebr- rurt
维普资讯
Mi o o u e A p c t n V 12 , o 4 2 0 c c mp tr p l ai s o 4 N . ' 0 8 r i o .
文 章 编号 : 10 — 5 X 2 0 ) - 0 5 0 0 7 7 7 (0 8 4 0 0 — 3
传统 的 B P算法采用 的是最速梯度下降法修 正权值 , 训练 过程 即从某一起点沿误差函数的斜面逐渐达到最小点使之误 差为零 。而对于复杂的网络 ,误差 曲面在多维空间,这就象
个 碗 一 样 ,碗底 就 是 最 小 点 。但 这 个 碗 的表 面 是 凹 凸不 平 的,因而在 训练的过程 中可能会陷人某个局部最小点 ,由该
处理 、故障诊断等领域 。 但是 B P算法在训练过程中易陷人局
为使误差最小采用 最速梯度下降法优化权值,该权值总 是从输出层开始修 正,然后再修正前一层权值 ,即先调整

后调整 坷。从这层意义讲具有反 向传播 的含义 。
部最小 ,从 而致 使网络学习速度慢 ,收敛 时间长,严 重时将 出现 网络麻痹现 象, 由于这些 限制 了其 实际应用范围 ,因此

2 B P网络 与 B P学习算 法
B Bak P oa a o ) P( c —rpg t n 网络是一种 多层前馈 型网络 , 型 i 典 的网络 结构包括输入层、隐含层 、输 出层 3层 。其 中输人信 号 以 表示 ,隐层节点的输 出以 ) , 表示,输 出节 点的输 出 以Z 表示 , 目标信号为 , 输入节点 到隐层 节点 h的连 接权值 为 ,隐层节点 办到输 出节 点 的连接权值为 , Ⅳ Ⅳ,,Ⅳ , 分别为输入 、隐层 、输 出节点的数 目。

()前 向计算: 1
收敛 ,大大提高了网络 的收敛速度和泛化能力。
隐 节 的 出 层点输为
= ∑ 。 + ( ( ) 1 k )
L M 优化算法 j . ,又称 为阻尼最小二乘法,其权值调整
作 者简 介 :杨嘉麟 ,梁斌 ,上海 大学 电子 生物技 术研 究 中心 ,在 读硕 士 ,上海 郑文 岭 ,华南基 因组 中心 ,博 士生 导师 马文 丽 ,南方 医科 大学基 因 工程研 究所 ,博 士生 导师
相关文档
最新文档