1 案例背景
手写体数字识别是图像识别学科下的一个分支,是图像处理和模式识别研究领域的重要应用之一,并且具有很强的通用性。由于手写体数字的随意性很大,如笔画粗细、字体大小、倾斜角度等因素都有可能直接影响到字符的识别准确率,所以手写体数字识别是一个很有挑战性的课题。在过去的数十年中,研究者们提出了许多识别方法,并取得了一定的成果。手写体数字识别的实用性很强,在大规模数据统计如例行年检、人口普查、财务、税务、邮件分拣等应用领域都有广阔的应用前景"。
本案例讲述了图像中手写阿拉伯数字的识别过程,对手写数字识别的基于统计的方法进行了简要介绍和分析,并通过开发一个小型的手写体数字识别系统来进行实验。手写数字识别系统需要实现手写数字图像的读取功能、特征提取功能、数字的模板特征库的建立功能及识别功能。
2 BP算法与实现过程
2.1 BP算法基本原理
将已知输入向量和相应的输出向量(期望输出)作为训练样本,并假定即将学习的网络已被赋予一组权值。为消除梯度幅度的不利影响,利用弹性反向传播算法通过过如下步骤更新权值(图1):首先,使用初始权值(不管正确与否)从输入层开始向前传播,计算出所有神经元的输出,这样输出层的输出与期望输出(即输出值与目标值)之间存在较大的误差。然后,计算作为神经元权值函数的]误差函数(损失函数或目标函数、代价函数)的梯度,根据误差降低最快的方向来调整更新权值,通过将输出误差反向传播给隐含层来不断调整误差函数。在计算误差梯度的同时,使用与上面同样的方法更新隐含层的权值。反复迭代更新,直到损失函数达到预定的理想目标。在弹性反向传播算法的学习过程中,权值的修正值即为学习率,而梯度只影影响权值变化的方向,即正负。
图1 反向传播神经网络模型
1.2 感知器神经网络
感知器(multilayer perceptron, MLP) 神经网络是模式识别的简单二元分类人工网络, 它通过权值模仿神经细胞的突触,用激活函数模仿细胞体,偏置即为阈值。单层的感知器网络结构如图2所示。单层感知器可将外部输入x分成两类:当感知器的输出y为正数或零时,输入属于第一类;当感知器的输出为负数时,输入属于第二类。
1.3 实现过程
(1)图像读取
在本文中,设计并自建了样本的数据库,库中有0~9共10个阿拉伯数字的5000张不同的手写数字图像,均为白底黑色的bmp格式的文件, 每个数字对应500张图片。实验要从每一个数字中都随机选取450张手写图像作为训练样本,每一个数字剩下的50张作为测试样本。部分数字样张如图3所示。
图3 数字样张
(2)提取特征
本设计中的训练样本数量多,而而一般神经网络输入层的神经元数就是训练样本向量的维数,因此需要对训练样本向量做降维预处理。预处理过程就是通过灰度阈值函数将图像转换成二值图像。降维前需先将所有图像做一次缩放,以确保每个图像的输入向量都具有相同的像素。本设计选定图像缩放的高度和宽度分别为70像素点和50像素点,符合一般手写阿拉伯数字的高宽比。对这些缩放后的图像作纵横切割,如图4所示,每10×10个像素点作为一系列像素块,构成一张包含35个像素块的二值图像计算每一个像素块中0和1的占比,并用它作为模式的一个特征值,这样可以构成5x7的特征值矩阵。考虑到感知器神申经网络输入向量只能是一维,故需要将此矩阵转换成一维向量作为训练样本的输入,转置后共生成35个一维向量。
图4 缩放后的图像切割
(3)构造标签
无论是训练样本还是测试样本,都需要构造标签,前者用于映射的学习,后者用于判断训练网络的正确率。一般地,输出层神经元个数即为分类网络中的分类类别数。阿拉伯数字是10类,故输出神经元数为10。每个类由具体的500个图像构成,包含训练样本和测试样本。通过提取特征每个类均生成35个一维向量:用500个列向量(1000000000)T来标注模式1,即数字1;(0100000000)标注模式2,即数字2;(0010000000)标注模式3,即数字3;依此类推,最后的(0000000001)标注模式0,即数字0。运行代码如下:
(4)随机选定训练样本和测试样本测试
利用MATLAB中已有的rand()伪随机数生成函数来生成5000个介于0和1之间的伪随机数。将生成的伪随机数做升序排序,通过索引来记录随机数原来的位置,并将原来的位置组合成新的行向量。在本设计中,输入层的神经元有35个,输出层神经元有10个,选取25为中间隐含层神经元个数。
(5)数字识别与正确率的计算
对比测试前的标签和仿真后的输出,用测试前的标签值减去输出值,得到误差值,将误差为0的视为正确识别,求出神经网络的正确率。具体运行代码如下:
function varargout = szsb(varargin) % SZSB M-file for szsb.fig % SZSB, by itself, creates a new SZSB or raises the existing % singleton*. % % H = SZSB returns the handle to a new SZSB or the handle to % the existing singleton*. % % SZSB('CALLBACK',hObject,eventData,handles,...) calls the local % function named CALLBACK in SZSB.M with the given input arguments. % % SZSB('Property','Value',...) creates a new SZSB or raises the % existing singleton*. Starting from the left, property value pairs are % applied to the GUI before szsb_OpeningFunction gets called. An % unrecognized property name or invalid value makes property application % stop. All inputs are passed to szsb_OpeningFcn via varargin. % % *See GUI Options on GUIDE's Tools menu. Choose "GUI allows only one % instance to run (singleton)". % gui_Singleton = 1; gui_State = struct('gui_Name', mfilename, ... 'gui_Singleton', gui_Singleton, ... 'gui_OpeningFcn', @szsb_OpeningFcn, ... 'gui_OutputFcn', @szsb_OutputFcn, ... 'gui_LayoutFcn', [] , ... 'gui_Callback', []); if nargin && ischar(varargin{1}) gui_State.gui_Callback = str2func(varargin{1}); end if nargout [varargout{1:nargout}] = gui_mainfcn(gui_State, varargin{:}); else gui_mainfcn(gui_State, varargin{:}); end % End initialization code - DO NOT EDIT % --- Executes just before szsb is made visible. function szsb_OpeningFcn(hObject, eventdata, handles, varargin) % This function has no output args, see OutputFcn. % hObject handle to figure % eventdata reserved - to be defined in a future version of MATLAB % handles structure with handles and user data (see GUIDATA) % varargin command line arguments to szsb (see VARARGIN) % Choose default command line output for szsb handles.output = hObject; % Update handles structure guidata(hObject, handles); % UIWAIT makes szsb wait for user response (see UIRESUME) % uiwait(handles.figure1); % --- Outputs from this function are returned to the command line. function varargout = szsb_OutputFcn(hObject, eventdata, handles) % varargout cell array for returning output args (see VARARGOUT); % hObject handle to figure % eventdata reserved - to be defined in a future version of MATLAB % handles structure with handles and user data (see GUIDATA) % Get default command line output from handles structure varargout{1} = handles.output; % --- Executes when figure1 is resized. function figure1_ResizeFcn(hObject, eventdata, handles) % hObject handle to figure1 (see GCBO) % eventdata reserved - to be defined in a future version of MATLAB % handles structure with handles and user data (see GUIDATA) % -------------------------------------------------------------------- function Untitled_2_Callback(hObject, eventdata, handles) % hObject handle to Untitled_2 (see GCBO) % eventdata reserved - to be defined in a future version of MATLAB % handles structure with handles and user data (see GUIDATA) axes(handles.axes1); clear all; global im global p1 global p5 global p3 global p4 global bw global bw1 global bw2 global n global t1 global i3 global i4 global i2 global b global gray filename=0; [filename,pathname]=... uigetfile({'*.bmp'},'请选择图片'); str=[pathname filename]; l=length(filename); if l==1 return; end test=filename(1,l-2:l); if test=='bmp' else msgbox('请选择bmp文件','错误'); return; end im=imread(str); imshow(im); if(length(size(im))==3) gray = rgb2gray(im); %图像灰度化 end p1=zeros(16,16); bw=im2bw(im,0.9); %图像二值化 [l,r]=size(bw); i4=bw; for i=1:l for j=1:r if i4(i,j)==0 i4(i,j)=1; else i4(i,j)=0; end end end i2 = bwmorph(i4,'majority','inf');%图像细化 i3=i2; [i,j]=find(i3==1); imin=min(i); imax=max(i); jmin=min(j); jmax=max(j); lab=false;%lab 用作是否进入一个字符分割的标志 k=1; for j = jmin:jmax+1 if (max(size(find(i3(imin:imax,j)==1)))-1)==0 %在第j列中没有找到像素为1(白点)的点 if lab==true; t1(1,k)=j-1; %t1的第一行偶数记录分割数字的右边界 k=k+1; lab=false; end else%在第j列中存在像素为1(白点)的点 if lab==false lab=true; t1(1,k)=j; %t1的第一行奇数记录分割数字的左边界 k=k+1; end end end n=max(size(t1))/2;%m为待识别数字的个数 for i=1:n j=2*i; for k=imin:imax%由上到下寻找上边界 if (max(size(find(i3(k,t1(1,j-1):t1(1,j))==1)))-1)>0% 在对应的列中找到了分割数字的上边界 t1(2,j-1)=k; %t1的第二行奇数列分别记录分割数字的上边界 break; end end end for i=1:n j=2*i; for k=imax:-1:imin%由下到上寻找下边界 if (max(size(find(i3(k,t1(1,j-1):t1(1,j))==1)))-1)>0% 在对应的列中找到了分割数字的下边界 t1(2,j)=k; %t1的第二行偶数列分别记录分割数字的下边界 break; end end end p4=zeros(l,r); p5=zeros(l,r); load numbernet net; for i=1:n j=2*i; bw1=i3(t1(2,j-1):t1(2,j),t1(1,j-1):t1(1,j)); p1=zeros(16,16); rate=16/max(size(bw1)); bw1=imresize(bw1,rate); [z,x]=size(bw1); i1=round((16-z)/2); j1=round((16-x)/2); p1(i1+1:i1+z,j1+1:j1+x)=bw1; p4(t1(2,j)-15:t1(2,j),t1(1,j-1):t1(1,j-1)+15)=p1; p1 = bwmorph(p1,'thin',inf); p5(t1(2,j)-15:t1(2,j),t1(1,j-1):t1(1,j-1)+15)=p1; for m=0:15 if(0<=m&&m<=3) mm=(m+1)*4; p(m+1,1)=length(find(p1(1:4,mm-3:mm)==1)); end if(4<=m&&m<=7) mm=(m-3)*4; p(m+1,1)=length(find(p1(5:8,mm-3:mm)==1)); end if(8<=m&&m<=11) mm=(m-7)*4; p(m+1,1)=length(find(p1(9:12,mm-3:mm)==1)); end if(12<=m&&m<=15) mm=(m-11)*4; p(m+1,1)=length(find(p1(13:16,mm-3:mm)==1)); end end p(17,1)=length(find(p1(4 ,1:16)==1)); p(18,1)=length(find(p1(8 ,1:16)==1)); p(19,1)=length(find(p1(12,1:16)==1)); p(20,1)=length(find(p1(1:16, 4)==1)); p(21,1)=length(find(p1(1:16, 8)==1)); p(22,1)=length(find(p1(1:16,12)==1)); s1=0; for zz=1:16 xx=17-zz; s1=p1(zz,xx)+s1; p(23,1)=s1; end s2=0; for zz=1:16 s2=p1(zz,zz)+s2; p(24,1)=s2; end [a,Pf,Af]=sim(net,p); a=round(a) ; b(1,i)=a(1,1)*8+a(2,1)*4+a(3,1)*2+a(4,1); end b=num2str(b);
1 matlab版本
2014a
2 参考文献
[1] 蔡利梅.MATLAB图像处理——理论、算法与实例分析[M].清华大学出版社,2020.
[2]杨丹,赵海滨,龙哲.MATLAB图像处理实例详解[M].清华大学出版社,2013.
[3]周品.MATLAB图像处理与图形用户界面设计[M].清华大学出版社,2013.
[4]刘成龙.精通MATLAB图像处理[M].清华大学出版社,2015.
[5]黄一格,张炎生.基于BP神经网络的手写数字识别系统[J]机电工程技术. 2020,49(01)
扫码CSDN二维码