模式識別

　　定義

　　人們在觀察事物或現(xiàn)象的時(shí)候，常常要尋找它與其他事物或現(xiàn)象的不同之處，并根據(jù)一定的目的把各個(gè)相似的但又不完全相同的事物或現(xiàn)象組成一類。字符識別就是一個(gè)典型的例子。例如數(shù)字“4”可以有各種寫法，但都屬于同一類別。更為重要的是，即使對于某種寫法的“4”，以前雖未見過，也能把它分到“4”所屬的這一類別。人腦的這種思維能力就構(gòu)成了“模式”的概念。在上述例子中，模式和集合的概念是分未弄的，只要認(rèn)識這個(gè)集合中的有限數(shù)量的事物或現(xiàn)象，就可以識別屬于這個(gè)集合的任意多的事物或現(xiàn)象。為了強(qiáng)調(diào)從一些個(gè)別的事物或現(xiàn)象推斷出事物或現(xiàn)象的總體，我們把這樣一些個(gè)別的事物或現(xiàn)象叫作各個(gè)模式。也有的學(xué)者認(rèn)為應(yīng)該把整個(gè)的類別叫作模式，這樣的“模式”是一種抽象化的概念，如“房屋”等都是“模式”，而把具體的對象，如人民大會堂，叫作“房屋”這類模式中的一個(gè)樣本。這種名詞上的不同含義是容易從上下文中弄淸楚的。

　　模式識別是人類的一項(xiàng)基本智能，在日常生活中，人們經(jīng)常在進(jìn)行“模式識別”。隨著20世紀(jì)40年代計(jì)算機(jī)的出現(xiàn)以及50年代人工智能的興起，人們當(dāng)然也希望能用計(jì)算機(jī)來代替或擴(kuò)展人類的部分腦力勞動。(計(jì)算機(jī))模式識別在20世紀(jì)60年代初迅速發(fā)展并成為一門新學(xué)科。

　　模式識別是指對表征事物或現(xiàn)象的各種形式的(數(shù)值的、文字的和邏輯關(guān)系的)信息進(jìn)行處理和分析，以對事物或現(xiàn)象進(jìn)行描述、辨認(rèn)、分類和解釋的過程，是信息科學(xué)和人工智能的重要組成部分。

　　研究進(jìn)展

　　模式識別研究主要集中在兩方面，一是研究生物體(包括人)是如何感知對象的，屬于認(rèn)識科學(xué)的范疇，二是在給定的任務(wù)下，如何用計(jì)算機(jī)實(shí)現(xiàn)模式識別的理論和方法。前者是生理學(xué)家、心理學(xué)家、生物學(xué)家和神經(jīng)生理學(xué)家的研究內(nèi)容，后者通過數(shù)學(xué)家、信息學(xué)專家和計(jì)算機(jī)科學(xué)工作者近幾十年來的努力，已經(jīng)取得了系統(tǒng)的研究成果。

　　應(yīng)用計(jì)算機(jī)對一組事件或過程進(jìn)行辨識和分類，所識別的事件或過程可以是文字、聲音、圖像等具體對象，也可以是狀態(tài)、程度等抽象對象。這些對象與數(shù)字形式的信息相區(qū)別，稱為模式信息。

　　模式識別所分類的類別數(shù)目由特定的識別問題決定。有時(shí)，開始時(shí)無法得知實(shí)際的類別數(shù)，需要識別系統(tǒng)反復(fù)觀測被識別對象以后確定。

　　模式識別與統(tǒng)計(jì)學(xué)、心理學(xué)、語言學(xué)、 計(jì)算機(jī)科學(xué) 、生物學(xué)、控制論等都有關(guān)系。它與 人工智能 、 圖像處理 的研究有交叉關(guān)系。例如自適應(yīng)或自組織的模式識別系統(tǒng)包含了人工智能的學(xué)習(xí)機(jī)制；人工智能研究的景物理解、自然語言理解也包含模式識別問題。又如模式識別中的預(yù)處理和特征抽取環(huán)節(jié)應(yīng)用圖像處理的技術(shù)；圖像處理中的圖像分析也應(yīng)用模式識別的技術(shù)。[1]

　　簡史

　　早期的模式識別研究著重在數(shù)學(xué)方法上。20世紀(jì)50年代末，F(xiàn)．羅森布拉特提出了一種簡化的模擬人腦進(jìn)行識別的數(shù)學(xué)模型——感知器，初步實(shí)現(xiàn)了通過給定類別的各個(gè)樣本對識別系統(tǒng)進(jìn)行訓(xùn)練，使系統(tǒng)在學(xué)習(xí)完畢后具有對其他未知類別的模式進(jìn)行正確分類的能力。1957年，周紹康提出用統(tǒng)計(jì)決策理論方法求解模式識別問題，促進(jìn)了從50年代末開始的模式識別研究工作的迅速發(fā)展。1962年，R．納拉西曼提出了一種基于基元關(guān)系的句法識別方法。付京孫(K．S． Fu）在笮的理論及應(yīng)用兩方^行了系統(tǒng)的卓有成效的研究，并于1974年出版了一本專著《句法模式識別及其應(yīng)用》。1982年和1984年，J．荷甫菲爾德發(fā)表了兩篇重要論文，深刻揭示出人工神經(jīng)元，網(wǎng)路所具有的聯(lián)想存儲和計(jì)算能力，進(jìn)一步推動了模式識別的研究工作，短短幾年在很多應(yīng)用方面就取得了顯著成果，從而形成了模式識別的人工神經(jīng)元網(wǎng)絡(luò)方法的新的學(xué)科方向。

　　問題分類

　　模式識別又常稱作模式分類，從處理問題的性質(zhì)和解決問題的方法等角度，模式識別分為有監(jiān)督的分類（Supervised Classification）和無監(jiān)督的分類(Unsupervised Classification)兩種。二者的主要差別在于，各實(shí)驗(yàn)樣本所屬的類別是否預(yù)先已知。一般說來，有監(jiān)督的分類往往需要提供大量已知類別的樣本，但在實(shí)際問題中，這是存在一定困難的，因此研究無監(jiān)督的分類就變得十分有必要了。

　　模式還可分成抽象的和具體的兩種形式。前者如意識、思想、議論等，屬于概念識別研究的范疇，是人工智能的另一研究分支。我們所指的模式識別主要是對語音波形、地震波、心電圖、腦電圖、圖片、照片、文字、符號、生物傳感器等對象的具體模式進(jìn)行辨識和分類。[1]

　　方法

　　決策理論方法

　　又稱統(tǒng)計(jì)方法，是發(fā)展較早也比較成熟的一種方法。被識別對象首先數(shù)字化，變換為適于計(jì)算機(jī)處理的數(shù)字信息。一個(gè)模式常常要用很大的信息量來表示。許多模式識別系統(tǒng)在數(shù)字化環(huán)節(jié)之后還進(jìn)行預(yù)處理，用于除去混入的干擾信息并減少某些變形和失真。隨后是進(jìn)行特征抽取，即從數(shù)字化后或預(yù)處理后的輸入模式中抽取一組特征。所謂特征是選定的一種度量，它對于一般的變形和失真保持不變或幾乎不變，并且只含盡可能少的冗余信息。特征抽取過程將輸入模式從對象空間映射到特征空間。這時(shí)，模式可用特征空間中的一個(gè)點(diǎn)或一個(gè)特征矢量表示。這種映射不僅壓縮了信息量，而且易于分類。在決策理論方法中，特征抽取占有重要的地位，但尚無通用的理論指導(dǎo)，只能通過分析具體識別對象決定選取何種特征。特征抽取后可進(jìn)行分類，即從特征空間再映射到?jīng)Q策空間。為此而引入鑒別函數(shù)，由特征矢量計(jì)算出相應(yīng)于各類別的鑒別函數(shù)值，通過鑒別函數(shù)值的比較實(shí)行分類。

　　句法方法

　　又稱結(jié)構(gòu)方法或語言學(xué)方法。其基本思想是把一個(gè)模式描述為較簡單的子模式的組合，子模式又可描述為更簡單的子模式的組合，最終得到一個(gè)樹形的結(jié)構(gòu)描述，在底層的最簡單的子模式稱為模式基元。在句法方法中選取基元的問題相當(dāng)于在決策理論方法中選取特征的問題。通常要求所選的基元能對模式提供一個(gè)緊湊的反映其結(jié)構(gòu)關(guān)系的描述，又要易于用非句法方法加以抽取。顯然，基元本身不應(yīng)該含有重要的結(jié)構(gòu)信息。模式以一組基元和它們的組合關(guān)系來描述，稱為模式描述語句，這相當(dāng)于在語言中，句子和短語用詞組合，詞用字符組合一樣。基元組合成模式的規(guī)則，由所謂語法來指定。一旦基元被鑒別，識別過程可通過句法分析進(jìn)行，即分析給定的模式語句是否符合指定的語法，滿足某類語法的即被分入該類。

　　模式識別方法的選擇取決于問題的性質(zhì)。如果被識別的對象極為復(fù)雜，而且包含豐富的結(jié)構(gòu)信息，一般采用句法方法；被識別對象不很復(fù)雜或不含明顯的結(jié)構(gòu)信息，一般采用決策理論方法。這兩種方法不能截然分開，在句法方法中，基元本身就是用決策理論方法抽取的。在應(yīng)用中，將這兩種方法結(jié)合起來分別施加于不同的層次，常能收到較好的效果。

　　統(tǒng)計(jì)模式識別

　　統(tǒng)計(jì)模式識別(statistic pattern recognition)的基本原理是：有相似性的樣本在模式空間中互相接近，并形成“集團(tuán)”，即“物以類聚”。其分析方法是根據(jù)模式所測得的特征向量Xi=(xi1，xi2，…，xid)T(i=1，2，…，N)，將一個(gè)給定的模式歸入C個(gè)類ω1，ω2，…， ωc中，然后根據(jù)模式之間的距離函數(shù)來判別分類。其中，T表示轉(zhuǎn)置；N為樣本點(diǎn)數(shù)；d為樣本特征數(shù)。

　　統(tǒng)計(jì)模式識別的主要方法有：判別函數(shù)法，近鄰分類法，非線性映射法，特征分析法，主因子分析法等。

　　在統(tǒng)計(jì)模式識別中，貝葉斯決策規(guī)則從理論上解決了最優(yōu)分類器的設(shè)計(jì)問題，但其實(shí)施卻必須首先解決更困難的概率密度估計(jì)問題。BP神經(jīng)網(wǎng)絡(luò)直接從觀測數(shù)據(jù)(訓(xùn)練樣本)學(xué)習(xí)，是更簡便有效的方法，因而獲得了廣泛的應(yīng)用，但它是一種啟發(fā)式技術(shù)，缺乏指定工程實(shí)踐的堅(jiān)實(shí)理論基礎(chǔ)。統(tǒng)計(jì)推斷理論研究所取得的突破性成果導(dǎo)致現(xiàn)代統(tǒng)計(jì)學(xué)習(xí)理論——VC理論的建立，該理論不僅在嚴(yán)格的數(shù)學(xué)基礎(chǔ)上圓滿地回答了人工神經(jīng)網(wǎng)絡(luò)中出現(xiàn)的理論問題，而且導(dǎo)出了一種新的學(xué)習(xí)方法——支持向量機(jī)（SVM）。

　　應(yīng)用

　　模式識別可用于文字和語音識別、遙感和醫(yī)學(xué)診斷等方面。

　?、?文字識別

　　漢字已有數(shù)千年的歷史，也是世界上使用人數(shù)最多的文字，對于中華民族燦爛文化的形成和發(fā)展有著不可磨滅的功勛。所以在信息技術(shù)及計(jì)算機(jī)技術(shù)日益普及的今天，如何將文字方便、快速地輸入到計(jì)算機(jī)中已成為影響人機(jī)接口效率的一個(gè)重要瓶頸，也關(guān)系到計(jì)算機(jī)能否真正在我國得到普及的應(yīng)用。目前，漢字輸入主要分為人工鍵盤輸入和機(jī)器自動識別輸入兩種。其中人工鍵入速度慢而且勞動強(qiáng)度大；自動輸入又分為漢字識別輸入及語音識別輸入。從識別技術(shù)的難度來說，手寫體識別的難度高于印刷體識別，而在手寫體識別中，脫機(jī)手寫體的難度又遠(yuǎn)遠(yuǎn)超過了聯(lián)機(jī)手寫體識別。到目前為止，除了脫機(jī)手寫體數(shù)字的識別已有實(shí)際應(yīng)用外，漢字等文字的脫機(jī)手寫體識別還處在實(shí)驗(yàn)室階段。

　?、凇≌Z音識別

　　語音識別技術(shù)技術(shù)所涉及的領(lǐng)域包括：信號處理、模式識別、概率論和信息論、發(fā)聲機(jī)理和聽覺機(jī)理、人工智能等等。近年來，在生物識別技術(shù)領(lǐng)域中，聲紋識別技術(shù)以其獨(dú)特的方便性、經(jīng)濟(jì)性和準(zhǔn)確性等優(yōu)勢受到世人矚目，并日益成為人們?nèi)粘Ｉ詈凸ぷ髦兄匾移占暗陌豺?yàn)證方式。而且利用基因算法訓(xùn)練連續(xù)隱馬爾柯夫模型的語音識別方法現(xiàn)已成為語音識別的主流技術(shù)，該方法在語音識別時(shí)識別速度較快，也有較高的識別率。

　?、?指紋識別

　　我們手掌及其手指、腳、腳趾內(nèi)側(cè)表面的皮膚凹凸不平產(chǎn)生的紋路會形成各種各樣的圖案。而這些皮膚的紋路在圖案、斷點(diǎn)和交叉點(diǎn)上各不相同，是唯一的。依靠這種唯一性，就可以將一個(gè)人同他的指紋對應(yīng)起來，通過比較他的指紋和預(yù)先保存的指紋進(jìn)行比較，便可以驗(yàn)證他的真實(shí)身份。一般的指紋分成有以下幾個(gè)大的類別:環(huán)型(loop)，螺旋型(whorl)，弓型(arch)，這樣就可以將每個(gè)人的指紋分別歸類，進(jìn)行檢索。指紋識別基本上可分成：預(yù)處理、特征選擇和模式分類幾個(gè)大的步驟。

　?、?遙感

　　遙感圖像識別已廣泛用于農(nóng)作物估產(chǎn)、資源勘察、氣象預(yù)報(bào)和軍事偵察等。

　?、堋♂t(yī)學(xué)診斷

　　在癌細(xì)胞檢測、X射線照片分析、血液化驗(yàn)、染色體分析、心電圖診斷和腦電圖診斷等方面，模式識別已取得了成效。

　　發(fā)展?jié)摿?/h2>

　　模式識別技術(shù)是人工智能的基礎(chǔ)技術(shù)，21世紀(jì)是智能化、信息化、計(jì)算化、網(wǎng)絡(luò)化的世紀(jì)，在這個(gè)以數(shù)字計(jì)算為特征的世紀(jì)里，作為人工智能技術(shù)基礎(chǔ)學(xué)科的模式識別技術(shù)，必將獲得巨大的發(fā)展空間。在國際上，各大權(quán)威研究機(jī)構(gòu)，各大公司都紛紛開始將模式識別技術(shù)作為公司的戰(zhàn)略研發(fā)重點(diǎn)加以重視。

　　1、語音識別技術(shù)

　　語音識別技術(shù)正逐步成為信息技術(shù)中人機(jī)接口(Human Computer Interface， HCI)的關(guān)鍵技術(shù)，語音技術(shù)的應(yīng)用已經(jīng)成為一個(gè)具有競爭性的新興高技術(shù)產(chǎn)業(yè)。中國互聯(lián)網(wǎng)中心的市場預(yù)測：未來5年，中文語音技術(shù)領(lǐng)域?qū)谐^400億人民幣的市場容量，然后每年以超過30%的速度增長。

　　2、生物認(rèn)證技術(shù)

　　生物認(rèn)證技術(shù)(Biometrics)本世紀(jì)最受關(guān)注的安全認(rèn)證技術(shù)，它的發(fā)展是大勢所趨。人們愿意忘掉所有的密碼、扔掉所有的磁卡，憑借自身的唯一性來標(biāo)識身份與保密。國際數(shù)據(jù)集團(tuán)（IDC）預(yù)測：作為未來的必然發(fā)展方向的移動電子商務(wù)基礎(chǔ)核心技術(shù)的生物識別技術(shù)在未來10年的時(shí)間里將達(dá)到100億美元的市場規(guī)模。

　　3、數(shù)字水印技術(shù)

　　90年代以來才在國際上開始發(fā)展起來的數(shù)字水印技術(shù)(Digital Watermarking)是最具發(fā)展?jié)摿εc優(yōu)勢的數(shù)字媒體版權(quán)保護(hù)技術(shù)。IDC預(yù)測，數(shù)字水印技術(shù)在未來的5年內(nèi)全球市場容量超過80億美元。

　　模式識別從20世紀(jì)20年代發(fā)展至今，人們的一種普遍看法是不存在對所有模式識別問題都適用的單一模型和解決識別問題的單一技術(shù)，我們現(xiàn)在擁有的只是一個(gè)工具袋，所要做的是結(jié)合具體問題把統(tǒng)計(jì)的和句法的識別結(jié)合起來，把統(tǒng)計(jì)模式識別或句法模式識別與人工智能中的啟發(fā)式搜索結(jié)合起來，把統(tǒng)計(jì)模式識別或句法模式識別與支持向量機(jī)的機(jī)器學(xué)習(xí)結(jié)合起來，把人工神經(jīng)元網(wǎng)絡(luò)與各種已有技術(shù)以及人工智能中的專家系統(tǒng)、不確定推理方法結(jié)合起來，深入掌握各種工具的效能和應(yīng)有的可能性，互相取長補(bǔ)短，開創(chuàng)模式識別應(yīng)用的新局面。

　　對于識別二維模式的能力，存在各種理論解釋。模板說認(rèn)為，我們所知的每一個(gè)模式，在長時(shí)記憶中都有一個(gè)相應(yīng)的模板或微縮副本。模式識別就是與視覺刺激最合適的模板進(jìn)行匹配。特征說認(rèn)為，視覺刺激由各種特征組成，模式識別是比較呈現(xiàn)刺激的特征和儲存在長時(shí)記憶中的模式特征。特征說解釋了模式識別中的一些自下而上過程，但它不強(qiáng)調(diào)基于環(huán)境的信息和期待的自上而下加工?；诮Y(jié)構(gòu)描述的理論可能比模板說或特征說更為合適。