人工神經(jīng)網(wǎng)絡(luò)算法知識點(diǎn)總結(jié)
人工神經(jīng)網(wǎng)絡(luò)的許多算法已在智能信息處理系統(tǒng)中獲得廣泛采用,尤為突出是是以下4種算法:ART網(wǎng)絡(luò)、LVQ網(wǎng)絡(luò)、Kohonen網(wǎng)絡(luò)Hopfield網(wǎng)絡(luò),下面就具體介紹一下這這四種算法:
1.自適應(yīng)諧振理論(ART)網(wǎng)絡(luò)
自適應(yīng)諧振理論(ART)網(wǎng)絡(luò)具有不同的方案。一個(gè)ART-1網(wǎng)絡(luò)含有兩層一個(gè)輸入層和一個(gè)輸出層。這兩層完全互連,該連接沿著正向(自底向上)和反饋(自頂向下)兩個(gè)方向進(jìn)行。
當(dāng)ART-1網(wǎng)絡(luò)在工作時(shí),其訓(xùn)練是連續(xù)進(jìn)行的,且包括下列算法步驟:
(1)對于所有輸出神經(jīng)元,如果一個(gè)輸出神經(jīng)元的全部警戒權(quán)值均置為1,則稱為獨(dú)立神經(jīng)元,因?yàn)樗槐恢付ū硎救魏文J筋愋汀?/p>
(2)給出一個(gè)新的輸入模式x。
(3)使所有的輸出神經(jīng)元能夠參加激發(fā)競爭。
(4)從競爭神經(jīng)元中找到獲勝的輸出神經(jīng)元,即這個(gè)神經(jīng)元的x·W值為最大;在開始訓(xùn)練時(shí)或不存在更好的輸出神經(jīng)元時(shí),優(yōu)勝神經(jīng)元可能是個(gè)獨(dú)立神經(jīng)元。
(5)檢查該輸入模式x是否與獲勝神經(jīng)元的警戒矢量V足夠相似。
(6)如果r≥p,即存在諧振,則轉(zhuǎn)向步驟(7);否則,使獲勝神經(jīng)元暫時(shí)無力進(jìn)一步競爭,并轉(zhuǎn)向步驟(4),重復(fù)這一過程直至不存在更多的有能力的神經(jīng)元為止。
2.學(xué)習(xí)矢量量化(LVQ)網(wǎng)絡(luò)
學(xué)習(xí)矢量量化(LVQ)網(wǎng)絡(luò),它由三層神經(jīng)元組成,即輸入轉(zhuǎn)換層、隱含層和輸出層。該網(wǎng)絡(luò)在輸入層與隱含層之間為完全連接,而在隱含層與輸出層之間為部分連接,每個(gè)輸出神經(jīng)元與隱含神經(jīng)元的不同組相連接。
最簡單的LVQ訓(xùn)練步驟如下:
(1)預(yù)置參考矢量初始權(quán)值。
(2)供給網(wǎng)絡(luò)一個(gè)訓(xùn)練輸入模式。
(3)計(jì)算輸人模式與每個(gè)參考矢量間的Euclidean距離。
(4)更新最接近輸入模式的參考矢量(即獲勝隱含神經(jīng)元的參考矢量)的權(quán)值。如果獲勝隱含神經(jīng)元以輸入模式一樣的類屬于連接至輸出神經(jīng)元的緩沖器,那么參考矢量應(yīng)更接近輸入模式。否則,參考矢量就離開輸人模式。
(5)轉(zhuǎn)至步驟(2),以某個(gè)新的訓(xùn)練輸入模式重復(fù)本過程,直至全部訓(xùn)練模式被正確地分類或者滿足某個(gè)終止準(zhǔn)則為止。
3.Kohonen網(wǎng)絡(luò)
Kohonen網(wǎng)絡(luò)或自組織特征映射網(wǎng)絡(luò)含有兩層,一個(gè)輸入緩沖層用于接收輸入模式,另一個(gè)為輸出層,輸出層的神經(jīng)元一般按正則二維陣列排列,每個(gè)輸出神經(jīng)元連接至所有輸入神經(jīng)元。連接權(quán)值形成與已知輸出神經(jīng)元相連的參考矢量的分量。
訓(xùn)練一個(gè)Kohonen網(wǎng)絡(luò)包含下列步驟:
(1)對所有輸出神經(jīng)元的參考矢量預(yù)置小的隨機(jī)初值。
(2)供給網(wǎng)絡(luò)一個(gè)訓(xùn)練輸入模式。
(3)確定獲勝的輸出神經(jīng)元,即參考矢量最接近輸入模式的神經(jīng)元。參考矢量與輸入矢量間的Euclidean距離通常被用作距離測量。
(4)更新獲勝神經(jīng)元的參考矢量及其近鄰參考矢量。這些參考矢量(被引至)更接近輸入矢量。對于獲勝參考矢量,其調(diào)整是最大的,而對于離得更遠(yuǎn)的神經(jīng)元,減少調(diào)整個(gè)神經(jīng)元鄰域的大小隨著訓(xùn)練的進(jìn)行而相對減小,到訓(xùn)練結(jié)束,只有獲勝神經(jīng)元的參考矢量被調(diào)整。
4.Hopfield網(wǎng)絡(luò)
Hopfield網(wǎng)絡(luò)是一種典型的遞歸網(wǎng)絡(luò),這種網(wǎng)絡(luò)通常只接受二進(jìn)制輸入(0或1)以及雙極輸入(+1或-1)。它含有一個(gè)單層神經(jīng)元,每個(gè)神經(jīng)元與所有其他神經(jīng)元連接,形成遞歸結(jié)構(gòu)。
相關(guān)文章
在Python中字典根據(jù)多項(xiàng)規(guī)則排序的方法
今天小編就為大家分享一篇在Python中字典根據(jù)多項(xiàng)規(guī)則排序的方法,具有很好的參考價(jià)值,希望對大家有所幫助。一起跟隨小編過來看看吧2019-01-01快速進(jìn)修Python指南之迭代器Iterator與生成器
這篇文章主要為大家介紹了Java開發(fā)者快速進(jìn)修Python指南之迭代器Iterator與生成器示例解析,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進(jìn)步,早日升職加薪2023-12-12matplotlib實(shí)現(xiàn)數(shù)據(jù)實(shí)時(shí)刷新的示例代碼
這篇文章主要介紹了matplotlib實(shí)現(xiàn)數(shù)據(jù)實(shí)時(shí)刷新的示例代碼,文中通過示例代碼介紹的非常詳細(xì),對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2021-01-01Numpy中創(chuàng)建數(shù)組的9種方式小結(jié)
本文主要介紹了Numpy中創(chuàng)建數(shù)組的9種方式小結(jié),文中通過示例代碼介紹的非常詳細(xì),具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下2022-03-03Python使用PEfile模塊實(shí)現(xiàn)分析PE文件
PeFile模塊是Python中一個(gè)強(qiáng)大的便攜式第三方PE格式分析工具,用于解析和處理Windows可執(zhí)行文件,本文主要就來講講如何使用PEfile模塊實(shí)現(xiàn)分析PE文件,需要的可以參考下2023-08-08requests在python中發(fā)送請求的實(shí)例講解
在本篇文章里小編給大家整理的是一篇關(guān)于requests在python中發(fā)送請求的實(shí)例講解內(nèi)容,有興趣的朋友們可以測試學(xué)習(xí)下。2021-02-02python 如何將兩個(gè)實(shí)數(shù)矩陣合并為一個(gè)復(fù)數(shù)矩陣
這篇文章主要介紹了使用python實(shí)現(xiàn)將兩個(gè)實(shí)數(shù)矩陣合并為一個(gè)復(fù)數(shù)矩陣的操作,具有很好的參考價(jià)值,希望對大家有所幫助。2021-05-05Windows下的Jupyter Notebook 安裝與自定義啟動(dòng)(圖文詳解)
這篇文章主要介紹了Windows下的Jupyter Notebook 安裝與自定義啟動(dòng)(圖文詳解),需要的朋友可以參考下2018-02-02