經(jīng)典神經(jīng)網(wǎng)絡算法精選(九篇)

前言：一篇好文章的誕生，需要你不斷地搜集資料、整理思路，本站小編為你收集了豐富的經(jīng)典神經(jīng)網(wǎng)絡算法主題范文，僅供參考，歡迎閱讀并收藏。

第1篇：經(jīng)典神經(jīng)網(wǎng)絡算法范文

關鍵詞： 模擬電路； 特征選擇； 故障診斷； 神經(jīng)網(wǎng)絡； 粒子群算法

中圖分類號： TN710.4?34； TP183 文獻標識碼： A 文章編號： 1004?373X（2016）19?0140?04

Abstract： The analog circuit is influenced by its characteristics and external environment， and its fault is non?linear and time?varying. The available fault diagnosis models of analog circuit are difficult to solve the match problem of features and classifier parameters， an analog circuit fault diagnosis model based on particle swarm algorithm optimizing feature and neural network is presented. The current situations of analog circuit fault diagnosis are analyzed， and their shortcomings are pointed out. The features of analog circuit fault diagnosis are extracted. The neural network is used as the classifier of analog circuit fault diagnosis. The analog circuit fault features and neural network parameters are optimized with particle swarm optimization， and simula?ted with Matlab 2012. The results show that the performance of the proposed model is superior to that of other reference models， and has wide application prospects.

Keywords： analog circuit； feature selection； fault diagnosis； neural network； particle swarm optimization

0 引 言

當前電網(wǎng)系統(tǒng)規(guī)模不斷增大，各種電路越來越復雜，電路出現(xiàn)故障的概率急劇上升，相對于數(shù)字電路，模擬電路工作環(huán)境更加復雜，再加上自身特性，模擬電路故障診斷具有更加重要的實際應用價值，一直是電網(wǎng)系統(tǒng)研究中的重點[1]。

國內(nèi)外學者對模擬電路故障診斷進行了相應的探索和研究，提出了許多有效的模擬電路故障診斷模型[2]。當前模擬電路故障方法主要分為傳統(tǒng)模型和現(xiàn)代模型兩類方法，傳統(tǒng)模型主要有專家系統(tǒng)與灰色理論等[3?4]，屬于線性的模擬電路故障診斷模型，對小規(guī)模模擬電路故障診斷效果好，但對于大規(guī)模的模擬電路，建模效率低，同時由于模擬電路工作狀態(tài)與特征間是一種復雜的非線性關系，傳統(tǒng)模型無法描述其變化特點，故障診斷正確率急劇下降，難以滿足模擬電路故障診斷的實際應用要求[5]?，F(xiàn)代模型基于非線性理論進行模擬電路故障診斷建模，主要有神經(jīng)網(wǎng)絡與支持向量機等[6?7]，現(xiàn)代模型通過自適應學習擬合電路工作狀態(tài)與特征間的非線性關系，成為當前模擬電路故障診斷的主要研究方向，其中支持向量機的訓練過程相當耗時，很難滿足模擬電路的故障診斷要求，應用范圍受到一定的限制[8]。神經(jīng)網(wǎng)絡的學習速度要快于支持向量機，且模擬電路故障診斷結果不錯，尤其是BP神經(jīng)網(wǎng)絡進行故障診斷時，速度較快，應用最為廣泛[9]。BP神經(jīng)網(wǎng)絡的模擬電路故障診斷結果與參數(shù)相關，如參數(shù)選擇不當，則會導致模擬電路故障診斷性能下降[10]。模擬電路的狀態(tài)特征同時亦與診斷結果密切相關，然而當前模擬電路故障診斷模型將神經(jīng)網(wǎng)絡參數(shù)與特征選擇問題分開考慮，完全割裂了兩者之間的關系，無法構建高準確率的模擬電路故障診斷模型[11]。

針對當前模擬電路故障診斷中的特征和神經(jīng)網(wǎng)絡參數(shù)不匹配的問題，提出一種粒子群算法選擇特征和神經(jīng)網(wǎng)絡的模擬電路故障診斷模型（PSO?BPNN）。在Matlab 2012平臺進行了仿真實驗。結果表明，本文提出模型的模擬電路故障診斷性能要遠遠優(yōu)于其他參比模型。

1 相關理論

1.1 模擬電路工作狀態(tài)的特征提取

Step3：更新慣性權重，調(diào)整粒子的飛行速度和位置，產(chǎn)生新的粒子群。

Step4：若達到了結束條件，就可以得到模擬電路故障診斷的最優(yōu)特征子集和最合理的BP神經(jīng)網(wǎng)絡參數(shù)。

Step5：建立模擬電路故障診斷模型，并對待檢測的模擬電路故障進行檢測，根據(jù)檢測結果采取相應的措施。

3 結果與分析

為了分析PSO?BPNN的模擬電路故障診斷性能，采用圖2的模擬電路進行仿真實驗，在Matlab 2012平臺下進行編程實現(xiàn)PSO?BPNN，模擬電路故障診斷參比模型為：

（1） 原始模擬電路故障診斷特征，BP神經(jīng)網(wǎng)絡參數(shù)隨機確定的模擬電路故障診斷模型（BPNN1）；

（2） 原始模擬電路故障診斷特征，粒子群算法優(yōu)化BP神經(jīng)網(wǎng)絡參數(shù)的模擬電路故障診斷模型（BPNN2）；

（3） 粒子群算法選擇模擬電路故障診斷特征，然后隨機確定BP神經(jīng)網(wǎng)絡參數(shù)的模擬電路故障診斷模型（BPNN3）。

共收集100個模擬電路故障診斷的訓練樣本，50個模擬電路故障診斷測試樣本，采用PSO?BPNN對訓練樣本進行學習，所有模型都運行100次，然后統(tǒng)計測試樣本的實驗結果，其平均診斷率和誤診率如圖3，圖4所示，對圖3，圖4的模擬電路故障診斷結果進行對比和分析，可以得到如下結論：

（1） 與BPNN1的實驗結果相比較可以發(fā)現(xiàn)，BPNN2獲得了更優(yōu)的模擬電路故障診斷結果，因為BPNN2采用粒子群算法優(yōu)化了BP神經(jīng)網(wǎng)絡參數(shù)，使得模擬電路故障診斷率更高，這表明BP神經(jīng)網(wǎng)絡參數(shù)會影響模擬電路故障診斷的結果。

（2） BPNN3的模擬電路故障診斷也要優(yōu)于BPNN1，這是由于粒子群算法對模擬電路故障特征進行了選擇和優(yōu)化，得到了對電路故障診斷結果有重要作用的特征子集。

（3） 在所有模擬電路故障診斷模型中，PSO?BPNN的模擬電路故障診斷率最高，誤診率得到了降低，這是由于BPNN2和BPNN3只從一個方面對特征或者BP神經(jīng)網(wǎng)絡參數(shù)進行了優(yōu)化，沒有同時對它們進行優(yōu)化，因此不可能建立性能優(yōu)異的模擬電路故障診斷模型，而PSO?BPNN同時從特征和BP神經(jīng)網(wǎng)絡參數(shù)兩個方面進行優(yōu)化，因而能夠獲得更加理想的模擬電路故障診斷結果。

4 結 語

傳統(tǒng)模擬電路故障診斷模型僅對特征或者BP神經(jīng)網(wǎng)絡參數(shù)進行優(yōu)化，易出現(xiàn)特征和分類器參數(shù)不匹配的問題，為此提出基于PSO?BPNN的模擬電路故障診斷模型，首先根據(jù)Volterra級數(shù)提取模擬電路工作狀態(tài)的特征，然后采用BP神經(jīng)網(wǎng)絡作為模擬電路故障分類器，并利用粒子群算法優(yōu)化特征和BP神經(jīng)網(wǎng)絡參數(shù)，最后進行仿真實驗，仿真結果表明，PSO?BPNN解決了當前模擬電路故障診斷模型存在的局限性，獲得了更高的模擬電路故障診斷率，在模擬電路故障診斷中具有廣泛的應用前景。

參考文獻

[1] 朱大奇.電子設備故障診斷原理與實踐[M].北京：電子工業(yè)出版社，2008.

[2] 陳圣儉，洪炳熔，王月芳，等.可診斷容差模擬電路軟故障的新故障字典法[J].電子學報，2006，4（2）：129?136.

[3] 金瑜，陳光福，劉紅.基于小波神經(jīng)網(wǎng)絡的模擬電路故障診斷[J].儀器儀表學報，2007，28（9）：1600?1604.

[4] 劉本德，胡昌華，蔡艷寧.基于聚類和SVM多分類的容差模擬電路故障診斷[J].系統(tǒng)仿真學報，2009，21（20）：6479?6482.

[5] 黃潔，何怡剛.模擬電路故障診斷的發(fā)展現(xiàn)狀與展望[J].微電子學，2004，34（1）：21?25.

[6] 彭敏放，何怡剛，王耀南.模擬電路的融合智能故障診斷[J].中國電機工程學報，2006，26（3）：19?24.

[7] 張超杰，賀國，梁述海.小波變換與主元分析相結合的模擬電路檢測方法[J].哈爾濱工程大學學報，2010，31（5）：570?575.

[8] 劉美容，何怡剛，方葛豐，等.遺傳小波神經(jīng)網(wǎng)絡在模擬電路故障診斷中的應用[J].湖南大學學報，2009，36（3）：40?44.

[9] 申宇皓，孟晨，張磊，等.基于同步優(yōu)化的支持向量機模擬電路故障診斷方法研究[J].太原理工大學學報，2010，41（4）：420?424.

[10] 胡清，王榮杰，詹宜巨.基于支持向量機的電力電子電路故障診斷技術[J].中國電機工程學報，2008，28（12）：107?111.

[11] 王承，葉韻，梁海浪，等.基于多頻測試和神經(jīng)網(wǎng)絡的模擬電路故障診斷[J].計算機工程與應用，2013，49（5）：1?3.

第2篇：經(jīng)典神經(jīng)網(wǎng)絡算法范文

關鍵詞：聚類；k-means；算法；實驗

中圖分類號：TP311文獻標識碼：A 文章編號：1009-3044(2008)32-1176-02

Study on the Initial Centrists of K-means Algorithm

MOU Ying1, QUAN Tai-feng2

(1.College of Physics and Information Technology, Chongqing Normal University, Chongqing 400047,China;2.Chongqing Communication Institute, Chongqing 400035, China)

Abstract: In order to conquer the problem that k-means algorithm depends on initial cluster centrists, so this paper discusses use competition neural network and the mind of density to improve the classic k-means algorithm. The two methods are able to improve the random choice of the initial centrists in the classic k-means algorithm. Experimental results show that the two algorithms are effective.

Key words: clustering; K-means; algorithm; experiment

1 引言

聚類是將數(shù)據(jù)對象分組成為多個類或簇，在同一個簇中對象之間具有較高的相似度，而不同簇中的對象之間差別較大[1]。在聚類算法中，K-means算法是其中一種最常用最知名的劃分方法[2]，它根據(jù)事先確定的K值，把樣本分為K類，使所有樣本到聚類中心的距離平方和最小。現(xiàn)在K-means算法已經(jīng)應用到各種領域，包括圖像和語音數(shù)據(jù)壓縮，用徑向基函數(shù)網(wǎng)絡進行系統(tǒng)建模的數(shù)據(jù)處理等[3]，但經(jīng)典K-means算法在運行初期隨機產(chǎn)生聚類初始點；如果初始聚類點離數(shù)據(jù)本身中心較近，則算法運行效率較高否則反之。

本文將競爭神經(jīng)網(wǎng)絡和經(jīng)典K-means算法相結合，提出一種基于競爭神經(jīng)網(wǎng)絡的K-means算法。另外還采用基于密度的思想進行尋找初始聚類中心，從而改變經(jīng)典K-means算法對初始聚類中心的隨機選擇。實驗結果表明，這兩種方法有效的克服了K-means對初始聚類中心的依賴性。

2 經(jīng)典K-means算法

經(jīng)典K-means算法的基本思想是：給定一個包含n個數(shù)據(jù)對象的數(shù)據(jù)庫，以及要生成的簇的數(shù)目k，隨機選取k個對象作為初始的聚類中心，然后計算剩余各個樣本到每一個聚類中心的距離，把該樣本歸到離它最近的那個聚類中心所在的類，直到調(diào)整結束且聚類平均誤差準則函數(shù)E已經(jīng)收斂。

K-means算法的具體描述如下：

1）任選k個對象特征矢量作為初始聚類中心：z1(0),z2(0)…zk(0)，令t=0

2）將待分類的對象特征矢量集{xi}中的對象逐個按最小距離原則分配給k類中的某一類，即

如果

i=1,2,…N(1)

則判xi∈wi(t+1)。

其中dij(t)表示xi和wj(t)的中心zj(t)的距離，上角標表示迭代次數(shù)。于是產(chǎn)生新的聚類wj(t+1)(j=1,2,…,k)。

3）計算重新分類后的各類心

式中nj(t+1)為wj(t+1)類中所含對象的個數(shù)。

因為這一步采取平均的方法計算調(diào)整后各類的中心，且定為k類，故稱K－均值法。

4）如果Zj(t+1)=Zj(t)(j=1,2,…,k)，則結束；否則，t=t+1，轉至（2）

經(jīng)典K－means算法的計算復雜度為O(nkt)，其中，n為對象個數(shù)，k為聚類個數(shù)，t為循環(huán)次數(shù)。由于它要求用戶輸入希望產(chǎn)生聚類的數(shù)目,而實際中的k值也很難被精確的確定，往往表現(xiàn)為一個模糊的取值區(qū)間[4]。并且在經(jīng)典K-means算法中，首先需要根據(jù)初始聚類中心來確定一個初始劃分，然后對初始劃分進行優(yōu)化。這個初始聚類中心的選擇對聚類結果有較大的影響，一旦初始值選擇得不好，可能無法得到有效的聚類結果，所以這個算法的聚類結果對初值的依賴是很強的，這也成為K-means算法的一個主要問題。然而其方法簡單，結果尚令人滿意，故應用較多。

3 兩種改進算法介紹

3.1 基于競爭神經(jīng)網(wǎng)絡的K-means算法

競爭神經(jīng)網(wǎng)絡是基于生物神經(jīng)系統(tǒng)中的“側抑制”現(xiàn)象形成的。競爭神經(jīng)網(wǎng)絡的顯著特點是它的輸出神經(jīng)元相互競爭以確定勝者，勝者指出哪一種原型模式最能代表輸入模式。競爭神經(jīng)網(wǎng)絡是一種“自發(fā)”分類器，一種基于感知機的無監(jiān)督的神經(jīng)網(wǎng)絡[5]。因此利用競爭神經(jīng)網(wǎng)絡來對經(jīng)典K-means算法的初始聚類點進行改進，使改進后的K-means算法的初始聚類中心穩(wěn)定的靠近于數(shù)據(jù)本身的類中心，從而減少經(jīng)典K-means的循環(huán)次數(shù)。

考慮到競爭神經(jīng)網(wǎng)絡的建網(wǎng)速度，在訓練競爭神經(jīng)網(wǎng)絡的時候，將原始數(shù)據(jù)按照10%進行采樣，用采樣后的數(shù)據(jù)建立競爭神經(jīng)網(wǎng)絡。按照競爭神經(jīng)網(wǎng)絡的聚類結果，將簇中數(shù)據(jù)的均值作為初始聚類中心輸入經(jīng)典的K-means算法，從而起到優(yōu)化初始聚類中心的作用。具體的采樣方法是，以α為半徑畫圓，在這個圓內(nèi)隨機選取數(shù)據(jù)點的10%作為采樣數(shù)據(jù)，α越小，其采樣頻率越高，采樣到的數(shù)據(jù)越多；α越大，其采樣頻率越低，采樣到的數(shù)據(jù)越少。當α取一個較適中的值的時候，采樣到的數(shù)據(jù)可以反映原始數(shù)據(jù)的分布，也能夠有效的減少數(shù)據(jù)量。

圖1為基于競爭神經(jīng)網(wǎng)絡的K-means算法的流程圖。

算法描述如下：

1）從文件中讀出數(shù)據(jù)。

2）利用最?。畲笠?guī)范化操作將數(shù)據(jù)的每個屬性映射到 空間。

3）采用歐式距離，計算各個數(shù)據(jù)之間的相異度矩陣。

4）計算Davg=AVG(Dij)，α=Davg/2即α取數(shù)據(jù)平均相異度的一半。以α為半徑，按10％的采樣頻率進行數(shù)據(jù)采樣。

5）將采樣后的數(shù)據(jù)輸入競爭神經(jīng)網(wǎng)絡進行初始聚類。

6）將初始聚類產(chǎn)生的各個簇的對象的均值作為經(jīng)典K-means算法的初始聚類中心。

7）運行經(jīng)典K-means算法。

3.2 一種基于密度的K-means算法

由于經(jīng)典的K-means算法對聚類個數(shù)和初始聚類中心存在依賴性的問題，所以其結果可能是局部最優(yōu)的。如果隨機選擇的聚類初始點靠近于數(shù)據(jù)本身的中心，則算法運行的循環(huán)次數(shù)少，而且數(shù)據(jù)分類也比較合乎實際；當隨機選擇的初始聚類點不是很好的時候，算法運行的循環(huán)次數(shù)會增加，而數(shù)據(jù)分類也在一定程度上趨向于局部最優(yōu)。這個改進思路就想利用數(shù)據(jù)的分布，尋找能夠代表不同簇的數(shù)據(jù)，并利用他們周圍的數(shù)據(jù)來對這些數(shù)據(jù)進行修正，試圖尋找比較靠近于數(shù)據(jù)本身中心的初始聚類點。具體來說，首先尋找相距最遠的兩個點A和B，認為他們代表數(shù)據(jù)的兩個簇。然后選取一個點C，使AC和BC的距離都大于某一個值，如此重復，直到找到k個代表點。接著在每個代表點附近尋找α?n/k個點，其中α表示采樣頻率，n表示數(shù)據(jù)個數(shù)，k表示簇數(shù)目。這些點和該代表點屬于同一簇，然后對這些認為屬于各簇的數(shù)據(jù)求平均，將得到的k個初始聚類點輸入經(jīng)典K－means算法。圖2為一種基于密度的K-means算法的流程圖。

算法描述如下：

1）從文件中讀出數(shù)據(jù)。

2）輸入k，表示數(shù)據(jù)需要聚成幾類。

3）利用最?。畲笠?guī)范化操作將數(shù)據(jù)的每個屬性映射到[0,1]空間。

4）采用歐式距離，計算各個數(shù)據(jù)之間的相異度矩陣。

5）尋找兩個相距最遠的點，設為A和B，將它們作為簇中心，置h=2。

6）如果k>h，尋找一個點C，使C到已有簇中心的聚類大于ymax-β，其中ymax=(Davg+MAX(Dij))/2，Davg=AVG(Dij) (0

7）在這k個點的周圍，尋找與其最近的α?n/k個點，其中α=0.1。

8）將這些認為屬于某個簇的點做平均，將他們的均值作為經(jīng)典K-means算法的初始聚類中心。

9）運行經(jīng)典K-means算法。

4 實驗

4.1 測試數(shù)據(jù)

本文的算法均使用matlab進行仿真實驗，并與經(jīng)典K-means算法進行比較。為了便于更加直觀的觀察聚類結果，采用了主元分析（PCA）進行降維處理，將數(shù)據(jù)投影到3維空間上進行顯示。實驗測試數(shù)據(jù)采用來自UCI測試庫的專門用于測試分類、聚類算法的Iris數(shù)據(jù)庫，以及一組客觀的個人信用數(shù)據(jù)。表1列出了各測試數(shù)據(jù)集的記錄數(shù)、屬性數(shù)和類別數(shù)。

4.2 實驗結果對比

首先實驗同時使用兩種改進算法和K-means算法對Iris數(shù)據(jù)進行聚類，表2是三種算法的實驗結果對比，其中可以看出，兩種改進方法的循環(huán)次數(shù)遠遠小于經(jīng)典K-means算法。

然后實驗同時使用兩種改進算法和K-means算法對Credit數(shù)據(jù)進行聚類，表3是三種算法的實驗結果對比，其中可以看出兩種改進方法的循環(huán)次數(shù)小于經(jīng)典K-means算法。

4.3 實驗結果分析

通過實驗結果對比可以看出：經(jīng)典的K-means算法與聚類數(shù)目和初始聚類中心的選擇有很大關系，多次運行算法，從不同的初始聚類中心出發(fā)會得到不同的聚類結果和準確性，具有一定的主觀性和隨機性，算法穩(wěn)定性不好。基于競爭神經(jīng)網(wǎng)絡的K-means算法在運行經(jīng)典的K-means算法之前用競爭神網(wǎng)做了一個預處理，而基于密度的K-means算法在運行經(jīng)典的K-means算法之前做了一個預處理。這兩種算法都改變了初始聚類中心的隨機選擇，使輸入經(jīng)典K-means算法的初始聚類中心離數(shù)據(jù)本身的類中心較近，改變其對聚類初始中心的依賴問題；而在競爭神網(wǎng)建立網(wǎng)絡的時候，利用采樣數(shù)據(jù)進行訓練，有效降低了數(shù)據(jù)量，減少了競爭神網(wǎng)的建立速度；并且多次運行算法，結果較穩(wěn)定。從實驗結果也可以看出，它在兩組測試數(shù)據(jù)上運行得較好。

5 結論

本文針對經(jīng)典K-means算法的主要不足，采用優(yōu)化聚類中心的方法提出了基于競爭神經(jīng)網(wǎng)絡的K-means算法和基于密度的K-means算法，從而使K-means算法能夠自適應的確定聚類中心，避免初始聚類中心的隨機性，在一定程度上彌補了經(jīng)典算法的不足。

從實驗的結果來看，采用隨機選取初始聚類點的方法，初始聚類中心靠近數(shù)據(jù)本身的類中心時近時遠，非常不穩(wěn)定，用于實際的數(shù)據(jù)聚類，效果不太好。而采用了一系列的改進算法后，其初始聚類點離數(shù)據(jù)本身類中心較近,并且較穩(wěn)定，用于實際的數(shù)據(jù)聚類，效果較好。

參考文獻：

[1] HAN Jia-wei, Kamber M.數(shù)據(jù)挖掘:概念與技術[M].范明,孟小峰,譯.北京：機械工業(yè)出版社,2001:223-230.

[2] Belouchrani A,Abed-meraim K,Cardoso J F,et al.A Bjind Source Separation Technique Using Second-order Statistics[J].IEEE Trans.Signal Processing,1997,45(2):434-444.

[3] Charalampidis D,Kasparis T.Wavelet-Based Rotational Invariant Roughness Features for Texture Classification and Segmentation[J].IEEE Transactions on Image Processing,2002,11(8):825-837.

第3篇：經(jīng)典神經(jīng)網(wǎng)絡算法范文

[關鍵詞]無線傳感器，路由，BP神經(jīng)網(wǎng)絡

中圖分類號：TN929.5 文獻標識碼：A 文章編號：1009-914X（2015）41-0243-01

1.概述

近年來，微電子機械系統(tǒng)、無線通訊和數(shù)字化電子領域快速發(fā)展，使得開發(fā)出用于短距離通信的低能耗、低成本、多功能傳感器節(jié)點成為可能。這些節(jié)點能感知環(huán)境，數(shù)據(jù)處理和通訊[1]。基于傳感器節(jié)點協(xié)作的傳感器網(wǎng)絡提升了應用領域與能量，傳感器網(wǎng)絡是傳統(tǒng)傳感器研究的重大改進。

傳感器網(wǎng)絡有廣泛的應用領域，可以用于監(jiān)控和收集分布式區(qū)域中的各種目標和信息。圖1展示了一個經(jīng)典的WSNs，該領域主要是設計一個有效的路由算法，增進通訊連通能力，目標是減少能量消耗、延長傳感器網(wǎng)絡的生命周期。與能量消耗相關的論文研究成功近年來不斷涌現(xiàn)。

2.無線傳感器路由問題建模

一個大的傳感器網(wǎng)絡由很多簇組成。傳感器節(jié)點并不直接發(fā)送數(shù)據(jù)，而是在一個簇中由一個中心節(jié)點（Sink）完成數(shù)據(jù)收集工作。但是，由于發(fā)射信號限制，一個傳感器節(jié)點只能和它發(fā)射半徑之內(nèi)的其它節(jié)點相連，本文的內(nèi)容就是針對一個簇之內(nèi)的信息收集工作展開的。

S是所有傳感器節(jié)點的集合，E是一個節(jié)點的連接集合。是簇中的一個節(jié)點，代表著在節(jié)點u和v之間傳輸 1k的數(shù)據(jù)需要消耗的能量，本文使用如下無線通訊模型：接收1KB的數(shù)據(jù)包消耗傳感器節(jié)點 1k的電能，發(fā)送放大器的能量消耗與距離相關，節(jié)點（u， v）之間用C（u， v）代表[2]。信息收集路徑從sink節(jié)點開始，完成信息收集之后返回到同一節(jié)點，代表著一個完整的路徑，so是sink節(jié)點。路由的能量消耗按如下公式定義：

D 代表傳輸數(shù)據(jù)的大小，是一個動態(tài)值。

3.基于BP神經(jīng)網(wǎng)絡的數(shù)據(jù)融合模型

反向傳播網(wǎng)絡（BP網(wǎng)絡）是前向神經(jīng)網(wǎng)絡中最重要的一種，該網(wǎng)絡的監(jiān)督學習算法采用誤差反向傳播算法。該算法[3]的學習過程主要有兩個：信號的正向傳播與誤差的反向傳播。主要是通過修正各層神經(jīng)元的權值，使得總的誤差信號最小。近幾年，，研究人員開展了很多基于神經(jīng)網(wǎng)絡的無線傳感器網(wǎng)絡數(shù)據(jù)融合方面的研究工作。實驗結果表明，把BP神經(jīng)網(wǎng)絡應用傳感器數(shù)據(jù)融合中，可以大大降低傳送數(shù)據(jù)的特征維數(shù)，提高無線網(wǎng)絡的數(shù)據(jù)融合效率。

3.1 BP神經(jīng)網(wǎng)絡

BP網(wǎng)絡是利用BP算法的前向型神經(jīng)網(wǎng)絡，其是在多層感知器的基礎上增加了反向傳播信號，可以較好地處理非線性的數(shù)據(jù)信息，具有較好的泛化能力，廣泛地應用在系統(tǒng)模型辨識、預測或控制。

BP神經(jīng)網(wǎng)絡中的神經(jīng)元模型中的激發(fā)函數(shù)通常選用非線性的Sigmoid函數(shù)：

只有當系統(tǒng)特性在正負區(qū)間變化時，激發(fā)函數(shù)選擇對稱的Sigmoid函數(shù)，又稱為雙曲函數(shù)：

BP神經(jīng)網(wǎng)絡的網(wǎng)絡結構由輸入層、輸出層和隱層組成，其中隱層可以有多層，不過最常用還是單隱層的三層BP網(wǎng)絡。

3.2 BP神經(jīng)網(wǎng)絡權值調(diào)整規(guī)則

BP網(wǎng)絡的學習過程是就將誤差反向傳播并修正網(wǎng)絡權值直到網(wǎng)絡的總誤差最小。定義BP神經(jīng)網(wǎng)絡的輸入輸出模型對應的系統(tǒng)誤差函數(shù)為：

利用梯度最速下降法解析如何調(diào)整連接權值使誤差函數(shù)E最小。

BP神經(jīng)網(wǎng)絡訓練過程[4]：當確定網(wǎng)絡結構后，始對BP神經(jīng)網(wǎng)絡進行訓練。BP神經(jīng)網(wǎng)絡的學習是由信號的正向傳播與誤差的反向傳播兩個過程組成的，在正向傳播時，輸入樣本信號從輸入層進入網(wǎng)絡，通過隱層處理最后傳送給輸出層，如果輸出結果與期望值不符，則把誤差進行反向傳播，根據(jù)上面的權值調(diào)整系數(shù)調(diào)整權值的變化，直到網(wǎng)絡輸出層的輸出結果滿足要求為止。

4.基于BP神經(jīng)網(wǎng)絡的 路由仿真實驗

無線傳感器網(wǎng)絡與神經(jīng)網(wǎng)絡在有些地方很類似，比如無線傳感器網(wǎng)絡中的傳感器節(jié)點具有感知數(shù)據(jù)處理信息的能力，相當于神經(jīng)網(wǎng)絡中的神經(jīng)元；無線傳感器網(wǎng)絡節(jié)點之間通過一定的規(guī)則傳遞信息，則相當于連接神經(jīng)元的突觸。神經(jīng)網(wǎng)絡算法與無線傳感器網(wǎng)絡中應用的數(shù)據(jù)融合技術有相同的功能，即通過一定的規(guī)則對大量的數(shù)據(jù)進行運算處理，從而得到反映這些數(shù)據(jù)特征的結果。因此，可以把神經(jīng)網(wǎng)絡算法應用到無線傳感器網(wǎng)絡中實現(xiàn)數(shù)據(jù)的融合。

實驗中，設置傳感器節(jié)點數(shù)目為 100，200，300，400 和 500。傳感器網(wǎng)絡環(huán)境是一個 200m*200m 的空間[5-6]。令傳輸數(shù)據(jù)的大小為 1KB，發(fā)射半徑分別為 20m 和 30m。實驗結果是 50 次運行的平均值。圖2 和圖 3現(xiàn)實了算法在不同數(shù)據(jù)集上最有解的變化趨勢，從中可以看出能量的逐步變化，并且，圖 3 的能量消耗更小，因為發(fā)射半徑較大。

5.結論

本文利用BP神經(jīng)網(wǎng)絡模型解決無線傳感器網(wǎng)絡路由問題，實驗中，采用了不同規(guī)模的網(wǎng)絡實驗數(shù)據(jù)，并同該領域其它經(jīng)典算法進行比較，驗證了本文所提方法在該領域的有效性。下一步的可針對模型在大規(guī)模數(shù)據(jù)集上表現(xiàn)沒有中小規(guī)模優(yōu)秀的問題方面展開。

參考文獻

[1]張重毅，適用于無線傳感器網(wǎng)絡的移動路由算法[D]. 吉林： 吉林大學計算機科學與技術學院， 2007.

[2] 李鳳保，李凌.無線傳感器網(wǎng)絡技術綜述[J]. 儀器儀表學報， 2005，26（3）：559-561.

[3] Shih E， Cho S， Ickes N， Min R， Sinha A， Wang A， Chandrakasan A. Physical layer driven protocol and algorithm design forenergy-efficient wireless sensor networks[C]. Proceedings of the ACM MobiCom 2001， Rome： ACM Press， 2001， 272-286.

[4] 唐勇，周明天，張欣.無線傳感器網(wǎng)絡路由協(xié)議研究進展[J]. 軟件學報，2006，17（3）：410-421.

第4篇：經(jīng)典神經(jīng)網(wǎng)絡算法范文

關鍵詞：人工神經(jīng)網(wǎng)絡 峰值識別理論 洪水預報

洪水預報作為非工程性防洪措施正日益受到重視，準確及時的洪水預報為防洪決策提供了科學的依據(jù).人工神經(jīng)網(wǎng)絡模擬了人類大腦的結構及其功能，從而具有對模糊信息或復雜的非線性關系進行識別與處理的能力[1，2].

早期關于人工神經(jīng)網(wǎng)絡在水文水資源系統(tǒng)中的應用與研究的進展情況，文獻[3]有較為詳細、系統(tǒng)的介紹.其中，關于洪水預報的研究成果，大多處于如何應用人工神經(jīng)網(wǎng)絡算法進行洪水預報的階段，即如何將洪水預報的實際問題概化成人工神經(jīng)網(wǎng)絡可以識別的算法模型.近期的研究成果表明，研究的問題更加深入，如LINDA SEE(1999)[4]將洪水過程分為上升段、洪峰段和下降段三部分，分別建立相應的預報模型，充分考慮了不同階段的洪水過程其演進規(guī)律的差異.Fi-John Chang(1999)[5]引入洪峰預報誤差和峰現(xiàn)誤差作為洪水預報精度的評價標準，對于洪峰預報精度給予了高度的重視.能否保證較高的洪水峰值的預報精度，是將人工神經(jīng)網(wǎng)絡的實時洪水預報技術實際應用的關鍵性問題.

本文在總結大量實踐經(jīng)驗的基礎上[6，7]，提出了一種能夠進行峰值識別的改進BP算法(Error Back Propagation with Peak Recognizer，簡稱BPPR).該算法在修改網(wǎng)絡權重時偏重大值，即大值誤差對權重的修改起主要作用.這種改進的BP算法使人工神經(jīng)網(wǎng)絡洪水預報模型對洪峰峰值的預報精度顯著提高，從而保證了洪峰預報的可靠性.

1人工神經(jīng)網(wǎng)絡的峰值識別理論

洪水預報主要是為防汛服務的，通常對洪峰時段的水位(或流量)的準確預報尤為重要.但是，對于經(jīng)典的BP算法，網(wǎng)絡訓練是根據(jù)全局誤差修改網(wǎng)絡權重的，這種權重修改方法很難控制洪峰水位(或流量)的訓練精度，訓練后的網(wǎng)絡權重所貯存的信息很可能更多地反映了樣本數(shù)量較大的中、低水位(或流量)的變化規(guī)律.所以，經(jīng)過訓練的網(wǎng)絡對中、低水位(或流量)的預報精度相對較高，而對洪峰的預報精度往往低一些.如何提高人工神經(jīng)網(wǎng)絡模型對洪峰水位(或流量)的預報精度，是人工神經(jīng)網(wǎng)絡理論應用于洪水預報的關鍵問題之一.

本文是在結合實際課題廣泛研究的基礎上，提出了一種能夠提高網(wǎng)絡模型峰值識別精度的改進BP算法.

1.1 峰值識別的基本思想 經(jīng)典BP算法的訓練過程由信號的正向傳播與誤差的逆向傳播兩個過程組成.其中，誤差的逆向傳播是基于網(wǎng)絡全局誤差并按“誤差梯度下降”的原則對網(wǎng)絡權重進行修改.如果對原來基于“全局誤差”的權重修改原則進行合理調(diào)整，使權重的修改傾向于減小輸出值較大樣本的網(wǎng)絡映射誤差，這是峰值識別原理的基本思想，其實質(zhì)是在誤差逆向傳播的網(wǎng)絡權重修改過程中，遵循了側重于“峰值樣本誤差”的權重修改原則.

1.2峰值識別的算法峰值識別理論的實現(xiàn)方法，是在引入動量項和采用學習率自適應調(diào)整的改進BP算法[4]的基礎上，對峰值樣本的網(wǎng)絡誤差引入合理的修正系數(shù)，使網(wǎng)絡的權重向著使峰值訓練誤差減小的方向修改.

首先，從經(jīng)典BP算法開始.設有輸入為x1(t)、x2(t)、…、xn(t)的n維輸入，輸出為xL1(t)、xL2(t)、…、xLm(t)、的m維輸出和若干隱層組成的多輸入、多輸出人工神經(jīng)網(wǎng)絡模型.這里的t為樣本序列號，這樣的樣本共有P對.

第l層中第i個神經(jīng)元節(jié)點所接收到的上一層輸入總和為

式中：Nl為第l層神經(jīng)元節(jié)點總數(shù)；w(l)ij為第l層i節(jié)點與第l-1層j節(jié)點之間的連接權重；θ(l)i為第l層i節(jié)點的閾值.

第l層中第i個神經(jīng)元節(jié)點的輸出為

x(l)i(t)=f（y(l)i(t)）=1/1+exp(-σy(l)i(t)) (1≤l≤L，1≤i≤Nl) （2）

式中：f()為轉移函數(shù)，這里采用的是對數(shù)型的單極性Sigmoid函數(shù)；σ為決定Sigmoid函數(shù)壓縮程度的系數(shù).該系數(shù)越大，曲線越陡；反之，曲線越緩.

則，當訓練次數(shù)為k時，網(wǎng)絡輸出層及隱層的誤差信號可表示為

式中：d(L)i(t)為訓練樣本的期望輸出.

那么，網(wǎng)絡權重的修改公式為

式中：η(k)為訓練次數(shù)為k時的學習率；α為動量項系數(shù).

以上為經(jīng)典BP算法的基本內(nèi)容.基于峰值識別的思想，實現(xiàn)網(wǎng)絡誤差修正傾向于輸出樣本的較大值，定義誤差修正系數(shù)ξ

ξi=di(L)(t)/d(L)max(t) （7）

式中：d(L)max(t)為訓練樣本期望輸出的最大值.

為了進一步提高神經(jīng)網(wǎng)絡模型的訓練速度，改善網(wǎng)絡峰值識別的精度，可以在上述修正系數(shù)的基礎上，增設誤差修正放大系數(shù)μ.那么，加入誤差修正系數(shù)ξ及誤差修正放大系數(shù)μ后，當訓練次數(shù)為k時，網(wǎng)絡輸出層誤差信號的向量表達式如下

應用該算法進行網(wǎng)絡訓練，能夠使峰值誤差修正占優(yōu)，從而提高網(wǎng)絡對峰值的映度.

2 應用實例

2.1 工程概況及基本模型 珠江流域西江段的水系關系比較復雜，如圖1所示.從柳州站、遷江站、南寧站或貴港站預報梧州站洪水目前還是一個難題.結合現(xiàn)有的研究成果，介紹洪水預報峰值識別理論的有效性.選取珠江流域從對亭站、柳州站、遷江站、南寧站預報江口站洪水的江口站洪水預報模型，分別以BP算法與引入峰值識別理論的BPPR算法進行網(wǎng)絡訓練.以多年實測記錄數(shù)據(jù)為訓練樣本，并采用下一年的記錄數(shù)據(jù)為測試樣本，即以1988、1992～1994、1996～1998各年的水位(流量)資料為訓練樣本，以1999年水位(流量)資料作為測試樣本.

圖1 珠江流域西江段主要水情站及洪水平均傳播時間示意

*傳播時間單位：h

傳統(tǒng)相應水位的洪水預報方法是根據(jù)天然河道洪水波的運動原理，分析洪水波在運動過程中，波的任一相位自上游水情站傳播到下游水情站的相應水位及其傳播時間的變化規(guī)律，尋找其經(jīng)驗關系，以此進行洪水預報[8].人工神經(jīng)網(wǎng)絡對信息的分布存儲、并行處理以及自學習的能力，決定了它具有對模糊信息和復雜非線性關系的識別與處理能力.網(wǎng)絡的訓練學習過程，就是網(wǎng)絡認知事物內(nèi)在規(guī)律的過程.構造基于人工神經(jīng)網(wǎng)絡洪水預報模型的首要問題，是如何將洪水過程合理地概化成人工神經(jīng)網(wǎng)絡可以映射的輸入、輸出關系.

以上游干流和主要支流水情站的水位(流量)資料作為網(wǎng)絡模型的輸入，以下游水情站所形成的相應水位(流量)作為網(wǎng)絡模型的輸出；同時，將下游同時水位(流量)作為網(wǎng)絡模型的輸入，以模擬下游初始水位的影響.洪水自上游水文站至下游水文站的傳播時間就是網(wǎng)絡對洪水的預見期.

本題中所建立的江口站洪水預報模型中，作為江口站的上游水文站共有對亭、柳州、遷江和南寧等站，其中的遷江站處于干流河道.值得一提的是，對亭站方向的來水屬山區(qū)洪水，特點為量小、峰高、歷時短，洪水過程線陡起陡落，其結果是水位的變化非常大，而實際的流量又很小，這無疑會影響水位預報模型的識別精度.為了減少這種小支流的干擾，在建立水位預報模型時，未將對亭站的水位作為輸入項.在建立流量預報模型時，為了保證水量的總體平衡，仍將對亭站的流量作為一項輸入.

以3h為一個間隔時段進行洪水數(shù)據(jù)采集來組織樣本，以干流遷江站t時刻水位(流量)、對亭站(t-3)時刻流量、柳州站(t-3)時刻水位(流量)、南寧站(t-8)時刻水位(流量)和江口站t時刻水位(流量)作為網(wǎng)絡的輸入，江口站(t+T)時刻的水位(流量)為網(wǎng)絡的輸出.其中，T為網(wǎng)絡的預見期，即洪水自上游遷江站傳播到江口站的時間，亦為峰現(xiàn)時間.在組織樣本時，采用洪水在各站間的實測傳播時間，但網(wǎng)絡預報的預見期為平均預見期，即T=9時段，約28h(洪水在各站間的傳播情況見圖1).圖2為江口站洪水預報模型的網(wǎng)絡拓撲結構圖.

圖2 江口站洪水預報模型的網(wǎng)絡拓撲結構

在網(wǎng)絡結構設計中，輸入與輸出節(jié)點數(shù)由實際問題而定，而隱層數(shù)及隱層節(jié)點數(shù)是網(wǎng)絡設計中的關鍵問題.在實際問題中，常常無法估計問題的真實復雜程度，通常采用雙隱層.關于隱層節(jié)點數(shù)目的確定，直接關系到能否成功地解決問題.實際上，隱層節(jié)點數(shù)決定于訓練樣本的多少、樣本噪音的大小以及所面對問題的復雜程度.若隱層節(jié)點數(shù)太少，網(wǎng)絡映射能力不足；若隱層節(jié)點數(shù)太多，不僅增加網(wǎng)絡的訓練時間，還會引發(fā)所謂“過度吻合”問題，即雖然增加了訓練精度，但是由于網(wǎng)絡過多地獲得了樣本的個性特征，而掩蓋了樣本的共性特征，從而造成預報精度的下降.目前的研究成果，還不能在理論上提供一套科學的推導方法，試算法是可靠的常規(guī)方法.本題經(jīng)多次試算，合理的拓撲結構為：水位預報模型(4-40-20-1)，流量預報模型(5-40-20-1).

圖3 水位預報模型中BP算法與BPPR算法映結果比較

網(wǎng)絡模型的初始權重在(-1，1)之間隨機產(chǎn)生，動量項系數(shù)α取0.9.初始學習率η0在基本BP算法中取0.001，在BPPR算法中取0.0005，初始學習率往往會因不同網(wǎng)絡模型而不同.BPPR算法的峰值誤差修正放大系數(shù)μ取2.0.水位模型的訓練停止條件為平均映射誤差l≤0.20m，流量模型的訓練停止條件為平均映射誤差q≤500m3/s.

2.2 計算成果 分別采取BP算法與BPPR算法進行網(wǎng)絡模型的訓練，兩種算法對于峰值水位(流量)的映射情況見圖3、圖4.以完成訓練的網(wǎng)絡模型對1999年的洪水情況進行測試預報，預報結果見圖5、圖6.

圖4 流量預報模型中BP算法與BPPR算法映射結果比較

2.3 成果分析 圖3、圖4反映了完成訓練的網(wǎng)絡模型對訓練樣本中洪峰水位與流量的映射情況，從圖中可以看到，BP算法對于洪水演進規(guī)律具有很高的映度，引入峰值識別理論的BPPR算法能夠進一步提高網(wǎng)絡對洪水峰值的映度，這種作用對于較高洪峰識別效果更為明顯.

圖5 1999年水位預報結果比較

圖6 1999年流量預報結果比較

圖5、圖6為網(wǎng)絡模型對1999年洪水主洪峰的預報情況.在水位預報模型中，BP算法對洪峰的預報誤差為0.13m(低于實測值)；BPPR算法的預報誤差為-0.05m(高于實測值).在流量預報模型中，BP算法對洪峰的預報誤差為291m3/s；BPPR算法的預報誤差為-83m3/s.

這里所采用的峰值誤差修正放大系數(shù)μ實質(zhì)上與樣本集中大值樣本所占的比例有關，大值樣本所占比例越小，μ的取值越大；反之，則小.在實際操作中，ξμ是作為一個參數(shù)進行權重調(diào)節(jié)計算的，所以μ的取值又受樣本集中最大值和最小值間比例關系的限制.

如果放大系數(shù)選取過大，網(wǎng)絡訓練容易失穩(wěn)，造成訓練誤差增大；反之，網(wǎng)絡權重的修改難以體現(xiàn)洪峰樣本的貢獻.具體取值由實際問題而定，在珠江流域的洪水預報模型中，放大系數(shù)的取值范圍為1.5～2.5.

從網(wǎng)絡模型的訓練識別和測試預報兩方面的研究成果來看，人工神經(jīng)網(wǎng)絡對于洪水演進規(guī)律的識別具有較高的精度，能夠模擬洪水的動態(tài)過程，其中，引入峰值識別理論的BPPR算法有利于提高模型對峰值的映射與預報精度，效果明顯.這些改進效果對于水文水資源預報中，可能效果并不十分顯著，但在防汛中，水位預報對防洪決策至關重要，往往十幾厘米的誤差，直接影響到防洪方案的決策.因此，峰值識別理論對基于BP算法的洪水預報模型來講，具有重要意義.

3 結束語

基于人工神經(jīng)網(wǎng)絡的洪水預報方法作為防洪減災領域一種新的研究途徑，將智能化思想引入到對洪水過程的計算模擬，更能反映洪水復雜非線性的動態(tài)演進規(guī)律.研究結果表明，人工神經(jīng)網(wǎng)絡算法能夠很好地映射洪水的演進規(guī)律，做到對洪水實時的監(jiān)測與預報，預報精度較高.

針對洪峰預報精度在防洪減災工作中的重要性，本文提出了基于峰值修正理論的BPPR算法，該算法能夠很大程度上提高峰值的訓練與預報精度，從而保證了洪水預報網(wǎng)絡對洪峰水位、流量預報結果的可靠性，具有很高的實際應用價值.這種峰值識別理論與算法還可以應用于潮汐預報、地震預報等峰值預報過程起主要作用的相關領域，具有一定的普適性.

第5篇：經(jīng)典神經(jīng)網(wǎng)絡算法范文

關鍵字：汽車電機故障方法

1.電機故障診斷的特點及實施電機故障診斷的意義

1.1電機故障診斷的特點

電機的功能是進行電能與機械能量的轉換，涉及因素很多，如電路系統(tǒng)、磁路系統(tǒng)、絕緣系統(tǒng)、機械系統(tǒng)、通風散熱系統(tǒng)等。哪一部分工作不良或其相互之間配合不好，都會導致電機出現(xiàn)故障。因此，電機故障要比其它設備的故障更復雜，其故障診斷所涉及到的技術范圍更廣，對診斷人員的要求也就更高。一般來說，電機故障診斷涉及到的知識領域主要有[20]：電機理論、電磁測量、信號處理、計算機技術、熱力學、絕緣技術、人工智能等。電機故障診斷的復雜性還表現(xiàn)在故障特征量的隱含性、故障起因與故障征兆之間的多元性。一種故障可能表現(xiàn)出多種征兆，有時不同故障起因也可能會反映出同一個故障征兆，這種情況下很難立即確定其真正的故障起因。另外，電機的運行還與其負載情況、環(huán)境因素等有關，電機在不同的狀態(tài)下運行，表現(xiàn)出的故障狀態(tài)各不相同，這進一步增加了電機故障診斷難度，所以要求對電機進行故障診斷首先必須掌握電機本身的結構原理、電磁關系和進行運行狀況分析的方法，即掌握電機各種故障征兆與故障起因間的關系的規(guī)律。

1.2實施電機故障診斷的意義

電機的驅動易受逆變器故障的影響，在交流電機驅動系統(tǒng)中，逆變器短路故障將會使電機產(chǎn)生有規(guī)律波動的或是恒定的饋電扭矩，使車輛突然減速。研究表明：逆變器出現(xiàn)故障時，永磁感應電機將產(chǎn)生較大的饋電扭矩，而且永磁電機也有存在潛在的高消磁電流的問題。而感應電機在逆變器出現(xiàn)故障時所產(chǎn)生有規(guī)律的饋電扭矩將由于有持續(xù)的負載而迅速衰減，這說明了感應電機具有較高的容錯能力，適應混合動力系統(tǒng)的要求。開關電機磁阻是最具有故障容錯能力的電機，而且當其有一個逆變器支路出現(xiàn)故障時電機仍能產(chǎn)生凈扭矩，另外，開關磁阻電機成本低，結構緊湊，但是開關磁阻電機有較大的噪聲和扭矩脈沖，而且需要位置檢測器，而這些缺點使得開關磁阻電機在現(xiàn)階段不適合應用于混合動力客車上。在混合動力客車動力系統(tǒng)中，電機是作為輔助動力的，而且電機屬于高速旋轉設備，如果電機出現(xiàn)故障，電機產(chǎn)生的瞬態(tài)扭矩將使車輛的穩(wěn)定性和動力性將受到影響，而且，電機由高壓電池組驅動，如果電機出現(xiàn)故障而不能及時容錯，電機產(chǎn)生的瞬態(tài)電流將使電池受到損害，因此在混合動力系統(tǒng)中對電機進行故障診斷是非常必要的。

2.電機的故障診斷方法及典型故障診斷分析

2.1電機故障的診斷方法

（1）傳統(tǒng)的電機故障診斷方法

在傳統(tǒng)的基于數(shù)學模型的診斷方法中，經(jīng)典的基于狀態(tài)估計或過程參數(shù)估計的方法被應用于電機故障檢測。圖1為用此類方法進行故障診斷的原理框圖。這種方法的優(yōu)點是能深入電機系統(tǒng)本質(zhì)的動態(tài)性質(zhì)，可實現(xiàn)實時診斷，而缺點是需建立精確的電機數(shù)學模型，選擇適當決策方法，因此，當電機系統(tǒng)模型不確定或非線性時，此類方法就難以實現(xiàn)了。

（3）基于模糊邏輯的電機故障診斷方法

圖3為基于模糊邏輯的電機故障診斷方法框圖，故障診斷部分是一個典型的模糊邏輯系統(tǒng)，主要包括模糊化單元、參考電機、底層模糊規(guī)則和解模糊單元。其中，模糊推理和底層模糊規(guī)則是模糊邏輯系統(tǒng)的核心，它具有模擬人的基于模糊概念的推理能力，該推理過程是基于模糊邏輯中的蘊涵關系及推理規(guī)則來進行的。模糊規(guī)則的制定有兩種基本方法：第一，啟發(fā)式途徑來源于實際電機操作者的語言化的經(jīng)驗。第二，是采用自組織策略從正常和故障電機測量獲得的信號進行模糊故障診斷的制定，將此方法通過計算機仿真實現(xiàn)，對電機故障有較好的識別能力。

（4）基于遺傳算法的電機故障診斷方法

遺傳算法是基于自然選擇和基因遺傳學原理的搜索算法，它的推算過程就是不斷接近最優(yōu)解的方法，因此它的特點在于并行計算與全局最優(yōu)。而且，與一般的優(yōu)化方法相比，遺傳算法只需較少的信息就可實現(xiàn)最優(yōu)化控制。由于一個模糊邏輯控制器所要確定的參變量很多，專家的經(jīng)驗只能起到指導作用，很難根據(jù)指導準確地定出各項參數(shù)，而反復試湊的過程就是一個尋優(yōu)的過程，遺傳算法可以應用于該尋優(yōu)過程，較有效地確定出模糊邏輯控制器的結構和數(shù)量。

遺傳算法應用于感應電機基于神經(jīng)網(wǎng)絡的故障診斷方法的框圖如圖4所示。設計神經(jīng)網(wǎng)絡的關鍵在于如何確定神經(jīng)網(wǎng)絡的結構及連接權系數(shù)，這就是一個優(yōu)化問題，其優(yōu)化的目標是使得所設計的神經(jīng)網(wǎng)絡具有盡可能好的函數(shù)估計及分類功能。具體地分，可以將遺傳算法應用于神經(jīng)網(wǎng)絡的設計和訓練兩個方面，分別構成設計遺傳算法和訓練遺傳算法。許多神經(jīng)網(wǎng)絡的設計細節(jié)，如隱層節(jié)點數(shù)、神經(jīng)元轉移函數(shù)等，都可由設計遺傳算法進行優(yōu)化，而神經(jīng)網(wǎng)絡的連接權重可由訓練遺傳算法優(yōu)化。這兩種遺傳算法的應用可使神經(jīng)網(wǎng)絡的結構和參數(shù)得以優(yōu)化，特別是用DSP來提高遺傳算法的速度，可使故障響應時間小于300μs，不僅單故障信號診斷準確率可達98%，還可用于雙故障信號的診斷，其準確率為66%。

近年來，電機故障診斷的智能方法在傳統(tǒng)方法的基礎上得到了飛速發(fā)展，新型的現(xiàn)代故障診斷技術不斷涌現(xiàn)：神經(jīng)網(wǎng)絡、模糊邏輯、模糊神經(jīng)網(wǎng)絡、遺傳算法等都在電機故障診斷領域得到成功應用。隨著現(xiàn)代工業(yè)的發(fā)展，自動化系統(tǒng)的規(guī)模越來越大，使其產(chǎn)生故障的可能性和復雜性劇增，僅靠一種理論或一種方法，無論是智能的還是經(jīng)典的，都很難實現(xiàn)復雜條件下電機故障完全、準確、及時地診斷，而多種方法綜合運用,既可是經(jīng)典方法與智能方法的結合，也可是兩種或多種智能方法的結合，兼顧了實時性和精確度,因此多種方法的有機融合、綜合運用這一趨勢將成為必然，也將成為電機故障在線診斷技術發(fā)展的主流方向。

參考文獻：

[1]陳清泉,詹宜君，21世紀的綠色交通工具——電動汽車[M]，北京:清華大學出版社,2001

第6篇：經(jīng)典神經(jīng)網(wǎng)絡算法范文

關鍵詞：溫度控制系統(tǒng)；研究；實現(xiàn)

國內(nèi)市場中的注塑機溫度控制系統(tǒng)大多采用比例積分微分（pid）控制和模糊控制。在塑料機械中，料桶的溫度控制非常關鍵，低于或者高于塑料的適宜熔融標準都會影響產(chǎn)品的最終成型質(zhì)量。由于產(chǎn)品成型過程復雜而且可影響因素多，如果可以做好料桶的溫控就可以對整個生產(chǎn)起到事半功倍的效果。但是這幾種控制方式都需要建立精確的數(shù)學模型，而注塑機溫度控制系統(tǒng)是一個大滯后、強耦合、非線性的時變系統(tǒng)，建立精確的數(shù)學模型是非常困難的，因此pid溫控系統(tǒng)的效果并不是很理想，鑒于這種情況，本文引入一個基于bp神經(jīng)網(wǎng)絡的溫度pid控制系統(tǒng)來改善注塑機溫度控制。神經(jīng)網(wǎng)絡具有表達任意非線性映射的能力，能夠對非線性系統(tǒng)進行建模。利用神經(jīng)網(wǎng)絡的這一特點建立動態(tài)模型，作為預測控制器的預測模型，可用于熱力過程的預測和控制，應用bp神經(jīng)網(wǎng)絡，通過學習和訓練逼近對象的真實模型。對溫度控制的各相關指標的相對權重確定。影響溫度變化各相關因素在輸入預測和評估模型時， 需要一組決定其相對重要性的初始權重，權重的確定需要基本的原則作支持。例如確定溫度的上限及下限，純加熱控制段的比例，不同位置的溫度控制段的默認pid參數(shù)等。目前本文使用的是基于經(jīng)驗的三層架構的bp神經(jīng)網(wǎng)絡架構，通過輸入層對采樣數(shù)據(jù)的輸入，隱含層的各種計算，并把計算結果通過輸出傳遞出去，這樣經(jīng)過在線指導后，可以滿足bpn-pids系統(tǒng)的算法的實現(xiàn)。其中各層的連接權值首先通過隨機賦值的方式進行，然后根據(jù)各指導案例的學習，得到健壯的權重值。

本文的主要工作是設計并實現(xiàn)了一個基于bp神經(jīng)網(wǎng)絡的溫度pid控制系統(tǒng)（bp neural network pid system簡稱為bpn-pids），其核心是 pid神經(jīng)網(wǎng)絡，如圖1-2 bpn-pids控制算法所示。本文主要參考了如下的相關技術：pid控制原理，bp神經(jīng)網(wǎng)絡（如圖1-1神經(jīng)網(wǎng)絡圖所示），matlab軟件，b/s軟件架構以及asp開發(fā)工具，xml數(shù)據(jù)庫存儲以及opc行業(yè)標準。對于具有多變量強耦合時變特性的溫度控制系統(tǒng)，本文所構建的pid神經(jīng)網(wǎng)絡可以通過在線學習建立科學的預測和評估指標體系及設計相應的模型計算方法與學習參數(shù)；同時，根據(jù)對象參數(shù)發(fā)生變化時對系統(tǒng)輸出性能的影響來調(diào)整連接權值，改變網(wǎng)絡中比例、積分和微分作用的強弱，使系統(tǒng)具備良好的動態(tài)和靜態(tài)性能，達到系統(tǒng)解耦和溫度控制的目的。本文結合不同塑料的具體實際特性， 對指標和模型體系進行了實證分析， 解決了普通pid控制系統(tǒng)的非確定性、非固定性元素。

bpn-pids系統(tǒng)已借助matlab軟件進行了仿真與實現(xiàn)。系統(tǒng)架構如圖1-3系統(tǒng)框架所示，包括服務器應用端程序，注塑機端相應的應用。

服務器應用端分為通訊模塊，控制功能模塊與數(shù)據(jù)庫服務，其中控制功能模塊為核心。

通訊模塊的作用為服務器應用端與注塑機端的通訊并傳遞相應數(shù)據(jù)。

控制功能模塊為核心模塊，通過對傳遞到的數(shù)據(jù)分析與運算，進行整個系統(tǒng)的控制。

數(shù)據(jù)庫服務則為控制功能模塊服務，它將數(shù)據(jù)存儲到數(shù)據(jù)庫中，需要的時候則可以提取出來。

注塑機端應用分為：上位機應用，下位機應用其中，上位機應用主要作用是采集下位機的數(shù)據(jù)，經(jīng)過處理后通過通訊模塊給應用程序控制模塊進行相應的分析，然后接受控制模塊的輸出指令，傳遞給下位機。

下位機的主要作用是通過a/d模塊采集料筒的實際溫度，然后傳遞給上位機。再接受上位機的控制指令，對料筒進行是否加熱的指令。

由于采用了c/s結構，本文中注塑機端最多可以接連255個客戶端。

i）總體結構

設bp神經(jīng)網(wǎng)絡是一個采用三層bp結構，它有m個輸入節(jié)點，其中，根據(jù)算法結構，m=3，q個隱含節(jié)點，3個輸出節(jié)點。輸入節(jié)點對應所選的系統(tǒng)運行狀態(tài)量，如系統(tǒng)不同時刻和輸入量和輸出等，必要時進行歸一化處理。輸出節(jié)點分別對應pid控制器的三個參數(shù)kp、ki、kd，由于這三個參數(shù)都不能為負，所以輸出層神經(jīng)元激活函數(shù)一定要取非負的sigmoid函數(shù)。此處根據(jù)經(jīng)驗，當q值過小，則算法有可能失敗，當q值過大，則算法速度太慢，同時占用資源過多，所以取q=5。

ii）學習算法請參看圖1-4 bp神經(jīng)網(wǎng)絡學習算法

（a）、確定bp網(wǎng)絡結構，即確定輸入層節(jié)點數(shù)m和隱含層

點數(shù)q，并給出各層的加權系數(shù)的初值，選定學習速率η和慣性系數(shù)α。初值隨機賦值，學習速率與慣性系數(shù)取習慣值，此時k=1。

（b）、采樣得r（k）和y（k），計算該時刻誤差e（k）=r（k）-y（k）

（c）、計算神經(jīng)網(wǎng)絡各層神經(jīng)元得輸入、輸出，nn得輸出即為pid控制器得三個可調(diào)參數(shù)kp、ki、kd。

（d）、根據(jù)增量式算法計算pid得輸出u（k）。

（e）、進行神經(jīng)網(wǎng)絡得學習，通過數(shù)據(jù)庫的存儲讀取，離線調(diào)整加權系數(shù)，實現(xiàn)pid控制器參數(shù)得自適應調(diào)整置，重復步驟（b）-（e）。

（f）、置k=k+1，返回到b步驟

在仿真中，比較常規(guī)pid與bpn-pids系統(tǒng)仿真。從中可以得知通過優(yōu)化和混合仿真?zhèn)鹘y(tǒng)pid控制器能夠獲得很好的系統(tǒng)性能，bpn-pids獲得了平滑的變換，但存在靜態(tài)誤差。當模型參數(shù)變化時，比較兩者的魯棒性，顯示了當時延增大時，傳統(tǒng)pid出現(xiàn)了振蕩。傳統(tǒng)pid控制在注塑機溫度控制系統(tǒng)中能達到較好的控制性能和控制精度。但是，當系統(tǒng)的參數(shù)發(fā)生變化時，常規(guī)pid的魯棒性就很差了。而神經(jīng)pid雖然存在靜態(tài)誤差，但仍然有很穩(wěn)定的平滑性。bpn-pids同樣也能獲得更為平滑的過渡過程，但是系統(tǒng)存在著靜態(tài)誤差。bpn-pids具有自學習和自調(diào)整的能力，當模型參數(shù)改變時，bpn-pids仍然有平滑的過渡過程，這就證明bpn-pids的魯棒性比傳統(tǒng)pid更強，適應能力更強。通過matlab實現(xiàn)了bpn-pids算法，解決了普通pid控制方法中的非確定性，非固定的問題，通過bp神經(jīng)網(wǎng)絡的在線自學習能力，為今后不同材料，不同模具的應用達到了良好，健壯的溫度控制。 從圖1-5信號跟蹤圖中可以看出：控制變量u變化規(guī)則，擾動較小，跟蹤曲線光滑，跟蹤誤差小，達到穩(wěn)定狀態(tài)后，誤差波動小。

圖1-6誤差曲線圖為系統(tǒng)的誤差曲線，可以看出，系統(tǒng)跟蹤誤差非常小大約在（0.008～-0.008 內(nèi)），跟蹤效果很理想。

圖1-7 pid參數(shù)變化圖反映了整個過程中參數(shù)kp，ki，kd 隨時間變化的情況，可以看出， kp，ki，kd 在不斷調(diào)整，從而使控制效果最佳。

本文以基于神經(jīng)網(wǎng)絡的解耦控制和pid控制作為研究的出發(fā)點，經(jīng)過查閱資料、理論研究以及實際測試，取得的研究結論可簡要的歸納如下：

（1）就基于神經(jīng)網(wǎng)絡的參數(shù)自適應pid控制算法進行了分析研究。利用神經(jīng)網(wǎng)絡所具有的任意性表達能力，通過對系統(tǒng)的學習來實現(xiàn)具有最佳組合的pid控制。避免了憑經(jīng)驗選取pid控制參數(shù)的不確定性，而且可以實現(xiàn)控制器參數(shù)的在線調(diào)整和整定。算法主要由兩個部分組成：

a.經(jīng)典的pid控制器，控制算法為經(jīng)典增量式。直接對被控對象進行閉環(huán)控制，而且三個參數(shù)為在線調(diào)整方式。

b.神經(jīng)網(wǎng)絡，根據(jù)系統(tǒng)的運行情況，根據(jù)學習算法，在線調(diào)整pid控制的參數(shù)使得給定性能指標最優(yōu)，輸出層神經(jīng)元的輸出狀態(tài)讀對應于pid控制器的三個可調(diào)參數(shù)。

（2）給出了一種基于神經(jīng)網(wǎng)絡的分散解耦算法bpn-pids算法。這種分散解耦算法從本質(zhì)上仍屬于串聯(lián)解耦的一種特殊情況，但他與串聯(lián)解耦又有所不同。

（3）將基于神經(jīng)網(wǎng)絡的參數(shù)自適應pid控制算法與分散解耦算法結合，并能過matlab軟件中實現(xiàn)了bpn-pids算法，并實現(xiàn)了在線的整定的算法，既避免了當單獨采用自適應pid算法時，如多變量被控對象耦合嚴重，則控制效果不佳的問題；又避免了當采用分散解耦算法時，如出現(xiàn)多變量被控對象模型參數(shù)發(fā)生變化，原有的控制器參數(shù)不能適應變化后的對性的問題。將該算法應用與料筒的溫度控制，結果表明可以取得較為滿意的控制效果。

本文工作對具有多變量強耦合時變特性的控制系統(tǒng)的設計與實現(xiàn)具有較好的參考價值。

參考文獻

[1]（美）martin t.hagan，等.神經(jīng)網(wǎng)絡設計[m].機械工業(yè)出版社，2002）9）.

第7篇：經(jīng)典神經(jīng)網(wǎng)絡算法范文

關鍵詞：人臉識別；奇異值分解；BP神經(jīng)網(wǎng)絡；粒子群優(yōu)化算法

分類號：TP391 文獻標識碼：A

Face Recognition Classifier based on PSO and Neural Network

DUAN Xiang-jun

( Nanjing College of Information Technology, Nanjing 210046, China )

Abstract: Because BP neural network for face recognition classifier has slow convergence and easy to fall into the local minimum, using particle swarm optimization (PSO) to improve the BP network training method, establishing an algorithm based on the improved PSO-BP neural network, which can more reasonable and effectively to determine the neural network connection weights and thresholds, applying this method to the classification of the face recognition system, and compared results with using the BP neural network classification only, experiment shows that the recognition speed is quicker and recognition result is better.

Key words: face recognition; singular value decomposition; BP neural network; particle swarm optimization

0引言

通常情況下，一個人臉自動識別系統(tǒng)包括以下三個主要技術環(huán)節(jié)：人臉檢測、人臉特征提取、人臉識別。人臉識別即將人臉特征提取結果與庫中人臉對比得出分類結果，即識別分類；分類器的選擇在人臉識別系統(tǒng)整個過程中起著成敗與否的關鍵作用。因此，要慎重選擇研究分類器的設計，確保具有優(yōu)秀的識別結果。

目前，應用較廣泛的人臉識別分類器主要有：最小距離分類器[1]、基于PCA的分類法[2]、支持向量機識別方法[3]、人工神經(jīng)網(wǎng)絡[4]等模式識別方法。由于人工神經(jīng)網(wǎng)絡具有較強的容錯能力、自適應學習能力以及并行信息處理結構、速度快等三大優(yōu)勢，在模式識別領域有廣泛的應用，而人工神經(jīng)網(wǎng)絡模型又以標準三層BP神經(jīng)網(wǎng)絡最為經(jīng)典。但由于傳統(tǒng)的BP算法是基于梯度下降法的，而梯度下降法通常具有收斂速度慢、易陷入局部極小等缺點而導致學習失敗，另外，BP網(wǎng)絡學習時間較慢，不適合大規(guī)模的網(wǎng)絡求解[5]。而粒子群算法（Particle Swarm Optimization, PSO）[6]源于對鳥群捕食行為的研究，系統(tǒng)初始化為一組隨機解，粒子在解空間追隨最優(yōu)的粒子進行搜索，通過迭代搜尋最優(yōu)值，所以用它來完成前期的搜索能較好的克服BP算法的缺點。

1 BP神經(jīng)網(wǎng)絡分類器

BP算法的基本思想是：BP神經(jīng)網(wǎng)絡的學習過程由信號的正向傳播與誤差的反向傳播兩部分組成。正向傳播時，輸入樣本從輸入層輸入，經(jīng)各隱含層逐層處理后，傳向輸出層。若輸出層的實際輸出與期望的輸出(教師信號)不符，則轉入誤差的反向傳播階段。誤差的反向傳播是將輸出誤差以某種形式通過輸出層向隱含層逐層反傳，并將誤差分攤給各層的所有單元，從而獲得各層單元的誤差信號，以此誤差信號來修正各單元權值。權值不斷調(diào)整的過程，也就是網(wǎng)絡的學習訓練過程。此過程一直進行到網(wǎng)絡輸出的誤差減少到可接受的程度，或進行到預先設定的學習次數(shù)為止。其用于人臉識別的結構模型圖如圖1所示。

2 粒子群算法原理

如果我們把一個優(yōu)化問題看作是在空中覓食的鳥群，那么在空中飛行的一只覓食的“鳥”就是PSO算法在解空間中進行搜索的一個“粒子”(Particle)，也是優(yōu)化問題的一個解，“食物”就是優(yōu)化問題的最優(yōu)解。粒子的概念是一個折衷的選擇，它只有位置和速度，沒有質(zhì)量和體積。

PSO算法中每個粒子就是解空間中的一個解，它根據(jù)自己的飛行經(jīng)驗和同伴的飛行經(jīng)驗來調(diào)整自己的飛行狀態(tài)。每個粒子在飛行過程中所經(jīng)歷過的最好位置，就是粒子本身找到的最優(yōu)解。整個群體所經(jīng)歷過的最好位置，就是整個群體目前找到的最優(yōu)解。前者叫做個體極值(pBest)，后者叫做全局極值(gBest)。每個粒子都通過上述兩個極值不斷更新自己，從而產(chǎn)生新一代群體。實際操作中通過由優(yōu)化問題所決定的適應度函數(shù)值(fitnessvalue)來評價粒子的“好壞”程度。很顯然，種群中每個粒子的行為都是：追隨著當前的最優(yōu)粒子，在解空間中進行搜索[7]。

第8篇：經(jīng)典神經(jīng)網(wǎng)絡算法范文

關鍵詞：Matlab；BP神經(jīng)網(wǎng)絡；預測

中圖分類號：TP183文獻標識碼：A文章編號：1009-3044(2008)19-30124-02

Based on Matlab BP Neural Network Application

YANG Bao-hua

(Institute of Information and Computer, Anhui Agricultural University, Hefei 230036, China)

Abstract: BP learning algorithm is a one-way transmission of multi-layer to the network, Matlab toolbox is based on the theory of artificial neural network, based on Matlab toolbox, with watermelon-heavy forecasts, BP neural network forecast the feasibility of re-watermelon is verified, and fast convergence, small error, should be promoted in the forecast crop growth.

Key words: Matlab; BP Neural Networks; Forecast

1 引言

人工神經(jīng)網(wǎng)絡是人工構造的模擬人腦功能而構建的一種網(wǎng)絡，BP神經(jīng)網(wǎng)絡是結構較簡單、應用最廣泛的一種模型，BP神經(jīng)網(wǎng)絡是Rumelhart等在1986年提出的。它是一種單向傳播的多層前向網(wǎng)絡，一般具有三層或三層以上的神經(jīng)網(wǎng)絡，包括輸入層、中間層（隱層）和輸出層[1]，其模型見圖1所示。

■

圖1 BP網(wǎng)絡模型

Matlab中的神經(jīng)網(wǎng)絡工具箱是以人工神經(jīng)網(wǎng)絡理論為基礎，利用Matlab語言構造出許多典型神經(jīng)網(wǎng)絡的傳遞函數(shù)、網(wǎng)絡權值修正規(guī)則和網(wǎng)絡訓練方法。網(wǎng)絡的設計者可根據(jù)自己的需要調(diào)用工具箱中有關神經(jīng)網(wǎng)絡的設計與訓練的程序，免去了繁瑣的編程過程。

紅籽瓜(Red-seed Watermelon)種子即瓜子富含有蛋白質(zhì)、脂肪、鈣、磷及多種維生素，含油率達55%左右，營養(yǎng)頗為豐富，經(jīng)過精細加工，味道鮮美，市場十分暢銷[4]。為了提高瓜子的產(chǎn)量，需要關注很多因素，這些因素的改變會影響瓜子的產(chǎn)量，所以確定哪些因素能預測產(chǎn)量，如何預測是本文研究的內(nèi)容。本文利用紅籽西瓜的測量數(shù)據(jù)，以單果重，種子數(shù)，千粒重，種子重作為輸入因子，仁重為輸出因子，選擇合適的隱層，構建影響紅籽西瓜種仁重量的BP網(wǎng)絡模型，運用Matlab軟件進行預測。

2 BP神經(jīng)網(wǎng)絡設計的基本方法

Matlab的NNbox提供了建立神經(jīng)網(wǎng)絡的專用函數(shù)newff()[5]。用newff函數(shù)來確定網(wǎng)絡層數(shù)、每層中的神經(jīng)元數(shù)和傳遞函數(shù)，其語法為：

net=newff(PR,[S1,S2,…,SN],{TF1,TF2,…,TFN},BTF,BLF,PF)

式中：PR表示由每個輸入向量的最大最小值構成的R×2矩陣；Si表示第i層網(wǎng)絡的神經(jīng)元個數(shù)；TF表示第i層網(wǎng)絡的傳遞函數(shù)，缺省為tansig，可選用的傳遞函數(shù)有tansig，logsig或purelin；BTF表示字符串變量，為網(wǎng)絡的訓練函數(shù)名，可在如下函數(shù)中選擇：traingd、traingdm、traingdx、trainbfg、trainlm等，缺省為trainlm；BLF表示字符串變量，為網(wǎng)絡的學習函數(shù)名，缺省為learngdm；BF表示字符串變量，為網(wǎng)絡的性能函數(shù)，缺省為均方差“mse”。

2.1 網(wǎng)絡層數(shù)

BP網(wǎng)絡可以包含不同的隱層，但理論上已經(jīng)證明，在不限制隱層節(jié)點數(shù)的情況下，兩層（只有一個隱層）的BP網(wǎng)絡可以實現(xiàn)任意非線性映射。

2.2 輸入層節(jié)點數(shù)

輸入層起緩沖存儲器的作用，它接受外部的輸入數(shù)據(jù)，因此其節(jié)點數(shù)取決于輸入矢量的維數(shù)。

2.3 輸出層節(jié)點數(shù)

輸出層節(jié)點數(shù)取決于兩個方面，輸出數(shù)據(jù)類型和表示該類型所需的數(shù)據(jù)大小。在設計輸人層和輸出層時，應該盡可能的減小系統(tǒng)規(guī)模，使系統(tǒng)的學習時間和復雜性減小。

2.4 隱層節(jié)點數(shù)

一個具有無限隱層節(jié)點的兩層BP網(wǎng)絡可以實現(xiàn)任意從輸入到輸出的非線性映射。但對于有限個輸入模式到輸出模式的映射，并不需要無限個隱層節(jié)點，這就涉及到如何選擇隱層節(jié)點數(shù)的問題，至今為止，尚未找到一個很好的解析式，隱層節(jié)點數(shù)往往根據(jù)前人設計所得的經(jīng)驗和自己進行試驗來確定。一般認為，隱層節(jié)點數(shù)與求解問題的要求、輸入輸出單元數(shù)多少都有直接的關系。另外，隱層節(jié)點數(shù)太多會導致學習時間過長；而隱層節(jié)點數(shù)太少，容錯性差，識別未經(jīng)學習的樣本能力低，所以必須綜合多方面的因素進行設計。

隱層節(jié)點數(shù)的初始值可先由以下兩個公式中的其中之一來確定[2,3]。

1=■+a (1)

或 1=■(2)

式中，m、n分別為輸入結點數(shù)目與輸出結點數(shù)目，a為1～10之間的常數(shù)。

2.5 數(shù)據(jù)歸一化

因為原始數(shù)據(jù)幅值大小不一，有時候還相差比較懸殊。如果直接投人使用，測量值大的波動就壟斷了神經(jīng)網(wǎng)絡的學習過程，使其不能反映小的測量值的變化。所以，在網(wǎng)絡訓練之前，輸人數(shù)據(jù)和目標矢量都要經(jīng)過歸一化處理。

根據(jù)公式可將數(shù)據(jù)“歸一化”，即限定在[0,1]區(qū)間內(nèi)。歸一化公式為：

■ (3)

也可以使用歸一化函數(shù)Premnmx，及反歸一化函數(shù)Postmnmx。

3 BP學習算法及實例

3.1 BP學習算法

1) 初始化網(wǎng)絡及學習參數(shù)；

2) 從訓練樣本集合中取一個樣本，并作為輸入向量送入網(wǎng)絡；

3) 正向傳播過程，對給定的輸入樣本，通過網(wǎng)絡計算得到輸出樣本，并把得到的輸出樣本與期望的樣本比較，如有誤差超出限定范圍，則執(zhí)行第4步；否則返回第2步，輸入下一個樣本；

4) 反向傳播過程，即從輸出層反向計算到第一隱層，修正各神經(jīng)元的連接權值，使用誤差減小。

3.2 實例

為了提高瓜籽產(chǎn)量，需要關注很多因素，濾去相關度過低的因子，根據(jù)經(jīng)驗確定輸入因子為單果重，種子數(shù)，千粒重，種子重，輸出因子為仁重?，F(xiàn)以表1所示的2000~2002年測量數(shù)據(jù)作為訓練樣本進行訓練，對2003年的數(shù)據(jù)進行預測。輸出層結點代表仁重量，神經(jīng)網(wǎng)絡的預測模型采用4-4-1，即輸入層4個神經(jīng)元，根據(jù)公式(2)計算隱層神經(jīng)元數(shù)確定為4，1個輸出神經(jīng)元。設定最大的迭代次數(shù)為500次，系統(tǒng)全局誤差小于0.001。傳遞函數(shù)為tansig，訓練函數(shù)為trainlm。

根據(jù)經(jīng)典的BP算法，采用Matlab編程，樣本訓練結果見圖2，2003的數(shù)據(jù)作為預測樣本，預測結果如下：

TRAINLM, Epoch 0/500, MSE 0.316381/0.001, Gradient 2.8461/1e-010

TRAINLM, Epoch 4/500, MSE 0.00056622/0.001, Gradient 0.0830661/1e-010

TRAINLM, Performance goal met.

SSE = 0.0102

y = 0.269 0.267 0.27 0.269 0.2679 0.2679

表1 紅籽西瓜數(shù)量性狀表

瓜籽仁重實際值為0.265，0.282，0.264，0.269，0.265，0.287，誤差為0.0102，當樣本較少時可以接受的誤差范圍內(nèi)。并且收斂速度快。

■

圖2訓練函數(shù)為trainlm的訓練結果

采用traingd函數(shù)進行訓練，則5000次仍未達到要求的目標誤差0.001，說明該函數(shù)訓練的收斂速度很慢。見圖3所示。所以訓練函數(shù)的選擇也非常關鍵。

■

圖3 訓練函數(shù)為traingd的訓練結果

4 結論

用Matlab編編寫的基于BP網(wǎng)絡的仁重預測程序，計算結果表明，誤差較小，預測值與實測值吻合較好，所建立的模型具有較好的實用性，說明單果重，種子數(shù)，千粒重，種子重的數(shù)據(jù)影響瓜子的產(chǎn)量，同時驗證BP算法可以用于瓜仁產(chǎn)量的預測。

目前所進行的預測試驗中數(shù)據(jù)的樣本較少，且生長動態(tài)變化，今后擬建立一個動態(tài)預測系統(tǒng)，為紅籽瓜品種培育、提高產(chǎn)量提供新的方法，值得在預測作物生長中推廣。

參考文獻：

[1] 飛思科技產(chǎn)品研發(fā)中心.神經(jīng)網(wǎng)絡理論與Matlab 7實現(xiàn)[M].北京：電子工業(yè)出版社.2006:100-105.

[2] 徐廬生.微機神經(jīng)網(wǎng)絡[M].北京：中國醫(yī)藥科技出版社,1995．

[3] 高大啟.有教師的線性基本函數(shù)前向三層神經(jīng)網(wǎng)絡結構研究[J].計算機學報,1998,21(1):80-85．

[4] 欽州農(nóng)業(yè)信息網(wǎng)：.

第9篇：經(jīng)典神經(jīng)網(wǎng)絡算法范文

關鍵詞：神經(jīng)網(wǎng)絡技術，ANNBP網(wǎng)絡算法

 

1、人工神經(jīng)網(wǎng)絡概述

人工神經(jīng)網(wǎng)絡是模擬生物神經(jīng)信息處理方法的新型計算機系統(tǒng)，它可以模擬人腦的一些基本特征，（如自適應性，自組織性和容錯性），是一個并行、分布處理結構,它由處理單元及其稱為聯(lián)接的無向信號通道互連而成。

人工神經(jīng)網(wǎng)絡力圖模仿生物神經(jīng)系統(tǒng)，通過接受外部輸入的刺激，不斷獲得并積累知識，進而具有一定的判斷預測能力。盡管神經(jīng)網(wǎng)絡模型的種類很多，但基本模式都是由大量簡單的計算單元（又稱為節(jié)點或神經(jīng)元）廣泛相互連接而構成的一種并行分布處理網(wǎng)絡。。基于神經(jīng)信息傳輸?shù)脑?，各個節(jié)點通過可變的權值彼此相連接，每個節(jié)點對N個加權的輸入求和，當求和值超過某個閾值時，節(jié)點呈“興奮”狀態(tài)，有信號輸出。節(jié)點的特征由其閾值、非線性函數(shù)的類型所決定，而整個神經(jīng)網(wǎng)絡則由網(wǎng)絡拓撲、節(jié)點特征以及對其進行訓練所使用的規(guī)則所決定。

2、多層前向網(wǎng)絡

神經(jīng)網(wǎng)絡按拓撲結構分為前饋型網(wǎng)絡和反饋型網(wǎng)絡。前饋型網(wǎng)絡在結構上采用的是其信息只能從前一層到它下面一層的單元，在網(wǎng)絡運算過程中不存在任何反饋。從學習觀點看，前饋網(wǎng)絡是一種強有力的學習系統(tǒng)，其結構簡單,易于編程；從系統(tǒng)觀點看，前饋網(wǎng)絡是非線性映射，通過簡單非線性處理單元的復合映射可獲得復雜的非線性處理能力，因此具有較強的分類能力和模式識別能力。

反向傳播（BP）網(wǎng)絡是典型的前饋型網(wǎng)絡，結構上它屬于多層前向網(wǎng)絡,它的結構如圖1所示。它分為輸入層、隱含層和輸出層，層與層之間多采用全互連方式，同一層之間不存在相互連接。網(wǎng)絡中每一層權值都可通過學習來調(diào)節(jié),且網(wǎng)絡的基本處理單元（輸入單元除外）為非線性輸入、輸出關系，處理單元的輸入、輸出值可連續(xù)變化。由于BP網(wǎng)絡可在多個連續(xù)的輸入和一個或多個連續(xù)的輸出之間建立非線性映射這一特性，它常被用于智能預測。

多層前向網(wǎng)絡是使用最廣泛的一種網(wǎng)絡結構，它可很好的解決XOR等經(jīng)典的非線性問題，比起單層的感知器有很大的優(yōu)越性，尤其80年代中期，Rumelhart和Mcclelland最先提出了多層前饋網(wǎng)絡的反向傳播學習算法，簡稱BP算法，它的效率很高，是目前應用最為普遍的訓練算法，這使得多層前饋網(wǎng)絡應用更加廣泛。應該指出，我們常說的BP網(wǎng)絡，嚴格說是基于BP算法的多層前向網(wǎng)絡。

圖 1 BP網(wǎng)絡結構圖

4、 BP網(wǎng)絡算法

BP網(wǎng)絡算法的思想是把一組樣本的I/O問題變?yōu)橐粋€非線性優(yōu)化問題，使用了優(yōu)化中最普通的梯度下降法,用迭代運算求解權對應于學習記憶問題，加入隱含層節(jié)點使優(yōu)化問題的可調(diào)參數(shù)增加，從而可得到更精確的解。BP網(wǎng)絡模型設計的最大特點是網(wǎng)絡權值是通過使用網(wǎng)絡模型輸出值與已知的樣本值之間的誤差平方和達到期望值而不斷調(diào)整出來的，并且確定BP神經(jīng)網(wǎng)絡評價模型時涉及隱含層節(jié)點數(shù)、轉移函數(shù)、學習參數(shù)和網(wǎng)絡模型的最后選定等問題。下面簡單介紹一下基本BP算法相關數(shù)學描述：

(1)梯度下降算法

(2)S(Sigmoid)型函數(shù)

BP網(wǎng)絡的激活函數(shù)經(jīng)常使用的是Sigmoid對數(shù)或正切激活函數(shù)和線性函數(shù)。對數(shù)S型函數(shù) f(x)=1/(1+exp(-x)), Sigmoid 函數(shù)具有非線性放大功能，它可以把輸入從負無窮大到正無窮大的信號，變換成-1到1之間的輸出，對較大的輸入信號，放大系數(shù)較小，而較小的輸入，放大系數(shù)較大，所以采用S型激活函數(shù)可以去逼近非線性的輸入/輸出關系。

(3)BP算法

BP網(wǎng)絡學習是典型的有導師學習，其學習算法是對簡單的學習規(guī)則的推廣和發(fā)展。BP網(wǎng)絡實現(xiàn)了多層網(wǎng)絡學習的設想，其學習過程包括正向傳播和反向傳播兩部分。。

在正向傳播過程中，給定網(wǎng)絡的一個輸入模式時，輸入信息從輸入層經(jīng)過隱含層逐層處理，并傳向輸出層，每一層神經(jīng)元的狀態(tài)只影響下一層神經(jīng)元的狀態(tài)，由輸出層單元產(chǎn)生一個輸出模式，這是一個逐層狀態(tài)更新過程，稱為前向傳播。。如果輸出響應與期望輸出的模式誤差值不滿足要求，那么就轉入誤差反向傳播，將誤差值沿連接通路逐層傳送并修正各層連接權值。對于給定的一組樣本，不斷用一個個訓練模式進行學習，重復前向傳播和誤差反向傳播過程，當各個訓練模式都滿足要求時，BP網(wǎng)絡訓練完畢。

其中的激發(fā)函數(shù)我們采用S型函數(shù)， 即f(x)=1/(1+exp(-x))。BP算法描述如下：

（2）提供訓練樣本：輸入矢量Xk ,k=1,2,..n 和期望輸出tk, k=1,2,…,m；對每個輸入樣本進行（3）到（5）的迭代。

（3）計算網(wǎng)絡的實際輸出okj 。

（4）分別計算輸出層和隱含層的訓練誤差

其中(4-2)為輸出層的誤差值, (4-3)為隱含層的誤差值。

（5）修正權值和閾值

（6）判斷實際誤差指標是否滿足規(guī)定誤差的要求,滿足則到(7)。

（7）結束 。

BP算法是人工神經(jīng)網(wǎng)絡中最為重要的網(wǎng)絡之一, 也是迄今為止應用最為廣泛的網(wǎng)絡算法, 實踐證明這種基于誤差反傳遞算法可以解決許多實際問題, 但其算法自身也存在著局部極小點、算法的收斂速度慢等缺陷，需要我們在今后的研究中不斷完善改進。