公務(wù)員期刊網(wǎng) 精選范文 神經(jīng)網(wǎng)絡(luò)方法范文

神經(jīng)網(wǎng)絡(luò)方法精選(九篇)

前言:一篇好文章的誕生,需要你不斷地搜集資料、整理思路,本站小編為你收集了豐富的神經(jīng)網(wǎng)絡(luò)方法主題范文,僅供參考,歡迎閱讀并收藏。

神經(jīng)網(wǎng)絡(luò)方法

第1篇:神經(jīng)網(wǎng)絡(luò)方法范文

關(guān)鍵詞:基本概況;電力電量預(yù)測(cè);神經(jīng)網(wǎng)絡(luò);BP神經(jīng)網(wǎng)絡(luò)模型

一.神經(jīng)網(wǎng)絡(luò)和電力電量預(yù)測(cè)的基本概況

1.神經(jīng)網(wǎng)絡(luò)。神經(jīng)網(wǎng)絡(luò)的基礎(chǔ)在于神經(jīng)元,神經(jīng)元是以生物神經(jīng)系統(tǒng)的神經(jīng)細(xì)胞為基礎(chǔ)的生物模型。在人們對(duì)生物神經(jīng)系統(tǒng)進(jìn)行研究,以探討人工智能的機(jī)制時(shí),把神經(jīng)元數(shù)學(xué)化,從而產(chǎn)生神經(jīng)元數(shù)學(xué)模型。大量的形式相同的神經(jīng)元連結(jié)在一起就組成了神經(jīng)網(wǎng)絡(luò),神經(jīng)網(wǎng)絡(luò)是一個(gè)高度非線性動(dòng)力學(xué)系統(tǒng)。神經(jīng)網(wǎng)絡(luò)主要有以下四個(gè)特征:

(1)非線性。非線性關(guān)系是自然的普片特性,大腦的智慧就是一種非線性現(xiàn)象。人工神經(jīng)元處于激活或抑制兩種不同的狀態(tài),這種行為在數(shù)學(xué)上表現(xiàn)為一種非線性關(guān)系。

(2)非局限性。一個(gè)神經(jīng)網(wǎng)絡(luò)通常由多個(gè)神經(jīng)元廣泛連接而成的,一個(gè)系統(tǒng)的整體行為不僅取決于單個(gè)神經(jīng)元的特征,而且可能主要由單元之間的相互作用、相互連接所決定的,通過單元之間的大量連接模擬大腦的非局限性。

(3)非常定性。人工神經(jīng)網(wǎng)絡(luò)具有自適應(yīng)、自組織、自學(xué)習(xí)能力。神經(jīng)網(wǎng)絡(luò)不但處理的信息可以有各種變化,而且在處理信息的同時(shí),非線性動(dòng)力系統(tǒng)本身也在不斷變化。

(4)非凸性。一個(gè)系統(tǒng)的演化方向,在一定條件下將取決于某個(gè)特定的狀態(tài)函數(shù)。非凸性是指這種函數(shù)有多個(gè)極值,故系統(tǒng)具有多個(gè)較穩(wěn)定的平衡態(tài)。

2.電力電量預(yù)測(cè)。電力電量預(yù)測(cè)是電力系統(tǒng)規(guī)劃的重要組成部分,也是電力系統(tǒng)經(jīng)濟(jì)運(yùn)行的基礎(chǔ),其對(duì)電力系統(tǒng)規(guī)劃和運(yùn)行都極其重要。電力電量預(yù)測(cè)的含義有:(1)指按照在國家機(jī)關(guān)、企業(yè)、居民等用戶處的各種用電設(shè)備。(2)指描述上述用電設(shè)備所消耗的數(shù)值。電力電量預(yù)測(cè)包括了對(duì)未來電力需求量(功率)的預(yù)測(cè)和對(duì)未來用電量(能量)的預(yù)測(cè)以及對(duì)負(fù)荷曲線的預(yù)測(cè)。電力電量預(yù)測(cè)的工作主要是為了電力系統(tǒng)規(guī)劃和運(yùn)行提供可靠的決策依據(jù)。

二.神經(jīng)網(wǎng)絡(luò)模型中的BP神經(jīng)網(wǎng)絡(luò)模型

BP(Back Propagation)網(wǎng)絡(luò)是一種按誤差逆?zhèn)鞑ニ惴ㄓ?xùn)練的多層前饋網(wǎng)絡(luò),是目前,應(yīng)用最為廣泛的神經(jīng)網(wǎng)絡(luò)模型之一。BP網(wǎng)絡(luò)能學(xué)習(xí)和存貯大量的輸入/輸出模式映射關(guān)系,而不需要事情揭示描述這種映射關(guān)系的數(shù)學(xué)方程。它的學(xué)習(xí)規(guī)則是使用最速下降法,通過方向傳播來不斷調(diào)整網(wǎng)絡(luò)的權(quán)值和閾值,使網(wǎng)絡(luò)的誤差平方和最小。BP神經(jīng)網(wǎng)絡(luò)模型拓?fù)浣Y(jié)構(gòu)包括輸入層、隱層、輸出層。

BP神經(jīng)網(wǎng)絡(luò)模型的分類:

1.節(jié)點(diǎn)輸出模型。節(jié)點(diǎn)輸出模型又可以分為:

(1)隱節(jié)點(diǎn)輸出模型:οj=f(∑Wij×Xi-qj) (1)

(2)輸出節(jié)點(diǎn)輸出模型:Yk=f(∑Tjk×οj-qk)(2)

(3)f-非線形作用函數(shù);q -神經(jīng)單元閾值

2.作用函數(shù)模型。作用函數(shù)是反映下層輸入對(duì)上層節(jié)點(diǎn)刺激脈沖強(qiáng)度的函數(shù)又稱刺激函數(shù),一般取為(0,1)內(nèi)連續(xù)取值Sigmoid函數(shù):f(x)=1/(1+e)(3)

3.誤差計(jì)算模型。誤差計(jì)算模型是反映神經(jīng)網(wǎng)絡(luò)期望輸出與計(jì)算輸出之間誤差大小的函數(shù):Ep=1/2×∑(tpi-pi) (4)

Tpi- i節(jié)點(diǎn)的期望輸出值;pi- i節(jié)點(diǎn)計(jì)算輸出值。

4.自學(xué)習(xí)模型。神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)過程,即連接下層節(jié)點(diǎn)和上層節(jié)點(diǎn)之間的權(quán)重矩陣Wij的設(shè)定和誤差修正過程。自學(xué)習(xí)模型為:Wij(n+1)= h×Ф i×j + a×Wij(n) (5)

在這個(gè)式子中H為學(xué)習(xí)因子,Ф i為輸出節(jié)點(diǎn)i的計(jì)算誤差,j為輸出節(jié)點(diǎn)j的計(jì)算輸出,a為動(dòng)力因子。

三.電力電量預(yù)測(cè)的神經(jīng)網(wǎng)絡(luò)方法

1.電力電量預(yù)測(cè)的神經(jīng)網(wǎng)絡(luò)方法中數(shù)據(jù)的標(biāo)準(zhǔn)化。上面我們說了下層輸入對(duì)上層節(jié)點(diǎn)刺激脈沖強(qiáng)度的函數(shù)又稱刺激函數(shù),一般取為(0,1),因此,要想把數(shù)據(jù)標(biāo)準(zhǔn)化,就要把相同的因子的取值分為最大值、中間值、最小值,其中因子的最大值要定為1,因子的中間值應(yīng)用公式X標(biāo)準(zhǔn)=X-X min/X max-X min,進(jìn)行因子中間值的計(jì)算,最后因子的最小值要定為為0,當(dāng)把這些數(shù)據(jù)進(jìn)行標(biāo)準(zhǔn)化后,要列一表格,在表格中要清楚的寫好需要被電力電量預(yù)測(cè)的項(xiàng)目的時(shí)間和標(biāo)準(zhǔn)化值,這樣才能保證神經(jīng)網(wǎng)絡(luò)方法在電力電量預(yù)測(cè)中得出的結(jié)論是準(zhǔn)確的。

2.電力電量預(yù)測(cè)的神經(jīng)網(wǎng)絡(luò)方法中的網(wǎng)絡(luò)訓(xùn)練。由于電力電量預(yù)測(cè)的內(nèi)容不是非簡(jiǎn)單的線性關(guān)系,而且關(guān)系非常的復(fù)雜,因此在進(jìn)行電力電力預(yù)測(cè)時(shí),需要對(duì)其進(jìn)行輸入、輸出的分類,例如:在全年的電力電量預(yù)測(cè)時(shí),需將前六個(gè)月中所用的電量作為六個(gè)電力電量預(yù)測(cè)的輸入,然后把第七個(gè)月所用的電量作為電力電量預(yù)測(cè)的輸出,以此類推。

3.電力電量預(yù)測(cè)的神經(jīng)網(wǎng)絡(luò)方法中的預(yù)測(cè)結(jié)果以及結(jié)果的分析。當(dāng)上面第2點(diǎn)有效的完成后,就可以以網(wǎng)絡(luò)訓(xùn)練的結(jié)果為根據(jù),對(duì)BP神經(jīng)網(wǎng)絡(luò)模型再進(jìn)行600次的訓(xùn)練,當(dāng)標(biāo)準(zhǔn)值的誤差達(dá)到1e-5的時(shí)候,就可以對(duì)電力電量預(yù)測(cè)出來的結(jié)果進(jìn)行分析,并將這個(gè)分析出來的結(jié)果描述為表格,這個(gè)表格的內(nèi)容為時(shí)間、實(shí)際用電量、神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)值,以及相對(duì)誤差,有了這個(gè)表格就可以很清楚、明了的知道有神經(jīng)網(wǎng)絡(luò)的方法所預(yù)測(cè)出來的電力電量,而且還可以清楚的知道由神經(jīng)網(wǎng)絡(luò)方法所預(yù)測(cè)出來的電力電量和實(shí)際產(chǎn)生的電力電量的之間的相對(duì)誤差值是非常的低,由此,可以知道神經(jīng)網(wǎng)絡(luò)方法是非常精準(zhǔn)的,它對(duì)電力電量的預(yù)測(cè)值的精準(zhǔn)度已經(jīng)成熟的達(dá)到了99%左右。

4.電力電量預(yù)測(cè)中的神經(jīng)網(wǎng)絡(luò)方法中出現(xiàn)誤差的原因。(1)實(shí)際數(shù)據(jù)統(tǒng)計(jì)出現(xiàn)誤差。對(duì)于實(shí)際電力電量數(shù)據(jù)的統(tǒng)計(jì)也有可能出現(xiàn)誤差,這也就會(huì)導(dǎo)致電力電力預(yù)測(cè)中神經(jīng)網(wǎng)絡(luò)方法中出現(xiàn)誤差。(2)神經(jīng)網(wǎng)絡(luò)方法中樣本不斷的增多。隨著我國科學(xué)技術(shù)的不斷進(jìn)步,我國神經(jīng)網(wǎng)絡(luò)方法中網(wǎng)絡(luò)訓(xùn)練的方法也在不斷的進(jìn)步,網(wǎng)絡(luò)訓(xùn)練的樣本也就越來越多。然而,隨著這個(gè)神經(jīng)網(wǎng)絡(luò)方法中網(wǎng)絡(luò)訓(xùn)練的樣本越來越多,電力電量的預(yù)測(cè)也就會(huì)存在一些誤差,雖然會(huì)存在誤差,但是也導(dǎo)致了神經(jīng)網(wǎng)絡(luò)方法的技術(shù)越來越高,那么,預(yù)測(cè)的精準(zhǔn)度度也就會(huì)越來越高。

四.總結(jié)

綜上所述,由于,神經(jīng)網(wǎng)絡(luò)方法的技術(shù)越來越高,對(duì)電力電量的預(yù)測(cè)結(jié)果也越來越精準(zhǔn),因此,有效的將神經(jīng)網(wǎng)絡(luò)的方法應(yīng)用在電力電量的預(yù)測(cè)中,可以有效的為電力電量的預(yù)測(cè)帶來更精準(zhǔn)的電力電量預(yù)測(cè)值。

參考文獻(xiàn):

[1]張,吳知非,禹建麗.電力電量預(yù)測(cè)的神經(jīng)網(wǎng)絡(luò)方法[J].統(tǒng)計(jì)與決策,2008,(4).

[2]萬星,周建中.改進(jìn)灰色神經(jīng)網(wǎng)絡(luò)模型在電量預(yù)測(cè)中的應(yīng)用[J].水力發(fā)電,2007,33,(6).

[3]張,吳知非.電力電量預(yù)測(cè)的神經(jīng)網(wǎng)絡(luò)方法[J].電腦知識(shí)與技術(shù)(學(xué)術(shù)交流),2007,4,(20).

[4]俞達(dá),綦方中.基于灰色神經(jīng)網(wǎng)絡(luò)的公路物流需求量預(yù)測(cè)模型[J].軟科學(xué),2009,(11).

第2篇:神經(jīng)網(wǎng)絡(luò)方法范文

關(guān)鍵詞:神經(jīng)網(wǎng)絡(luò) 直方圖 圖像增強(qiáng)

1.引言

灰度級(jí)是決定一幅數(shù)字圖像特征的重要參數(shù)之一。在數(shù)字圖像處理過程中,可以對(duì)圖像的灰度級(jí)進(jìn)行取樣量化分析。如果將圖像中像素亮度(灰度級(jí)別)看成是一個(gè)隨機(jī)變量, 則其分布情況就反映了圖像的統(tǒng)計(jì)特性,這可用Probability Density Function (PDF)來刻畫和描述,表現(xiàn)為灰度直方圖(Histogram)?;叶戎狈綀D是灰度級(jí)的函數(shù),它表示圖像中具有某種灰度級(jí)的像素的個(gè)數(shù),反映了圖像中每種灰度出現(xiàn)的頻率, 如下圖所示。灰度直方圖的橫坐標(biāo)是灰度級(jí),縱坐標(biāo)是該灰度級(jí)出現(xiàn)的頻度,它是圖像最基本的統(tǒng)計(jì)特征通過對(duì)直方圖的離散化和均衡化處理,可以有效地運(yùn)用于圖像的空間域增強(qiáng)。為圖像的后期處理作好準(zhǔn)備。神經(jīng)網(wǎng)絡(luò)在圖像處理領(lǐng)域中應(yīng)用十分廣泛,因?yàn)槠淇梢杂行нm應(yīng)圖像的非線性特點(diǎn),并具有自組織、自學(xué)習(xí)和并行計(jì)算等優(yōu)勢(shì),因此本文希望在傳統(tǒng)直方圖處理過程中,采用神經(jīng)網(wǎng)絡(luò)的方法對(duì)其進(jìn)行檢驗(yàn)和調(diào)試。

2.直方圖處理

設(shè)r代表圖像中像素灰度級(jí),作歸一化處理后,r將被限定在[0, 1]之內(nèi)。在灰度級(jí)中,r=0代表黑,r=1代表白。對(duì)于一幅給定的圖像來說,每一個(gè)像素取得[0, 1]區(qū)間內(nèi)的灰度級(jí)是隨機(jī)的,也就是說r是一個(gè)隨機(jī)變量。假定對(duì)每一瞬間,它們是連續(xù)的隨機(jī)變量,那么就可以用概率密度函數(shù)pr(r)來表示原始圖像的灰度分布。如果用直角坐標(biāo)系的橫軸代表灰度級(jí)r,用縱軸代表灰度級(jí)的概率密度函數(shù)pr(r),這樣就可以針對(duì)一幅圖像在這個(gè)坐標(biāo)系中作出一條曲線來。這條曲線在概率論中就是概率密度曲線。

但是曲線是關(guān)于r的連續(xù)型函數(shù)圖像,對(duì)于離散化后的數(shù)據(jù),我們要處理的應(yīng)該是概率的和,而不是概率密度積分?;叶戎狈綀D的計(jì)算非常簡(jiǎn)單,依據(jù)定義,在離散形式下,灰度級(jí)為[0,L-1]范圍的數(shù)字圖像直方圖是離散函數(shù)h(rk)=nk,rk是第k 級(jí)灰度,nk是圖像中灰度級(jí)為rk的像素?cái)?shù),經(jīng)常以圖像中的像素的總數(shù)(用n表示)除于它的每一個(gè)值得到歸一化的直方圖:因此一個(gè)歸一化的直方圖由 表示。k=1,2,…,L-1所以 表示的是灰度級(jí)為rk發(fā)生的概率估計(jì)值。

3.直方圖均衡

直方圖均衡化處理是以累積分布函數(shù)變換法為基礎(chǔ)的直方圖修正法。用累積分布函數(shù)原理求變換函數(shù)的表達(dá)式如下:

按照這樣的關(guān)系變換,就可以得到一幅改善質(zhì)量的新圖像。這幅圖像的灰度層次將不再是呈現(xiàn)較暗色調(diào)的圖像,而是一幅灰度層次較為適中, 比原始圖像清晰, 明快得多的圖像??梢宰C明,變換后的灰度及概率密度是均勻分布的。

上述方法是以連續(xù)隨機(jī)變量為基礎(chǔ)進(jìn)行討論的。當(dāng)灰度級(jí)是離散值時(shí),可用頻數(shù)近似代替概率值,即

其反變換式為

4. BP神經(jīng)網(wǎng)絡(luò)

下圖是一個(gè)單輸出的感知器,實(shí)質(zhì)是一個(gè)典型的人工神經(jīng)元。

單輸出的感知器(M-P模型)

BP神經(jīng)網(wǎng)絡(luò)的訓(xùn)練過程是根據(jù)樣本集對(duì)神經(jīng)元之間的聯(lián)接權(quán)進(jìn)行調(diào)整的過程。樣本集有形如:

(輸入向量,輸出向量)

的向量對(duì)構(gòu)成。在開始訓(xùn)練前,用一些不同的小隨機(jī)數(shù)對(duì)聯(lián)接權(quán)進(jìn)行初始化。然后可以開始訓(xùn)練,BP算法簡(jiǎn)單分為4步。

4.1向前傳播階段

(1) 從樣本集中取一個(gè)樣本(T(rp),sp),將 T(rp)輸入網(wǎng)絡(luò);(2)計(jì)算相應(yīng)的實(shí)際輸出op

在此階段,信息從輸入層逐層傳輸,直到輸出層。網(wǎng)絡(luò)執(zhí)行以下算法

4.2 向后傳播階段

(1)計(jì)算實(shí)際輸出op與相應(yīng)的理想輸出sp的差;(2)按極小化誤差的方式調(diào)整權(quán)矩陣。這兩個(gè)階段要受到精度要求的控制,在此,取作為網(wǎng)絡(luò)關(guān)于第p個(gè)樣本的誤差測(cè)度。而將整個(gè)樣本集的誤差測(cè)度定義為 過程2對(duì)應(yīng)于輸入信號(hào)的正常傳播而言。在第一次調(diào)整聯(lián)接權(quán)時(shí)只能 求出輸出層的誤差,其他層的誤差要通過第一次的誤差反向逐層后推得到。

上文提到的精度根據(jù)具體實(shí)踐得出。需要注意的是在對(duì)一個(gè)樣本進(jìn)行訓(xùn)練結(jié)束后,還要對(duì)其他樣本全部考察一遍。然后再重復(fù)以上過程,直到網(wǎng)絡(luò)滿足各個(gè)樣本的要求。即 。在網(wǎng)絡(luò)的訓(xùn)練過程中,以 作為網(wǎng)絡(luò)的激活函數(shù)。

對(duì)以下像素集

經(jīng)直方圖均衡化后的Lena圖像及直方圖

5.結(jié)論

通過調(diào)整權(quán)值的神經(jīng)網(wǎng)絡(luò)方法得到的數(shù)據(jù)能夠同傳統(tǒng)方法相對(duì)應(yīng)??梢宰鳛橹狈綀D均衡化的一種補(bǔ)充。經(jīng)變換后得到的新直方圖雖然不很平坦,但畢竟比原始圖像的直方圖平坦的多, 而且其動(dòng)態(tài)范圍也大大地?cái)U(kuò)展了。因此,這種方法對(duì)于對(duì)比度較弱的圖像進(jìn)行處理是很有效的。從上例可以看出,變換后的灰度級(jí)減少了,這種現(xiàn)象叫做“簡(jiǎn)并”現(xiàn)象。由于簡(jiǎn)并現(xiàn)象的存在,處理后的灰度級(jí)總是要減少的,這是像素灰度有限的必然結(jié)果。

參考文獻(xiàn):

[1]許鋒,盧建剛,孫優(yōu)賢.神經(jīng)網(wǎng)絡(luò)在圖像處理中的應(yīng)用[J].信息與控制,2003,32(4):344~350

[2]Rafael C,Gonzalez,Richard E.Wodds著.阮秋琦,阮宇智等譯.Digital Image Processing.Second Edition[M].北京:電子工業(yè)出版社,2004:176~215

[3]Zhou Y T,Chellappa R,Jenkins B K.Image res―toration using a neural network[J].IEEE Trans AcoustSpeech Signal Processing,1988,36(7):1141~ 1151

第3篇:神經(jīng)網(wǎng)絡(luò)方法范文

關(guān)鍵字:BP神經(jīng)網(wǎng)絡(luò); 數(shù)據(jù)庫; 查詢;準(zhǔn)確度

中圖分類號(hào):TP393 文獻(xiàn)標(biāo)識(shí)碼:A 文章編號(hào):1009-3044(2017)04-0001-03

神經(jīng)網(wǎng)絡(luò)系統(tǒng)是根據(jù)人體神經(jīng)系統(tǒng)的基本原理構(gòu)建的,其在一定程度上實(shí)現(xiàn)了記憶和訓(xùn)練過程[1-2]。此項(xiàng)功能體現(xiàn)了神經(jīng)網(wǎng)絡(luò)與傳統(tǒng)計(jì)算機(jī)算法存在的根本差異,其具備在線學(xué)習(xí)、自調(diào)節(jié)以及自適應(yīng)性,同時(shí)具備信息的分布式信息存儲(chǔ)特性。正是由于神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)特性,使其在聯(lián)想記憶、數(shù)據(jù)非線性映射、在線學(xué)習(xí)模型構(gòu)建、數(shù)據(jù)信息分類與識(shí)別等領(lǐng)域具有了廣泛的應(yīng)用空間。

在云數(shù)據(jù)應(yīng)用時(shí)代,存儲(chǔ)系統(tǒng)的應(yīng)用領(lǐng)域及使用者的范圍不斷擴(kuò)大[6],用戶呈指數(shù)倍的增長(zhǎng)使得數(shù)據(jù)的存儲(chǔ)容量不斷增長(zhǎng),用戶訪問數(shù)據(jù)庫的頻繁程度也將持續(xù)增加,這對(duì)存儲(chǔ)系統(tǒng)數(shù)據(jù)庫訪問的吞吐量性能提出了更高的要求,也對(duì)數(shù)據(jù)查詢的效率得出了更加嚴(yán)格的標(biāo)準(zhǔn)。

本文提出的基于神經(jīng)網(wǎng)絡(luò)的數(shù)據(jù)庫優(yōu)化查詢方法主要通過對(duì)云存儲(chǔ)數(shù)據(jù)的關(guān)鍵詞進(jìn)行相似度對(duì)比,利用神經(jīng)網(wǎng)絡(luò)算法對(duì)查詢數(shù)據(jù)樣本進(jìn)行記憶訓(xùn)練,通過對(duì)查詢關(guān)鍵字進(jìn)行數(shù)據(jù)匹配,最終實(shí)現(xiàn)數(shù)據(jù)的準(zhǔn)確查詢。為了測(cè)試本文設(shè)計(jì)的基于神經(jīng)網(wǎng)絡(luò)的數(shù)據(jù)庫優(yōu)化查詢方法的可行性及準(zhǔn)確性能,作者在完成了模型構(gòu)建后,Matlab軟件中構(gòu)建實(shí)驗(yàn)場(chǎng)景,模擬數(shù)據(jù)庫檢索過程,完成了對(duì)查詢方法進(jìn)行測(cè)試驗(yàn)證。

1 神經(jīng)網(wǎng)絡(luò)模型的建立

1.1 BP神經(jīng)網(wǎng)絡(luò)處理單元模型

為了不失一般性,選取BP神經(jīng)網(wǎng)絡(luò)的任意兩層介紹其處理單元的數(shù)學(xué)模型。BP神經(jīng)網(wǎng)絡(luò)處理單元的結(jié)果如圖1所示,其中,L1層的[n]個(gè)神經(jīng)元和L2層的[p]個(gè)神經(jīng)元進(jìn)行全連接,定義連接權(quán)向量為[W={wij},i=1,2,…,n,j=1,2,…,p];L1層的[n]個(gè)神經(jīng)元的輸出作為L(zhǎng)2層各神經(jīng)元的輸入列向量[X=(x1,…,xi,…,xn)T],L2層各個(gè)神經(jīng)元的閾值設(shè)置為[θj,j=1,2,…,p],因此,L2層各神經(jīng)元接收的輸入加權(quán)和如下式所示[3-4]:

L2層各神經(jīng)元的輸出結(jié)果利用轉(zhuǎn)移函數(shù)進(jìn)行計(jì)算。一般情況下,BP神經(jīng)網(wǎng)絡(luò)將Sigmoid函數(shù)作為轉(zhuǎn)移函數(shù)。Sigmoid函數(shù)的數(shù)學(xué)表達(dá)式為:

因此,L2層各個(gè)處理單元的輸出為:

由于Sigmoid函數(shù)的輸出類似于本文設(shè)計(jì)的神經(jīng)網(wǎng)絡(luò)的信號(hào)輸出形式,本文設(shè)計(jì)的模型采用Sigmoid函數(shù)作為系統(tǒng)的轉(zhuǎn)移函數(shù),其能蜃既訪枋鍪據(jù)檢索過程中的非線性特性水平[5-6]。

1.2 BP神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法

本文的無線通信選擇機(jī)制采用三層BP神經(jīng)網(wǎng)絡(luò)結(jié)果,具體學(xué)習(xí)算法如下所述:

輸入模式向量設(shè)為[Xk=(x1k,…,xik,…,xnk)T],[k=1,2,…,m],其中[m]表示樣本模式對(duì)個(gè)數(shù),[n]表示輸入層神經(jīng)元數(shù)量;輸入模式對(duì)應(yīng)的期望輸出向量為[Yk=(y1k,…,yik,…,yqk)T],隱含層神經(jīng)元的凈輸入向量設(shè)置為[Sk=(s1k,…,sik,…,spk)T],輸出向量設(shè)置為[Bk=(b1k,…,bik,…,bpk)T],[q]表示輸出層單元數(shù)量,[p]表示隱含層單元個(gè)數(shù);輸出層神經(jīng)元凈輸入向量設(shè)置為[Lk=(l1k,…,lik,…,lqk)T],實(shí)際輸出向量設(shè)置為[Ck=(c1k,…,cik,…,cqk)T];輸入層神經(jīng)元至隱含層神經(jīng)元的連接權(quán)值設(shè)置為[W={wij}],其中,[i=1,2,…,n,j=1,2,…,p]隱含層至輸出層的連接權(quán)值設(shè)置為[V={vjt}],隱含層神經(jīng)元的閾值設(shè)置為[θ={θj},j=1,2,…,p],輸出層各神經(jīng)元的閾值設(shè)置為[γ={γt},t=1,2,…,q]。

(1)初始化操作。將連接權(quán)值矩陣[W]、[V]及閾值[θ]、[γ]在[[-1,+1]]區(qū)間內(nèi)進(jìn)行隨機(jī)取值。

(2)隨機(jī)從訓(xùn)練集合中選取一個(gè)學(xué)習(xí)模式對(duì)[(Xk,Yk)]作為BP神經(jīng)網(wǎng)絡(luò)的輸入。

(3)輸入層的輸出的計(jì)算。輸入層的各神經(jīng)元不對(duì)輸入模式進(jìn)行任何處理,而是直接將接收到的數(shù)據(jù)關(guān)鍵詞直接輸出到隱含層各神經(jīng)元,不做任何的數(shù)據(jù)處理。

(4)根據(jù)下式求得隱含層各處理單元的凈輸入和凈輸出:

(5)根據(jù)下式求得各輸出層神經(jīng)元的凈輸入和實(shí)際輸出:

(6)根據(jù)設(shè)定的期望輸出,通過下式求得各輸出層神經(jīng)元的校正誤差[dkt],

(7)根據(jù)下式得出隱含層各神經(jīng)處理單元的校正誤差[ekj],

(8)根據(jù)下式調(diào)整隱含層至輸出層的連接權(quán)值[V]和輸出層神經(jīng)元閾值[γ], [α]表示學(xué)習(xí)速率,[0

(9)根據(jù)下式調(diào)整輸入層至隱含層神經(jīng)元的連接權(quán)值[W]和輸出層神經(jīng)元閾值[θ], [β]表示學(xué)習(xí)速率,[0

(10)為BP神經(jīng)網(wǎng)絡(luò)隨機(jī)輸入下一個(gè)學(xué)習(xí)模式對(duì),返回(3)處,直至訓(xùn)練完成[m]個(gè)學(xué)習(xí)模式對(duì)。

(11)對(duì)系統(tǒng)的全局誤差[E]進(jìn)行判斷,查看其是否滿足神經(jīng)網(wǎng)絡(luò)設(shè)定的精度需求。如果 [E≤ε],這說明滿足結(jié)束條件,結(jié)束學(xué)習(xí)過程,如果未滿足,則繼續(xù)學(xué)習(xí)。

(12)更新神網(wǎng)絡(luò)學(xué)習(xí)次數(shù),如果未達(dá)到設(shè)定的學(xué)習(xí)次數(shù),則返回Step2。

(13)BP神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)過程結(jié)束。

在整個(gè)神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)階段中,分別涵蓋了輸入模式的“順傳播過程”,全局誤差的“逆?zhèn)鞑ミ^程”以及“學(xué)習(xí)記憶訓(xùn)練”過程,(11)至(12)表示是收斂過程。全局誤差[E]的理想學(xué)習(xí)曲線如圖2所示。

為了減小震蕩,加快網(wǎng)絡(luò)的記憶訓(xùn)練速度,作者在對(duì)連接權(quán)值進(jìn)行調(diào)整時(shí),在改變量基礎(chǔ)上添加一定比例的權(quán)值改變值,稱之為動(dòng)量項(xiàng)。則附加動(dòng)量項(xiàng)的連接權(quán)值調(diào)整方法如下式所示:

式中,[ηΔwij(n-1)]代表動(dòng)量項(xiàng),其中[n]為學(xué)習(xí)次數(shù),[η]作為動(dòng)量系數(shù),[0

加入動(dòng)量項(xiàng)的本質(zhì)目的是使控制學(xué)習(xí)過程的學(xué)習(xí)速率[β]不僅僅是一個(gè)固定值,而是能夠持續(xù)變化的。在引入動(dòng)量項(xiàng)后,網(wǎng)絡(luò)總是試圖使連接權(quán)值的調(diào)整按照相同方向進(jìn)行,即使前后兩次連接權(quán)值的調(diào)整值方向相反,也能夠降低震蕩趨勢(shì),加快學(xué)習(xí)記憶速度,以及網(wǎng)絡(luò)收斂速度[7]。

通常來說,動(dòng)量系數(shù)的取值不宜過大。若動(dòng)量系數(shù)過大,動(dòng)量項(xiàng)所占比例過重,則本次誤差修正項(xiàng)的作用會(huì)不太明顯,以致完全沒有作用,反而會(huì)減慢收斂速度,甚至導(dǎo)致整個(gè)網(wǎng)絡(luò)震蕩。一般情況下,動(dòng)量系數(shù)的最大值在0.9作用,本文取值為0.6。

2 數(shù)據(jù)庫查詢方法測(cè)試

為了測(cè)試本文設(shè)計(jì)的基于神經(jīng)網(wǎng)絡(luò)的數(shù)據(jù)庫優(yōu)化查詢方法的可行性及準(zhǔn)確性能,作者在完成了模型構(gòu)建后,Matlab軟件中構(gòu)建實(shí)驗(yàn)場(chǎng)景,模擬數(shù)據(jù)庫檢索過程,完成了對(duì)查詢方法進(jìn)行測(cè)試驗(yàn)證。數(shù)據(jù)庫查詢學(xué)習(xí)樣本使用的是加州大學(xué)標(biāo)準(zhǔn)數(shù)據(jù)集,通過選擇中度數(shù)據(jù)規(guī)模的樣本空間進(jìn)行設(shè)計(jì)網(wǎng)絡(luò)的學(xué)習(xí)訓(xùn)練,主要訓(xùn)練搜索關(guān)鍵字與查詢結(jié)果直接的對(duì)應(yīng)關(guān)系,并進(jìn)行存儲(chǔ)記憶。通過不同查詢次數(shù)的響應(yīng)延時(shí)進(jìn)行統(tǒng)計(jì)分析,與未使用任何算法的隨機(jī)檢索方法的搜索結(jié)果進(jìn)行對(duì)比分析。數(shù)據(jù)檢索實(shí)驗(yàn)對(duì)比結(jié)果如圖3所示。

從數(shù)據(jù)檢索對(duì)比結(jié)果得知,當(dāng)?shù)螖?shù)達(dá)到200次時(shí),本文提出的基于神經(jīng)網(wǎng)絡(luò)算法的數(shù)據(jù)庫查詢方法滿足收斂條件[f(x)≤e-10],此時(shí)可視為系統(tǒng)以及查詢到最優(yōu)數(shù)據(jù)結(jié)果。同時(shí),較隨機(jī)數(shù)據(jù)庫檢索方法,本設(shè)計(jì)的優(yōu)化方法在響應(yīng)延時(shí)方面平均降低了34.7%,同時(shí)搜索查詢準(zhǔn)確率高達(dá)99.3%。

3 總結(jié)

神經(jīng)網(wǎng)絡(luò)在聯(lián)想記憶、數(shù)據(jù)非線性映射、在線學(xué)習(xí)模型構(gòu)建、數(shù)據(jù)信息分類與識(shí)別等領(lǐng)域具有了廣泛的應(yīng)用空間。通過對(duì)云存儲(chǔ)數(shù)據(jù)庫查詢過程的原理進(jìn)行研究,本文提出的基于神經(jīng)網(wǎng)絡(luò)的數(shù)據(jù)庫優(yōu)化查詢方法主要通過對(duì)云存儲(chǔ)數(shù)據(jù)的關(guān)鍵詞進(jìn)行相似度對(duì)比,利用神經(jīng)網(wǎng)絡(luò)算法對(duì)查詢數(shù)據(jù)樣本進(jìn)行記憶訓(xùn)練,通過對(duì)查詢關(guān)鍵字進(jìn)行數(shù)據(jù)匹配,最終實(shí)現(xiàn)數(shù)據(jù)的準(zhǔn)確查詢。為了測(cè)試本文設(shè)計(jì)的基于神經(jīng)網(wǎng)絡(luò)的數(shù)據(jù)庫優(yōu)化查詢方法的可行性及準(zhǔn)確性能,作者在完成了模型構(gòu)建后,Matlab軟件中構(gòu)建實(shí)驗(yàn)場(chǎng)景,模擬數(shù)據(jù)庫檢索過程,完成了對(duì)查詢方法進(jìn)行測(cè)試驗(yàn)證。仿真結(jié)果表明,本文提出的基于神經(jīng)網(wǎng)絡(luò)的數(shù)據(jù)庫優(yōu)化查詢方法的準(zhǔn)確率高達(dá)98.3%,具有較高的檢索精度及穩(wěn)定性。

參考文獻(xiàn):

[1] 李中志.基于改進(jìn)BP神經(jīng)網(wǎng)絡(luò)的水位流量關(guān)系擬合[J].中國農(nóng)村水利水電, 2008(10):30-32.

[2] 任雯,胥布工.基于標(biāo)準(zhǔn)神經(jīng)網(wǎng)絡(luò)模型的非線性系統(tǒng)分布式無線網(wǎng)絡(luò)化控制[J]. 控制與決策, 2015,30(4):691-697.

[3] 余開華.小波神經(jīng)網(wǎng)絡(luò)模型在河道流量水位預(yù)測(cè)中的應(yīng)用[J].水資源與水工程學(xué)報(bào), 2013, 24(2):204-208.

[4] 潘道宏.RBF神經(jīng)網(wǎng)絡(luò)模型擬合電力抽水站水位流量關(guān)系研究[J].水利科技與經(jīng)濟(jì), 2010,16(3):300-301.

[5] 孔玉靜,侯鑫,華爾天等.基于BP神經(jīng)網(wǎng)絡(luò)的無線傳感器網(wǎng)絡(luò)路由協(xié)議的研究[J].傳感技術(shù)學(xué)報(bào), 2013, 26(2):246-251.

[6] 田曉青,劉松良.基于人工神經(jīng)網(wǎng)絡(luò)的過閘流量軟測(cè)量研究[J].電子產(chǎn)品世界, 2013(10):43-45.

第4篇:神經(jīng)網(wǎng)絡(luò)方法范文

本方法作為水質(zhì)分析評(píng)價(jià)的方法,比起其他方法,具有算法簡(jiǎn)單,運(yùn)算速度快,受外界影響小等特點(diǎn)。

關(guān)鍵詞:人工神經(jīng)網(wǎng)絡(luò)Matlab水質(zhì)評(píng)價(jià)BP

中圖分類號(hào): TN711文獻(xiàn)標(biāo)識(shí)碼:A 文章編號(hào):

“人口、資源、環(huán)境”是當(dāng)今世界面臨的三大難題。人類的生存與發(fā)展從根本上依賴于水的獲取和對(duì)水的控制。

天津市蘊(yùn)藏著豐富的中、低溫地下水資源。同時(shí),天津市作為華北地區(qū)嚴(yán)重缺水的城市,地下水資源對(duì)天津市的經(jīng)濟(jì)發(fā)展具有極其重要的作用。地下水水質(zhì)的分析評(píng)價(jià),為資源管理提供了水質(zhì)判別的依據(jù),是資源管理系統(tǒng)中重要的一部分。

目前,天津市的地下水水資源的分析管理工作中,水質(zhì)分析評(píng)價(jià)采用的比較多的是內(nèi)梅羅指數(shù)公式法、模糊綜合評(píng)判法、國標(biāo)法等。

1 BP人工神經(jīng)網(wǎng)絡(luò)簡(jiǎn)介

BP (Back Propagation)神經(jīng)網(wǎng)絡(luò)是一種神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法,全稱是基于誤差反向傳播算法的人工神經(jīng)網(wǎng)絡(luò)。它的學(xué)習(xí)過程,由信息的正向傳播和誤差的反向傳播兩個(gè)過程組成。輸入層各神經(jīng)元負(fù)責(zé)接收來自外界的輸入信息,并傳遞給中間層各神經(jīng)元;中間層是內(nèi)部信息處理層,負(fù)責(zé)信息變換;最后一個(gè)隱層傳遞到輸出層各神經(jīng)元的信息,經(jīng)進(jìn)一步處理后,完成一次學(xué)習(xí)的正向傳播處理過程,由輸出層向外界輸出信息處理結(jié)果。

BP神經(jīng)網(wǎng)絡(luò)相對(duì)比其他的神經(jīng)網(wǎng)絡(luò),具有運(yùn)算速度快,疊加性好等特點(diǎn)。

2分析方法模型建立

2.1 分析標(biāo)準(zhǔn)選擇

參照《中華人民共和國地下水質(zhì)量標(biāo)準(zhǔn)》,結(jié)合天津市水資源的實(shí)際取樣和檢測(cè)經(jīng)驗(yàn),形成下述指標(biāo):

表1水質(zhì)評(píng)價(jià)的要素表(單位:mg/L)

2.2 分析方法建立

分析方法基本流程如圖

圖1基本流程圖

隱含層采用正切S型神經(jīng)元,輸出層采用線性神經(jīng)元,輸入向量的維數(shù)是16,所以輸入層節(jié)點(diǎn)數(shù)確定為16個(gè)。輸出層節(jié)點(diǎn)數(shù)由輸出向量的維數(shù)決定,這里輸出節(jié)點(diǎn)數(shù)為1。據(jù)經(jīng)驗(yàn)以及反復(fù)訓(xùn)練, 隱含層節(jié)點(diǎn)數(shù)定為5。這樣就形成了一個(gè)16×5×1神經(jīng)網(wǎng)絡(luò)。

圖2BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)

輸入向量為2-1,地下水質(zhì)量分類指標(biāo),共有項(xiàng)目16,分為五個(gè)級(jí)別。輸出結(jié)果為一列。

2.3 平臺(tái)選擇

本文使用的開發(fā)平臺(tái)為MATLAB7.8(R2009a)。

2.4 算法選擇

本文選擇動(dòng)量批梯度下降函數(shù)(traingdm)來訓(xùn)練算法。它實(shí)現(xiàn)的是一種批處理的前饋神經(jīng)網(wǎng)絡(luò)訓(xùn)練算法,它不但具有更快的收斂速度,而且引入了一個(gè)動(dòng)量項(xiàng),有效地避免了局部最小問題在網(wǎng)絡(luò)訓(xùn)練中的出現(xiàn)。

2.5 學(xué)習(xí)訓(xùn)練和模擬

網(wǎng)絡(luò)的訓(xùn)練學(xué)習(xí),分為如下幾步:

首先,采用指令 net=newff(minmax(p),[5,1],{'tansig','purelin'},'traingdm') 建立網(wǎng)絡(luò)。

newff()為建立BP神經(jīng)網(wǎng)絡(luò)的函數(shù),minmax(p)表示網(wǎng)絡(luò)輸入p的取值范圍(0~1),[5,1]表示隱層節(jié)點(diǎn)數(shù)是5,輸出層節(jié)點(diǎn)數(shù)是1,{'tansig','purelin'}表示隱含層中的神經(jīng)元采用tansig轉(zhuǎn)換函數(shù),輸出層采用purelin函數(shù),'traingdm'表示選擇的學(xué)習(xí)算法。

權(quán)重和閾值初始化 net=init(net);給各連接權(quán)重IW{1,1}、LW{2,1}及閾值b{1}、b{2}賦予(-1,+1)間的隨機(jī)值。

然后,采用指令[net,tr]=train(net,p,t)進(jìn)行訓(xùn)練;訓(xùn)練次數(shù)1000,誤差限為10-8。采用水質(zhì)標(biāo)準(zhǔn)歸一化后的數(shù)值作為訓(xùn)練向量。訓(xùn)練結(jié)果如下:

圖3 網(wǎng)絡(luò)訓(xùn)練誤差圖

采用指令 a= sim(net,p)模擬;

訓(xùn)練結(jié)果:1.0001 1.9998 3.0001 4.0000 5.0000

這說明網(wǎng)絡(luò)已經(jīng)訓(xùn)練完畢,可以使用進(jìn)行實(shí)際應(yīng)用。

根據(jù)訓(xùn)練好的網(wǎng)絡(luò)及輸入向量進(jìn)行模擬網(wǎng)絡(luò)輸出,輸入層P為16×n的數(shù)組,將監(jiān)測(cè)數(shù)據(jù),進(jìn)行評(píng)價(jià)歸一化后,根據(jù)訓(xùn)練好的模型進(jìn)行仿真采用指令out= sim(net,p1),得到的結(jié)果為1×n的向量。即為樣本的評(píng)價(jià)值。然后將評(píng)價(jià)值根據(jù)大小分為不同的等級(jí)(I,II,III,IV,V),輸出為rank數(shù)組。

3實(shí)驗(yàn)結(jié)果

3.1 小量樣本對(duì)比實(shí)驗(yàn)

選取3個(gè)地點(diǎn),使用不同方法進(jìn)行評(píng)價(jià),水質(zhì)評(píng)價(jià)可以用礦化度和硬度這兩項(xiàng)指標(biāo)來簡(jiǎn)單的評(píng)價(jià),因?yàn)檫@兩個(gè)指標(biāo)可以說明水質(zhì)各組分濃度大小。比較結(jié)果如下:

表2小量樣本結(jié)果

從上表中可以看出,3號(hào)樣本的礦化度和硬度這兩項(xiàng)指標(biāo)遠(yuǎn)小于其他兩個(gè)樣本,水質(zhì)情況明顯好于其他兩個(gè)樣本。這個(gè)結(jié)論與BP神經(jīng)網(wǎng)絡(luò)的評(píng)價(jià)結(jié)果是一致的,其他兩種方法不能將這3個(gè)樣本的水質(zhì)情況區(qū)分開。

從小量樣本的結(jié)果看,BP神經(jīng)網(wǎng)絡(luò)法的評(píng)價(jià)與實(shí)際的符合度較好。

3.2 大量樣本對(duì)比實(shí)驗(yàn)

分析方法是否科學(xué),是否符合實(shí)際工作的需要,僅有小量樣本的實(shí)驗(yàn)是遠(yuǎn)遠(yuǎn)不夠的,還需要使用較大規(guī)模的數(shù)據(jù)樣本進(jìn)行實(shí)驗(yàn)。

大量樣本實(shí)驗(yàn)選取多年地下水監(jiān)測(cè)數(shù)據(jù)中隨機(jī)抽取的200組數(shù)據(jù),代入模型,結(jié)果如下:

表3大量樣本結(jié)果

與往年數(shù)據(jù)進(jìn)行比較,結(jié)果如下:

圖4 地下水歷年評(píng)價(jià)結(jié)果對(duì)比圖

由上圖可以看出,使用BP神經(jīng)網(wǎng)絡(luò)法對(duì)水質(zhì)進(jìn)行分析評(píng)價(jià),結(jié)果比較合理,與往年的數(shù)據(jù)相符合,結(jié)果可信。

4結(jié)論

天津市地下水資源的管理,到現(xiàn)在已經(jīng)走過了20幾年的時(shí)間,積累了大量的監(jiān)測(cè)數(shù)據(jù),為了更好的整理分析這些數(shù)據(jù),便于管理工作的進(jìn)行,水質(zhì)分析評(píng)價(jià)就成為了一個(gè)很好的工具?;贐P人工神經(jīng)網(wǎng)絡(luò)的水質(zhì)分析評(píng)價(jià)模型,為水質(zhì)分析評(píng)價(jià)工作提供了一個(gè)新的方向。與傳統(tǒng)的方法不同,BP神經(jīng)網(wǎng)絡(luò)法進(jìn)行水質(zhì)分析評(píng)價(jià),更為簡(jiǎn)單,快捷,結(jié)果也與真實(shí)情況相符合。

水質(zhì)分析評(píng)價(jià)是一項(xiàng)長(zhǎng)期、枯燥、嚴(yán)謹(jǐn)而又非常重要的工作。使用BP網(wǎng)絡(luò)法評(píng)價(jià),現(xiàn)階段同樣存在著不足,比如不同的評(píng)價(jià)對(duì)象具有不同的影響因子,對(duì)于不同的評(píng)價(jià)對(duì)象,評(píng)價(jià)因子需進(jìn)一步更改。

本文對(duì)于地下水水質(zhì)評(píng)價(jià)方法提出一個(gè)新的研究方向,希望能夠拋磚引玉,供大家借鑒思考。

參考文獻(xiàn):

[1]郝華.我國城市地下水污染狀況與對(duì)策研究[J].水利發(fā)展研究,2004,(3):23-25+49.

[2]盧新衛(wèi).基于人工神經(jīng)網(wǎng)絡(luò)的水質(zhì)污染綜合評(píng)價(jià)方法[J].工程勘察,1997,(6):25-26.

第5篇:神經(jīng)網(wǎng)絡(luò)方法范文

關(guān)鍵詞:RBF神經(jīng)網(wǎng)絡(luò);數(shù)據(jù)挖掘;遺傳算法

中圖分類號(hào):TP18 文獻(xiàn)標(biāo)識(shí)碼:A 文章編號(hào):1009-3044(2016)07-0151-03

Research on Data Mining Method Based on RBF Neural Network

CAO Jia-jie, YANG Meng, XU Xin-yu

(Beijing Satellite Manufacturing Plant, Beijing 100000, China)

Abstract: The rapid development of Internet technology and database technology is widely used at the same time, human through information technology to collect data is more and more strong, and how to from a lot of data mining valuable information and knowledge has become particularly urgent. In order to solve the above problems, data mining technology arises at the historic moment. It is found that the data mining the data for the nonlinear, messy and the presence of noise data, neural network is by virtue of the degree of fault tolerance, distributed storage, parallel processing, adaptive and robust feature is widely used to deal with some of the data mining problems. Accordingly, in this case, the author first introduces the data mining and RBF neural network of the relevant theoretical knowledge, and then focus on the RBF neural network based on the data mining method for peer reference.

Key words: RBF neural network; data mining; genetic algorithm

數(shù)據(jù)挖掘是從大量數(shù)據(jù)中挖掘有價(jià)值的信息和知識(shí),以便為管理決策和戰(zhàn)略部署提供數(shù)據(jù)支撐。數(shù)據(jù)挖掘作為信息技術(shù)發(fā)展的結(jié)果,其應(yīng)用前景相當(dāng)廣泛。數(shù)據(jù)庫技術(shù)主要研究數(shù)據(jù)的組織、存儲(chǔ)、獲取和處理,而信息技術(shù)主要經(jīng)歷以下發(fā)展歷程:數(shù)據(jù)的簡(jiǎn)單收集和數(shù)據(jù)庫的初期建設(shè)數(shù)據(jù)的存儲(chǔ)與檢索、數(shù)據(jù)庫的事務(wù)處理數(shù)據(jù)的分析與理解,此時(shí)便出現(xiàn)數(shù)據(jù)挖掘技術(shù)?;谏鲜鲅芯勘尘?,下文首先分別介紹數(shù)據(jù)挖掘與RBF神經(jīng)網(wǎng)絡(luò)的相關(guān)理論知識(shí),并在此基礎(chǔ)上,討論基于RBF神經(jīng)網(wǎng)絡(luò)的數(shù)據(jù)挖掘方法,目的是為了研究數(shù)據(jù)挖掘所用到的分類算法。關(guān)于神經(jīng)網(wǎng)絡(luò),作為一種人工智能技術(shù),其一方面可以省去繁瑣的數(shù)學(xué)建模和數(shù)學(xué)推理,另一方面在處理含噪聲的非線性數(shù)據(jù)時(shí)表現(xiàn)出無與倫比的優(yōu)越性。

1 數(shù)據(jù)挖掘

數(shù)據(jù)挖掘是非平凡的數(shù)據(jù)處理過程,即識(shí)別數(shù)據(jù)集中具有潛在價(jià)值、新穎有效且最終可被理解的模式,其中潛在價(jià)值指的是挖掘出的知識(shí)具有實(shí)際效用;新穎是指識(shí)別出的模式新穎;有效是指識(shí)別出的模式在一定程度上是正確的;最終可被理解是指識(shí)別出的數(shù)據(jù)可被用戶理解。圖1所示為數(shù)據(jù)挖掘的工作流程。

如圖1所示,數(shù)據(jù)挖掘主要經(jīng)歷數(shù)據(jù)準(zhǔn)備、模式提取、結(jié)果解釋與評(píng)估等階段,其中數(shù)據(jù)準(zhǔn)備的步驟為:數(shù)據(jù)清洗數(shù)據(jù)選取數(shù)據(jù)預(yù)處理數(shù)據(jù)表示;數(shù)據(jù)提取階段又稱數(shù)據(jù)挖掘階段,其實(shí)現(xiàn)步驟為:確定數(shù)據(jù)挖掘的目標(biāo)或任務(wù)選取適宜的數(shù)據(jù)挖掘工具或算法進(jìn)行數(shù)據(jù)挖掘操作;結(jié)果解釋與評(píng)估階段主要對(duì)所識(shí)別的數(shù)據(jù)進(jìn)行評(píng)估、篩除。一般來講,數(shù)據(jù)挖掘質(zhì)量主要與以下影響因素有關(guān):數(shù)據(jù)挖掘技術(shù)的可靠性與有效性;目標(biāo)數(shù)據(jù)的數(shù)量與質(zhì)量??傊?,數(shù)據(jù)挖掘是一個(gè)反復(fù)反饋的過程,而可視化貫穿在數(shù)據(jù)挖掘的全過程。

數(shù)據(jù)挖掘的方法一般分為統(tǒng)計(jì)型、機(jī)械學(xué)習(xí)型兩大類,而較為常用的算法包括遺傳算法、神經(jīng)網(wǎng)絡(luò)等。遺傳算法是一種以生物進(jìn)化理論為基礎(chǔ)的優(yōu)化空間搜尋法,其在數(shù)據(jù)挖掘中,通常以搜索問題的形式來表述具體的任務(wù),并通過選擇、交叉、變異遺傳等操作尋得最優(yōu)解。神經(jīng)網(wǎng)絡(luò)是一種與人類大腦重復(fù)學(xué)習(xí)類似的方法,即通過學(xué)習(xí)和訓(xùn)練一些事先給出的樣本,產(chǎn)生與樣品有所區(qū)別的特征和模式,其中樣本集應(yīng)具有代表性。研究表明,神經(jīng)網(wǎng)絡(luò)具有準(zhǔn)確預(yù)測(cè)復(fù)雜的問題、有效處理存在噪聲的數(shù)據(jù)等優(yōu)點(diǎn)。神經(jīng)網(wǎng)絡(luò)一般分為自組織、反饋式和前饋式神經(jīng)網(wǎng)絡(luò),目前正被廣泛應(yīng)用于商業(yè)領(lǐng)域。

2 RBF神經(jīng)網(wǎng)絡(luò)

RBF網(wǎng)絡(luò)結(jié)構(gòu)是一種由輸入層、隱含層和輸出層組成的三層前向網(wǎng)絡(luò),其中輸入層包含信號(hào)源結(jié)點(diǎn);隱含層主要由節(jié)點(diǎn)數(shù)目描述的具體問題而定;輸出層主要響應(yīng)輸入模式的具體作用。圖2所示為RBF神經(jīng)網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu)模型。

如圖2所示,RBF網(wǎng)絡(luò)由輸入層向隱含層變換的過程具有非線性的特征,而由隱含層向輸入層變化的過程具有線性的特征。據(jù)此可知,RBF神經(jīng)網(wǎng)絡(luò)是一種基于前饋網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu)。研究發(fā)現(xiàn),RBF神經(jīng)網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)會(huì)對(duì)自身的性能產(chǎn)生影響,而以下因素又會(huì)對(duì)RBF網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)產(chǎn)生影響:RBF的隱節(jié)點(diǎn)數(shù)目、中心矢量、徑向基函數(shù)寬度和隱含層與輸出層的權(quán)值矩陣。

RBF網(wǎng)絡(luò)具有較強(qiáng)的非線性逼近性能。得益于此,其目前主要用來實(shí)現(xiàn)非線性系統(tǒng)的建模與數(shù)據(jù)挖掘、貝葉斯規(guī)則和連續(xù)輸入/出數(shù)據(jù)對(duì)的映射建模。與其他前向神經(jīng)網(wǎng)絡(luò)相比,RBF神經(jīng)網(wǎng)絡(luò)具有以下優(yōu)點(diǎn):

1)RBF神經(jīng)網(wǎng)絡(luò)能逼近任意非線性映射,也能處理系統(tǒng)內(nèi)部的規(guī)律性問題。就無噪聲數(shù)據(jù)而言,RBF神經(jīng)網(wǎng)絡(luò)模型的預(yù)測(cè)精度高且擬合能力強(qiáng);而就存在噪聲的數(shù)據(jù)來講,RBF神經(jīng)網(wǎng)絡(luò)模型的預(yù)測(cè)誤差和擬合誤差均偏低,且收斂速度相當(dāng)快。得益于此,RBF神經(jīng)網(wǎng)絡(luò)在時(shí)序建模和分析中的應(yīng)用十分廣泛。

2)RBF神經(jīng)網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu)加快了學(xué)習(xí)速度和規(guī)避了局部極小的問題。RBF神經(jīng)網(wǎng)絡(luò)采用核函數(shù),特別是高斯函數(shù)的使用使得核函數(shù)的優(yōu)點(diǎn)更為突出:表示簡(jiǎn)單、光滑性好和解釋性好等。

3)RBF神經(jīng)網(wǎng)絡(luò)的可解釋性好。目前,以下理論均可用于RBF網(wǎng)絡(luò)參數(shù)和拓?fù)浣Y(jié)構(gòu)的解釋中:RBF網(wǎng)絡(luò)能夠?qū)斎雽愚D(zhuǎn)向輸出層進(jìn)行映射;核回歸能夠逼近存在噪聲的函數(shù)噪聲數(shù)據(jù)插值能夠逼近輸入缺少函數(shù);規(guī)則化可以通過在一般化與精確匹配中尋求平衡;貝葉斯規(guī)則可以根據(jù)前概率計(jì)算出后概率。

3 基于RBF神經(jīng)網(wǎng)絡(luò)的分類數(shù)據(jù)挖掘

關(guān)于RBF神經(jīng)網(wǎng)絡(luò)的研究,其主要表現(xiàn)在以下兩個(gè)方面: RBF網(wǎng)絡(luò)結(jié)構(gòu)模型; RBF神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法。

3.1 RBF網(wǎng)絡(luò)結(jié)構(gòu)模型

在實(shí)際應(yīng)用中,RBF模型的應(yīng)用范圍更廣,其核函數(shù)使用的是高斯函數(shù)。但研究發(fā)現(xiàn),在上述結(jié)構(gòu)模型中,訓(xùn)練算法的優(yōu)劣會(huì)對(duì)模型的應(yīng)用效果和RBF網(wǎng)絡(luò)性能的高低產(chǎn)生決定作用。鑒于此,研究人員提出一些具有新特點(diǎn)和新性能的網(wǎng)絡(luò)模型,具體包括:

1)高斯型核函數(shù)一般化。當(dāng)隱含層RBF采用以下高斯條函數(shù)時(shí),將大大改善RBFN的綜合性能:[Φ?x)=exp-(x-cj?T(x-cj)]/2σ2j]。對(duì)于普通高斯函數(shù),其擁有半徑相同的變量軸和超球面狀的函數(shù)曲面。但與此相比,高斯條核函數(shù)擁有超橢球面狀的函數(shù)曲面和半徑不同的變量軸,因此它具有更強(qiáng)的樣本點(diǎn)逼近能力和更大的網(wǎng)絡(luò)訓(xùn)練工作量。

2)WNN(小波神經(jīng)網(wǎng)絡(luò))。WNN是一種基于小波函數(shù)的函數(shù)連接型網(wǎng)絡(luò),因此在一定程度上應(yīng)被看作RBFN的推廣形式。WNN的激活函數(shù)為小波函數(shù),具體以仿射變換的方式創(chuàng)建網(wǎng)絡(luò)參數(shù)與小波變換之間的聯(lián)系,因此所表現(xiàn)出的特點(diǎn)與RBFN有所差異。此外,WNN具有極佳的時(shí)頻特征,因此被廣泛應(yīng)用于圖像處理和模式識(shí)別等領(lǐng)域。

3)RBPNN(徑向基概率神經(jīng)網(wǎng)絡(luò))。RBPNN作為RBFNN與PNN綜合發(fā)展的結(jié)果,其學(xué)習(xí)收斂速度比RBFN更快,同時(shí)也將模式之間的交錯(cuò)影響考慮其中。關(guān)于RBPNN,其結(jié)構(gòu)主要由2個(gè)隱含層、1個(gè)輸入層、2個(gè)輸出層組成,其中第一個(gè)隱含層為非線處理層,具體包括隱中心矢量,此乃網(wǎng)絡(luò)結(jié)構(gòu)優(yōu)化的核心對(duì)象;在輸出層得出輸入樣本概率密度的估算值,可降低計(jì)算的復(fù)雜度。

4)GRNN(廣義回歸網(wǎng)絡(luò))。GRNN使用的也是高斯型徑向基函數(shù),一般被看作RBFN的變換形式。GRNN的結(jié)構(gòu)主要由模式層、輸入層、加和層、輸出層組成,其中核函數(shù)所包含的平滑因子需采用優(yōu)化或經(jīng)驗(yàn)方法來選定。

3.2 RBF神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法

在RBF網(wǎng)絡(luò)設(shè)計(jì)中,最為核心的問題是如何合理確定中心點(diǎn)的位置、數(shù)目和訓(xùn)練網(wǎng)絡(luò)權(quán)值。通常情況下,中心點(diǎn)的確定與權(quán)值的訓(xùn)練既可分開實(shí)現(xiàn),又可同時(shí)進(jìn)行。鑒于此,RBF網(wǎng)絡(luò)可以采用以下兩類學(xué)習(xí)算法:

3.2.1 靜態(tài)學(xué)習(xí)算法

靜態(tài)學(xué)習(xí)算法是一種離線學(xué)習(xí)算法,即在離線設(shè)計(jì)RBF網(wǎng)絡(luò)時(shí),中心點(diǎn)的確定與權(quán)值的訓(xùn)練分開進(jìn)行。

1)隨機(jī)確定RBF中心點(diǎn),即隨機(jī)從訓(xùn)練數(shù)據(jù)集中選取RBF中心點(diǎn)。當(dāng)RBF選取以下高斯函數(shù):[G(X-Cj2=exp(-m/d2maxX-Cj)j=1,2,...,m],其中,[Cj]――RBF的中心點(diǎn);[m]――中心數(shù);[dmax]――相鄰中心點(diǎn)最大的間隔距離,因此高斯徑向基函數(shù)的寬度[σ=dmax/2m]。利用上述算法,可以避免RBF的形狀出現(xiàn)過平或過陡兩種極端現(xiàn)象。如此一來,便可通過計(jì)算線性方程組的方式來確定輸出層與隱含層的連接權(quán)值。

2)自組織學(xué)習(xí)確定RBF中心點(diǎn)?;旌蠈W(xué)習(xí)過程主要包括自組織學(xué)習(xí)階段、監(jiān)督學(xué)習(xí)階段,其中自組織學(xué)習(xí)階段的任務(wù)是采用聚類算法來估計(jì)隱含層RBF的中心點(diǎn);監(jiān)督學(xué)習(xí)階段主要通過對(duì)輸出層線性權(quán)重進(jìn)行估計(jì)來設(shè)計(jì)網(wǎng)絡(luò),具體采用最小二乘法。輸出層節(jié)點(diǎn)的LMS算法與隱含層節(jié)點(diǎn)的K-均值聚類同時(shí)進(jìn)行,以加速學(xué)習(xí)過程。

3)有監(jiān)督學(xué)習(xí)確定RBF中心點(diǎn),即通過有監(jiān)督學(xué)習(xí)解得RBF的中心點(diǎn)和自有參數(shù),具體使用牛頓法或梯度下降法等。如果使用梯度下降法,則應(yīng)從參數(shù)空間的某一有效區(qū)域開始進(jìn)行搜索,即先利用RBF網(wǎng)絡(luò)得到高斯分類算法,再以分類結(jié)果為搜索點(diǎn),以免學(xué)習(xí)程收斂至局部極小。

3.2.2 動(dòng)態(tài)學(xué)習(xí)算法

動(dòng)態(tài)學(xué)習(xí)算法是一種在線學(xué)習(xí)算法,其主要在在線數(shù)據(jù)挖掘環(huán)境中使用。由于在在線數(shù)據(jù)挖掘環(huán)境中,通常不會(huì)全部給定訓(xùn)練樣本,因此如果隱含層中心點(diǎn)與單元數(shù)目的確定采用靜態(tài)學(xué)習(xí)算法,則解算結(jié)果不一定最優(yōu),而在線學(xué)習(xí)算法支持動(dòng)態(tài)刪除或加入隱含層節(jié)點(diǎn),且隱含層中心點(diǎn)的確定和權(quán)值的訓(xùn)練同時(shí)進(jìn)行,因此可以動(dòng)態(tài)構(gòu)造網(wǎng)絡(luò)。

1)以分組優(yōu)化策略為基礎(chǔ)的在線學(xué)習(xí)法。訓(xùn)練神經(jīng)網(wǎng)絡(luò)是約束優(yōu)化的過程,則需對(duì)特定的神經(jīng)網(wǎng)絡(luò)類型進(jìn)行深入探討。以下內(nèi)容為在線隱含層單元的確定策略:當(dāng)輸入的訓(xùn)練樣本同時(shí)滿足以下條件時(shí),則為之分配相應(yīng)的隱含層但愿你:網(wǎng)絡(luò)輸出誤差比誤差的設(shè)定閥值大;輸入樣本與隱層中心點(diǎn)之間的距離比距離的設(shè)計(jì)閥值大。如果在RBF神經(jīng)網(wǎng)絡(luò)在線訓(xùn)練方式中引入分組優(yōu)化策略,則網(wǎng)絡(luò)輸出與網(wǎng)絡(luò)權(quán)值之間存在線性關(guān)系,同時(shí)與隱含層單元的寬度、中心點(diǎn)之間存在非線性關(guān)系,表明盡量采取不同的優(yōu)化方法來處理兩部分的參數(shù)。

2)最近鄰聚類算法。最近鄰居類算法作為動(dòng)態(tài)自適應(yīng)聚類學(xué)習(xí)算法,由其聚類得出的RBF網(wǎng)絡(luò)不僅最優(yōu),且支持在線學(xué)習(xí)。最近鄰聚類算法的實(shí)現(xiàn)過程為:

① 設(shè)定高斯函數(shù)寬度為r,定義矢量A(l)存放輸出矢量的總和,定義計(jì)數(shù)器B(l)統(tǒng)計(jì)樣本數(shù)量,其中類別數(shù)目為l。

② 對(duì)于數(shù)據(jù)對(duì)[(x1,y1)],于[x1]上創(chuàng)建1個(gè)聚類中心,并令[x1=c1],[y1=A(1)],[B(1)=1],那么在RBF網(wǎng)絡(luò)中便僅存在1個(gè)中心為[c1]的隱含層單元,且隱含層單元與輸出層的權(quán)矢量[w1=A(1)/B(1)]。

③ 對(duì)于數(shù)據(jù)對(duì)[(x2,y2)],解得[x2]與[c1]之間的距離[x2-c1]。假設(shè)[x2-c1≤r],那么[x2]的最近鄰聚類為[c1],假設(shè)[A(1)=y1+y2],[B(1)=B(1)+1],[w1=A(1)/B(1)];假設(shè)[x2-c1>r],那么以[x2]為新的聚類中心,同時(shí)假設(shè)[c2=x2],[A(2)=y2],[B(2)=1]。根據(jù)上述要求創(chuàng)建的RBF網(wǎng)絡(luò),再在其中加入一個(gè)隱含層單元,其與輸出層之間的權(quán)矢量[w2=A(2)/B(2)]。

④ 假設(shè)第k個(gè)數(shù)據(jù)對(duì)[(xk,yk)(k=3,4,...,n)]的聚類中心數(shù)為M,相應(yīng)的中心點(diǎn)為[c1,c2,...,cm],則由此創(chuàng)建的RBF網(wǎng)絡(luò)中便存在M個(gè)隱含層單元。據(jù)此,解得[xk]與M個(gè)聚類中心的間距為[xk-ci,i=1,2,...,M],假設(shè)兩者的減小間距為[xk-ci],那么[xk]的最近鄰聚類為[ci]。根據(jù)第一、二數(shù)據(jù)對(duì)的計(jì)算步驟,解得當(dāng)[xk-ci>r]時(shí),第M個(gè)隱含層單元與輸出層之間的權(quán)矢量[wM=A(M)/B(M)];當(dāng)[xk-ci≤r]時(shí),隱含層單元與輸出層之間的權(quán)矢量[wi=A(i)/B(i),i=1,2,...,M]。研究發(fā)現(xiàn),動(dòng)態(tài)自適應(yīng)RBF網(wǎng)絡(luò)的難易程度由r所決定,即聚類數(shù)目與r呈負(fù)相關(guān),即r越小,聚類數(shù)目越多,則計(jì)算量越大和精度越高,反之亦然??傊?,最近鄰聚類法具有性能優(yōu)點(diǎn)、計(jì)算量小河學(xué)習(xí)時(shí)間短等優(yōu)點(diǎn),不僅可以通過確定隱含層來建立RBF神經(jīng)網(wǎng)絡(luò),還可以在動(dòng)態(tài)輸入模式在線學(xué)習(xí)中得到有效應(yīng)用。

綜上,RBF網(wǎng)絡(luò)是一種具有最佳擬合和全局逼近性能的前向型神經(jīng)網(wǎng)絡(luò),其無疑具有廣闊的應(yīng)用前景,但在實(shí)際應(yīng)用中,應(yīng)當(dāng)考慮到局部極小問題的存在,進(jìn)而保障其應(yīng)用效果。

參考文獻(xiàn):

[1] 儲(chǔ)兵,吳陳,楊習(xí)貝,等.基于RBF神經(jīng)網(wǎng)絡(luò)與粗糙集的數(shù)據(jù)挖掘算法[J].計(jì)算機(jī)技術(shù)與發(fā)展,2013,23(7):87-91.

[2] 宮曉曼,滕榮華.基于神經(jīng)網(wǎng)絡(luò)的數(shù)據(jù)挖掘在煤礦選煤中的應(yīng)用[J].煤炭技術(shù),2013(9):127-128.

[3] 魏文軒.改進(jìn)型RBF神經(jīng)網(wǎng)絡(luò)在股票市場(chǎng)預(yù)測(cè)中的應(yīng)用[J].統(tǒng)計(jì)與決策,2013(15):70-72.

[4] 曹東方,王玉恒.數(shù)據(jù)挖掘在員工考評(píng)管理信息系統(tǒng)中的應(yīng)用[J].河北工業(yè)科技,2012,29(5):323-326.

[5] 姚應(yīng)水,葉明全.RBF神經(jīng)網(wǎng)絡(luò)與logistic回歸模型的對(duì)比研究[J].中國衛(wèi)生統(tǒng)計(jì),2011,28(4):397-399.

[6] 張會(huì)敏,葉明全,羅永錢等.基于RBF神經(jīng)網(wǎng)絡(luò)的老年癡呆癥智能診斷研究[J].中國數(shù)字醫(yī)學(xué),2015(6):38-41.

[7] 習(xí)勤,米帥軍.指標(biāo)篩選技術(shù)在神經(jīng)網(wǎng)絡(luò)數(shù)據(jù)挖掘模型中的應(yīng)用[J].統(tǒng)計(jì)與決策,2011(10):163-165.

[8] 林濤,葛玉敏,安玳寧等.基于 RBF 神經(jīng)網(wǎng)絡(luò)的鋼構(gòu)件質(zhì)量追溯系統(tǒng)研究[J].計(jì)算技術(shù)與自動(dòng)化,2015(1):20-24.

第6篇:神經(jīng)網(wǎng)絡(luò)方法范文

關(guān)鍵詞:瓷磚表面缺陷;布爾神經(jīng)網(wǎng)絡(luò);瓷磚檢測(cè)

中圖分類號(hào):TP274 文獻(xiàn)標(biāo)識(shí)碼:A 文章編號(hào):1009-2374(2013)30-0031-02

過去的神經(jīng)網(wǎng)絡(luò)沒有解釋能力,其不能很好地觀測(cè)物體內(nèi)部機(jī)理構(gòu)造,而本文所論述的布爾神經(jīng)網(wǎng)絡(luò)是在過去神經(jīng)網(wǎng)絡(luò)上的一種升級(jí),它將原始數(shù)據(jù)按照某種規(guī)則進(jìn)行了編碼,然后利用編碼后得到的數(shù)據(jù)信息來重新驅(qū)動(dòng)網(wǎng)絡(luò),其各個(gè)節(jié)點(diǎn)具備有效的物理意義。當(dāng)前瓷磚表面的缺陷依據(jù)瓷磚不規(guī)則性及顏色可分為幾種,按照缺陷所對(duì)應(yīng)的類型可選擇使用不同的濾波器來進(jìn)行檢測(cè),因?yàn)槿毕荽纱u表面通常存在不規(guī)則形,所以濾波器在使用過程中有著極大的局限性,針對(duì)缺陷本身來說,雖然不同的瓷磚產(chǎn)品有著一定的差異,但是同種瓷磚又基本保持不變。而布爾神經(jīng)網(wǎng)絡(luò)其可在大范圍內(nèi)有效控制檢測(cè)的精度及速度,并具有智能型,因此對(duì)它的研究將具備極為重要的現(xiàn)實(shí)意義。

1 布爾神經(jīng)網(wǎng)絡(luò)應(yīng)用背景

隨著社會(huì)經(jīng)濟(jì)的不斷發(fā)展,客戶對(duì)各類型產(chǎn)品表面的質(zhì)量要求越來越苛刻,表面質(zhì)量已經(jīng)成為了直接決定產(chǎn)品價(jià)格及各個(gè)企業(yè)之間競(jìng)爭(zhēng)的重要指標(biāo),另外,過去的人工目視檢測(cè)方法存在很多的缺陷及不足,如無法適應(yīng)高速機(jī)組,對(duì)細(xì)小表面缺陷的檢測(cè)效率極低,并且如果長(zhǎng)期進(jìn)行檢測(cè),檢測(cè)人員易出現(xiàn)視覺疲勞而無法長(zhǎng)時(shí)間有效地進(jìn)行整個(gè)材料表面的檢測(cè)。總之,傳統(tǒng)的檢測(cè)已經(jīng)無法滿足現(xiàn)代化生產(chǎn)的需要。在這種背景下,新的檢測(cè)方法必然出現(xiàn),而其中布爾神經(jīng)網(wǎng)絡(luò)的應(yīng)用就是其中的一種有效的檢測(cè)手段。

2 廣義的布爾神經(jīng)網(wǎng)絡(luò)

過去的BP網(wǎng)絡(luò)在分類上屬于一種分層網(wǎng)絡(luò),其各個(gè)節(jié)點(diǎn)域下一層節(jié)點(diǎn)在連接時(shí)通常是完全均勻的,而這種均勻直接連接在圖像感知時(shí)通常會(huì)致使網(wǎng)絡(luò)感知能力受到限制,但是廣義的布爾神經(jīng)網(wǎng)絡(luò)是通過研究過去的前向神經(jīng)網(wǎng)絡(luò)的優(yōu)點(diǎn)及缺陷之后升級(jí)而來。如果單獨(dú)從數(shù)據(jù)驅(qū)動(dòng)方面來講,布爾神經(jīng)網(wǎng)絡(luò)也可叫做前向傳播網(wǎng)絡(luò)。在該網(wǎng)絡(luò)中其各個(gè)權(quán)重和神經(jīng)網(wǎng)絡(luò)只能取值兩個(gè),分別為{-1,1}、{0,1},其閾值也被限定為整數(shù)。

但是在具體進(jìn)行運(yùn)算階段通常是使用二進(jìn)乘法、整數(shù)加法、比較操作法等幾種方法,因此與傳統(tǒng)的方法相比較其運(yùn)算速度得到了提高,另外,這種網(wǎng)絡(luò)在訓(xùn)練階段因?yàn)椴淮嬖诜聪騻鞑ミ^程,所以其不需要反復(fù)迭代,這使得其運(yùn)算速度又得到了進(jìn)一步提高。

設(shè)總數(shù)是K的訓(xùn)練樣本為ak,當(dāng),根據(jù)樣本ak,可計(jì)算對(duì)應(yīng)的權(quán)值wk=2ak-1,由于ak的取值范圍在[0、1],因此,其第k節(jié)點(diǎn)的閾值表達(dá)式為:

在該式中rk表示神經(jīng)網(wǎng)絡(luò)第k節(jié)點(diǎn)的吸引域,在該吸引域中心是該神經(jīng)網(wǎng)絡(luò)的權(quán)重矢量中心wk,而在對(duì)樣本進(jìn)行具體檢測(cè)時(shí)通常應(yīng)用的方法為漢明距離測(cè)量法,如果測(cè)試樣本在進(jìn)入某節(jié)點(diǎn)吸引域,那么對(duì)應(yīng)的節(jié)點(diǎn)則被激活,其值顯示為1。

2.1 布爾神經(jīng)網(wǎng)絡(luò)檢測(cè)流程

布爾神經(jīng)網(wǎng)絡(luò)是一種三層網(wǎng)絡(luò),如圖1所示,其第一層通常設(shè)置為輸入層,在進(jìn)行檢測(cè)過程中在該層輸入標(biāo)本模式數(shù)據(jù),在分類過程則輸入采樣樣本數(shù)據(jù)信息,其第二層通常是以C個(gè)節(jié)點(diǎn)所組成,其各個(gè)節(jié)點(diǎn)都與輸入點(diǎn)相互連接,各個(gè)節(jié)點(diǎn)均有三個(gè)相同的參數(shù),即權(quán)重、閾值及吸引域,這些參數(shù)必須要由訓(xùn)練算法來求算,第三層包括兩個(gè)節(jié)點(diǎn),分別是接受節(jié)點(diǎn)與拒絕節(jié)點(diǎn),接受節(jié)點(diǎn)的閾值為1,和各個(gè)種類的節(jié)點(diǎn)相互連接的閾值也是1,拒絕的節(jié)點(diǎn)的閾值則為θ,其和第二層的連接權(quán)重則為-1,當(dāng)種類層中出現(xiàn)多個(gè)節(jié)點(diǎn)是1的時(shí)候,那么接收點(diǎn)將被激活,與之相反當(dāng)所有的種類節(jié)點(diǎn)顯示為0時(shí),那么拒絕節(jié)點(diǎn)將被激活,說明該次輸入為奇異點(diǎn),也叫做缺陷點(diǎn),進(jìn)而完成對(duì)缺陷的檢測(cè)。

2.2 布爾神經(jīng)網(wǎng)絡(luò)的連續(xù)特征值

以上所述的布爾神經(jīng)網(wǎng)絡(luò)需要輸入的驅(qū)動(dòng)數(shù)據(jù)是二進(jìn)制數(shù),但在實(shí)際運(yùn)用過程通常是連續(xù)值,因此必須要對(duì)該網(wǎng)絡(luò)所對(duì)應(yīng)的連續(xù)特征值進(jìn)行研究,首先要對(duì)連續(xù)值做好編碼,將這些數(shù)據(jù)信息轉(zhuǎn)化為和其完全對(duì)應(yīng)的二進(jìn)制數(shù),而其具體的網(wǎng)絡(luò)結(jié)構(gòu)圖如圖2所示,該處通常利用溫度計(jì)進(jìn)行編碼,在實(shí)際操作過程中使用一連串的1來對(duì)連續(xù)值進(jìn)行對(duì)應(yīng)表示。因?yàn)槠浯嬖趯?duì)應(yīng)關(guān)系,因此該串1的長(zhǎng)度和連續(xù)量的值一般為正比關(guān)系,在具體進(jìn)行編碼過程中,由于要對(duì)一些特征值進(jìn)行歸一化數(shù),導(dǎo)致同類型的特征值在差異方面出現(xiàn)了更大的變化。

2.2.1 編碼算法。(1)對(duì)所有的特征值進(jìn)行歸一化,讓其值的分布區(qū)間在[0,1],即以其最大值除去其所有的同種特征值。(2)選定一個(gè)有效的正整數(shù),稱編碼為階次,使用該階次與所得歸一化特征值相乘,再加上0.5,并和其最為靠近的整數(shù)相互替換,最后將特征值變?yōu)檎麛?shù),使其分布區(qū)間為[1,階次+1]。(3)將相互替換得到的整數(shù)變?yōu)槎M(jìn)制數(shù),如果所得二進(jìn)制數(shù)的階次為5,則第4的編碼為111100。

2.2.2 訓(xùn)練計(jì)算。首先將訓(xùn)練獲取的數(shù)據(jù)及信息逐一離散化、歸一化,其次構(gòu)建好網(wǎng)絡(luò),依據(jù)一定的規(guī)律在訓(xùn)練過程中有序的增減種類節(jié)點(diǎn),接著對(duì)特征節(jié)點(diǎn)所對(duì)應(yīng)的閾值依據(jù)二進(jìn)制布爾神經(jīng)網(wǎng)絡(luò)的訓(xùn)練方式來求算,通常情況下訓(xùn)練節(jié)點(diǎn)的權(quán)重是1,而其閾值和所對(duì)應(yīng)連接特征數(shù)其對(duì)應(yīng)的權(quán)重及閾值均是1。

2.2.3 分類計(jì)算。(1)對(duì)輸入的樣本信息進(jìn)行歸一化并進(jìn)行編碼轉(zhuǎn)換。(2)假設(shè)拒絕節(jié)點(diǎn)顯示為1,那么根據(jù)第四步進(jìn)行。(3)種類節(jié)點(diǎn)的閾值必須加1。(4)如果拒絕節(jié)點(diǎn)顯示為1,則根據(jù)第五步或者根據(jù)第三步進(jìn)行。(5)種類層其節(jié)點(diǎn)在進(jìn)行計(jì)算時(shí)必須要減1,另外需要讀取的種類節(jié)點(diǎn)也是1,并且在進(jìn)行檢測(cè)時(shí)確定其所屬的種類。(6)將各種類層所對(duì)應(yīng)節(jié)點(diǎn)的閾值減去2,并進(jìn)行再次分類。

3 分層進(jìn)行檢測(cè)

在具體利用布爾神經(jīng)網(wǎng)絡(luò)檢測(cè)瓷磚表面缺陷過程中,除了必要的將網(wǎng)絡(luò)分類中權(quán)重及閾值除去外,還要求對(duì)神經(jīng)節(jié)點(diǎn)的各個(gè)吸引域做好對(duì)應(yīng)的控制,但是其對(duì)一些較大的吸引域做出的結(jié)果往往很是粗糙,這致使虛警出現(xiàn)的概率大大地增加,另外也會(huì)導(dǎo)致漏警出現(xiàn)的概率增加。在進(jìn)行分層檢測(cè)時(shí),對(duì)于存在差異的分辨率要求適應(yīng)不同的吸引域,對(duì)一些較低分辨率要求采用較大的吸引域,隨著進(jìn)行逐層檢驗(yàn)還需要緩慢減小吸引域,最終使得檢驗(yàn)精度得到有效提高,因?yàn)閷?duì)下層的檢驗(yàn)是在上層檢驗(yàn)結(jié)果出現(xiàn)之后才進(jìn)行的,所以排除了吸引域,因此使得檢驗(yàn)精度得到不斷提高。從圖像顯示來說,圖像結(jié)構(gòu)包含K個(gè)層次,其中不同的層次在組合過程中其分辨率存在差異,最底層是由最初的輸入圖像,而在塔形k+1層則是下層元素在該基礎(chǔ)的一種簡(jiǎn)單變換,另外第k層的元素比k+1層要多,這就呈現(xiàn)了一種塔形結(jié)構(gòu),因此對(duì)輸入客體來講,其敘述的準(zhǔn)確性相對(duì)K層來說較為粗糙,最后頂層所具有的的元素應(yīng)該

最少。

4 布爾神經(jīng)網(wǎng)絡(luò)方法的運(yùn)用方向

一般來說瓷磚表面出現(xiàn)的缺陷主要為刮痕、裂紋、斑點(diǎn)及針孔,其中針孔缺陷在進(jìn)行檢測(cè)時(shí)通常是根據(jù)其的反射性質(zhì),并通過線型CCD來完成檢測(cè)的,而本文所述的檢測(cè)手段僅對(duì)瓷磚表面的刮痕、裂紋及斑點(diǎn)進(jìn)行檢測(cè),由于瓷磚本身的大小及形狀有著極大的不確定性,所以使用本文所述的方法進(jìn)行瓷磚的缺陷檢測(cè)比傳統(tǒng)濾波器檢測(cè)效果

更好。

5 結(jié)語

本文主要闡述了對(duì)瓷磚表面缺陷檢測(cè)過程中布爾神經(jīng)網(wǎng)絡(luò)技術(shù)的一些簡(jiǎn)單運(yùn)用,其具體分為兩個(gè)階段,即訓(xùn)練階段與檢測(cè)階段,為了測(cè)試檢測(cè)的正確性,通常是將同一塊磚的無缺陷部位來作為檢測(cè)的訓(xùn)練樣本,而將其中的缺陷部分進(jìn)行檢測(cè),工作時(shí)充分利用以下三個(gè)參數(shù):方差、能量、均值,在數(shù)字化過程中要求取階次N=10,這樣可直接獲取[1,11]位所對(duì)應(yīng)的二進(jìn)表達(dá),因?yàn)槭褂昧藴囟冗M(jìn)行編碼,所以整個(gè)過程一定要以值的大小來做基礎(chǔ)參考,從實(shí)驗(yàn)結(jié)果來看,利用本文所述的方法來檢測(cè),對(duì)缺陷的檢出率得到了有效提高。

參考文獻(xiàn)

[1] 戴哲敏,許增樸,于德敏,王永強(qiáng).計(jì)算機(jī)視覺在

瓷磚表面顏色勻度分析中的應(yīng)用[J].中國陶瓷工業(yè),

2002,(4).

[2] 吳平川,路同浚,王炎.機(jī)器視覺與鋼板表面缺陷的

無損檢測(cè)[J].無損檢測(cè),2000,(1).

[3] 趙海洋,馮心海,薛鈞義,江顯異.基于機(jī)器視覺的

瓷磚表面質(zhì)量分析與檢測(cè)[J].西安建筑科技大學(xué)學(xué)報(bào)

(自然科學(xué)版),2000,(1).

[4] 羅瑋,彭復(fù)員,柳健.彩色瓷磚的自動(dòng)分類系統(tǒng)[J].

第7篇:神經(jīng)網(wǎng)絡(luò)方法范文

關(guān)鍵詞:公交客流 數(shù)據(jù)修正 徑向基神經(jīng)網(wǎng)絡(luò)

中圖分類號(hào):TP311.13 文獻(xiàn)標(biāo)識(shí)碼:A 文章編號(hào):1007-9416(2012)02-0117-01

1、引言

公交優(yōu)化調(diào)度是智能公交系統(tǒng)的重要組成部分,也是提高城市公共交通運(yùn)行效率的重要手段。近些年來,我國在公交調(diào)度方面進(jìn)行了大量的研究,提 出各種各樣的優(yōu)化調(diào)度模型。而這些模型都是建立在公交客流數(shù)據(jù)的基礎(chǔ)上的,公交客流數(shù)據(jù)的準(zhǔn)確性直接影響到公交調(diào)度優(yōu)化結(jié)果。因此,為了提高公交客流數(shù)據(jù)準(zhǔn)確性,本文提出基于RBF神經(jīng)網(wǎng)絡(luò)的公交客流修正方法,以便為公交優(yōu)化調(diào)模型提供科學(xué)的數(shù)據(jù)基礎(chǔ)。

2、徑向基神經(jīng)網(wǎng)絡(luò)理論

2.1 徑向基神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)

徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)(Radial Basic Function,RBF)是多維空間插值的傳統(tǒng)技術(shù),由Powell 于1985年提出,并于1989年論證了RBF神經(jīng)網(wǎng)絡(luò)對(duì)非線性連續(xù)函數(shù)的一致逼近性能。RBF神經(jīng)網(wǎng)絡(luò)屬于前向神經(jīng)網(wǎng)絡(luò)類型,由三層結(jié)構(gòu)組成。第一層為輸入層,由信號(hào)源點(diǎn)結(jié)點(diǎn)組成;第二層為隱藏層,隱臧結(jié)點(diǎn)由所描述的問題決定;第三層為輸入層,主要功能為響應(yīng)輸入模式。

2.2 徑向基神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)算法

RBF神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法的主要問題是求解3個(gè)有效參數(shù),分別為基函數(shù)中心,方差和隱含層到輸出層的權(quán)值。因?yàn)镽BF基函數(shù)中心選取方法不同,RBF網(wǎng)絡(luò)有多種學(xué)習(xí)方法。本文根據(jù)所要解決的問題,選用自組織選取中心的RBF神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)方法。該方法分別由無導(dǎo)師學(xué)習(xí)過程和有導(dǎo)師學(xué)習(xí)階段兩部分組成。具體學(xué)習(xí)算法這里不再贅述。

3、基于徑向基神經(jīng)網(wǎng)絡(luò)客流連續(xù)化方法

公交客流數(shù)據(jù)包括乘客到達(dá)率,下車率,斷面通過率等。本文以乘客到達(dá)率作為公交客流數(shù)據(jù)的具體例子,對(duì)其進(jìn)行基于徑向基神經(jīng)網(wǎng)絡(luò)修正。其它客流數(shù)據(jù)連續(xù)化處理方法相同。單位時(shí)間內(nèi)到達(dá)的乘客人數(shù)定義為乘客到達(dá)率,但按照定義方法求得的到達(dá)率為離散點(diǎn),不能反映出其隨時(shí)間連續(xù)變化的規(guī)律。為了得到更滿意的結(jié)果,故本文采用以上介紹的徑向量神經(jīng)網(wǎng)絡(luò)進(jìn)行連續(xù)化處理。

具體的處理步驟如下:

(1)首先把統(tǒng)計(jì)時(shí)段的中間點(diǎn)取值為該時(shí)段的平均值。

(2)如果計(jì)算時(shí),初始時(shí)刻到達(dá)率出現(xiàn)負(fù)值,則將初始時(shí)刻的平均值取半作為實(shí)際計(jì)算值。因?yàn)槭装l(fā)和末發(fā)時(shí)段一般呈現(xiàn)上升和下降的趨勢(shì),如果變化率較大,采用徑向基神經(jīng)網(wǎng)絡(luò)進(jìn)行處理時(shí),有可能使初始時(shí)刻和最后時(shí)刻的到達(dá)率出現(xiàn)負(fù)值。

(3)運(yùn)用matlab神經(jīng)網(wǎng)絡(luò)工具箱中newrb()函數(shù)構(gòu)建徑向基神經(jīng)網(wǎng)絡(luò),sim()進(jìn)行預(yù)測(cè)仿真,得出具體的曲線。

4、實(shí)例應(yīng)用

如表1所示,為江蘇省鎮(zhèn)江市19路車某個(gè)工作日江蘇大學(xué)中門站7:00~8:00的上車人數(shù)。

由表1計(jì)算結(jié)果可知江蘇大學(xué)中門站7:10~7:20的乘客到達(dá)率為2.9人/min,而7:00~7:10到達(dá)率卻是1人/min,7∶20~7∶30的A1站到達(dá)率為2.4人/min。因此,該站在7∶10~7∶20到達(dá)率應(yīng)為單調(diào)遞升,主要表現(xiàn)為7∶10附近的到達(dá)率要小于2.9人/min,7∶20附近的到達(dá)率要大于2.9人/min。所以如果7∶10~7∶15時(shí)段到達(dá)率選用2.9人/min,則必將降低公交調(diào)度優(yōu)化結(jié)果的準(zhǔn)確度。因此,為了克服上述問題的不足,得到更佳理想的結(jié)果,本文采用以上所述方法對(duì)其修正,結(jié)果如圖1所示。

5、結(jié)語

本文根據(jù)城市公交客流數(shù)據(jù)所存在的問題,采用RBF神經(jīng)網(wǎng)絡(luò)對(duì)其進(jìn)行科學(xué)修正,以便為公交調(diào)度優(yōu)化模型提供更加準(zhǔn)確的數(shù)據(jù)源。并以鎮(zhèn)江市19 路公交車江蘇大學(xué)中門站某個(gè)工作日的客流量數(shù)據(jù)計(jì)算實(shí)例,結(jié)果表明該方法科學(xué)可行,具有更加廣闊的適用面。

參考文獻(xiàn)

[1]楊慶芳,魏領(lǐng)紅,揚(yáng)兆升.公交線路調(diào)度優(yōu)化模型研究[J].合肥工業(yè)大學(xué)學(xué)報(bào),2009,32(11):1643~1645.

第8篇:神經(jīng)網(wǎng)絡(luò)方法范文

關(guān)鍵詞:脫硫脫硝;BP神經(jīng)網(wǎng)絡(luò);反向傳播;預(yù)測(cè)

中圖分類號(hào):X73文獻(xiàn)標(biāo)識(shí)碼:A文章編號(hào):16749944(2014)07021303

1技術(shù)背景

煤炭燃燒產(chǎn)生的煙氣中,含有大量的氮硫氧化物,這些氧化物直接排放到空氣中,會(huì)導(dǎo)致酸雨等自然災(zāi)害的發(fā)生。因此,各國都在積極研究煙氣脫硫脫硝技術(shù)。目前最新的技術(shù)是采用臭氧的強(qiáng)氧化性對(duì)煙氣中的NO進(jìn)行處理,使之溶解于水,降低煙氣中的氮硫氧化物。

現(xiàn)有的技術(shù)對(duì)于臭氧的添加采用的是PID控制,此控制技術(shù)經(jīng)過多年的發(fā)展,已經(jīng)相對(duì)成熟。其控制設(shè)備簡(jiǎn)單,控制思路清晰,但在控制過程中也存在很多問題,比如對(duì)于大慣性環(huán)節(jié)控制滯后,震蕩過度等問題。在添加臭氧的過程中,通過檢測(cè)煙氣輸入端的氮硫氧化物的摩爾量,利用反應(yīng)方程式計(jì)算理想狀態(tài)下需要的臭氧摩爾量,然后再通過檢測(cè)通入堿性廢水中和前的NOx,SO2的濃度,完成PID調(diào)節(jié),改變臭氧的添加量。

在添加的過程中,因?yàn)橛绊懗粞跆砑恿康母鱾€(gè)因素之間是非線性的,所以無法進(jìn)行單一的線性補(bǔ)償,導(dǎo)致臭氧添加量過大或者過少。過大會(huì)造成添加臭氧的浪費(fèi),過小會(huì)使煙氣反應(yīng)不完全,導(dǎo)致煙氣排放不達(dá)標(biāo),所以本發(fā)明的目的就是根據(jù)歷史數(shù)據(jù)對(duì)臭氧的需求量建立預(yù)測(cè)模型,通過數(shù)據(jù)的分析,預(yù)測(cè)臭氧的消耗量,以達(dá)到減少浪費(fèi)或者減少煙氣不達(dá)標(biāo)的情況。

人工神經(jīng)網(wǎng)絡(luò)是利用計(jì)算機(jī)模擬人腦的結(jié)構(gòu)和功能的一門新學(xué)科[1],能夠利用自身的優(yōu)良處理性能,解決高度非線性和嚴(yán)重不確定性系統(tǒng)的復(fù)雜問題,在此適合進(jìn)行對(duì)臭氧需求量進(jìn)行預(yù)測(cè),所以提出建立一個(gè)三層BP神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)模型,使用改進(jìn)的算法進(jìn)行訓(xùn)練,并對(duì)煙氣脫硫脫硝中臭氧需求量的預(yù)測(cè)的方法[2]。

2BP網(wǎng)絡(luò)及動(dòng)量梯度下降算法

BP(Back Propagation)網(wǎng)絡(luò)是1986年由Rumelhart和McCelland為首的科學(xué)家小組提出的,一種按誤差逆?zhèn)鞑ニ惴ㄓ?xùn)練的多層前饋網(wǎng)絡(luò),是目前應(yīng)用最廣泛的神經(jīng)網(wǎng)絡(luò)模型之一。BP網(wǎng)絡(luò)能學(xué)習(xí)和存貯大量的輸入-輸出模式映射關(guān)系,并且無需事前揭示描述這種映射關(guān)系的數(shù)學(xué)方程。它的學(xué)習(xí)規(guī)則是使用最速下降法,通過反向傳播來不斷調(diào)整網(wǎng)絡(luò)的權(quán)值和閾值,使網(wǎng)絡(luò)的誤差平方和最小。BP神經(jīng)網(wǎng)絡(luò)模型拓?fù)浣Y(jié)構(gòu)包括輸入層(input layer)、隱含層(hide layer)和輸出層(output layer)。

網(wǎng)絡(luò)學(xué)習(xí)規(guī)則又稱為 學(xué)習(xí)規(guī)則,對(duì)于給定的一組訓(xùn)練模式,不斷用一個(gè)個(gè)訓(xùn)練模式重復(fù)前向傳播和誤差反向傳播過程,各個(gè)訓(xùn)練模式都滿足要求時(shí),則說明BP網(wǎng)絡(luò)已學(xué)習(xí)好了。從網(wǎng)絡(luò)學(xué)習(xí)的角度來看,網(wǎng)絡(luò)狀態(tài)前向更新及誤差信號(hào)傳播過程中,信息的傳播是雙向的,但是不意味著網(wǎng)絡(luò)層與層之間的結(jié)構(gòu)也是雙向的。

BP神經(jīng)網(wǎng)絡(luò)能夠以任意精度逼近任何非線性連續(xù)函,使得其特別適合于求解內(nèi)部機(jī)制復(fù)雜的問題,即BP神經(jīng)網(wǎng)絡(luò)具有較強(qiáng)的非線性映射能力;其次BP神經(jīng)網(wǎng)絡(luò)具有高度自學(xué)習(xí)和自適應(yīng)的能力。還有泛化能力,即BP神經(jīng)網(wǎng)絡(luò)具有將學(xué)習(xí)成果應(yīng)用于新知識(shí)的能力。容錯(cuò)能力:BP神經(jīng)網(wǎng)絡(luò)具有一定的容錯(cuò)能力,即使系統(tǒng)在受到局部損傷時(shí)還是可以正常工作(圖1)。

從(2)式可看出,如果比例系數(shù)μ=0,則為高斯-牛頓法;如果μ取值很大,則LM算法接近梯度下降法,每迭代成功一步,則μ減小一些,這樣在接近誤差目標(biāo)的時(shí)候,逐漸與高斯-牛頓法相似[4]。高斯-牛頓法在接近誤差的最小值的時(shí)候,計(jì)算速度更快,精度也更高。由于LM算法利用了近似的二階導(dǎo)數(shù)信息,它比梯度下降法快得多,實(shí)踐證明,采用LM算法可以較原來的梯度下降法提高速度幾十甚至上百倍。另外由于[JT(w)J(w)+μw]是正定的,所以(2)式的解總是存在的,從這個(gè)意義上說,LM算法也優(yōu)于高斯-牛頓法,因?yàn)閷?duì)于高斯-牛頓法來說,JTJ是否滿秩還是個(gè)潛在的問題。

在實(shí)際的操作中,μ是一個(gè)試探性的參數(shù),對(duì)于給定的μ,如果求得的 能使誤差指標(biāo)函數(shù) 降低,則E(w)降低;反之,則μ增加。用(2)式修改一次權(quán)值和閾值時(shí)需要求n階的代數(shù)方程(n為網(wǎng)絡(luò)中權(quán)值數(shù)目)。LM算法的計(jì)算復(fù)雜度為O(n3/6),若n很大,則計(jì)算量和存儲(chǔ)量都非常大。然而,每次迭代效率的顯著提高,可大大改善其整體性能,特別是在精度要求高的時(shí)候[5]。

3臭氧脫硫脫硝需求量的預(yù)測(cè)

以BP神經(jīng)網(wǎng)絡(luò)模型為原始模型,建立一個(gè)三層BP神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)模型,使用改進(jìn)的算法進(jìn)行訓(xùn)練,并對(duì)煙氣脫硫脫硝中臭氧需求量的預(yù)測(cè)[6],主要步驟分析為以下幾個(gè)方面。

(1)根據(jù)生產(chǎn)工藝流程,臭氧將難溶于水的NOx,SO2等氮硫氧化物氧化成易溶于水的高價(jià)氧化物,通過堿性廢水進(jìn)行中和,同時(shí)脫硫脫硝的目的。通過分析可知,影響臭氧需求量的主要因素是:煙氣的流速,反應(yīng)前煙氣中氧氣的濃度,反應(yīng)中管道內(nèi)的平均氧氣濃度,反應(yīng)管道中臭氧與SO2的摩爾比,臭氧與NOx的摩爾比,氣體在反應(yīng)管道中的停留時(shí)間,堿性廢水吸收液的溫度,堿性廢水吸收液中堿離子的濃度和煙氣的溫度等因素。在此,選取以上影響因素作為BP神經(jīng)網(wǎng)絡(luò)模型的輸入變量,通入的臭氧的流速作為輸出變量。

在建立BP神經(jīng)網(wǎng)絡(luò)模型過程中,隱含層節(jié)點(diǎn)數(shù)對(duì)BP神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)精度有較大的影響,節(jié)點(diǎn)數(shù)太少,網(wǎng)絡(luò)不能很好地學(xué)習(xí),需要增加訓(xùn)練次數(shù),訓(xùn)練的精度也受影響;節(jié)點(diǎn)數(shù)太多,訓(xùn)練時(shí)間增加,網(wǎng)絡(luò)容易過擬合[7,8]。最佳隱含層節(jié)點(diǎn)數(shù)的選擇可參考如下公式。

4結(jié)語

改進(jìn)的BP網(wǎng)絡(luò)預(yù)測(cè)模型,對(duì)同時(shí)脫硫脫硝臭氧需求量進(jìn)行預(yù)測(cè),訓(xùn)練算法采用動(dòng)態(tài)自適應(yīng)學(xué)習(xí)率的梯度下降算法,能夠更快的進(jìn)行訓(xùn)練,預(yù)測(cè)誤差也較小,預(yù)測(cè)值有很好的利用價(jià)值;通過對(duì)臭氧需求量的預(yù)測(cè),能夠?qū)崟r(shí)的根據(jù)工況自動(dòng)改變臭氧的添加量,既能滿足脫硫脫硝的技術(shù)要求,同時(shí)也可以降低臭氧的需求量,降低企業(yè)成本,提高公司效益。本文只是設(shè)計(jì)了方法,結(jié)果需要經(jīng)過試驗(yàn)進(jìn)行驗(yàn)證,并進(jìn)行改進(jìn)。

參考文獻(xiàn):

[1] 吳昌設(shè).基于人工神經(jīng)網(wǎng)絡(luò)的電網(wǎng)日負(fù)荷預(yù)測(cè)研究[D].杭州:浙江大學(xué),2011.

[2] 姜成科.基于遺傳算法的神經(jīng)網(wǎng)絡(luò)在大壩變形預(yù)報(bào)中的應(yīng)用 [D].大連:大連理工大學(xué),2008.

[3] 劉曉悅,姚樂樂,聚類分析在超短期電力負(fù)荷中的應(yīng)用[J].河北聯(lián)合大學(xué)學(xué)報(bào):自然科學(xué)版,2013,35(3):74~80.

[4] 沙瑞華.基于神經(jīng)網(wǎng)絡(luò)的水電機(jī)組動(dòng)載識(shí)別研究[D].大連:大連理工大學(xué),2005.

[5] 黃豪彩,楊冠魯.基于LM算法的神經(jīng)網(wǎng)絡(luò)系統(tǒng)辨識(shí)[J].組合機(jī)床與自動(dòng)化加工技術(shù),2003(2):6~8.

[6] 馮居易,郭曄.基于LM算法的石油期貨價(jià)格預(yù)測(cè)研究[J].技術(shù)經(jīng)濟(jì)與管理研究,2009(5):19~21.

[7] 項(xiàng)灝,張俊.一種改進(jìn)的量子遺傳模擬退火算法及其在神經(jīng)網(wǎng)絡(luò)智能故障診斷中的應(yīng)用[J].機(jī)床與液壓,2012.40(13):196~200.

第9篇:神經(jīng)網(wǎng)絡(luò)方法范文

【關(guān)鍵詞】ERP BP神經(jīng)網(wǎng)絡(luò) 系統(tǒng)實(shí)施 系統(tǒng)評(píng)價(jià)

ERP(Enterprise Resource Planning)作為企業(yè)資源計(jì)劃的簡(jiǎn)稱,是融合了信息技術(shù)方法、管理理論、實(shí)際需求的先進(jìn)管理方法。從MRP物料需求計(jì)劃到現(xiàn)在的ERP企業(yè)資源計(jì)劃,ERP在信息技術(shù)、功能等方面實(shí)現(xiàn)了更廣泛的應(yīng)用,也提供了更有效率、更靈活的信息管理平臺(tái)。

ERP系統(tǒng)實(shí)施主要目標(biāo)是對(duì)企業(yè)所擁有的人、財(cái)、物、信息、時(shí)間和空間等內(nèi)部外部資源進(jìn)行優(yōu)化,達(dá)到平衡狀態(tài),協(xié)調(diào)企業(yè)各管理部門,以市場(chǎng)需求為決策要素開展業(yè)務(wù)活動(dòng),使得企業(yè)在激烈競(jìng)爭(zhēng)中不斷強(qiáng)化優(yōu)勢(shì),得到經(jīng)濟(jì)效益最大化。所以,ERP首先是一個(gè)軟件,同時(shí)也是一個(gè)管理工具。它是信息技術(shù)與管理思想的融合體,也就是先進(jìn)的管理思想借助現(xiàn)代技術(shù),來完成經(jīng)濟(jì)管理目標(biāo)。ERP系統(tǒng)實(shí)施的地位可以用實(shí)施領(lǐng)域一個(gè)經(jīng)典的總結(jié)概括:“三分技術(shù),七分實(shí)施”。ERP實(shí)施工作是針對(duì)企業(yè)管理現(xiàn)狀,將ERP系統(tǒng)先進(jìn)的技術(shù)和管理思想融合到企業(yè)實(shí)際運(yùn)作的復(fù)雜系統(tǒng)工程,實(shí)施過程也是企業(yè)管理規(guī)范化、制度化的過程。一個(gè)成功的ERP實(shí)施能縮短生產(chǎn)周期,增加需求預(yù)測(cè)的準(zhǔn)確性,改善客戶服務(wù),減少運(yùn)營(yíng)成本,通過消除冗余信息來全面縮減信息技術(shù)及計(jì)算機(jī)系統(tǒng)成本。

一、ERP系統(tǒng)實(shí)施項(xiàng)目成功要素

系統(tǒng)實(shí)施項(xiàng)目管理也屬于項(xiàng)目管理范疇,項(xiàng)目管理是一項(xiàng)綜合性的工作,涉及到多個(gè)知識(shí)領(lǐng)域。在項(xiàng)目過程中,如果只在某一領(lǐng)域采取了行動(dòng),或未能采取行動(dòng),通常會(huì)影響其他領(lǐng)域的工作開展或成果,這就是項(xiàng)目管理所涉及到的領(lǐng)域間的交互作用。

ERP成功的實(shí)施需要人、部門、過程和整個(gè)企業(yè)的改變。因此,系統(tǒng)實(shí)施過程是高壓力、長(zhǎng)時(shí)間、具有不確定性的過程。但他們也會(huì)在企業(yè)運(yùn)作方式方面提供驚人的改變機(jī)會(huì)。公司實(shí)施系統(tǒng)的方式將在很大程度上決定是否其能夠成功。根據(jù)特定的情況,許多因素都將對(duì)系統(tǒng)成功實(shí)施起到關(guān)鍵作用。有八個(gè)比較關(guān)鍵的成功要素:

(1)實(shí)施團(tuán)隊(duì)代表必須由公司優(yōu)秀員工組成。被高層管理者充分信任,這些小組也應(yīng)該有重組已經(jīng)存在的業(yè)務(wù)過程的權(quán)力或者開發(fā)出新的業(yè)務(wù)過程來支持組織目標(biāo)。

(2)中層管理被全面包含在實(shí)施過程中。這些人也必須被包含在決策過程中,尤其在決定具體實(shí)施計(jì)劃的時(shí)候。成功的實(shí)施需要實(shí)施者和最終用戶持續(xù)的溝通。中層管理者必須促進(jìn)員工的持續(xù)反饋,為他們的問題提供真誠的答案,并且?guī)椭麄兘鉀Q問題。

(3)優(yōu)秀的項(xiàng)目管理技術(shù)應(yīng)被采用。實(shí)施小組應(yīng)該采用具有規(guī)則的方法來主導(dǎo)管理,包括對(duì)目標(biāo),工作計(jì)劃進(jìn)展的清晰定義,以及建立資源需求計(jì)劃。

(4)原有ERP系統(tǒng),包括試運(yùn)行系統(tǒng)都需要淘汰。每個(gè)人都必須在新系統(tǒng)下工作,而不是作為旁觀者。平行運(yùn)作或者試運(yùn)行的系統(tǒng)都將會(huì)使員工有避免使用新系統(tǒng)的機(jī)會(huì)。

(5)恰當(dāng)激勵(lì)機(jī)制和持續(xù)檢測(cè)。實(shí)施前必須確定恰當(dāng)?shù)捻?xiàng)目評(píng)估方法。管理者,供應(yīng)商,實(shí)施小組和系統(tǒng)使用用戶必須共擔(dān)責(zé)任。如果一些員工不能獲得一致達(dá)成的目標(biāo),他們將接受必要的協(xié)助或者被替換。如果系統(tǒng)實(shí)施與獎(jiǎng)金無關(guān),那么它將不會(huì)是成功的。當(dāng)小組達(dá)成了特定目標(biāo),獎(jiǎng)金必須以公開的方式呈現(xiàn)。

(6)建立一個(gè)比較前瞻的但卻能達(dá)成的實(shí)施進(jìn)度計(jì)劃。盡最大努力將實(shí)施工作標(biāo)準(zhǔn)化,減少處理實(shí)施異常需要的時(shí)間和努力,并有助于讓實(shí)施工作按照進(jìn)程進(jìn)行。

(7)需要成功的管理變革技術(shù)。實(shí)施團(tuán)隊(duì),高層管理者,中層管理者以及一般管理人員都應(yīng)該使用成功變革技巧來識(shí)別并瞄準(zhǔn)阻礙改變的因素。

(8)提供廣泛的教育與培訓(xùn)。這其中包括實(shí)施前和實(shí)施中大量的最終用戶培訓(xùn),以及實(shí)施后的后續(xù)培訓(xùn)。高層管理者必須準(zhǔn)備好投資大量的金錢在培訓(xùn)上,并將其作為正式的系統(tǒng)預(yù)算一部分,因?yàn)橄到y(tǒng)的全部效益只有在最終用戶恰當(dāng)使用系統(tǒng)時(shí)才會(huì)被認(rèn)識(shí)到。如果員工能理解系統(tǒng)怎樣運(yùn)作,他們就會(huì)利用他們所知道的操作方法來操作部分系統(tǒng)模塊以改造業(yè)務(wù)過程。研究表明預(yù)留系統(tǒng)實(shí)施預(yù)算總額的百分之十到百分之十五份額給培訓(xùn)部分將會(huì)給成功實(shí)施帶來百分之八十的機(jī)會(huì)。

二、ERP實(shí)施項(xiàng)目評(píng)價(jià)指標(biāo)

由于系統(tǒng)使用者角色較多,承擔(dān)不同的責(zé)任,因此在建立評(píng)價(jià)指標(biāo)體系時(shí)一定要把與應(yīng)用管理系統(tǒng)有著緊密關(guān)聯(lián)的管理思想、管理方法、管理模式、管理基礎(chǔ)、管理機(jī)制、業(yè)務(wù)流程、組織結(jié)構(gòu)、員工素質(zhì)、信息處理以及反映企業(yè)綜合能力和過程控制狀況的相關(guān)經(jīng)濟(jì)指標(biāo)等評(píng)價(jià)內(nèi)容包括進(jìn)來,重點(diǎn)突出企業(yè)通過應(yīng)用信息系統(tǒng)后在管理方面有哪些改進(jìn)、提高和創(chuàng)新。

由于企業(yè)處在激烈的競(jìng)爭(zhēng)環(huán)境中,對(duì)實(shí)施效益應(yīng)當(dāng)分別從橫向和縱向來分析和評(píng)價(jià),因此,企業(yè)信息系統(tǒng)實(shí)施是否有效的最終評(píng)價(jià)標(biāo)準(zhǔn)是它與原有系統(tǒng)相比的優(yōu)劣程度和它與同行業(yè)企業(yè)相比的優(yōu)劣程度。只有新系統(tǒng)運(yùn)行平穩(wěn)同時(shí)又具有原系統(tǒng)不具備的優(yōu)勢(shì),并有助于保持企業(yè)目前和長(zhǎng)遠(yuǎn)的競(jìng)爭(zhēng)利益,才能認(rèn)為企業(yè)成功地實(shí)施了管理信息系統(tǒng)。這種比較應(yīng)當(dāng)建立在量化的基礎(chǔ)上,以確保比較的公開性、公正性和可接受性。項(xiàng)目總評(píng)的指標(biāo)體系及其量化在項(xiàng)目結(jié)束時(shí)進(jìn)行的項(xiàng)目總評(píng)活動(dòng)應(yīng)當(dāng)從全局的觀點(diǎn)出發(fā),既要考慮項(xiàng)目對(duì)于本行業(yè)的特殊性,又要考慮項(xiàng)目對(duì)企業(yè)發(fā)展通用模式的普遍效益。

為加強(qiáng)企業(yè)信息化程度,國資委下達(dá)了《關(guān)于加強(qiáng)中央企業(yè)信息化工作的指導(dǎo)意見》。中央企業(yè)信息化水平評(píng)價(jià)以中央企業(yè)的總體水平為對(duì)象,實(shí)行初評(píng)和復(fù)評(píng)相結(jié)合。評(píng)價(jià)結(jié)果共分五個(gè)級(jí)別:A、B、C、D、E。對(duì)于針對(duì)具體某個(gè)行業(yè),某個(gè)企業(yè)的信息系統(tǒng)評(píng)價(jià)雖然沒有中央企業(yè)信息化水平評(píng)價(jià)工程巨大,但仍然是個(gè)系統(tǒng)的評(píng)價(jià)過程。就基站管理系統(tǒng)來說,基于此系統(tǒng)實(shí)施項(xiàng)目特殊性,可以從兩個(gè)角度來考慮評(píng)價(jià)指標(biāo)的設(shè)計(jì)。首先,是人員角度,人員有兩個(gè)角色,一是項(xiàng)目組成員,需要考察項(xiàng)目組人員執(zhí)行力度;二是系統(tǒng)終端用戶,對(duì)于信息系統(tǒng)操作掌握程度。其次,系統(tǒng)本身角度,要考慮系統(tǒng)處理數(shù)據(jù)的準(zhǔn)確性及運(yùn)行穩(wěn)定性。最后,就是實(shí)施項(xiàng)目本身角度,項(xiàng)目是否在既定成本和時(shí)間下完成。

根據(jù)一般信息系統(tǒng)評(píng)價(jià)小組專家構(gòu)成情況可知,評(píng)價(jià)組織中專家的專業(yè)構(gòu)成要有一個(gè)合理的比例,應(yīng)以管理專家為主一般為4∶2∶1,即項(xiàng)目評(píng)價(jià)小組由20位專家組成,其中12位為管理專家,3位為生產(chǎn)工藝專家或產(chǎn)品專家,另2位為系統(tǒng)應(yīng)用軟件和硬件網(wǎng)絡(luò)專家。按照這樣的原則,邀請(qǐng)20位專家對(duì)次系統(tǒng)做出評(píng)價(jià)。初步確定了基站管理信息系統(tǒng)實(shí)施項(xiàng)目七個(gè)主要評(píng)價(jià)指標(biāo):系統(tǒng)實(shí)施項(xiàng)目制度執(zhí)行力、系統(tǒng)培訓(xùn)充分性、數(shù)據(jù)準(zhǔn)確性、系統(tǒng)運(yùn)行穩(wěn)定性、員工掌握信息化程度、項(xiàng)目成本控制情況、系統(tǒng)是否按時(shí)交付。

三、BP神經(jīng)網(wǎng)絡(luò)方法

(1)BP神經(jīng)網(wǎng)絡(luò)方法在系統(tǒng)評(píng)價(jià)中優(yōu)勢(shì)。通常都采用層次分析法來評(píng)價(jià)信息系統(tǒng),運(yùn)用BP人工神經(jīng)網(wǎng)絡(luò)評(píng)價(jià)解決了多指標(biāo)變權(quán)問題的動(dòng)態(tài)求解,克服了權(quán)重確定過程中的主觀因素,為客觀進(jìn)行基站管理系統(tǒng)實(shí)施項(xiàng)目評(píng)價(jià)提供了一種有效的方法.在ERP實(shí)施項(xiàng)目評(píng)價(jià)中,利用人工神經(jīng)網(wǎng)絡(luò)可以全面評(píng)價(jià)信息系統(tǒng)實(shí)施過程中人員、系統(tǒng)等多因素共同作用下最終效果,運(yùn)用神經(jīng)網(wǎng)絡(luò)知識(shí)儲(chǔ)存和自適應(yīng)特征,可以實(shí)現(xiàn)歷史經(jīng)驗(yàn)與新知識(shí)的結(jié)合,在發(fā)展過程中動(dòng)態(tài)評(píng)價(jià)ERP實(shí)施項(xiàng)目。

(2)BP神經(jīng)網(wǎng)絡(luò)輸入節(jié)點(diǎn)確定。根據(jù)前期評(píng)價(jià)指標(biāo)確定輸入節(jié)點(diǎn)數(shù)目。

(3)根據(jù)前面建立的評(píng)價(jià)指標(biāo),輸入節(jié)點(diǎn)確立為系統(tǒng)實(shí)施項(xiàng)目執(zhí)行力度、系統(tǒng)培訓(xùn)充分性、數(shù)據(jù)準(zhǔn)確性、系統(tǒng)運(yùn)行穩(wěn)定性、員工掌握信息化程度、實(shí)施項(xiàng)目成本控制情況、項(xiàng)目是否按時(shí)交付。共七個(gè)作為BP神經(jīng)網(wǎng)絡(luò)輸入節(jié)點(diǎn)。

(4)隱含層數(shù)目和隱含層神經(jīng)元數(shù)目確定。本模型采用一個(gè)隱含層,一個(gè)輸出層兩層的BP網(wǎng)絡(luò)結(jié)構(gòu),BP神經(jīng)網(wǎng)絡(luò)的隱藏層數(shù)目就現(xiàn)階段而言不是主流問題,通常采用一層隱含層的網(wǎng)絡(luò)結(jié)構(gòu),相對(duì)于隱含層中的神經(jīng)元個(gè)數(shù)來說并不那么重要。

本模型隱含層采用了三個(gè)神經(jīng)元。有研究表明對(duì)任何閉區(qū)間內(nèi)的連續(xù)函數(shù),都可以用一個(gè)隱含層的BP神經(jīng)網(wǎng)絡(luò)來逼近,因而一個(gè)三層的BP神經(jīng)網(wǎng)絡(luò)可以完成任意的N維到M維的映射。

(5)輸出節(jié)點(diǎn)確定。輸出節(jié)點(diǎn)對(duì)應(yīng)評(píng)價(jià)結(jié)果,比如本評(píng)價(jià)標(biāo)準(zhǔn)采用0-10分打分制,希望最后得出實(shí)施項(xiàng)目總體評(píng)價(jià)分?jǐn)?shù),8分以上可以定義為本實(shí)施項(xiàng)目成功。所以結(jié)果為一個(gè)1-10之間的數(shù)字,為一個(gè)節(jié)點(diǎn)。

(6)函數(shù)選擇。函數(shù)newff()就是用來構(gòu)建神經(jīng)網(wǎng)絡(luò)的。它需要四個(gè)輸入條件,依次是:由R維的輸入樣本最大最小值構(gòu)成的R*7維矩陣、各層的神經(jīng)元個(gè)數(shù)、各層神經(jīng)元的傳遞函數(shù)以及訓(xùn)練用函數(shù)的名稱。

本評(píng)價(jià)模型采用兩層神經(jīng)網(wǎng)絡(luò),其輸入向量是七維的,輸入向量的范圍為【0 10;0 10;0 10;0 10;0 10;0 10;0 10】,第一層(隱層)有三個(gè)神經(jīng)元,傳遞函數(shù)是tansig();第二層(輸出層)是單個(gè)神經(jīng)元,傳遞函數(shù)是線性的,訓(xùn)練函數(shù)選擇traingd()。

輸入向量范圍:輸入向量范圍確定為【0 10】,因?yàn)橹笜?biāo)打分設(shè)置為0-10分

傳遞函數(shù)tansig()的選擇:tansig是雙曲正切S型傳遞函數(shù),收斂速度相對(duì)于logsig要快,通常bp神經(jīng)網(wǎng)絡(luò)架構(gòu)的輸入層會(huì)選擇tansig函數(shù)。

輸出函數(shù)purelin的選擇:purelin為線性傳遞函數(shù),通常用在輸出層。

訓(xùn)練函數(shù)traingd()的選擇:traingd函數(shù)是批梯度下降訓(xùn)練函數(shù),沿網(wǎng)絡(luò)性能參數(shù)的負(fù)梯度方向調(diào)整網(wǎng)絡(luò)的權(quán)值和閾值。 Traingdm函數(shù)是動(dòng)量批梯度下降函數(shù),也是一種批處理的前饋神經(jīng)網(wǎng)絡(luò)訓(xùn)練方法,不但具有更快的收斂速度,而且引入了一個(gè)動(dòng)量項(xiàng),有效避免了局部最小問題在網(wǎng)絡(luò)訓(xùn)練中出現(xiàn)。 Trainrp是有彈回的BP算法,用于消除梯度模值對(duì)網(wǎng)絡(luò)訓(xùn)練帶來的影響,提高訓(xùn)練的速度。一般來說,traingd和traingdm是普通訓(xùn)練函數(shù),而traingda,traingdx,traingd,trainrp,traincgf,traincgb,trainscg,trainbgf等都是快速訓(xùn)練函數(shù),在訓(xùn)練時(shí)間和精度上存在差異。此處選擇普通訓(xùn)練函數(shù)traingd。

參考文獻(xiàn)

[1]陳君,李聰穎,丁光明.基于BP神經(jīng)網(wǎng)絡(luò)的高速公路交通安全評(píng)價(jià)[J].同濟(jì)大學(xué)學(xué)報(bào),2008,36(7).

[2] William R. King.Ensuring ERP Implementation Success [J].IT Strategy and Innovation,2007.

[3]趙萬芹.基于BP神經(jīng)網(wǎng)絡(luò)的產(chǎn)品造型設(shè)計(jì)評(píng)價(jià)[J].計(jì)算機(jī)工程與設(shè)計(jì),2009,30(24).

[4]閔文杰,陳建明,張仲義.信息系統(tǒng)評(píng)價(jià)指標(biāo)體系及方法的研究[J].鐵道學(xué)報(bào),2000,22(5).

相關(guān)熱門標(biāo)簽