引言：易發(fā)表網(wǎng)憑借豐富的文秘實(shí)踐，為您精心挑選了九篇神經(jīng)網(wǎng)絡(luò)算法范例。如需獲取更多原創(chuàng)內(nèi)容，可隨時(shí)聯(lián)系我們的客服老師。

第1篇

1、BP（Back Propagation）網(wǎng)絡(luò)是1986年由Rumelhart和McCelland為首的科學(xué)家小組提出，是一種按誤差逆?zhèn)鞑ニ惴ㄓ?xùn)練的多層前饋網(wǎng)絡(luò)，是應(yīng)用最廣泛的神經(jīng)網(wǎng)絡(luò)模型之一。BP網(wǎng)絡(luò)能學(xué)習(xí)和存貯大量的輸入-輸出模式映射關(guān)系，而無需事前揭示描述這種映射關(guān)系的數(shù)學(xué)方程。它的學(xué)習(xí)規(guī)則是使用最速下降法，通過反向傳播來不斷調(diào)整網(wǎng)絡(luò)的權(quán)值和閾值，使網(wǎng)絡(luò)的誤差平方和最小。BP神經(jīng)網(wǎng)絡(luò)模型拓?fù)浣Y(jié)構(gòu)包括輸入層（input）、隱層(hide layer)和輸出層(output layer)。

2、BP神經(jīng)網(wǎng)絡(luò)算法是在BP神經(jīng)網(wǎng)絡(luò)現(xiàn)有算法的基礎(chǔ)上提出的，是通過任意選定一組權(quán)值，將給定的目標(biāo)輸出直接作為線性方程的代數(shù)和來建立線性方程組，解得待求權(quán)，不存在傳統(tǒng)方法的局部極小及收斂速度慢的問題，且更易理解。

（來源：文章屋網(wǎng) ）

第2篇

【關(guān)鍵詞】深度學(xué)習(xí) 卷積神經(jīng)網(wǎng)絡(luò) 權(quán)值共享 下采樣 R-CNN Fast-R-CNN

1 緒論

隨著電子信息技術(shù)的快速發(fā)展，芯片的設(shè)計(jì)與生產(chǎn)進(jìn)入了納米時(shí)代，計(jì)算機(jī)的計(jì)算能力與計(jì)算速度得到了空前的提高，但是人們的需求是無限的，要求計(jì)算機(jī)能更加任性化的服務(wù)于我們的生活，這也就要求計(jì)算機(jī)本身能像人一樣識別與感知周圍的環(huán)境，并對復(fù)雜的環(huán)境做出正確的判斷。而圖片信息是我們周圍環(huán)境最直觀的，最容易獲取的信息，要求計(jì)算機(jī)能對為的環(huán)境做出識別與判斷也就要求計(jì)算機(jī)能夠智能的識別圖像信息。深度學(xué)習(xí)是機(jī)器學(xué)習(xí)中的一個(gè)新的研究領(lǐng)域。通過深度學(xué)習(xí)的方法構(gòu)建深度網(wǎng)絡(luò)來抽取目標(biāo)特征進(jìn)而識別周圍的環(huán)境。卷積神經(jīng)網(wǎng)絡(luò)對圖像的處理具有平移，旋轉(zhuǎn)，扭曲不變的優(yōu)良特性。在處理圖像是更加快捷和便利。卷積神經(jīng)網(wǎng)絡(luò)使得計(jì)算機(jī)在感知識別周圍環(huán)境的能力有了巨大的提升，使得計(jì)算機(jī)更加智能。卷積神經(jīng)網(wǎng)絡(luò)擁有強(qiáng)大的特征提取能力，使得其在圖像分類識別，目標(biāo)跟蹤等領(lǐng)域有著強(qiáng)大的運(yùn)用。

1.1 國內(nèi)外研究現(xiàn)狀

1986年，Rumelhart和Mc Celland提出BP算法。BP算法反向傳導(dǎo)神經(jīng)網(wǎng)絡(luò)輸出誤差進(jìn)行訓(xùn)練神經(jīng)網(wǎng)絡(luò)。通過BP算法，神經(jīng)網(wǎng)絡(luò)能夠從大量訓(xùn)練數(shù)據(jù)中的學(xué)習(xí)到相關(guān)統(tǒng)計(jì)信息，學(xué)習(xí)到的數(shù)據(jù)統(tǒng)計(jì)信息能夠反映關(guān)于輸入-輸出數(shù)據(jù)模型的函數(shù)映射關(guān)系。

自2006年以來，Geoffery Hinton教授提出深度信念網(wǎng)絡(luò)。從此深度學(xué)習(xí)在學(xué)術(shù)界持續(xù)升溫。深度學(xué)習(xí)不僅改變著傳統(tǒng)的機(jī)器學(xué)習(xí)方法，也影響著我們對人類感知的理解，迄今已在語音識別和圖像理解等應(yīng)用領(lǐng)域引起了突破性的變革。各種相關(guān)的算法和模型都取得了重要的突破，使得深度學(xué)習(xí)在圖像分類，語音識別，自然語言處理等領(lǐng)域有廣泛的運(yùn)用。

2013年百度成立百度深度學(xué)習(xí)研究院以來我國的人工智能領(lǐng)域取得了長足的進(jìn)步。在人工智能專家吳恩達(dá)的帶領(lǐng)下，百度陸續(xù)推出一系列人工智能產(chǎn)品，無人駕駛技術(shù)，DuerOS語音交互計(jì)算平臺，人臉識別技術(shù)，美樂醫(yī)等優(yōu)秀產(chǎn)品。此外Imagenet圖像識別大賽中也誕生了一系列經(jīng)典的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，VGG，F(xiàn)ast-R-CNN，SPP-net等等，可以說人工智能技術(shù)在近幾年得到了空前的發(fā)展。

2 深度學(xué)習(xí)概述

深度學(xué)習(xí)是機(jī)器學(xué)習(xí)的一個(gè)新方向，通過學(xué)習(xí)樣本數(shù)據(jù)內(nèi)在規(guī)律和深層特征深度，深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)能夠像人一樣有分析和學(xué)的能力，尤其在文字處理，圖像識別，語音等領(lǐng)域更加突出。能夠自主學(xué)習(xí)一些新的東西。目前深度學(xué)習(xí)使用的典型技術(shù)是通過特征表達(dá)和分類器來進(jìn)行目標(biāo)識別等任務(wù)的。并在語音識別、圖像處理、機(jī)器翻譯等領(lǐng)域取得很多成果。

深度學(xué)習(xí)不同于以往的淺層學(xué)習(xí)，淺層學(xué)習(xí)模型值包含一個(gè)隱藏層，或者不存在隱藏層，深度學(xué)習(xí)則是由很多隱藏層組成的，上一層的輸出作為下一層的輸入，實(shí)驗(yàn)對輸入信息進(jìn)行分級表達(dá)。目前深度學(xué)習(xí)框架主要包含三種深度學(xué)習(xí)框架，如圖1、2、3所示。

3 卷積神經(jīng)網(wǎng)絡(luò)

卷積神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)層次比傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)復(fù)雜，卷積神經(jīng)網(wǎng)絡(luò)包含大量的隱藏層，相鄰的卷積核或者下采樣核采用局部感受野全鏈接，神經(jīng)元權(quán)值共享的規(guī)則，因此卷積神經(jīng)網(wǎng)絡(luò)訓(xùn)練參數(shù)的數(shù)量遠(yuǎn)比傳統(tǒng)神經(jīng)網(wǎng)絡(luò)少，卷積神經(jīng)網(wǎng)絡(luò)在訓(xùn)練和前向測試的復(fù)雜度大幅度降低，同時(shí)也減少了神經(jīng)網(wǎng)絡(luò)訓(xùn)練參數(shù)過擬合的幾率。卷積神經(jīng)網(wǎng)絡(luò)主要有兩部分，分別是卷積核和下采樣核。卷積核主要對上一層的圖像進(jìn)行卷積運(yùn)算，提取圖像特征，下采樣核則是對上層的數(shù)據(jù)進(jìn)行將為處理，減少神經(jīng)網(wǎng)絡(luò)的復(fù)雜度。

卷積神經(jīng)網(wǎng)絡(luò)中每一個(gè)神經(jīng)元的輸入與前一層的局部感受野相連，提取局部感受野的特征，比如圖像的輪廓，顏色等特征，而這些特征不僅包括傳統(tǒng)人類能理解的特征，也包括神經(jīng)網(wǎng)絡(luò)自身能夠識別的特征，卷積核全職共享，因此這些特征提取與圖像的位置無關(guān)。

圖4是經(jīng)典的LeNet5卷積神經(jīng)網(wǎng)絡(luò)架構(gòu)，LeNet5架構(gòu)中卷積核和下采樣核交替出現(xiàn)，下采樣核及時(shí)的將卷積核生成的特征向量進(jìn)行降維，減少神經(jīng)網(wǎng)絡(luò)的運(yùn)算量。LeNet5算法在1962年幼Hubel等人提出，在識別手寫數(shù)字mnist中有極高的準(zhǔn)確率。

4 R-CNN、Fast-R-CNN對比分析

卷積神經(jīng)網(wǎng)絡(luò)在對圖像進(jìn)行識別具有平移，旋轉(zhuǎn)，扭曲不變的優(yōu)良特性，并且能夠?qū)崿F(xiàn)高準(zhǔn)確率識別圖像，但是在現(xiàn)實(shí)生活運(yùn)用中往往需要神經(jīng)網(wǎng)絡(luò)標(biāo)記出目標(biāo)的相對位置，這是傳統(tǒng)卷積神經(jīng)網(wǎng)絡(luò)不具備的功能。因此在前人傳統(tǒng)卷積神經(jīng)網(wǎng)路基礎(chǔ)上對卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行改進(jìn)，產(chǎn)生了具有對圖像中目標(biāo)進(jìn)行識別和定位的卷積神經(jīng)網(wǎng)絡(luò)R-CNN，F(xiàn)ast-R-CNN等改良算法。

4.1 R-CNN

R-CNN為Region Convoluntional Neural Network的縮寫即對圖像進(jìn)行局部區(qū)域的卷積處理，其核心思想主要是利用候選區(qū)圖像對物體探測中位置信息進(jìn)行精確處理和利用監(jiān)督式預(yù)訓(xùn)練和區(qū)域特殊化的微調(diào)方法，代替了傳統(tǒng)的非監(jiān)督式預(yù)訓(xùn)練和監(jiān)督式微調(diào)。

在CNN中，全連接層輸入是固定大小的，因此R-CNN用計(jì)算機(jī)視覺算法將每一張圖片分割成1000-2000張的候選區(qū)圖片后，要將這些候選區(qū)圖片進(jìn)行變換，生成固定大小的候選圖片，在訓(xùn)練提取特征時(shí)一般采用經(jīng)過預(yù)訓(xùn)練的模型參數(shù)進(jìn)行finetuning，榱嗽黽友盜費(fèi)本，模型在也將生成的候選框以及標(biāo)定的標(biāo)簽作為訓(xùn)練樣本進(jìn)行訓(xùn)練。R-CNN采用SVMs分類器對特征向量進(jìn)行分類，在訓(xùn)練SVMs時(shí)將候選框經(jīng)過卷積神經(jīng)網(wǎng)絡(luò)提取的特征和SVM標(biāo)定結(jié)果輸入到SVMs分類器訓(xùn)練分類器模型。而在測試時(shí)將圖像全部候選框經(jīng)過卷積神經(jīng)網(wǎng)絡(luò)提取的特征輸入到SVMs分類器中，得到每一類的評分結(jié)果。但是R-CNN在處理一張圖片是要處理需要對一張圖片1000-2000個(gè)候選區(qū)圖像進(jìn)行前向運(yùn)算，保存所有后選取圖片的特征值，要求計(jì)算硬件有大量的存儲空間，同時(shí)處理每一張圖片的時(shí)間也會增加。由于訓(xùn)練集龐大，本文采用hard negative mining method方法提高存儲的利用率。

R-CNN的體現(xiàn)出了極大的優(yōu)勢，其中MAP也可以大幅度提高，但是正如本文上述，R-CNN計(jì)算的時(shí)間成本很大，達(dá)不到實(shí)時(shí)的計(jì)算效果，R-CNN在對候選區(qū)進(jìn)行處理時(shí)會使得圖像失真，部分信息丟失。

4.2 Fast-R-CNN

Fast-R-CNN則是再次改進(jìn)的一種基于卷積神經(jīng)網(wǎng)絡(luò)目標(biāo)跟蹤定位算法。相比于R-CNN，F(xiàn)ast-R-CNN從單輸入變?yōu)殡p輸入，在全連接層后有了兩個(gè)輸出，引入了Rol層。

Fast-R-CNN在運(yùn)行的時(shí)候同樣會生成大量的候選區(qū)，同時(shí)將原始的圖片用卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行特征提取，將原始圖片提取的特征與生成的候選區(qū)坐標(biāo)送入Rol層為每一個(gè)候選區(qū)生成一個(gè)固定大小的特征向量。最后將Rol生成的特征向量全連接層產(chǎn)生最終的LOSS。Fast-R-CNN中的LOSS采用多LOSS模式，SoftMax LOSS用于計(jì)算K+1分類的損失，K為第K個(gè)目標(biāo)，1為背景；Regression LOSS計(jì)算候選區(qū)的四個(gè)角的坐標(biāo)。

Fast-R-CNN在MAP上有了大幅度的提升，速度也得到了提升，但是在計(jì)算候選區(qū)是仍存在瓶頸，這也是限制Fast-R-CNN速度的因素。

5 實(shí)驗(yàn)測試

對于本文提出的卷積神經(jīng)網(wǎng)絡(luò)識別圖像定位圖像目標(biāo)算法R-CNN，F(xiàn)ast-R-CNN，在本章給出實(shí)驗(yàn)結(jié)果。實(shí)驗(yàn)平臺為基于Linux系統(tǒng)的debian8下運(yùn)行caffe進(jìn)行訓(xùn)練，采用顯卡K620進(jìn)行實(shí)驗(yàn)。

訓(xùn)練模型初始化參數(shù)在是服從高斯隨機(jī)分布，R-CNN采用的網(wǎng)絡(luò)結(jié)構(gòu)如圖7所示，F(xiàn)ast-R-CNN的網(wǎng)絡(luò)結(jié)構(gòu)如圖8所示。

本次實(shí)現(xiàn)的訓(xùn)練樣本為錄制實(shí)驗(yàn)室視頻數(shù)據(jù)，將視頻數(shù)據(jù)轉(zhuǎn)換成幀圖片，對每張圖片數(shù)據(jù)進(jìn)行裁剪，裁剪后圖像大小在256*256，共有500張，再將裁剪后的圖片進(jìn)行旋轉(zhuǎn)，平移，扭曲，鏡像，加噪聲等處理，最后生成144萬張樣本圖片，其中136.8萬張圖片作為訓(xùn)練樣本，7.2萬張作為測試樣本。

6 總結(jié)

在目標(biāo)識別定位領(lǐng)域，卷積神經(jīng)網(wǎng)絡(luò)具有強(qiáng)大的圖像處理能力，對圖像的識別定位具有很高度平移，旋轉(zhuǎn)，扭曲不變形的優(yōu)良性能。卷積神經(jīng)網(wǎng)絡(luò)架構(gòu)R-CNN和Fast-R-CNN都有強(qiáng)大的圖像處理能力。Fast-R-CNN在識別準(zhǔn)確率上比R-CNN高。R-CNN算法復(fù)雜，對一張圖片需要進(jìn)行1000-2000次的卷積運(yùn)算，特征重復(fù)提取。因此在訓(xùn)練和前向測試時(shí)，R-CNN用的時(shí)間長，不能很好的適用于處理實(shí)時(shí)圖片數(shù)據(jù)，尤其視頻數(shù)據(jù)。R-CNN在對每個(gè)候選區(qū)進(jìn)行特征提取之后需要將提取的特征向量存入內(nèi)存，降低訓(xùn)練測試時(shí)間的同時(shí)也需要耗費(fèi)大量內(nèi)存。因此從各方面分析可知，F(xiàn)ast-R-CNN性能優(yōu)于R-CNN。

參考文獻(xiàn)

[1]謝寶劍.基于卷積神經(jīng)網(wǎng)絡(luò)圖像分類方法研究[D].合肥工業(yè)大學(xué)，2015.

[2]鄭胤，陳權(quán)崎，章毓晉.深度學(xué)習(xí)及其在目標(biāo)和行為識別中的新進(jìn)展[J].中國圖象圖形學(xué)報(bào)，2014（02）：175-184.

[3]陳先昌.基于卷積神經(jīng)網(wǎng)絡(luò)的深度學(xué)習(xí)算法與運(yùn)用研究[D].杭州：浙江工商大學(xué)，2006（04）：603-617.

[4]李彥冬，郝宗波，雷航等.卷積神經(jīng)網(wǎng)絡(luò)研究綜述[J].計(jì)算機(jī)應(yīng)用，2016.

[5]Gibson.J J.The perception of the Visual World[J].Cambridge，England，1950.

[6]HORN B，SCHUNCK P.Determining optical flow[J].Artificial Intelligence， 1981，17：185-203.

[7]R.Girshick，J.Donahue，T. Darrell，and J.Malik，“Rich feature hierarchies for accurate object detection and semantic segmentation，”in CVPR，2014

[8]Ross Girshick，Wicrosoft Research. Fast R-CNN，.

[9]R.Girshick.Fast R-CNN. arXiv：1504.08083，2015.

第3篇

關(guān)鍵詞：期貨經(jīng)紀(jì)公司 綜合實(shí)力 主成分分析 聚類分析

人工神經(jīng)網(wǎng)絡(luò)（ANN）是大腦及其活動的一個(gè)理論化的數(shù)學(xué)模型，由大量的處理單元（神經(jīng)元）互連而成的，是神經(jīng)元聯(lián)結(jié)形式的數(shù)學(xué)抽象，是一個(gè)大規(guī)模的非線性自適應(yīng)模型。人工神經(jīng)網(wǎng)絡(luò)具有高速的運(yùn)算能力，很強(qiáng)的自學(xué)習(xí)能力、自適應(yīng)能力和非線性映射能力以及良好的容錯(cuò)性，因而它在模式識別、圖像處理、信號及信息處理、系統(tǒng)優(yōu)化和智能控制等許多領(lǐng)域得到了廣泛的應(yīng)用。

人工神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)算法可以分為：局部搜索算法，包括誤差反傳（BP）算法、牛頓法和共軛梯度法等；線性化算法；隨機(jī)優(yōu)化算法，包括遺傳算法（GA）、演化算法（EA）、模擬退火算法（SA）等。

蟻群算法是一種基于模擬螞蟻群行為的隨機(jī)搜索優(yōu)化算法。雖然單個(gè)螞蟻的能力非常有限，但多個(gè)螞蟻構(gòu)成的群體具有找到蟻穴與食物之間最短路徑的能力，這種能力是靠其在所經(jīng)過的路徑上留下的一種揮發(fā)性分泌物（pheromone）來實(shí)現(xiàn)的。螞蟻個(gè)體間通過這種信息的交流尋求通向食物的最短路徑。已有相關(guān)計(jì)算實(shí)例表明該算法具有良好的收斂速度，且在得到的最優(yōu)解更接近理論的最優(yōu)解。

本文嘗試將蟻群算法引入到前向神經(jīng)網(wǎng)絡(luò)的優(yōu)化訓(xùn)練中來，建立了基于該算法的前向神經(jīng)網(wǎng)絡(luò)訓(xùn)練模型，編制了基于C++語言的優(yōu)化計(jì)算程序，并針對多個(gè)實(shí)例與多個(gè)算法進(jìn)行了比較分析。

前向神經(jīng)網(wǎng)絡(luò)模型

前向人工神經(jīng)網(wǎng)絡(luò)具有數(shù)層相連的處理單元，連接可從一層中的每個(gè)神經(jīng)元到下一層的所有神經(jīng)元，且網(wǎng)絡(luò)中不存在反饋環(huán)，是常用的一種人工神經(jīng)網(wǎng)絡(luò)模型。在本文中只考慮三層前向網(wǎng)絡(luò)，且輸出層為線性層，隱層神經(jīng)元的非線性作用函數(shù)（激活函數(shù)）為雙曲線正切函數(shù)：

其中輸入層神經(jīng)元把輸入網(wǎng)絡(luò)的數(shù)據(jù)不做任何處理直接作為該神經(jīng)元的輸出。設(shè)輸入層神經(jīng)元的輸出為(x1,x2,Λ,xn)，隱層神經(jīng)元的輸入為(s1,s2,Λ,sh)，隱層神經(jīng)元的輸出為(z1,z2,Λ,zh)，輸出層神經(jīng)元的輸出為(y1,y2,Λ,ym)，則網(wǎng)絡(luò)的輸入-輸出為：

其中{wij}為輸入層-隱層的連接權(quán)值，{wi0}隱層神經(jīng)元的閾值，{vki}為隱層-輸出層的連接權(quán)值，{vk0}為輸出層神經(jīng)元的閾值。網(wǎng)絡(luò)的輸入-輸出映射也可簡寫為：

1≤k≤m (5)

前向神經(jīng)網(wǎng)絡(luò)的訓(xùn)練樣本集為

A={Xi,Tii=1,2,A,n)}

（其中Xi∈Rn，為第i組訓(xùn)練數(shù)據(jù)的輸入，Ti∈Rm為與第i組訓(xùn)練數(shù)據(jù)的輸入對應(yīng)的期望輸出，Tki為輸出層第k個(gè)神經(jīng)元的期望輸出），設(shè)第i組訓(xùn)練數(shù)據(jù)的輸入的實(shí)際輸出為Yi∈Rm，Yki為輸出層第k個(gè)神經(jīng)元的實(shí)際輸出，則基于該訓(xùn)練樣本集的誤差函數(shù)為

該函數(shù)是一個(gè)具有多個(gè)極小點(diǎn)的非線性函數(shù)，則對該前向神經(jīng)網(wǎng)絡(luò)的訓(xùn)練過程為調(diào)整各個(gè)神經(jīng)元之間的連接權(quán)值和閥值{wij},{wi0},{vki},{vk0}，直至誤差函數(shù)E達(dá)到最小。

誤差反向傳播算法（BP算法）是一種梯度下降算法，具有概念清楚、計(jì)算簡單的特點(diǎn)，但是它收斂緩慢，且極易陷入局部極小，且對于較大的搜索空間，多峰值和不可微函數(shù)也不能搜索到全局極小。為此人們提出了很多改進(jìn)的學(xué)習(xí)算法，其中最簡單且容易實(shí)現(xiàn)的是加入動量項(xiàng)的變學(xué)習(xí)率BP算法，這種算法一般都比較有效，但是收斂速度還是比較慢，仍是局部搜索算法，從本質(zhì)上仍然擺脫不了陷入局部極小的可能。為了擺脫局部極小，人們已經(jīng)嘗試將可用于非線性優(yōu)化的遺傳算法、演化算法以及模擬退火算法等進(jìn)行前向人工神經(jīng)網(wǎng)絡(luò)的訓(xùn)練。

蟻群算法

蟻群算法簡介

螞蟻在路徑上前進(jìn)時(shí)會根據(jù)前邊走過的螞蟻所留下的分泌物選擇其要走的路徑。其選擇一條路徑的概率與該路徑上分泌物的強(qiáng)度成正比。因此，由大量螞蟻組成的群體的集體行為實(shí)際上構(gòu)成一種學(xué)習(xí)信息的正反饋現(xiàn)象：某一條路徑走過的螞蟻越多，后面的螞蟻選擇該路徑的可能性就越大。螞蟻的個(gè)體間通過這種信息的交流尋求通向食物的最短路徑。蟻群算法就是根據(jù)這一特點(diǎn)，通過模仿螞蟻的行為，從而實(shí)現(xiàn)尋優(yōu)。這種優(yōu)化過程的本質(zhì)在于：

選擇機(jī)制：分泌物越多的路徑，被選擇的概率越大。

更新機(jī)制：路徑上面的分泌物會隨螞蟻的經(jīng)過而增長，而且同時(shí)也隨時(shí)間的推移逐漸揮發(fā)消失。

協(xié)調(diào)機(jī)制：螞蟻間實(shí)際上是通過分泌物來互相通信、協(xié)同工作的。

蟻群算法正是充分利用了選擇、更新和協(xié)調(diào)的優(yōu)化機(jī)制，即通過個(gè)體之間的信息交流與相互協(xié)作最終找到最優(yōu)解，使它具有很強(qiáng)的發(fā)現(xiàn)較優(yōu)解的能力。

蟻群算法具體實(shí)現(xiàn)

蟻群算法求解連續(xù)空間上的優(yōu)化問題 以求解非線形規(guī)劃問題為例。考慮如下的非線性規(guī)劃問題：minF(x1,x2,Λ,xn)，使得，ai1x1+ai2x2+Λ+ainxn≥bi，i=1,2,Λ,r。這里F為任一非線形函數(shù)，約束條件構(gòu)成Rn上的一個(gè)凸包。可以使用不等式變換的方法求得包含這個(gè)凸包的最小的n維立方體。設(shè)該立方體為

設(shè)系統(tǒng)中有m只螞蟻，我們將解的n個(gè)分量看成n個(gè)頂點(diǎn)，第i個(gè)頂點(diǎn)代表第i個(gè)分量，在第i個(gè)頂點(diǎn)到第i+1個(gè)頂點(diǎn)之間有ki條連線，代表第i個(gè)分量的取值可能在ki個(gè)不同的子區(qū)間。我們記其中第j條連線上在t時(shí)刻的信息量為τij(t)。每只螞蟻要從第1個(gè)頂點(diǎn)出發(fā)，按照一定的策略選擇某一條連線到達(dá)第2個(gè)頂點(diǎn)，再從第2個(gè)頂點(diǎn)出發(fā)，…，在到達(dá)第n個(gè)頂點(diǎn)后，在kn條連線中選取某一條連線到達(dá)終點(diǎn)。每個(gè)螞蟻所走過的路徑代表一個(gè)解的初始方案，它指出解的每一個(gè)分量所在的子區(qū)間。用pijk(t)表示在t時(shí)刻螞蟻k由城市i轉(zhuǎn)移到城市j的概率，則（式(7)）

為了確定解的具體值，可在各個(gè)子區(qū)間已有的取值中保存若干個(gè)適應(yīng)度較好的解的相應(yīng)分量作為候選組，為了加快收斂速度，參考具有變異特征的蟻群算法提出的具有變異特征的蟻群算法，使用遺傳操作在候選組中確定新解的相應(yīng)分量的值。首先可隨機(jī)在候選組中選擇兩個(gè)值，然后對他們實(shí)行交叉變換、變異變換，以得到新值作為解的相應(yīng)分量。該候選組中的值在動態(tài)的更新，一旦有一個(gè)更好的解的分量在該子區(qū)間中，就用這個(gè)值替換其中的較差者。

在m只螞蟻得到m個(gè)解后，要對它們進(jìn)行評估，本人使用Lagrange函數(shù)作為評估解的優(yōu)劣的適應(yīng)度函數(shù)，否則要對每個(gè)解進(jìn)行合法性檢查并去除其中的不合法解。然后要根據(jù)適應(yīng)度函數(shù)值更新各條邊上的信息量。要根據(jù)下式對各路徑上的信息量作更新：

Δτijk表示螞蟻k在本次循環(huán)中在城市i和j之間留下的信息量。

重復(fù)這樣的迭代過程，直至滿足停止條件。

候選組里的遺傳操作 若候選組里的候選值的個(gè)數(shù)gi=0，即候選組里沒有候選值，此時(shí)則產(chǎn)生一個(gè)[li+(j-1)×length,min(ui,li+j×length]間的隨即數(shù)作為解分量的值wij,vij，跳過選擇、交叉、變異等遺傳操作。

若gi=1，即候選組里只有一個(gè)候選值wik,vik，則跳過交叉、選擇等操作，直接對這個(gè)候選值wik,vik進(jìn)行變異操作。

若gi=2，即候選組里有兩個(gè)候選值，則跳過選擇操作，直接對這兩個(gè)候選值進(jìn)行交叉、變異等操作。

否則，選擇兩個(gè)分量后進(jìn)行交叉、變異操作。

在選擇操作中，根據(jù)候選組里各候選值的適應(yīng)度的大小，用“賭輪”的方法選取兩個(gè)值。設(shè)第j個(gè)值所在解的適應(yīng)度為fj，則它被選中的概率為

在交叉操作中，設(shè)所選擇的兩個(gè)值為wij(1),vij(1)和wij(2),vij(2)，其適應(yīng)度分別為f1，f2，且f1＞f2，我們以概率Pcross進(jìn)行交叉操作。隨機(jī)產(chǎn)生p∈[0,1]，若p＞Pcross，則進(jìn)行交叉操作。取隨機(jī)數(shù)r∈[0,1]，交叉結(jié)果值

在所有螞蟻都得到解以后，修改邊條上的信息量按式(8)和式(9)相應(yīng)地更新各子區(qū)間上的信息量。但對Δτijk的更新應(yīng)按下式進(jìn)行：

其中W為一個(gè)常數(shù)，fk為螞蟻k的解的適應(yīng)度。

前向神經(jīng)網(wǎng)絡(luò)的訓(xùn)練過程

基于上述的定義，用蟻群算法訓(xùn)練具有三層前向神經(jīng)網(wǎng)絡(luò)，可按以下步驟進(jìn)行：

輸入相關(guān)參數(shù)：輸入最大迭代次數(shù)number，每次迭代選取的適應(yīng)度最好的解的個(gè)數(shù)num，每個(gè)分量的ki個(gè)子區(qū)間中信息量最大的子區(qū)間被選種的概率q0（其余子區(qū)間被選中概率為（1-q0））。

初始化：通過神經(jīng)網(wǎng)絡(luò)在控制變量可行域內(nèi)隨機(jī)產(chǎn)成m只螞蟻，即產(chǎn)生m組{wij},{wi0},{vki},{vk0}，且各個(gè)分量均為[-1,1]區(qū)間內(nèi)的隨機(jī)數(shù)。

迭代過程：對于n個(gè)分量，分別對m個(gè)螞蟻進(jìn)行循環(huán)更新相應(yīng)的信息量τij(t)，對候選組中的分量進(jìn)行遺傳操作，計(jì)算新解的適應(yīng)度，對各邊的信息量進(jìn)行修改，根據(jù)適應(yīng)度的優(yōu)劣增刪候選組中的值。判斷是否滿足結(jié)束條件，若不滿足則繼續(xù)迭代。

第（3）步的具體算法如下：

while not結(jié)束條件（如最大迭代次數(shù)） do

{for i=1 to n do (對n個(gè)分量循環(huán))

{for k=1 to m do (對m個(gè)螞蟻循環(huán))

{根據(jù)q0和概率pijk(t)確定第i個(gè)分量的值在第j個(gè)子區(qū)間；

局部更新第j個(gè)子區(qū)間的信息量τij(t)；

在第j個(gè)子區(qū)間候選組里通過遺傳操作生成第i個(gè)分量值；}

計(jì)算新解的適應(yīng)度函數(shù)值；}

修改個(gè)條邊上的信息量；

取適應(yīng)度最好的num個(gè)解將其各分量直接插入相應(yīng)的子區(qū)間的候選組中，并淘汰候選組中的較差者。}

上述過程中根據(jù)下列公式選取第i個(gè)分量的值所在的子區(qū)間號j：

由于算法中以q0的概率選擇ki個(gè)子區(qū)間中信息量最大的子區(qū)間，因此信息量最大的那個(gè)子區(qū)間常常被選中，這就使得新一代解的該分量值集中在這個(gè)子區(qū)間，容易發(fā)生停滯現(xiàn)象。為了避免這種現(xiàn)象，在上述過程中對所選的子區(qū)間的信息量進(jìn)行局部更新，對被選中的子區(qū)間立即適當(dāng)?shù)販p少其信息量，使其他螞蟻選中該子區(qū)間的概率降低。設(shè)第k個(gè)個(gè)體的第i個(gè)分量選中第j個(gè)子區(qū)間，則按下式局部更新子區(qū)間j的信息量：

這樣，更新后的信息量是原來的信息量和有關(guān)第i個(gè)分量各子區(qū)間的最小信息量的凸組合。當(dāng)信息量最大的子區(qū)間被多次選中之后，信息量減少到ki個(gè)子區(qū)間的信息量的平均水平，從而螞蟻選擇其他子區(qū)間的概率增加，增加了所建立解的多樣性，同時(shí)也有效減少了停滯現(xiàn)象的發(fā)生。

實(shí)驗(yàn)結(jié)果

為了評價(jià)蟻群算法的性能，筆者做了大量的計(jì)算機(jī)模擬試驗(yàn)，在此給出了兩個(gè)函數(shù)COS(X)和SIN(X)函數(shù)的實(shí)驗(yàn)結(jié)果，選擇螞蟻群規(guī)模m＝20；每次迭代選取的適應(yīng)度最好的解的個(gè)數(shù)num=10；每個(gè)分量的ki個(gè)子區(qū)間中信息量最大的子區(qū)間被選中的概率q0=0.8；前向神經(jīng)網(wǎng)絡(luò)的輸入層有1個(gè)神經(jīng)元，隱層有10個(gè)神經(jīng)元，輸出層有1個(gè)神經(jīng)元，多個(gè)方法SIN(X)函數(shù)的試驗(yàn)結(jié)果列于表1，多個(gè)方法COS(X)函數(shù)的試驗(yàn)結(jié)果列于表2。

結(jié)論

本文給出了基于蟻群算法的三層前向神經(jīng)網(wǎng)絡(luò)的訓(xùn)練模型，并建立了一種新的網(wǎng)絡(luò)訓(xùn)練算法。從試驗(yàn)結(jié)果分析，與演化算法、模擬退火算法、加動量項(xiàng)的BP算法相比，蟻群算法具有較快的收斂速度，能夠達(dá)到較小的均方誤差值，因此，此方法收斂過程有比較明顯的優(yōu)勢和穩(wěn)定性。

網(wǎng)絡(luò)訓(xùn)練算法。從試驗(yàn)結(jié)果分析，與演化算法、模擬退火算法、加動量項(xiàng)的BP算法相比，蟻群算法具有較快的收斂速度，能夠達(dá)到較小的均方誤差值，因此，此方法收斂過程有比較明顯的優(yōu)勢。

參考文獻(xiàn)：

1.褚蕾蕾，周夢等.計(jì)算智能的數(shù)學(xué)基礎(chǔ)[Z].科學(xué)出版社，2002

2.呂崗，陳小平，趙鶴鳴.一種優(yōu)化多層前向網(wǎng)絡(luò)的IA-BP混合算法[J].計(jì)算機(jī)工程與應(yīng)用，2003.27

3.王建群，盧志華.三層前向人工神經(jīng)網(wǎng)絡(luò)全局最優(yōu)逼近[J].數(shù)學(xué)的實(shí)踐與認(rèn)識，2003.7

4.陳陵，沈潔，秦玲.蟻群算法求解連續(xù)空間優(yōu)化問題的一種方法.軟件學(xué)報(bào)，2002

5.Dorigo, M., Luca, M. A study of some properties of Ant-Q. Technical Report, TR/IRIDIA/1996-4, IRIDIA, University Libre de Bruxelles,1996

6.Gambardella, L.M., Dorigo, M. Ant-Q: a reinforcement learning approach to the traveling salesman problem. In: Prieditis, A., Russell, S., eds. Proceedings of the 12th International Conference on Machine Learning. Tahoe, CA: Morgan Kaufmann, 1995

7.Sheng, Jie, Chen, Ling. A new approach to solving nonlinear programming. Journal of System Science and System Engineering, 2002

8.Wu, Qing-hong, Zhang, Ji-hui, Xu, Xin-he, An ant colony algorithm with mutation features. Jurnal of Computer Research & Development, 1999

作者簡介：

王晶（1980-），女，河北保定人，碩士研究生，主要研究領(lǐng)域?yàn)槿斯ぶ悄芘c數(shù)據(jù)處理。

張國立（1959-），男，吉林榆樹人，教授，主要研究領(lǐng)域?yàn)橹悄苡?jì)算理論、方法及其在電力市場中的應(yīng)用。

第4篇

計(jì)算機(jī)網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)主要是指計(jì)算機(jī)連接網(wǎng)絡(luò)之后，其自身設(shè)備與傳輸媒介所共同組成的一種物理構(gòu)成模式，其網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)的形式主要是由通信子網(wǎng)來決定的，其結(jié)構(gòu)的主要功能是實(shí)現(xiàn)數(shù)據(jù)信息的網(wǎng)絡(luò)共享、處理及交換，并要在一定程度上提升網(wǎng)絡(luò)數(shù)據(jù)信息運(yùn)行的可靠性，站在網(wǎng)絡(luò)拓?fù)涞慕Y(jié)構(gòu)來講，計(jì)算機(jī)網(wǎng)絡(luò)結(jié)構(gòu)的主要部分是鏈路與結(jié)點(diǎn)，計(jì)算機(jī)網(wǎng)絡(luò)實(shí)質(zhì)上是由一組結(jié)點(diǎn)以及多條鏈路所共同組成的一種模擬結(jié)構(gòu)。計(jì)算機(jī)網(wǎng)絡(luò)通常表示為：G=<V，E>，其中V表示的是網(wǎng)絡(luò)結(jié)點(diǎn)集，E表示的是鏈路集，如果應(yīng)用Va來表示結(jié)構(gòu)中增加的結(jié)點(diǎn)集，Eb來表示增加的連接集，那么就能夠得到其拓?fù)鋽U(kuò)展的計(jì)算機(jī)網(wǎng)絡(luò)結(jié)構(gòu)為G’=<V’，E’>。

2基于計(jì)算機(jī)網(wǎng)絡(luò)連接優(yōu)化中的神經(jīng)網(wǎng)絡(luò)算法

本次研究中分析的均場神經(jīng)網(wǎng)絡(luò)算法實(shí)際上是一種神經(jīng)網(wǎng)絡(luò)算法與均場退火技術(shù)相結(jié)合的算法，應(yīng)用這種方法能夠有效的增強(qiáng)計(jì)算機(jī)的網(wǎng)絡(luò)連接，并且達(dá)到更優(yōu)化、更快的連接效果，這其實(shí)是一種利潤最大化的網(wǎng)絡(luò)優(yōu)化算法，其能夠最大限度的提高計(jì)算機(jī)網(wǎng)絡(luò)的性價(jià)比。

2.1神經(jīng)網(wǎng)絡(luò)算法

人工神經(jīng)網(wǎng)絡(luò)屬于非線性動力學(xué)系統(tǒng)，其能夠?qū)π畔⑦M(jìn)行分布式的存儲及協(xié)同處理，其在人工神經(jīng)網(wǎng)絡(luò)之上的人工神經(jīng)網(wǎng)絡(luò)系統(tǒng)的基礎(chǔ)之上，應(yīng)用網(wǎng)絡(luò)算法及網(wǎng)絡(luò)模型進(jìn)行各種信號的處理，或者是對某種運(yùn)行模式進(jìn)行識別，從而建立其一個(gè)獨(dú)立的專家系統(tǒng)，或者是構(gòu)成機(jī)器人，當(dāng)前在多個(gè)領(lǐng)域中，人工神經(jīng)網(wǎng)絡(luò)系統(tǒng)都得到了廣泛的應(yīng)用，在該基礎(chǔ)上所發(fā)展起來的人工神經(jīng)網(wǎng)絡(luò)算法是一種監(jiān)督性的學(xué)習(xí)算法，人們對于其重視程度逐漸增加，但是在實(shí)際的應(yīng)用中，其存在收斂速度較慢的缺陷，難以保證將收斂程度壓制到全局的最小點(diǎn)，容易導(dǎo)致計(jì)算機(jī)網(wǎng)絡(luò)學(xué)習(xí)及記憶不穩(wěn)定性增強(qiáng)的問題，這會對計(jì)算機(jī)網(wǎng)絡(luò)的連接效果造成直接的影響，做好其網(wǎng)絡(luò)連接的優(yōu)化非常的必要。

2.2均場神經(jīng)網(wǎng)絡(luò)算法

在基于計(jì)算機(jī)網(wǎng)絡(luò)連接增強(qiáng)優(yōu)化下的均場神經(jīng)網(wǎng)絡(luò)算法的研究中，對其網(wǎng)絡(luò)效果進(jìn)行判斷，需要建立起一個(gè)完整的場均神經(jīng)網(wǎng)絡(luò)模型，在模型的構(gòu)建過程中，應(yīng)該做好函數(shù)法構(gòu)造過程中的目標(biāo)函數(shù)的構(gòu)建問題，具體的構(gòu)建方式表現(xiàn)為：應(yīng)用Si來表示Hopfield計(jì)算網(wǎng)絡(luò)中的一個(gè)神經(jīng)元狀態(tài)，并且規(guī)定當(dāng)Si=1時(shí)，表示的含義是網(wǎng)絡(luò)選中了連接i，可以實(shí)現(xiàn)正常的連接，當(dāng)Si=0時(shí)，表示的含義是：網(wǎng)絡(luò)中沒有選中連接i，網(wǎng)絡(luò)無法實(shí)現(xiàn)正常連接，再應(yīng)用罰函數(shù)法就結(jié)構(gòu)來進(jìn)行網(wǎng)絡(luò)模型的創(chuàng)建。

2.3實(shí)例分析

根據(jù)上文中分析的計(jì)算方法，在得到計(jì)算結(jié)果之后，能夠?qū)鶊鼍W(wǎng)絡(luò)算法的可行性及有效性進(jìn)行判定，我們分別采用模擬退火算法、遺傳算法、均場神經(jīng)網(wǎng)絡(luò)算法進(jìn)行比較，結(jié)果顯示模擬退火算法需要計(jì)算99次，這樣才能保證計(jì)算出規(guī)定的連接集，并從中獲取一定的利潤值，在遺傳算法中需要進(jìn)行96次的計(jì)算，在均場神經(jīng)網(wǎng)絡(luò)算法中，需要實(shí)施88次的計(jì)算，均場神經(jīng)網(wǎng)絡(luò)算法在獲得網(wǎng)路連接效果等方面，更快、更加有效，更適宜應(yīng)用于計(jì)算機(jī)網(wǎng)絡(luò)連接的增強(qiáng)優(yōu)化以及網(wǎng)絡(luò)結(jié)構(gòu)拓?fù)涞臄U(kuò)展工作中。

3結(jié)束語

第5篇

關(guān)鍵詞：計(jì)算機(jī)網(wǎng)絡(luò)模型；神經(jīng)網(wǎng)絡(luò)算法；分析

中圖分類號：TP393 文獻(xiàn)標(biāo)識碼：A 文章編號：1009-3044（2016）35-0212-02

計(jì)算機(jī)網(wǎng)絡(luò)是人們多年研究科技進(jìn)步最重要的成果，其被廣泛運(yùn)用到教育、工作、科學(xué)等方面，也具有良好的成就。目前，基于服務(wù)器的集線式網(wǎng)絡(luò)具有實(shí)現(xiàn)網(wǎng)絡(luò)互連的功能，但也成為了網(wǎng)絡(luò)進(jìn)一步發(fā)展的阻礙。雖然大量的信息能夠豐富網(wǎng)絡(luò)中的內(nèi)容，但是其中的多媒體技術(shù)發(fā)展卻使網(wǎng)絡(luò)運(yùn)行力不從心，比如圖像、聲音等，全面優(yōu)化計(jì)算機(jī)網(wǎng)絡(luò)整體性能是其發(fā)展的必要途徑。將神經(jīng)網(wǎng)絡(luò)算法與計(jì)算機(jī)網(wǎng)絡(luò)相結(jié)合，能夠有效解決大規(guī)模復(fù)雜性的問題。

1淺析神經(jīng)網(wǎng)絡(luò)算法

1.1神經(jīng)網(wǎng)絡(luò)算法內(nèi)涵

思維界認(rèn)為，人類大腦思維包括靈感思維、邏輯思維、形象思維三種方式，神經(jīng)網(wǎng)絡(luò)模擬的就是人類思維的形象思維，是一種非線性動力學(xué)系統(tǒng)。神經(jīng)網(wǎng)絡(luò)算法指的是邏輯性思維根據(jù)邏輯規(guī)則推理的過程。神經(jīng)網(wǎng)絡(luò)的內(nèi)容目前被廣泛研究，包括建立理論模型、生物原型研究、建立網(wǎng)絡(luò)模型與算法研究、人工神經(jīng)網(wǎng)絡(luò)應(yīng)用系統(tǒng)等。

優(yōu)化網(wǎng)絡(luò)的神經(jīng)網(wǎng)絡(luò)主要是Hopfield神經(jīng)網(wǎng)絡(luò)，是1982年由美國物理學(xué)家提出的，它能夠模擬神經(jīng)網(wǎng)絡(luò)的記憶機(jī)理，是全連接的神經(jīng)網(wǎng)絡(luò)。Hopfield神經(jīng)網(wǎng)絡(luò)中的每個(gè)神經(jīng)元都能夠信號輸出，還能夠?qū)⑿盘柾ㄟ^其他神經(jīng)元為自己反饋，那么其也稱之為反饋性神經(jīng)網(wǎng)絡(luò)。

1.2神經(jīng)網(wǎng)絡(luò)優(yōu)化的基礎(chǔ)

Hopfield神經(jīng)網(wǎng)絡(luò)其實(shí)是一個(gè)分線性動力系統(tǒng)演變的過程，通過能量函數(shù)分析系統(tǒng)的穩(wěn)定性，將能量函數(shù)看做需要優(yōu)化的問題目標(biāo)函數(shù)。將能量函數(shù)的初始狀態(tài)轉(zhuǎn)變?yōu)榉€(wěn)定點(diǎn)這一過程，就成為求解優(yōu)化問題過程，這個(gè)過程也可以稱為在計(jì)算機(jī)聯(lián)想記憶基礎(chǔ)上解決優(yōu)化問題的過程。

1.3神經(jīng)網(wǎng)絡(luò)優(yōu)化模型的算法

反饋網(wǎng)絡(luò)的聯(lián)想記憶和優(yōu)化是相對的，通過優(yōu)化計(jì)算得知W，其目的就是為了找出E的最小穩(wěn)定狀態(tài)；聯(lián)想記憶的穩(wěn)定狀態(tài)是特定的，要通過一些過程才能夠找到適合的W。這個(gè)過程中的關(guān)鍵就是將問題的目標(biāo)函數(shù)通過二次型能量函數(shù)進(jìn)行表達(dá)。如下式所述：

Hopfield神經(jīng)網(wǎng)絡(luò)比較常見的類型有DHNN（離散型）和CHNN（連續(xù)性）兩種，他們的動態(tài)方程分e為：

DHNN（離散型）動態(tài)方程：ui=fi（v1，v2，...，vN）

Vi=g（ui），vi∈{0，1}，i=1，2，...，N

式子中的gi表示為階躍函數(shù)，vi=g（ui）[（1， ui>0）（0， ui

CHNN（連續(xù)性）動態(tài)方程：dui/dt=fi（v1，v2，...，vN）

Vi=gi（ui），i=1，2，...，N

式子中的gi表示為常用函數(shù)sigmoid，vi=gi（ui）=1/2[1+tanh（ui/u0）]，u0表示的為可控函數(shù)的斜率，當(dāng)u0=0的時(shí)候，gi就為階躍函數(shù)。【1】

1.4神經(jīng)網(wǎng)絡(luò)算法的優(yōu)化步驟

其一，通過合適的問題將方法表述出來，使神經(jīng)網(wǎng)絡(luò)的輸出和這一問題的解相互對應(yīng)；

其二，創(chuàng)建有效的能量函數(shù)，要求問題的最優(yōu)解能夠?qū)?yīng)最小值；

其三，使用有利條件和能量函數(shù)創(chuàng)建網(wǎng)絡(luò)參數(shù)；

其四，創(chuàng)建對應(yīng)的動態(tài)方程和神經(jīng)網(wǎng)絡(luò)；

其五，使用有效的初值，要求網(wǎng)絡(luò)根據(jù)動態(tài)方程進(jìn)行驗(yàn)算，直到收斂。

2基于神經(jīng)網(wǎng)絡(luò)算法的網(wǎng)絡(luò)流優(yōu)化模型

網(wǎng)絡(luò)流優(yōu)化模型的關(guān)鍵就是最小切割、圖的劃分和最大流問題，下面一一描述：

最小切割：最小切割是指尋找使隔集容量達(dá)到最小的切割。圖的切割是指劃分一個(gè)N―n1Un2，一個(gè)隔集為一組弧（i，j），i∈n1，j∈n2，隔集弧的權(quán)值總和為它的容量。使N=（W，T）是T=0的網(wǎng)絡(luò)，要求能量最小為N圖的最小切割。

圖的劃分：圖的劃分指的是將圖劃分為K個(gè)部分，要求每個(gè)部分中的節(jié)點(diǎn)數(shù)都相等。

最大流問題。要求有向圖G（v，e）中的開始點(diǎn)為S，結(jié)束點(diǎn)為Z，邊容量為Cij。如果每條邊都有非負(fù)數(shù)fij，并且每條邊為fij≤Cij且除了S和Z之外具有∑fij=∑fki。當(dāng)S和Z有∑fsi=∑fiz=W的時(shí)候，W的最大值≤任何切割的容量。【2】

3基于神經(jīng)網(wǎng)絡(luò)算法的動態(tài)路由選擇模型

通信網(wǎng)中的物理網(wǎng)絡(luò)的連接一般是點(diǎn)到點(diǎn)，其可以用無向圖G=（v，e）來表示，將交換節(jié)點(diǎn)表示為頂點(diǎn)，通路表示為邊，每一邊都有最大容量，為了能夠滿足網(wǎng)絡(luò)中點(diǎn)和點(diǎn)能夠相互通信，還E能夠根據(jù)網(wǎng)絡(luò)業(yè)務(wù)的量和用戶呼叫為基礎(chǔ)進(jìn)行路由安排。現(xiàn)在一般使用的都是靜態(tài)方式，能夠提供給動態(tài)路由一些可能性，其的優(yōu)化模型是：

如果網(wǎng)絡(luò)圖是G=（v，e），而且對網(wǎng)絡(luò)中的邊進(jìn)行編號，路徑經(jīng)過的邊表示為1，路徑不經(jīng)過的邊表示為0，L*M神經(jīng)元表示為L需要這多個(gè)路由，將備選的路由數(shù)量表示為M，如果通信網(wǎng)中具有N個(gè)節(jié)點(diǎn)，那么目標(biāo)函數(shù)就是E=E1+E2+E3。【3】

4結(jié)束語

基于神經(jīng)網(wǎng)絡(luò)算法的優(yōu)化網(wǎng)絡(luò)模型有著簡單、穩(wěn)定、快速、規(guī)范的優(yōu)勢，其與其他算法相結(jié)合，能夠較大程度的提高計(jì)算機(jī)網(wǎng)絡(luò)模型的整體性能。但是Hopfield神經(jīng)網(wǎng)絡(luò)算法中的優(yōu)化網(wǎng)絡(luò)模型并不嚴(yán)格，它有著核心策略下降的缺點(diǎn)，那么在使用過程中會出現(xiàn)網(wǎng)絡(luò)收斂的最優(yōu)解呈局面狀態(tài)、網(wǎng)絡(luò)收斂解不可行、網(wǎng)絡(luò)參數(shù)的不正當(dāng)選擇會導(dǎo)致偏差等，所以在今后就要深入研究計(jì)算機(jī)網(wǎng)絡(luò)模型中的神經(jīng)網(wǎng)絡(luò)算法，使其更加完善。

參考文獻(xiàn)：

[1]丁建立.基于神經(jīng)網(wǎng)絡(luò)算法的計(jì)算機(jī)網(wǎng)絡(luò)優(yōu)化模型研究[J].洛陽師范學(xué)院學(xué)報(bào)，2003， 22（2）：59-62.

第6篇

關(guān)鍵詞：ART2神經(jīng)網(wǎng)絡(luò)；模式漂移；標(biāo)幺值；距離

中圖分類號：TP183文獻(xiàn)標(biāo)識碼：A

文章編號：1001-9081(2007)04-0945-03

0引言

基于自適應(yīng)共振理論的ART2神經(jīng)網(wǎng)絡(luò)，采用競爭學(xué)習(xí)和自穩(wěn)機(jī)制原理來實(shí)現(xiàn)穩(wěn)定的分類，在語音、視覺、嗅覺和字符識別等領(lǐng)域得到廣泛應(yīng)用。在注意子系統(tǒng)對輸入模式通過向量歸一化和非線性變換預(yù)處理過程中，易將重要但幅度較小的分量作為基底噪音而濾除，這樣在分類過程中就丟失了重要的信息;同時(shí),在學(xué)習(xí)過程中還存在因權(quán)值修正問題而造成的模式漂移現(xiàn)象。針對模式漂移等不足，國內(nèi)外提出了許多解決辦法，主要是結(jié)合遺傳算法或小波等算法進(jìn)行互補(bǔ)[1,2]。本文分析了造成這些不足的原因，提出了標(biāo)幺值和基于類內(nèi)樣本與類中心的距離不同而對類中心偏移產(chǎn)生不同影響的思想，提出了改進(jìn)算法，仿真實(shí)驗(yàn)證明改進(jìn)算法能有效地改善模式漂移現(xiàn)象。

1傳統(tǒng)ART2神經(jīng)網(wǎng)絡(luò)簡介[3,4]

一種典型的ART2神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)如圖1所示：圖中只畫出了維數(shù)為q的樣本X的第j個(gè)分量Xj

的處理結(jié)構(gòu)圖。

整個(gè)系統(tǒng)分為注意子系統(tǒng)和定向子系統(tǒng)兩部分。注意子系統(tǒng)完成由底向上矢量的競爭選擇及矢量間相似程度的比較，定向子系統(tǒng)檢查相似度能否達(dá)到檢測標(biāo)準(zhǔn)，并做出相應(yīng)的動作，共振或者重置。

在注意子系統(tǒng)F1層特征表示場對輸入模式X通過向量歸一化和非線性變換進(jìn)行預(yù)處理，以達(dá)到抑制噪聲增強(qiáng)對比的作用,得到自穩(wěn)后的輸入模式U。

否則，當(dāng)前激活節(jié)點(diǎn)I被重置并被屏蔽，在剩余節(jié)點(diǎn)中繼續(xù)搜尋最匹配的。如果所有節(jié)點(diǎn)均不能通過警戒測試則開辟新的輸出節(jié)點(diǎn)，即創(chuàng)建一個(gè)新類。并對新類所對應(yīng)的內(nèi)星及外星連接權(quán)矢量進(jìn)行初始化:

2網(wǎng)絡(luò)的分析和學(xué)習(xí)算法的改進(jìn)

注意子系統(tǒng)F1層特征表示場要對輸入模式X通過向量歸一化和非線性變換進(jìn)行預(yù)處理，在很多應(yīng)用場合，由于輸入模式X的分量的單位各不相同，會出現(xiàn)一些重要但幅值較小的分量，例如輸入X=(70,2,85)，三個(gè)分量代表不同的特征而單位不同，如果分量x2是一個(gè)很重要的量，經(jīng)F1層特征表示場對輸入模式X通過向量歸一化，按照式（1）進(jìn)行計(jì)算得:

被當(dāng)作基底噪聲而濾除，影響了分類的正確性。造成這種現(xiàn)象的主要原因是因?yàn)楦鞣至康亩攘繕?biāo)準(zhǔn)不同，如果輸入分量變成無單位的值，將極大改善這種狀況。工程計(jì)算中，往往不用各物理量的實(shí)際值，而是用實(shí)際值和相同單位的某一選定的基值的比值（標(biāo)幺值）來進(jìn)行計(jì)算。標(biāo)幺值=實(shí)際值/基值，它是個(gè)相對值，沒有單位。因此，在輸入前應(yīng)該對輸入向量進(jìn)行無單位化預(yù)處理。具體算法如下：

在聚類中，樣本之間的距離常作為它們是否屬于同一類一個(gè)判別標(biāo)準(zhǔn)，因此，將輸入模式與現(xiàn)有的模板中心的距離引入了匹配度檢驗(yàn)階段及權(quán)值修改中，這將有效地改善模式漂移現(xiàn)象，具體改進(jìn)算法如下：

3)權(quán)值的修正,根據(jù)輸入樣本與模板中心的距離來調(diào)整，基于如下的思想:對于同一個(gè)類的樣本，當(dāng)新增加一個(gè)樣本，距離模板中心越遠(yuǎn)的樣本對模板中心的遷移影響越大。這樣得到的模板中心就會盡可能的接近真正的聚類中心，將改善模式漂移現(xiàn)象。權(quán)值的修正采用如下的修正公式：

3實(shí)例分析

為分析方便，文章采用文獻(xiàn)[6]的實(shí)例，該組模式共有89個(gè)，其幅角分別為1°，2°，…，89°，其幅角作為序編號對各模式進(jìn)行了標(biāo)記。因?yàn)闃颖臼嵌S數(shù)據(jù)，雖然幅值都為1，如果僅用幅角表征，相當(dāng)于將其轉(zhuǎn)化成一維的樣本，顯然僅將幅角作為輸入是不合理的。表征平面上的坐標(biāo)有極坐標(biāo)和直角坐標(biāo)，由于極坐標(biāo)的兩個(gè)分量幅值和幅角的單位量綱不同，而直角坐標(biāo)的兩個(gè)分量單位卻是相同的，基于前面的分析，最好采用相同的單位，因此采用直角坐標(biāo)來表征這組模式，分別為（cos1°,sin1°）,（cos2°,sin2°），…，（cos89°,sin89°）。對于這組數(shù)據(jù)，分別采用順序，逆序和隨機(jī)輸入的方式輸入到傳統(tǒng)ART2神經(jīng)網(wǎng)絡(luò)和本文的改進(jìn)ART2神經(jīng)網(wǎng)絡(luò)。

3.1順序輸入方式

對于順序輸入比較結(jié)果見表1。其中參數(shù)如下:

傳統(tǒng)的ART2神經(jīng)網(wǎng)絡(luò)參數(shù)為：a=10,b=10,d=0.8,e=0,θ=0.1,c=0.2,ρ=0.99,ww=0.01。

改進(jìn)的ART2神經(jīng)網(wǎng)絡(luò)參數(shù)為：a=10,b=10,d=0.8,e=0,θ=0.1,c=0.2,ρ=0.9,ξ=0.97，ww=0.01。

可以看出，改進(jìn)的ART2神經(jīng)網(wǎng)絡(luò)克服了傳統(tǒng)ART2不能識別模式漸變過程的弱點(diǎn)，無超大類和樣本混疊現(xiàn)象，良好地實(shí)現(xiàn)了分類。

對于逆序輸入模式數(shù)據(jù)的分類結(jié)果基本類同于順序輸入方式下得到的結(jié)果。

3.2隨機(jī)輸入方式

將以上89個(gè)模式以隨機(jī)輸入的方式輸入到傳統(tǒng)ART2神經(jīng)網(wǎng)絡(luò)和本文的改進(jìn)網(wǎng)絡(luò)，共做10次實(shí)現(xiàn)，觀察結(jié)果，表2列出具有代表性的一次分類結(jié)果。

兩種ART2神經(jīng)網(wǎng)絡(luò)均將所有模式分為三類，其中傳統(tǒng)的ART2神經(jīng)網(wǎng)絡(luò)的第一類模式序號均小于31，其規(guī)模僅有13個(gè)模式，屬于超小類，缺少量為17個(gè)。第二類序號小于30的模式有18個(gè)，序號大于60的模式有6個(gè)，其規(guī)模為53個(gè)，屬超大類，超出量為23個(gè)。第三類序號小于61的模式有3個(gè)，其規(guī)模為25個(gè)模式，缺少量為4個(gè)。第一類和第二類出現(xiàn)交混量，比例為0∶16，即本屬于第一類的16個(gè)數(shù)據(jù)被錯(cuò)分到第二類，第一類與第三類交混量的比例為0∶1，第二類與第三類的交混量的比例為7∶2。

可以看出改進(jìn)的ART2神經(jīng)網(wǎng)絡(luò)沒有出現(xiàn)超大或超小類，同時(shí)交混量的數(shù)量也很少，說明改進(jìn)的ART2神經(jīng)網(wǎng)絡(luò)分類性能顯著提高。同時(shí)對其他幾組結(jié)果進(jìn)行分析，可知傳統(tǒng)的ART2網(wǎng)絡(luò)分類結(jié)果受模式輸入順序的影響較大，而改進(jìn)的ART2網(wǎng)絡(luò)的分類結(jié)果較為一致，說明改進(jìn)后的ART2網(wǎng)絡(luò)具有一定的魯棒性。

4結(jié)語

第7篇

關(guān)鍵詞：車牌定位；脈沖神經(jīng)網(wǎng)絡(luò)（SNN）；邊緣檢測；車牌定位；字符分割；字符識別 文獻(xiàn)標(biāo)識碼：A

中圖分類號：TP391 文章編號：1009-2374（2016）32-0013-02 DOI：10.13535/ki.11-4406/n.2016.32.006

現(xiàn)在車牌定位已經(jīng)提出了很多方法，其中經(jīng)常用到的是基于黑白圖像定位、基于顏色特征算法和基于車牌邊緣檢測算法。大多數(shù)算法都是基于單一特征來進(jìn)行車牌定位提取，這樣的定位方法在確定車牌區(qū)域上存在著明顯的局限性，受到特定條件的限制。車牌區(qū)域主要有以下特征：顏色特征、幾何特征、位置特征、紋理特征、灰度跳變特征、投影特征和頻譜特征等。車牌和字符的顏色共有五種組合分別為：藍(lán)底白字、黃底黑字、白底黑字、黑底白字以及白底紅字，其中一些小型和大型車輛的牌照底色會跟著省份的變化而略有不同。本文綜合分析車牌的特征，提出了基于脈沖神經(jīng)網(wǎng)絡(luò)顏色特征提取的車牌粗定位和基于脈沖神經(jīng)網(wǎng)絡(luò)的邊緣檢測的精確定位。

1 算法描述及流程

首先輸入拍攝的彩色車牌圖像，利用SNN對車牌圖像進(jìn)行顏色特征提取，接著經(jīng)過一系列處理實(shí)現(xiàn)車牌的粗定位，然后運(yùn)用灰度化、邊緣檢測、形態(tài)學(xué)處理和二值化等技術(shù)對粗定位車牌進(jìn)行處理，再采用行列掃描投影法進(jìn)行精確定位，最終提取出正確的車牌區(qū)域，其中的邊緣檢測也是基于SNN。基于SNN的車牌定位流程如圖1所示：

2 車牌的粗定位

以藍(lán)色為例，上述算法的具體步驟如下：（1）輸入彩色車牌圖像；（2）將三幅成分圖、和中的每個(gè)像素轉(zhuǎn)換為脈沖序列；（3）計(jì)算其脈沖序列的放電頻數(shù)，分別用維數(shù)為的數(shù)組、和來存儲；（4）將三個(gè)像素閾值、、轉(zhuǎn)換為脈沖序列，并計(jì)算其放電頻數(shù)，分別用、和來存儲；（5）判斷是否滿足、、，如果滿足的話，令，否則令。

如果，則在坐標(biāo)處的像素為藍(lán)色。其他顏色原理相同。

3 車牌的精確定位

本文主要基于感受野和脈沖神經(jīng)元來檢測車牌圖像的邊緣，其網(wǎng)絡(luò)的結(jié)構(gòu)如圖3所示。該網(wǎng)絡(luò)有三層：第一層為光感輸入層；第二層為中間層，四個(gè)并行神經(jīng)元矩陣、、、對應(yīng)四種不同的感受野，為了簡化只畫出了每個(gè)矩陣中的一個(gè)神經(jīng)元。在突觸連接中的“X”代表興奮性突觸，“”代表抑制性突觸，中間層通過不同的權(quán)重矩陣連接光感輸入層，分別執(zhí)行上、下、左、右邊緣的檢測，這些權(quán)重矩陣能改變圖像中不同尺寸感受野的大小；第三層為輸出層，其中每一個(gè)神經(jīng)元累加來自第二層對應(yīng)四個(gè)并行神經(jīng)元矩陣的輸出。通過繪制輸出層的脈沖頻率圖，能得到對應(yīng)于輸入圖像的邊緣圖。本文主要介紹神經(jīng)元通過權(quán)重矩陣連接到光感輸入層的感受野，其響應(yīng)了感受野的右邊緣。此脈沖神經(jīng)網(wǎng)絡(luò)檢測右邊緣的原理如下：

如果一個(gè)灰度均勻圖像位于該感受野中時(shí)，產(chǎn)生一個(gè)均勻的脈沖的輸出，膜電勢不會變化，不會有脈沖序列產(chǎn)生；如果一個(gè)邊緣明確的圖像位于感受野中，感受野的左半部分產(chǎn)生一個(gè)較強(qiáng)的信號，右半部分產(chǎn)生一個(gè)符號相反的較弱的信號，由于左半部分興奮信號沒有被右半部抑制信號抵消，因此膜電勢上升得很快，最終產(chǎn)生響應(yīng)右邊緣的脈沖序列。突觸權(quán)重矩陣相當(dāng)于在感受野內(nèi)檢測邊緣的一個(gè)濾波器，其他三個(gè)邊緣原理相同。輸出層神經(jīng)元累積來自中間層的四個(gè)神經(jīng)元矩陣的輸出，然后響應(yīng)位于感受野任意方向的邊緣。

如圖4所示，通過與canny邊緣檢測和sobel邊緣檢測對比，可知sobel邊緣檢測結(jié)果缺失了部分邊緣，canny邊緣檢測能力很強(qiáng)，但是提取了很多無用的邊緣，然而SNN邊緣檢測結(jié)果最好，彌補(bǔ)了兩者的缺點(diǎn)。

4 實(shí)驗(yàn)結(jié)果及分析

使用Visual C++ 2012開發(fā)工具搭建此算法的軟件實(shí)驗(yàn)平臺，共收集了樣本400張（全國各個(gè)省份的車牌），并且針對各種底色車牌逐一進(jìn)行提取，有366張可以成功定位，定位率達(dá)到91.5%。從以上實(shí)驗(yàn)結(jié)果可知該算法能達(dá)到很好的定位效果。

5 結(jié)語

本文主要介紹了基于脈沖神經(jīng)網(wǎng)絡(luò)的車牌定位算法，分別從車牌粗定位和精確定位兩方面進(jìn)行了系統(tǒng)的分析，綜合運(yùn)用了圖像處理中的灰度化處理、邊緣檢測、二值化等技術(shù)對車牌圖像進(jìn)行分析和處理，充分利用車牌顏色和紋理等特征對車牌進(jìn)行提取。由于客觀條件和時(shí)間的限制，本文的研究還存在很多不足，有很多方面需要進(jìn)一步提高。

參考文獻(xiàn)

[1] 孫杰.車牌定位分割技術(shù)的研究與實(shí)現(xiàn)[D].東北電力大學(xué)，2007.

[2] 張燕，任安虎.多特征與BP神經(jīng)網(wǎng)絡(luò)車牌識別系統(tǒng)研究[J].科學(xué)技術(shù)與工程，2012，（22）.

[3] 陳麗娟.基于脈沖神經(jīng)網(wǎng)絡(luò)的車牌識別系統(tǒng)的設(shè)計(jì)與實(shí)現(xiàn)[D].福建師范大學(xué)，2015.

[4] QingXiang Wu，Martin McGinnity，Liam Maguire，Ammar Belatreche，Brendan Glackin.Edge Detection Based on Spiking Neural Network Model[J].Third International Conference on Intelligent Computing，ICIC 2007.

[5] 陳浩.基于脈沖神經(jīng)網(wǎng)絡(luò)模型的車輛車型識別研究[D].福建師范大學(xué)，2011.

第8篇

關(guān)鍵詞： 網(wǎng)絡(luò)流量檢測； 群智能算法； RBF神經(jīng)網(wǎng)絡(luò)； 網(wǎng)絡(luò)安全

中圖分類號： TN926?34； TP393 文獻(xiàn)標(biāo)識碼： A 文章編號： 1004?373X（2016）20?0012?03

Abstract： The application of swarm intelligence optimizing neural network in network security and a network traffic detection model based on neural network algorithm are studied in this paper. QAPSO algorithm is used to optimize the basis function center and base function width of RBF neural network， and the connection weights of the output layer and the hidden layer as well. The detection model studied in this paper is analyzed by means of an example. The collected data is used to train the network traffic identification system and test its performance. The method researched in this paper is compared with the algorithms based on the conventional PSO and HPSO. The results show that the detection method has a faster recognition speed and better recognition accuracy， and can avoid the occurrence of local optimal solutions.

Keywords： network traffic detection； swarm intelligence algorithm； RBF neural network； network security

0 引 言

隨著互聯(lián)網(wǎng)技術(shù)不斷發(fā)展和普及，互聯(lián)網(wǎng)絡(luò)中的應(yīng)用和服務(wù)類型不斷增加，為了提高網(wǎng)絡(luò)安全，保護(hù)網(wǎng)民、公司企業(yè)以及政府部門等的財(cái)產(chǎn)與利益，需要對網(wǎng)絡(luò)流量進(jìn)行高效的監(jiān)測[1?2]。

RBF神經(jīng)網(wǎng)絡(luò)具有強(qiáng)大的非線性擬合能力，即非線性映射能力，以及自學(xué)能力，同時(shí)便于計(jì)算機(jī)實(shí)現(xiàn)，因而在網(wǎng)絡(luò)流量檢測等網(wǎng)絡(luò)安全領(lǐng)域得到了廣泛應(yīng)用。但是RBF神經(jīng)網(wǎng)絡(luò)的性能特別依賴網(wǎng)絡(luò)參數(shù)選取的好壞，而傳統(tǒng)RBF神經(jīng)網(wǎng)絡(luò)參數(shù)通常由人為按經(jīng)驗(yàn)或隨機(jī)選取，因此網(wǎng)絡(luò)的性能具有較強(qiáng)的隨機(jī)性[3?4]。

近年來，群智能優(yōu)化算法逐漸發(fā)展并得到較為廣泛的應(yīng)用，其中粒子群優(yōu)化算法是一種能夠全局優(yōu)化，具有建模速度快、收斂效率高的群智能優(yōu)化算法，然而使用常規(guī)PSO算法優(yōu)化神經(jīng)網(wǎng)絡(luò)仍然存在收斂速度和全局優(yōu)化能力不能夠達(dá)到平衡等問題[5?7]。因此本文研究一種基于量子自適應(yīng)粒子群優(yōu)化算法（QAPSO），對RBF神經(jīng)網(wǎng)絡(luò)的基函數(shù)中心[Ci]、基函數(shù)的寬度[σi]以及輸出層與隱含層的連接權(quán)值[wi]進(jìn)行優(yōu)化。

1 基于群智能優(yōu)化的神經(jīng)網(wǎng)絡(luò)算法

本文研究的QAPSO優(yōu)化算法主要分為4部分，分別為初始化種群、估計(jì)進(jìn)化狀態(tài)、控制參數(shù)自適應(yīng)以及處理變異[8]。

1.1 初始化種群

2 實(shí)例分析

為驗(yàn)證本文建立基于QAPSO優(yōu)化RBF神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)流量檢測模型的性能，使用基于Libsvm軟件包的C#程序并結(jié)合數(shù)值計(jì)算軟件Matlab R2014對網(wǎng)絡(luò)流量進(jìn)行采集、計(jì)算以及分類。網(wǎng)絡(luò)流量檢測類型如表2所示。

表2 網(wǎng)絡(luò)流量檢測類型

使用常規(guī)PSO優(yōu)化算法及HPSO優(yōu)化算法對RBF神經(jīng)網(wǎng)絡(luò)進(jìn)行優(yōu)化，并建立同樣的網(wǎng)絡(luò)流量檢測模型，使用同樣的訓(xùn)練數(shù)據(jù)樣本進(jìn)行訓(xùn)練，使用同樣的測試數(shù)據(jù)樣本進(jìn)行性能測試。常規(guī)PSO優(yōu)化算法的參數(shù)為空間維度[D=24]，粒子數(shù)量[N=30]，最大迭代次數(shù)[tmax=200]，連接權(quán)值[w=0.9～0.4]，加速系數(shù)[c1]和[c2]均為2。HPSO優(yōu)化算法的參數(shù)為空間維度[D=24]，粒子數(shù)量[N=30]，最大迭代次數(shù)[tmax=200]，連接權(quán)值[w=0.8～0.2]，加速系數(shù)[c1]和[c2]均為2.5，[Vmaxd=0.5×Range]。QAPSO算法的參數(shù)為空間維度[D=24]，粒子數(shù)量[N=30]，最大迭代次數(shù)[tmax=200]，連接權(quán)值[w=0.8～0.2]，加速系數(shù)[c1]和[c2]為1.5～2.5，[Vmaxd=Range]，[r1d]和[r2d]為0～1之間的隨機(jī)數(shù)。

從圖1可以看出，常規(guī)PSO優(yōu)化算法使得適應(yīng)度函數(shù)收斂到穩(wěn)定值時(shí)的迭代次數(shù)為171次，HPSO優(yōu)化算法使用了112次，而本文研究的QAPSO優(yōu)化算法只使用了76次。同時(shí)，本文研究的QAPSO優(yōu)化算法的收斂值更低，適應(yīng)度函數(shù)的值即為RBF神經(jīng)網(wǎng)絡(luò)的訓(xùn)練誤差，因此適應(yīng)度函數(shù)越小，RBF神經(jīng)網(wǎng)絡(luò)的訓(xùn)練誤差越小，性能越好。因此，本文研究的QAPSO優(yōu)化算法相比另外兩種PSO優(yōu)化算法具有更快的收斂速度和更高的收斂精度，極大地提高了RBF神經(jīng)網(wǎng)絡(luò)的泛化能力。使用本文研究的QAPSO?RBF檢測模型及常規(guī)PSO和HPSO優(yōu)化RBF算法的檢測模型對實(shí)驗(yàn)數(shù)據(jù)進(jìn)行識別。表3為三種檢測模型的檢測準(zhǔn)確率與反饋率對比。圖2為三種模型的平均檢測率和反饋率對比。

通過表3的數(shù)據(jù)可以看出，本文研究的QAPSO?RBF檢測模型對12種類型網(wǎng)絡(luò)服務(wù)與應(yīng)用均有較好的識別準(zhǔn)確率和反饋率，平均識別準(zhǔn)確率達(dá)到了92.81%，比HPSO?RBF算法的平均識別準(zhǔn)確率高出3.49%，比PSO?RBF算法的平均識別準(zhǔn)確率高出6.99%。QAPSO?RBF識別算法的平均識別反饋率達(dá)到了94.81%，比HPSO?RBF算法的平均識別反饋率高出3.51%，比PSO?RBF算法的平均識別反饋率高出7.28%。可表明相比其他粒子群優(yōu)化算法，本文研究的QAPSO優(yōu)化算法在進(jìn)行多次迭代后仍然具有較好的活躍性，跳出局部最優(yōu)解，對最佳值的全局搜索能力具有非常顯著的提高，加快了算法收斂速率，提高了識別準(zhǔn)確率。

3 結(jié) 論

本文研究一種群智能優(yōu)化神經(jīng)網(wǎng)絡(luò)算法的網(wǎng)絡(luò)流量檢測模型。通過實(shí)際測試驗(yàn)證，相比其他粒子群優(yōu)化算法，本文研究的QAPSO優(yōu)化算法在進(jìn)行多次迭代后仍然具有較好的活躍性，跳出局部最優(yōu)解，對最佳值的全局搜索能力具有非常顯著的提高，加快了算法收斂速率，提高了識別準(zhǔn)確率。

參考文獻(xiàn)

[1] 盧金娜.基于優(yōu)化算法的徑向基神經(jīng)網(wǎng)絡(luò)模型的改進(jìn)及應(yīng)用[D].太原：中北大學(xué)，2015.

[2] 鐘建坤，周永福.群智能算法優(yōu)化神經(jīng)網(wǎng)絡(luò)在網(wǎng)絡(luò)安全的應(yīng)用研究[J].激光雜志，2015，36（4）：143?146.

[3] 李博.粒子群優(yōu)化算法及其在神經(jīng)網(wǎng)絡(luò)中的應(yīng)用[D].大連：大連理工大學(xué)，2005.

[4] 蔣林利.改進(jìn)的PSO算法優(yōu)化神經(jīng)網(wǎng)絡(luò)模型及其應(yīng)用研究[D].廈門：廈門大學(xué)，2014.

[5] 陳偉.基于群體智能算法的人工神經(jīng)網(wǎng)絡(luò)優(yōu)化及其應(yīng)用[D].無錫：江南大學(xué)，2007.

[6] 劉曉剛.群體智能算法在RBF神經(jīng)網(wǎng)絡(luò)中的應(yīng)用[D].青島：青島大學(xué)，2008.

[7] 馬汝輝.基于網(wǎng)絡(luò)流量異常檢測的網(wǎng)絡(luò)安全技術(shù)研究[D].無錫：江南大學(xué)，2008.

第9篇

[關(guān)鍵詞]無線傳感器，路由，BP神經(jīng)網(wǎng)絡(luò)

中圖分類號：TN929.5 文獻(xiàn)標(biāo)識碼：A 文章編號：1009-914X（2015）41-0243-01

1.概述

近年來，微電子機(jī)械系統(tǒng)、無線通訊和數(shù)字化電子領(lǐng)域快速發(fā)展，使得開發(fā)出用于短距離通信的低能耗、低成本、多功能傳感器節(jié)點(diǎn)成為可能。這些節(jié)點(diǎn)能感知環(huán)境，數(shù)據(jù)處理和通訊[1]。基于傳感器節(jié)點(diǎn)協(xié)作的傳感器網(wǎng)絡(luò)提升了應(yīng)用領(lǐng)域與能量，傳感器網(wǎng)絡(luò)是傳統(tǒng)傳感器研究的重大改進(jìn)。

傳感器網(wǎng)絡(luò)有廣泛的應(yīng)用領(lǐng)域，可以用于監(jiān)控和收集分布式區(qū)域中的各種目標(biāo)和信息。圖1展示了一個(gè)經(jīng)典的WSNs，該領(lǐng)域主要是設(shè)計(jì)一個(gè)有效的路由算法，增進(jìn)通訊連通能力，目標(biāo)是減少能量消耗、延長傳感器網(wǎng)絡(luò)的生命周期。與能量消耗相關(guān)的論文研究成功近年來不斷涌現(xiàn)。

2.無線傳感器路由問題建模

一個(gè)大的傳感器網(wǎng)絡(luò)由很多簇組成。傳感器節(jié)點(diǎn)并不直接發(fā)送數(shù)據(jù)，而是在一個(gè)簇中由一個(gè)中心節(jié)點(diǎn)（Sink）完成數(shù)據(jù)收集工作。但是，由于發(fā)射信號限制，一個(gè)傳感器節(jié)點(diǎn)只能和它發(fā)射半徑之內(nèi)的其它節(jié)點(diǎn)相連，本文的內(nèi)容就是針對一個(gè)簇之內(nèi)的信息收集工作展開的。

S是所有傳感器節(jié)點(diǎn)的集合，E是一個(gè)節(jié)點(diǎn)的連接集合。是簇中的一個(gè)節(jié)點(diǎn)，代表著在節(jié)點(diǎn)u和v之間傳輸 1k的數(shù)據(jù)需要消耗的能量，本文使用如下無線通訊模型：接收1KB的數(shù)據(jù)包消耗傳感器節(jié)點(diǎn) 1k的電能，發(fā)送放大器的能量消耗與距離相關(guān)，節(jié)點(diǎn)（u， v）之間用C（u， v）代表[2]。信息收集路徑從sink節(jié)點(diǎn)開始，完成信息收集之后返回到同一節(jié)點(diǎn)，代表著一個(gè)完整的路徑，so是sink節(jié)點(diǎn)。路由的能量消耗按如下公式定義：

D 代表傳輸數(shù)據(jù)的大小，是一個(gè)動態(tài)值。

3.基于BP神經(jīng)網(wǎng)絡(luò)的數(shù)據(jù)融合模型

反向傳播網(wǎng)絡(luò)（BP網(wǎng)絡(luò)）是前向神經(jīng)網(wǎng)絡(luò)中最重要的一種，該網(wǎng)絡(luò)的監(jiān)督學(xué)習(xí)算法采用誤差反向傳播算法。該算法[3]的學(xué)習(xí)過程主要有兩個(gè)：信號的正向傳播與誤差的反向傳播。主要是通過修正各層神經(jīng)元的權(quán)值，使得總的誤差信號最小。近幾年，，研究人員開展了很多基于神經(jīng)網(wǎng)絡(luò)的無線傳感器網(wǎng)絡(luò)數(shù)據(jù)融合方面的研究工作。實(shí)驗(yàn)結(jié)果表明，把BP神經(jīng)網(wǎng)絡(luò)應(yīng)用傳感器數(shù)據(jù)融合中，可以大大降低傳送數(shù)據(jù)的特征維數(shù)，提高無線網(wǎng)絡(luò)的數(shù)據(jù)融合效率。

3.1 BP神經(jīng)網(wǎng)絡(luò)

BP網(wǎng)絡(luò)是利用BP算法的前向型神經(jīng)網(wǎng)絡(luò)，其是在多層感知器的基礎(chǔ)上增加了反向傳播信號，可以較好地處理非線性的數(shù)據(jù)信息，具有較好的泛化能力，廣泛地應(yīng)用在系統(tǒng)模型辨識、預(yù)測或控制。

BP神經(jīng)網(wǎng)絡(luò)中的神經(jīng)元模型中的激發(fā)函數(shù)通常選用非線性的Sigmoid函數(shù)：

只有當(dāng)系統(tǒng)特性在正負(fù)區(qū)間變化時(shí)，激發(fā)函數(shù)選擇對稱的Sigmoid函數(shù)，又稱為雙曲函數(shù)：

BP神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)結(jié)構(gòu)由輸入層、輸出層和隱層組成，其中隱層可以有多層，不過最常用還是單隱層的三層BP網(wǎng)絡(luò)。

3.2 BP神經(jīng)網(wǎng)絡(luò)權(quán)值調(diào)整規(guī)則

BP網(wǎng)絡(luò)的學(xué)習(xí)過程是就將誤差反向傳播并修正網(wǎng)絡(luò)權(quán)值直到網(wǎng)絡(luò)的總誤差最小。定義BP神經(jīng)網(wǎng)絡(luò)的輸入輸出模型對應(yīng)的系統(tǒng)誤差函數(shù)為：

利用梯度最速下降法解析如何調(diào)整連接權(quán)值使誤差函數(shù)E最小。

BP神經(jīng)網(wǎng)絡(luò)訓(xùn)練過程[4]：當(dāng)確定網(wǎng)絡(luò)結(jié)構(gòu)后，始對BP神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練。BP神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)是由信號的正向傳播與誤差的反向傳播兩個(gè)過程組成的，在正向傳播時(shí)，輸入樣本信號從輸入層進(jìn)入網(wǎng)絡(luò)，通過隱層處理最后傳送給輸出層，如果輸出結(jié)果與期望值不符，則把誤差進(jìn)行反向傳播，根據(jù)上面的權(quán)值調(diào)整系數(shù)調(diào)整權(quán)值的變化，直到網(wǎng)絡(luò)輸出層的輸出結(jié)果滿足要求為止。

4.基于BP神經(jīng)網(wǎng)絡(luò)的 路由仿真實(shí)驗(yàn)

無線傳感器網(wǎng)絡(luò)與神經(jīng)網(wǎng)絡(luò)在有些地方很類似，比如無線傳感器網(wǎng)絡(luò)中的傳感器節(jié)點(diǎn)具有感知數(shù)據(jù)處理信息的能力，相當(dāng)于神經(jīng)網(wǎng)絡(luò)中的神經(jīng)元；無線傳感器網(wǎng)絡(luò)節(jié)點(diǎn)之間通過一定的規(guī)則傳遞信息，則相當(dāng)于連接神經(jīng)元的突觸。神經(jīng)網(wǎng)絡(luò)算法與無線傳感器網(wǎng)絡(luò)中應(yīng)用的數(shù)據(jù)融合技術(shù)有相同的功能，即通過一定的規(guī)則對大量的數(shù)據(jù)進(jìn)行運(yùn)算處理，從而得到反映這些數(shù)據(jù)特征的結(jié)果。因此，可以把神經(jīng)網(wǎng)絡(luò)算法應(yīng)用到無線傳感器網(wǎng)絡(luò)中實(shí)現(xiàn)數(shù)據(jù)的融合。

實(shí)驗(yàn)中，設(shè)置傳感器節(jié)點(diǎn)數(shù)目為 100，200，300，400 和 500。傳感器網(wǎng)絡(luò)環(huán)境是一個(gè) 200m*200m 的空間[5-6]。令傳輸數(shù)據(jù)的大小為 1KB，發(fā)射半徑分別為 20m 和 30m。實(shí)驗(yàn)結(jié)果是 50 次運(yùn)行的平均值。圖2 和圖 3現(xiàn)實(shí)了算法在不同數(shù)據(jù)集上最有解的變化趨勢，從中可以看出能量的逐步變化，并且，圖 3 的能量消耗更小，因?yàn)榘l(fā)射半徑較大。

5.結(jié)論

本文利用BP神經(jīng)網(wǎng)絡(luò)模型解決無線傳感器網(wǎng)絡(luò)路由問題，實(shí)驗(yàn)中，采用了不同規(guī)模的網(wǎng)絡(luò)實(shí)驗(yàn)數(shù)據(jù)，并同該領(lǐng)域其它經(jīng)典算法進(jìn)行比較，驗(yàn)證了本文所提方法在該領(lǐng)域的有效性。下一步的可針對模型在大規(guī)模數(shù)據(jù)集上表現(xiàn)沒有中小規(guī)模優(yōu)秀的問題方面展開。

參考文獻(xiàn)

[1]張重毅，適用于無線傳感器網(wǎng)絡(luò)的移動路由算法[D]. 吉林： 吉林大學(xué)計(jì)算機(jī)科學(xué)與技術(shù)學(xué)院， 2007.

[2] 李鳳保，李凌.無線傳感器網(wǎng)絡(luò)技術(shù)綜述[J]. 儀器儀表學(xué)報(bào)， 2005，26（3）：559-561.

[3] Shih E， Cho S， Ickes N， Min R， Sinha A， Wang A， Chandrakasan A. Physical layer driven protocol and algorithm design forenergy-efficient wireless sensor networks[C]. Proceedings of the ACM MobiCom 2001， Rome： ACM Press， 2001， 272-286.

[4] 唐勇，周明天，張欣.無線傳感器網(wǎng)絡(luò)路由協(xié)議研究進(jìn)展[J]. 軟件學(xué)報(bào)，2006，17（3）：410-421.