神經網絡的魯棒性精選(九篇)

前言：一篇好文章的誕生，需要你不斷地搜集資料、整理思路，本站小編為你收集了豐富的神經網絡的魯棒性主題范文，僅供參考，歡迎閱讀并收藏。

第1篇：神經網絡的魯棒性范文

關鍵詞：液壓泵軸承 故障 診斷

軸承的平均使用壽命是10000小時，大于此就需要更換新的；滾柱表面變色或者有劃痕，也要更換。更換下來的軸承應注意型號和英文字母，但沒有儀器是無法檢測出軸承的游隙柱塞泵軸承一般采用大載荷容量軸承，更換時候最好購買原廠家規格的產品，但若換為另一品牌，并且保持載荷容量和軸承的精度等級，需要請教對軸承有經驗的人員查表更換。

一、液壓泵軸承故障的特征提取

在機械系統中，有故障就會引起系統的附加振動。振動信號很適合進行故障診斷，因為它是包含豐富信息的動態信號，但若固有信號或外界干擾對故障信號的干擾很大，那么關鍵是要從振動信號中提取有用信號。

(1)振動的平均能量特征

假定在液壓泵泵體上的振動加速信號為：a(t)={a1(t), a2(t),...， an(t)}，它是故障信號以泵體傳輸后的信號。

振動信號的有效值由特征參數代表，反映振動的平均能量。根據統計學理論，振動的時域信息可以通過振動的均方根反映：

(2)振動信號的峰值特征

反映振動信號中周期性脈動的特征量，峰值特征量為Pp=max{a(t)}。

(3)倒譜包絡特征

設為故障激勵信號f(t)，傳輸通道的脈沖響應為h(t)，由傅里葉變換得：

，變換得：

其中，τ稱為倒頻率，(τ)為倒頻譜。

由上得出故障激勵信號特性和傳遞通道的特性被分離，故障激勵信號與傳遞通道信號一般在不同的倒頻區，突出故障振動信號的特性。

當軸承滾柱及流動面的內、外環滾道上出現損傷，滾道的表面受到破壞，根據摩擦學理論，每當滾子滾過損傷點，都會產生一次振動。選用以上抗干擾能力強的特征為故障診斷特征參數，可以克服軸承故障信號較弱且容易被液壓泵固有振動淹沒的困難。

二、集成BP網絡進行故障診斷的原理

求解問題的領域特征決定了神經網絡的組織結構，為了減少故障診斷系統的復雜性和網絡學習時間，將故障診斷知識集合分解為若干子集合。每個邏輯上獨立的子集合再分解為幾個規則子集，每個規則子集是一個邏輯上獨立的子網絡的映射，通過規則子集間的聯系、子網絡的權系矩陣來組織網絡。獨立地運用BP學習算法在各個子網絡分別進行學習訓練。由于分解后的子網絡變得規模小了，所以使訓練時間大為減少。

利用集成BP網絡對液壓泵軸承故障診斷的信息處理能力，即BP算法和神經元的非線性機理特性，如圖1所示。

圖1BP網絡故障診斷示意圖

圖2中每一個子網絡由BP算法各自學習，學習后的結果最后集成到控制網絡。BP子網絡的學習算法如下：

圖2集成BP網絡示意圖

將能量特征、幅值特征和倒譜包絡特征每一個特征參數值的映射到神經網絡輸入輸出層的單個節點上，進行正則變換，則：

xi=0.8(x-xmin)/(xmax-xmin)+0.1

為了避免Sigmoid函數輸出值極端化，比如學習無法收斂的問題，則需要把特征參數正則到(0.1，0.9)之間，得到每個神經元的加權值和閾值：

其中，i代表前一層，j代表當前層，wij代表連接權值，cj代表當前節點的閾值，fj代表輸出。而對于軸承故障診斷系統，若選取6個特征參數，即內滾道和滾柱的振動能量、振動峰及倒譜包絡，則：

子網絡輸出層有一個節點，集成BP網絡輸出有多個節點，可以用集成BP網絡的輸出節點組合，表示一種狀態，從而對多故障診斷與識別。

三、神經網絡魯棒性的研究

第2篇：神經網絡的魯棒性范文

關鍵詞：卷積神經網絡；自動編碼器；非監督訓練；多尺度分塊；目標識別

中圖分類號：TP391.41文獻標志碼：A英文標題

0引言

對圖像中目標的精確和魯棒識別是模式識別及人工智能領域的核心內容，在道路監控、戰場偵察、精確打擊等領域中有著重要的作用和廣泛的前景。近年來，隨著深度神經網絡成為機器學習新的熱點，基于卷積神經網絡（Convolutional Neural Network，CNN）的圖像識別算法因其較強的魯棒性和突出的識別率被學術界和工業界所重視。

Alex等[1]提出基于大型深層CNN的自然圖像識別算法，在ImageNet數據集上取得了很高的識別率；Dan等[2]提出了基于多核的CNN，并采用GPU并行運算的方法在三維NORB數據集上取得了很好的識別效果。以上算法雖然都取得了較高的目標識別率，但是由于算法采用有監督的訓練方式，需要大量標簽數據對網絡權重進行調整，當數據量較小時會導致模型前幾層網絡無法得到充分訓練，故只能針對含標簽數據較多的大型數據集。針對此問題，目前主流的解決方法是采用特征提取算法對CNN的濾波器集進行非監督的預訓練。文獻[3]采用稀疏編碼提取訓練圖像的基函數作為CNN的初始濾波器；文獻[4]將獨立成分分析（Independent Component Analysis，ICA）應用于CNN的預訓練階段，利用ICA訓練濾波器集合，使識別率得到了一定提高。然而無論是稀疏編碼還是ICA，其特征提取的效果都比較一般，應用于預訓練階段對算法識別率的提升也比較有限。所以如何更好地選擇濾波器的預訓練算法仍是十分困難的問題。

除了預訓練外，影響CNN識別率和魯棒性的關鍵參數還有濾波器的尺寸和下采樣層的采樣間隔。濾波器尺寸反映了CNN對輸入圖像局部特征的提取情況，文獻[5]證明濾波器尺寸對最終識別結果有很大影響，并給出了單層條件下相對最優的濾波器尺寸。下采樣層主要負責對特征進行模糊，從而獲得平移、尺度等不變性。采樣間隔反映了模糊的程度，間隔越大模糊越嚴重，模糊后的特征保持的全局空間信息就越少。文獻[6]證明當采樣間隔較小時，即使經過2次卷積和2次最大下采樣（maxpooling），網絡輸出的激活值仍能重構出與原始輸入看似相同的圖案。然而下采樣間隔過小會導致不變性喪失，過大則會損失大量細節信息，兩者均會導致識別率的下降。

針對以上問題，本文提出基于多尺度分塊卷積神經網絡（MultiScale Convolutional Neural Network， MSCNN）的圖像目標識別算法。首先利用稀疏自動編碼器（Sparse AutoEncoder，SAE）對卷積神經網絡的濾波器進行非監督預訓練，通過最小化重構誤差獲得待識別圖像的隱層表示，進而學習得到含有訓練數據統計特性的濾波器集合，預訓練效果相比ICA更好。其次提出多尺度分塊的方法構建卷積神經網絡，為了增加魯棒性并減小下采樣對特征表示的影響，對輸入圖像進行多尺度分塊形成多個通路，并設計相應尺寸的濾波器進行卷積運算，將不同通路下采樣后的輸出進行融合從而形成新的特征，輸入softmax分類器完成圖像目標的識別。最后通過大量實驗對比MSCNN算法與經典算法在通用圖像識別任務中的識別率和魯棒性差異，從而驗證算法的有效性。

4仿真實驗及分析

本文使用STL10公開數據集以及從全色波段的QuiekBird遙感衛星和GoogleEarth軟件中截取的遙感飛機圖像數據集進行測試實驗，將所有圖片變為64×64像素的RGB圖。選擇STL10數據集的原因是因為其含有不包含標簽的訓練集，可用于本文的非監督預訓練算法，且圖像中包含更多類內變化。STL10共10類目標，本文選用其中的4類目標進行實驗。選擇遙感飛機圖像數據則是為了驗證本文算法在遙感圖像解譯方面的可用性。該數據集包含5類遙感飛機，共400幅。實驗時隨機選取遙感飛機圖像庫中50%的圖像作為訓練樣本，其余作為測試樣本。本文的實驗環境為CPU2.8GHz、內存3GB的計算機，實現算法的軟件為Matlab（2011a）。

4.1算法識別率對比測試

MSCNN的各通路尺寸參數設置如圖4所示，每個通道使用300個濾波器，濾波器初始值按照不同通道感受野大小利用稀疏自動編碼器預訓練得到。編碼器設定為3層，稀疏參數ρ設定為0.05，訓練周期為400。卷積神經網絡的下采樣方式采用最大下采樣（max pooling）。

按照上述參數設置，通路1輸出特征維度為2700，通路2輸出特征維度為4800，通路3輸出特征維度為4800，MSCNN輸出特征維度總共為12300。所有算法的訓練周期均為50。傳統CNN參數設定與通路1參數設定相同，同樣使用300個濾波器，濾波器初始值通過隨機初始化得到。輸出特征維度為2700。實驗結果如表1所示。

從表1可看出，加入LCN的CNN較未加入的CNN對兩種數據集的識別率有一定的提高，說明了加入LCN對目標識別率是有一定的貢獻的；在兩種數據集上MSCNN相比原始CNN都擁有更高的識別率。MSCNN通路1雖然參數設置與CNN相同，但在相同訓練周期下識別率較加入LCN的CNN又有一定提高，說明了非監督預訓練對識別率提高的有效性。對于STL10數據集，可看出通路2的識別率在3個通路中最高，通路3則最低，這是因為通路3輸入的圖像尺寸最小，而STL10類內變化很大且目標不全在圖像中心，故識別率有所下降。通路之間進行兩兩累加后識別率都有所提高，在3個通路共同作用時識別率最高，達到83.5%。對于遙感飛機圖像集而言，可看出3個通路中通路2的識別率最高，這是因為遙感飛機圖像集均為飛機圖像，不同類別之間的全局特征差異并不明顯，而局部特征更能表示不同的飛機類別。通路3由于輸入尺寸較小，識別率稍有下降。同樣的，不同通路之間的疊加都讓識別率有所提升，最終MSCNN三通路特征融合后的識別率達到了96.5%，完全滿足對于可見光遙感圖像目標識別的需求。

從表1還可看出，本文算法在3個通路CNN的情況下的識別率較1個通路或2個通路的CNN的識別率高，由此可以推斷3個通路CNN所提取的特征具有較強的泛化能力和魯棒性。此外3個通道能夠兼顧不同的尺度，使模型能提取到尺度不同的特征。

4.2算法魯棒性實驗

為驗證MSCNN的魯棒性，在數據集中選取不同類別的圖像對其進行平移、尺度、旋轉變換，然后計算MSCNN輸出的第一層全連接特征與圖像變換后輸出特征之間的歐氏距離，根據距離的大小可以衡量輸出特征對于目標變化的魯棒性，歐氏距離越小就說明特征對于目標變化越不敏感，魯棒性就越好。對于STL10選取四類目標進行實驗，對比算法為CNN；對于遙感飛機圖像集隨機選取10幅進行實驗，并取距離的平均值，對比算法為ICA和CNN。測試結果如圖6～7所示。

圖6中虛線表示傳統CNN算法得到的結果，實線則表示MSCNN得到的結果，從圖6可看出：無論是面對平移、尺度還是旋轉變換，MSCNN算法最終輸出的特征向量變化率均小于CNN算法，證明其魯棒性要好于CNN。

從圖7也可看出：本文算法對于遙感飛機圖像集的平移、尺度、旋轉均表現出良好的魯棒性，相比而言ICA提取的特征魯棒性較差，目標圖像微小的變化就導致了特征較大的改變。本文算法魯棒性較好首先是因為MSCNN采用非監督的預訓練方式，訓練得到的濾波器含有更多圖像不變性特征；其次是因為MSCNN采用多尺度輸入，小塊圖像輸入在一定程度上相當于另一種局部特征，這些特征相比全尺寸輸入擁有更好的不變性；最后是MSCNN采用了局部對比度標準化，對于亮度變化較大和存在噪聲的目標圖像魯棒性明顯增強。

另外，本文算法采用了多通路多尺度分塊的方法，必然會使網絡參數增加，從而會使訓練時間比較耗時；但在測試階段，輸入樣本的計算僅包含一些簡單的卷積和下采樣，算法復雜度并沒有因為通道的增加而增加，因此在測試階段的實時性較傳統的CNN并沒有太大變化。

5結語

本文提出了MSCNN算法在卷積神經網絡的基礎上通過非監督預訓練濾波器的方法解決傳統卷積神經網絡前幾層無法得到有效訓練的問題。針對傳統神經網絡對于復雜背景圖像識別率不高的問題，利用多尺度輸入圖像增加局部不變信息，利用不同尺寸濾波器卷積搭配不同下采樣間隔的方法在獲得特征不變性的同時不至于喪失目標的細節信息，有效提升了識別率和魯棒性。與經典算法的對比實驗結果表明：該方法能夠有效識別可見光自然圖像和遙感圖像，并對平移、尺度和旋轉變換具有較強的魯棒性。

參考文獻：

[1]

ALEX K， ILYA S， HINTON G E. ImageNet classification with deep convolutional neural networks[EB/OL]. [20150210]. http：//papers.nips.cc/paper/4824imagenetclassificationwithdeepconvolutionalneuralnetworks.pdf.

[2]

DAN C， UELI M， JURGEN S. Multicolumn deep neural networks for image classification[C]// Proceedings of the 2012 IEEE Conference on Computer Vision and Pattern Recognition. Piscataway， NJ： IEEE， 2012： 3642-3649.

[3]

KAVUKCUOGLU K， SERMANET P， BOUREAU Y， et al. Learning convolutional feature hierarchies for visual recognition[EB/OL]. [20150210]. http：//cs.nyu.edu/～ylan/files/publi/koraynips10.pdf.

[4]

KAVUKCUOGLU K， RABZATO M， FERGUS R， et al. Learning invariant features through topographic filter maps[C]// IEEE Conference on Computer Vision and Pattern Recognition. Piscataway， NJ： IEEE， 2009： 1605-1612.

[5]

COATES A， LEE H， NG A Y. An analysis of singlelayer networks in unsupervised feature learning[C]// Proceedings of the 14th International Conference on Artificial Intelligence and Statistics. Piscataway， NJ： IEEE， 2011： 215-223.

[6]

ZEILER M D， FERGUS， R. Visualizing and understanding convolutional neural networks [C]// ECCV 2014： Proceedings of the 13th European Conference on Computer Vision. Berlin： Springer， 2014： 818-833.

[7]

BALDI P， LU ZHIQIN. Complexvalued autoencoders [J]. Neural Networks， 2012， 33：136-147.

[8]

HAYKIN S.神經網絡與機器學習[M].3版.申富饒， 徐燁， 鄭俊， 譯. 北京： 機械工業出版社， 2011：81-89.（HAYKIN S. Neural Networks and Learning Machines[M]. 3rd ed. SHEN F R， XU Y， ZHENG J， translated. Beijing： China Machine Press， 2011：81-89.

[10]

LECUN Y， BOTTOU L， BENGIO Y. Gradientbased learning applied to document recognition [J]. Proceedings of the IEEE， 1998， 86（11）： 2278-2324.

[11]

DERMANET P， LECUN Y. Traffic sign recognition with multiscale convolutional networks [C]// Proceedings of the 2011 International Joint Conference on Neural Networks. Piscataway， NJ： IEEE， 2011： 2809-2813.

[12]

GONG Y C， WANG L W， GUO R Q， et al. Multiscale orderless pooling of deep convolutional activation features[C]// ECCV 2014： Proceedings of the 13th European Conference on Computer Vision. Piscataway， NJ： IEEE， 2014： 392-407.

[13]

JARRETT K， KAVUKCUOGLU K， RANZATO M， et al. What is the best multistage for object architecture？[C]// Proceedings of the 2009 IEEE 12th International Conference on Computer Vision. Piscataway， NJ： IEEE， 2009： 2146-2153.

[14]

BOUVRIE J. Notes on convolutional neural networks [EB/OL]. [20150210]. http：//math.duke.edu/～jvb/papers/cnn_tutorial.pdf.

Background

This work is partially supported by the National Natural Science Foundation of China （61372167， 61379104）.

ZHANG Wenda， born in 1991， M. S. candidate. His research interests include pattern recognition and artificial intelligence.

第3篇：神經網絡的魯棒性范文

為降低神經網絡的冗余連接及不必要的計算代價，將量子免疫克隆算法應用于神經網絡的優化過程，通過產生具有稀疏度的權值來優化神經網絡結構。算法能夠有效刪除神經網絡中的冗余連接和隱層節點，并同時提高神經網絡的學習效率、函數逼近精度和泛化能力。該算法已應用于秦始皇帝陵博物院野外文物安防系統。經實際檢驗，算法提高了目標分類概率，降低了誤報率。

關鍵詞：神經網絡；量子免疫克隆算法；目標分類；冗余連接；網絡優化

中圖分類號： TP273

文獻標志碼：A

Quantum-inspired clonal algorithm based method for optimizing neural networks

Abstract：

In order to reduce the redundant connections and unnecessary computing cost， quantum-inspired clonal algorithm was applied to optimize neural networks. By generating neural network weights which have certain sparse ratio， the algorithm not only effectively removed redundant neural network connections and hidden layer nodes， but also improved the learning efficiency of neural network， the approximation of function accuracy and generalization ability. This method had been applied to wild relics security system of Emperor Qinshihuangs mausoleum site museum， and the results show that the method can raise the probability of target classification and reduce the false alarm rate.

Key words：

neural network； quantum-inspired clonal algorithm； target classification； redundant connection； network optimization

0 引言

神經網絡已經被廣泛地應用于模式分類、函數逼近、信號預測等各種領域，是近年來的研究熱點之一[1-2]。在應用過程中，研究人員發現，當神經網絡的規模過大會產生連接數量冗余大、計算代價過高的問題，降低了大規模神經網絡的實用性。針對此問題，研究人員提出了多種方法在保持神經網絡的前提下優化神經網絡的結構和參數權值。Leung等[3-4]改進了傳統的遺傳算法（Genetic Algorithm， GA）并將其應用于神經網絡的結構和權值優化過程，利用遺傳算法的快速收斂性來提高神經網絡的學習速度，其缺點在于當目標函數維數過大時容易陷入局部最優。Xiao等[5]使用混合優點（Hybrid Good Point， HGP）優化前向神經網絡的參數和結構，避免權值陷入局部最優，但其對網絡結構的優化沒有達到最優。Shu等[6]提出正交模擬褪火（Orthogonal Simulated Annealing， OSA）算法， 使用褪火算法和正交算法的優點來同時優化神經網絡結構和參數，其算法收斂速度快、魯棒性好，缺點則在于計算代價較大。杜文莉等[7]提出了使用量子差分進化（Cooperative Quantum Differential Evolution， CQGADE）算法來優化神經網絡權值，使用量子遺傳算法優化網絡結構和隱層節點數，算法綜合了量子遺傳算法和量子差分算法的優點，收斂速度快，但其缺點在于需要同時協同兩種算法的優化結果，算法復雜度較高，且容易陷入局部最優。Tsai等[8]提出混合田口遺傳算法（Hybrid Taguchi Genetic Algorithm， HTGA），將傳統的GA與Taguchi方法結合起來，使得算法具有魯棒性好、收斂性快等優點，但其缺點在于獲得最優解的計算代價較大。

量子免疫克隆算法[9-12]（Quantum-inspired Immune Clonal Algorithm， QICA）也稱為量子遺傳算法（Quantum Genetic Algorithm， QGA），其將量子搜索機制和免疫算法克隆選擇原理相結合，利用量子編碼的疊加性和隨機性構造抗體，利用遺傳算法的克隆操作產生原始種群和克隆子群實現種群擴張，使搜索空間擴大，提高了局部搜索能力；同時借助全干擾交叉操作避免陷入局部最優。QICA采用了多狀態量子比特編碼方式和通用的量子旋轉門操作， 引入動態調整旋轉角機制和量子交叉[11]。QICA在組合優化問題中具有良好的表現。

針對上述問題，提出了使用量子克隆免疫算法對神經網絡的結構和連接權值同時進行優化，通過產生具有一定稀疏度的連接權值對網絡隱層數量和連接權值進行優化，提高了算法的效率和收斂速度，避免了算法陷入局部最優。

1 帶開關權值的神經網絡模型

在經典的神經網絡理論中，網絡結構在初始化后便不再變動，僅通過權值的變化來計算產生結果，這種算法增加了神經網絡的結構復雜性，在實際應用中增加了計算結果的代價。Leung等[3-4]提出了帶開關權值的神經網絡，通過調整開關的通斷就能調整神經網絡的結構和連接數量，從而減少計算代價。帶開關權值的神經網絡模型如圖1所示[7]。

2.2 權值計算及優化方法

根據量子克隆免疫理論，將神經網絡權值計算及優化過程分為以下四個過程。

2.2.1 權值抗體初始化

量子克隆免疫算法是基于量子計算和遺傳算法組成的，其抗體的編碼方式采用量子比特編碼。一個抗體中的量子位的狀態是不確定的，可以為0或1，其狀態表示為式（5）：

3.1 算法復雜度分析

量子克隆免疫算法的實質是通過量子理論的隨機特性提供豐富的種群數量，并通過使用遺傳算法對種群進行淘汰和進化，因此其算法的復雜度等于種群生成算法的復雜度：假設神經網絡有x個輸入，其隱層節點數量為N，輸出為y，則網絡中的輸入與隱層節點間的連接權值ω的數量為：x*N，隱層節點與輸出層的連接權值v的數量為：N*y。種群生成需要對所有節點進行權值初始化，并將隨機位置的n（nN）個節點的權值設置為0， 其算法復雜度為O（n2）。而克隆免疫算法在種群克隆及抗體選擇過程中使用遺傳算法，因此其算法的復雜度與傳統遺傳算法相同，其算法復雜度也為O（n2）。因此，使用量子免疫克隆的神經網絡優化算法的復雜度為O（n2）。

3.2 非線性函數逼近

選取復雜交互非線性函數（Complicated Interaction Function，CIF）：

其中0

選取樣本700組，其中500組用于訓練，其余200組用于檢測性能。神經網絡的初始隱層神經元設置為20個，初始網絡結構為：2-20-1，初始連接權值為隨機值。在此條件下驗證不同稀疏度條件下對CIF的二維逼近效果如圖3所示。

圖3顯示隨著稀疏度的不斷降低，神經網絡的逼近能力有所減弱，逼近誤差則逐漸增大。這主要是因為神經網絡中的連接權值數量降低，造成神經網絡的適應性差。具體逼近效果見表2。

從表2中可以看出，隱層節點數量直接影響著神經網絡的性能。高稀疏度條件下的計算量大，但逼近精度高；低稀疏度條件下的計算量小，但逼近精度較差。實驗表明當稀疏度大于0.6時，算法的逼近精度高于90%，優化后的網絡具有較好的非線性逼近能力。當神經網絡隱層節點數量低于12時逼近精度大幅下降，說明此時神經網絡處理信息的能力也隨之大幅減弱，隱層節點的最合適的數量為12～14個，這也符合文獻[14]的實驗結果。

圖4為不同稀疏度下，算法適應度的收斂情況。可以看出量子克隆免疫算法具有很好的收斂特性，算法收斂速度很快，能夠在很短的進化次數內收斂至極值，且稀疏度越低，神經網絡的連接權值數量越少，算法收斂速度越低，最優適應度越差。

表3為相同條件下，不同算法的最優計算結果，包括目標分類的準確度、隱藏層節點數量等。可以看出，當稀疏度高于0.8時，本文算法收斂性和適應度均優于混沌粒子群（Chaotic Particle Swarm Optimization，CPSO）[15]、粒子群優化算法（Particle Swarm Optimization，PSO）[16]、混合田口遺傳算法[Hybrid Taguchi-Genetic Algorithm，HTGA][8]等其他算法，說明算法具有很好的收斂速度、尋優精度和魯棒性。

3.3 微地震信號目標分類

實驗場地選擇在秦始皇兵馬俑博物館內K9901號坑旁。所有傳感器節點沿公路一側直線部署，距離公路1m左右。可能產生地震波的活動物體包括人員行走、機動車和挖掘活動。將采集到的微地震信號進行濾波、分幀、特征提取等處理后輸入至神經網絡進行模式識別。

系統對傳感器采集到的數據進行分幀，并使用功率譜二次分析[17]算法對其進行處理，最后將經過預處理的數據輸入至神經網絡對其進行分類。根據其活動特點，將輸出目標分為三類：人員活動、挖掘活動以及機動車輛活動。傳感器采集到的三類活動的經典波形如圖5所示。

表6中給出了算法的最優計算結果，包括不同稀疏度條件下神經網絡的隱藏層節點數量、最優適應度以及分類準確率等。可以看出，算法能夠有效減少冗余的隱藏層節點數量，并降低節點連接數量。算法的稀疏度越高，其適應度越好，其分類的準確性越好，但稀疏度高帶來的則是計算代價增大、計算復雜度增加。當稀疏度低于0.7時，算法的適應度變差，目標的識別率為90%，在實際應用過程中帶來了誤判率較高的問題，降低了實用性。因此在秦始皇帝陵博物院野外文物安防系統中使用了稀疏度為0.7的算法對模式識別的神經網絡進行優化。

4 結語

本文提出了基于量子免疫克隆算法的神經網絡優化算法，該算法在訓練神經網絡優化權值的同時刪除了冗余連接和多余的隱層節點，實現了神經網絡結構和網絡權值的優化。通過經典非線性函數逼近和目標識別檢驗，算法能夠有效地優化神經網絡，提高神經網絡的優化效率，減少計算復雜度。使用優化后的神經網絡已經用于秦始皇帝陵博物院野外文物安防系統中。

參考文獻：

[1] QIAO H， ZHOU Y，SHAO N， et al. Software reliability prediction based on learning vector quantization neutral network[J]. Journal of Computer Applications， 2012，32（05）：1436-1438.）（喬輝，周雁舟，邵楠，等.基于學習向量量化神經網絡的軟件可靠性預測[J].計算機應用，2012，32（5）：1436-1438.）

[2] PAN Y， DENG Y， ZHANG Q， et al. Deterministic prediction of wavelet neural network model and its application[J]. Journal of Computer Applications，2013， 33（4）：1001-1005.（潘玉民，鄧永紅，張全柱，等.小波神經網絡模型的確定性預測及應用[J].計算機應用，2013，33（4）：1001-1005.）

[3] LEUNG H F，LAM H F， LING S F， et al. Tuning of the structure and parameters of neural network using an improved genetic algorithm[C]// Proceedings of the 27th Annual Conference of IEEE Industrial Electronics Society. Piscataway： IEEE，2001：25-30.

[4] LEUNG H F， LAM H F， LING S H， et al. Tuning of the structure and parameters of a neural network using an improved genetic algorithm[J]. IEEE Transactions on Neural Network，2003，14（1）：79-88.

[5] XIAO C， CAI Z， WANG Y， et al. Tuning of the structure and parameters of a neural network using a good points set evolutionary strategy[C]// Proceedings of the 9th International Conference for Young Computer Scientists. Piscataway： IEEE， 2008：1749-1754.

[6] SHU L， HO S Y， HO S J. Tuning the structure and parameters of a neural network using an orthogonal simulated annealing algorithm[C]// Proceedings of the 2009 Joint Conferences on Pervasive Computing. Piscataway： IEEE，2009：789-792.

[7] DU W， ZHOU R， ZHOU L， et al. Cooperative quantum differential evolution algorithm based method for optimizing neural networks[J].Journal of Tsinghua University： Science and Technology， 2012，52（3）：331-335.（杜文莉，周仁，趙亮，等. 基于量子差分進化算法的神經網絡優化方法[J].清華大學學報：自然科學版，2012，52（3）：331-335.）

[8] TSAI J， CHOU J， LIU T. Tuning the structure and parameters of a neural network by using hybrid Taguchi-genetic algorithm[J]. IEEE Transactions on Neural Network， 2006，17（1）：69-80.

[9] LI Y， JIAO L. Quantum-inspired immune clonal algorithm and its application[C]// Proceedings of the 2007 International Symposium on Intelligent Signal Processing and Communication Systems. Piscataway： IEEE， 2007：670-673.

[10] JIAO L， LI Y， GONG M，et al. Quantum-inspired immune clonal algorithm for global optimization[J]. IEEE Transactions on Systems， Man and Cybernetics， Part B： Cybernetics， 2008，38（5）：1234-1253.

[11] ZHOU C， QIAN F. Improvement of quantum genetic algorithm and its application[J]. Journal of Computer Applications， 2008，28（2）：286-288.（周傳華，錢峰.改進量子遺傳算法及其應用[J].計算機應用， 2008，28（2）：286-288）

[12] ZHOU Q， JIANG S， ZHAO X， et al. Improved quantum genetic algorithm and its application in test data generation[J]. Journal of Computer Applications，2012，32（2）：557-560.（周綺，姜淑娟，趙雪峰，等.改進的量子遺傳算法及其在測試數據生成中的應用[J].計算機應用，2012，32（2）：557-560.）

[13] QIAO J，LEE Y G， SCOTT D S， et al. Self-organizing radial basis function network for real-time approximation of continuous-time dynamical systems[J]. IEEE Transactions on Neural Networks，2008，19（3）：460-474.

[14] HAN H， QIAO J， BO Y， et al. On structure design for RBF neural network based on information strength[J]. Acta Automatica Sinica， 2012，38（7）：1083-1090.（韓紅桂，喬俊飛，薄迎春，等.基于信息強度的RBF神經網絡結構設計研究[J].自動化學報， 2012，38（7）：1083-1090.）

[15] ZHAO L. Fuzzy identification and neural networks learning based on cooperative PSO algorithm[D]. Shanghai： Shanghai Jiao Tong University，2008.（趙亮.基于協同PSO算法的模糊辨識與神經網絡學習[D].上海：上海交通大學，2008.）

第4篇：神經網絡的魯棒性范文

關鍵詞：電力系統；人工智能；模糊控制；神經網絡

引言

伴隨著社會的不斷進步，用戶對電能的要求也在不斷提高:安全、可靠、優質、環保。電力系統在實際工作中也確實存在一些技術難題：首先，電力系統是一種復雜大系統，系統參數包含著諸多的不確定因素，并且具有很強的非線性；其次，電力系統應當具有較強的魯棒性能，以克服系統中的擾動，而且系統對多目標尋優的控制方法要求也較高；最后，復雜系統是由多個子系統相互影響、關聯組成，電力系統需要將多個局部的控制系統相互連接，綜合控制。因此，這一系列尖端的技術難題需要應用更為先進的自動化控制技術即智能控制技術。

1智能控制技術

控制理論的不斷發展，為人類帶來了更加先進的自動化技術，使得人們設計的控制系統穩定、可靠、智能、高效。典型的智能控制技術包括：模糊控制、人工神經網絡、專家系統、遺傳算法等。

1.1模糊控制。模糊控制是基于模糊數學理論的一種控制方法。傳統的控制理論能夠解決模型明朗、確定的系統的控制問題。但當面對類似于電力系統的復雜、模型不確定、因素多的大系統傳統的控制方法就無法高效地解決控制問題。為了克服上述問題，科研人員提出了用模糊數學的理論來解決一些復雜系統的控制問題。模糊控制是一種非線性的控制理論。它采用的是理論與實際相結合的方法解決實際的問題。一般模糊控制技術包含如下幾個部分：定義變量、模糊化、知識庫、邏輯判斷及反模糊化。而其中的邏輯判斷部分運用模糊邏輯、模糊推論方法進行分析，得到最優的模糊控制輸出。

1.2人工神經網絡。人工神經網絡（ArtificialNeuralNetworks，簡寫為ANNs）也簡稱為神經網絡（NNs），此類數學模型模仿動物神經網絡的組成，進行分布式信息處理。通過調整系統內部的各個節點之間的聯系，最終達到控制系統的目的。強魯棒性、非線性特性、自組織自學習的能力和并行處理能力是人工神經網絡基本特性，受到了人們的普遍關注。人工神經網絡在工作前先對控制準則學習，減少系統工作過程中發生錯誤動作的概率。控制的準確性可以經過學習之后逐漸完善，提高系統正確動作的權值。

1.3專家系統。專家系統實際上是一個包含著某個專業領域內的大量人類專家知識的一種智能計算機程序系統。該系統通過程序模擬人類專家應用其豐富的知識經驗進行分析、解決問題的過程，最終解決復雜的控制系統的問題。專家系統中的知識庫是反映系統性能的主要部分，系統在解決問題時是通過模擬專家的思維來實現的。用戶在使用過程中可以通過不斷完善專家庫來提高專家系統的性能。專家系統通過反復比對系統的輸入信息，與專家系統中的知識庫的規則進行匹配，最終找到能使數據庫的內容與實際的目標的規則。在改善動態品質和提高遠距離輸電線路能力的問題上，盧強等人提出了利用最優勵磁控制手段，研究成果指出：利用最優勵磁控制方式，可以使大型機組取代古典勵磁方式。

2智能控制技術在電力系統的應用

2.1模糊控制技術在繼電保護領域的應用。電力系統中的繼電保護裝置具有這重要的意義，繼電保護裝置的可靠工作能使電力系統穩定、可靠、安全的運行。對繼電保護裝置的故障識別與診斷越來越嚴苛，電力系統中龐大復雜的故障現象，普通的識別系統無法準確及時地解決問題。因此，采用先進的人工智能技術進行電力系統的繼電保護裝置的故障識別與診斷的工作更加迫切。應用模糊控制技術監視電力系統中變壓器的工作狀態，根據變壓器的參數的變化，結合已知的輸入輸出，利用模糊控制技術進行變壓器的故障診斷。利用最小二乘法的原理將變壓器的一些參數，例如電介質的損耗、泄漏電流、絕緣電阻、變壓器的吸收比等參數作為模糊控制的輸入。將這些輸入參數通過一定的規則進行量化，作為模糊輸入的矩陣，再將變壓器的狀態分為合格、不合格、故障等按照規則量化得到輸出的模糊矩陣。參考其他一些實際經驗中的數據作為擴展出來的輸入輸出矩陣，應用最小二乘法的迭代運算得到輸入與輸出的關系矩陣。應用得出的輸入輸出的關系矩陣就可以對一些變壓器的試驗信息進行分析，診斷。

2.2神經網絡在電力系統故障診斷中的應用。在電力系統故障診斷的過程中，神經網絡將系統的故障報警信息作為神經網絡的輸入量。神經網絡的輸出是電力系統故障診斷的結論。應先讓神經網絡進行學習，對其輸入特定的故障報警，建立一個全面的故障報警樣本庫。通過樣本庫不斷對神經網絡系統進行訓練，使得系統對不同的故障報警輸入產生相應的權重，最終能夠輸出準確的故障診斷的結果。神經網絡故障診斷技術不僅可以應用在電網的故障診斷方面，還可以用于電力設備的故障診斷、電力系統中的變壓器的故障診斷等。神經網絡的算法多種多樣較為常用的有BP神經網絡算法，迭代步長算法，以及變步長法等。在輻射型配電系統中采用BP神經網絡，用ANN模擬各個地區不同電弧電阻下的故障情況，測量阻抗量應用BP神經網絡判斷電力系統出現的問題。該方法能夠有效解決由于電弧引起的測量阻抗不準確，導致保護系統不能正常工作的問題。專家系統在電力變壓器其的故障診斷的應用電力系統中已經有多個部分在控制過程中建立出了數學模型，但是依然存在一些復雜的、規律性不明顯的系統無法抽象出具體的數學模型。這就需要專家系統解決相應的問題。專家控制系統在電力系統中多用于分辨系統的故障報警的狀態，進行分析，提出故障的應急解決方案以及系統的恢復控制方案。專家系統中的知識庫用于提供解決問題的知識，應用推理機使用該專家的知識庫。知識庫可以根據變壓器的不同故障分為多個子系統，例如油位、負荷、溫度等。推理機調用程序根據當前的狀態，按照規定的規則調用系統的特定知識。推理機調用知識庫中的數據時可以采用正向推理、反向推理、混合推理。經過反復的匹配直到找出故障的原因，故障原因可能是多個，將找出的多個原因組合為一個相互關聯的矩陣。最終實現了經過專家系統做出的故障診斷分析。

3總結

人工智能技術是一項新穎先進的技術。在電力系統中應用人工智能技術是電力自動化發展的必然趨勢。針對類似于電力系統的具有非線性、多參數、不確定因素多的復雜大系統，人工智能技術擁有更加優越的控制性能。模糊控制、神經網絡、專家系統等控制理論已經漸漸的成熟，在生產生活的多個方面已經有了越來越多的應用。經過人工智能技術的不斷完善，電力系統自動化的不斷深入，人工智能對電力系統的控制會使電力系統運行更穩定、更經濟，魯棒性能更優越。

參考文獻

[1]朱亮亮,王艷.基于人工智能的電力系統自動化控制[J].科技致富向導,2014,09:300.

[2]丘智蔚.基于人工智能的方法對智能電網進行安全改進[D].華南理工大學,2014.

[3]馮宗英.配電網狀態估計及量測系統的魯棒性配置研究[D].山東大學,2014.

第5篇：神經網絡的魯棒性范文

Abstract: This paper put forward the scheme of adaptive control performance based on recursive type of wavelet neural network. This algorithm reduces computation, simplifies the control structure, and can control the structural parameters of system as the operation change of servo drive system to improve the performance of servo drive system to the parameters, while also better to improve the steady state performance of the servo drive control system. The simulation results verify the effectiveness and feasibility of the control system plan.

關鍵詞:感應電動機;伺服驅動系統;自適應控制;遞歸型小波神經網絡

Key words: induction motor;servo drive system;adaptive control;recursive type of wavelet neural network

中圖分類號:TM3 文獻標識碼:A文章編號:1006-4311(2010)28-0121-01

0引言

電動機的內部參數具有慢時變特性,驅動系統易受到外界擾動,尤其是直線電動機驅動系統,電動機轉子與負載之間沒有輔助的緩沖裝置,外界的干擾影響大,所以在實際應用中,須采用具有較強魯棒性的控制方法。針對參數變化特點及不確定的擾動性,為了保證系統的魯棒特性,采用滑模的變結構控制在電力傳動領域受到了廣泛的應用。系統一旦進入滑模運動狀態,對系統干擾和參數變化具有完全的自適應性及不敏感性。這種新興技術具有廣闊的應用場所,但切換控制作用產生的抖振問題還沒有得到解決,這樣必然會影響軌跡的跟蹤精度,因而給實際應用帶來一定問題。針對電動機模型參數變化和外界的擾動對控制系統的特點,在電機矢量控制的基礎上,提出了基于遞歸型小波神經網絡的自適應控制方法。

神經網絡具有在任意精度的逼近復雜函數的能力和信息綜合能力等諸多的優點,在很多領域得到了廣泛的應用。神經網絡本身就具有自適應和在線學習能力,在解決要求很高的非線性和不確定性問題方面就有巨大的潛力,所以在伺服驅動領域也受到了很大的關注。在信號處理和分析過程中,小波理論受到了各個領域的專家和學者廣泛的關注研究。小波理論運用到神經網絡,充分發揮各自的優點,進而構成了小波神經網絡,這樣必然會給神經網絡帶來新的生命力。神經網絡根據結構可以分為兩大類:前饋型網絡和遞歸型神經網絡。在感應電動機實際應用中遇到的各種擾動有:內部參數的擾動、外部負載的干擾與各種不確定的波動,運用遞歸型小波神經網絡就表現出良好的控制性能。

1基于遞歸型小波神經網絡的自適應控制系統

伺服糸統是一種用機械位置或角度作為控制對象的自動控制系統。交流伺服系統具有良好的性價比得到了廣泛地應用,如需要精確定位的工業裝備、生產線、木材加工、紡織和印刷等行業早已經成為交流伺服系統的主要應用領域。因此在感應電動機的轉矩與磁鏈解耦的基礎上提出了具有動態性能的神經網絡自適應控制方案。本文就是在轉矩與磁鏈控制的基礎上,提出的采用神經網絡自適應控制器的伺服驅動系統。

在沒有擾動的情況下,運用以前的位置速度控制器,就可以得到滿意效果,但是在實際應用中會遇到不同的擾動,這中傳統的控制方案就不能得到滿意的控制效果。為了解決這個問題,運用遞歸型小波神經網絡控制代替位置速度控制。R為期望運行指令;θn為期望的位置;vn為速度軌跡。小波神經網絡參數訓練采用δ和BP算法的學習機制,能量函數定義如為:

e=r-yJ=e (1)

由于各種反向傳播算法的影響,每層的權值調整律用下式來描述被反向傳播的誤差項

δ=-=-=- (2)

?駐w(N)=-?濁=-(?濁)()

=?濁?啄()(3)

則輸出層權值調整迭代方程為

w(N+1)=w(N)+?駐w(N)(4)

2仿真結果

系統的參數可以通過輸入與輸出的數據,采用最小二乘法等系統辨識工具估計出來。為了說明控制方案的可行性,仿真模型參數的選取如下:Kt=0.5N•m/A

提出的遞歸型小波神經網絡控制器作為異步電動機伺服驅動系統的位置速度控制器,為了說明其優越性,對整個伺服控制系統運用MATLAB做了仿真研究,同時給出了這種控制器與傳統的PID控制器、前饋型的神經網絡控制器仿真結果的比較分析。

設被控對象的近似數學模型為:

y(k)=,

所選的輸入信號為一時變信號:

rin(k)=[0.4sin(2πt)+0.6sin(3πt)] /30

3結束語

在感應電動機矢量控制的基礎上,針對感應電動機伺服驅動系統,提出了用遞歸型小波神經網絡控制器代替傳統的位置速度PID控制器,其集成了小波與動態神經網絡的各自優點,神經網絡的收斂速度大大提高:參數的在線學習機制采用delta自適應律并結合了BP算法和梯度下降法,學習算法簡單,節省了大量的計算量;系統具有很強的自適應學習能力,當被控對象出現參數波動時,仍能保證跟蹤精度,對系統外部的負載擾動具有很強的抑制能力。由該控制器組成的控制系統具有良好的魯棒性、良好的穩定性、良好的動靜態特性等,仿真結果驗證了其有效性。這些優點對于內部參數變化、非線性耦合及外部擾動大的交流伺服驅動系統是一種有效的控制策略。提出的控制策略稍加改動很容易推廣到其他的交流伺服驅動系統中。

參考文獻:

第6篇：神經網絡的魯棒性范文

Abstract： The artificial neural network has a strong nonlinear mapping ability， has been applied to various fields such as pattern recognition， intelligent control， image processing and time series etc.， in this paper， the heuristic improvement of BP algorithm was proposed aimed at the deficiencies of BP algorithms， and a common type of improvement was introduced aimed at the main drawback of the genetic algorithm through analysis and research on genetic neural network model and its algorithm.

關鍵詞： BP算法；神經網絡；遺傳算法；改進

Key words： BP algorithm；neural network；genetic algorithm；improvement

中圖分類號：TP39 文獻標識碼：A 文章編號：1006-4311（2012）34-0209-02

1 BP神經網絡

1.1 BP神經網絡概述 在神經網絡模式識別系統中，應用最廣泛的要算是BP網絡，它是基于誤差反向傳播算法的一種具有非線性連續轉移函數的多層前饋網絡。由于多層前饋網絡的訓練經常采用誤差反向傳播算法，人們常把多層前饋網絡直接稱為BP網絡。

BP算法可以小結為以下三個步驟：

①通過網絡輸入反向傳播：

a0=p

am+1=fm+1（Wm+1am+bm+1），m=0，1，…，M-1

a=aM

②通過網絡將敏感性反向傳播：

sm=Fm（nm）（Wm+1）Tsm+1，m=M-1，…，2，1

③使用近似均方誤差的BP算法更新權值和偏置值：

Wm（k+1）=Wm（k）-αsm（am-1）T

bm（k+1）=bm（k）-αsm

1.2 BP神經網絡存在的問題 盡管BP網絡有很多顯著的優點，但也存在著一定的局限性。其主要問題如下：

①隨著訓練樣本維數的增大，使收斂速度緩慢，從而降低學習效率。

②從數學角度上看BP算法是一種梯度最速下降法，這就可能出現局部極小值的問題，而得不到全局最優。

③網絡中隱節點個數的選取缺乏理論指導，尚無明確的定義。

由于BP神經網絡存在局部性，因此利用BP網絡進行模式識別時，所得網絡模型的參數容易陷入局部極小，因此需要對BP神經網絡容易陷入局部極小的缺陷進行改進。

2 遺傳算法

2.1 遺傳算法概述 遺傳算法（Genetic Algorithm——GA）正是以達爾文的自然進化論與遺傳變異理論為基礎的求解復雜全局優化問題的仿生型算法。該算法摒棄了傳統的搜索方式，模擬自然界生物進化的過程，采用人工進化的方式對目標函數空間進行隨機導向優化搜索。遺傳算法求解問題的基本思想是：從問題的解出發的，將問題的一些可行解進行編碼，這些已編碼的解即被當做種群中的個體，每個個體實際上是染色體帶有特征的實體；個體對環境適應能力的評價函數就是問題的目標函數；模擬遺傳學中的雜交、變異、復制來設計遺傳算子，用優勝劣汰的自然選擇法則來指導學習和確定搜索方向；對由個體組成的中卻進行演化，利用遺傳算子來產生具有更高平均適應值和更好個體的種群，經過若干代后，選出適應能力最好的個體，它就是問題的最優解或滿意解[1]。

2.2 遺傳算法的缺陷及改進 遺傳算法作為一種通用性好、魯棒性強的新型優化搜索算法，為求解很多困難的問題打開了局面，但是在實際應用中，存在著：①早熟問題；②局部搜索能力差；③控制參數難以確定缺陷。

針對上述問題，目前已經提出的一些改進方法，概括起來主要有如下幾種類型：

①改進遺傳算法的使用技術或者組成成分，如選用適合問題特性的編碼技術、優化控制參數等。

②采用混合遺傳算法，即融合一些優化方法來提高遺傳算法運行效率。如將遺傳算法和模擬退火算法、爬山法等方法結合的混合遺傳算法。

③采用非標準的遺傳操作算子，如記憶算子、頂端增強算子等。

④采用動態自適應技術，在遺傳過程中自適應的調整控制參數和編碼精度，在保持種群多樣性的同時保證遺傳算法的收斂。

⑤采用并行遺傳算法。

3 BP算法與遺傳算法的結合

BP神經網絡的學習是基于梯度下降法的，由于該算法搜索速度緩慢以及對初始值的依賴，導致存在局部最小值問題。而遺傳算法作為一種具有較強全局搜索能力的算法，其搜索能夠遍及整個尋優空間，因此容易接近全局最優解；且遺傳算法有很強的魯棒性，不要求目標函數連續可微，甚至不要求目標函數具有顯函數形式，只要求問題可以計算[2]。因此將擅長全局搜索的遺傳算法和具有很強局部尋優能力的BP算法結合起來，可以避免局部極小值問題并提高收斂速度，很快獲得全局最優解。本文利用改進的遺傳算法對BP神經網絡同時進行權值和閾值的同步學習優化，提高算法的收斂速度和收斂精度，構造了一個能夠獲得待求問題滿意解的三層GA-BP神經網絡。

3.1 GA-BP神經網絡的模型 GA-BP神經網絡的基本構造思想就是先通過遺傳算法在解空間中搜索到一個較優的網絡形式，再利用BP算法在這個較優的解空間內定位最優解或滿意解[3]；具體地說就是先通過遺傳算法對最佳的網絡權值和閾值做快速的全局性搜索，當群體收斂至全局最優解附近區域時，以群體中的最優個體作為BP算法的初始點，利用BP算法進行進一步的局部搜索，同步學習網絡的權值和閾值。當幾代內遺傳算法進化的目標函數不再減小或目標函數小于預設值時，表示兩種算法需要進行切換。由于在實際應用中，求得的網絡目標誤差函數往往為人們預先設定的一個滿意值，因此利用這種GA-BP順序尋優的方法是切實可行的。

3.2 BP算法與GA-BP算法的仿真比較 利用傳統的BP算法及本文提出的GA-BP算法分別對兩種算法的時間收斂曲線進行對比研究，考慮故障診斷問題。應用樣本訓練后的節點連接權值，向網絡輸入待診斷的樣本征兆參數，計算得出網絡的實際輸出值，根據輸出值的大小，從而確定故障的類別。

BP算法與GA-BP算法的訓練誤差曲線如圖1和圖2所示。

GA-BP算法訓練后的總誤差為0.000417。通過兩個實驗時間訓練曲線可以得出，基于GA-BP算法的神經網絡能夠有效地實現故障預測數據的訓練，具有較快的學習速度及一定適用性。

4 總結

本文針對BP算法訓練多層前饋網絡模式識別系統的缺陷，提出了結合遺傳算法的BP改進算法——GA-BP算法，并建立了對應的模式識別系統模型。然后利用該模型對實際的問題進行了模式分類訓練和測試，測試結果表明GA-BP算法有效克服了網絡訓練時容易陷入局部極小值，導致網絡訓練失敗的不足。

參考文獻：

[1]楊南達，李世平.遺傳算法研究[J].兵工自動化，2008，27（9）：60～62.

第7篇：神經網絡的魯棒性范文

【關鍵詞】智能技術；電力系統自動化；應用

當前，常見的幾種智能技術，在電力系統自動化控制中的引入運用，解決了傳統方法難以解決的復雜系統的控制問題，從而有效提高電力系統自動化控制的適應性，降低控制系統的造價成本。

1.電力系統自動化的簡述

為確保電力系統安全、平穩、經濟運行，對電力系統的各個元件、局部、全系統，采用具有自動檢測、決策和控制功能的裝置，通過信號和數據傳輸的系統，就地或遠距離進行自動監視、調節和控制等，從而達到合格的電能質量。在一般的情況下，電力自動化系統主要構成有調度自動化、變電站自動化和配電網自動化。

2.電力系統自動化中的智能技術

智能技術是具備學習、適應及組織功能的行為，能夠對于問題產生合適求解問題的響應，解決傳統魯棒性控制和自適應控制無法解決出令人滿意結果的，非線性、時變性和不確定性的控制問題。目前，智能技術尚處于發展階段，但它已受到人們的普遍重視，廣泛應用到電力系統各個領域中，并取得了一定的實效。

2.1專家系統的控制技術

專家系統在電力系統中的應用范圍很廣，它是一種基于知識的系統，用于智能協調、組織和決策，激勵相應的基本級控制器完成控制規律的實現。主要針對各種非結構化問題，處理定性的、啟發式或不確定的知識信息。如：電力系統恢復控制、故障點的隔離、調度員培訓、處于警告或緊急狀態的辨識、配電系統自動化等。以智能的方式求得受控系統盡可能地優化和實用化，并經過各種推理過程達到系統的任務目標。雖然取得到廣泛應用，但存在如難以模仿電力專家的創造性等局限性。一般而言，專家控制系統應用比較大的原因還因為這種方法可適用范圍廣，而且能夠為電力系統處于各種狀態提出辨識，根據這種具體情況來給出警告或是提示，在這樣的情況還能夠進行控制和恢復。雖然專家系統得到一定的應用，但是還是存在一定的局限，這種局限包括對于創造性的難以模仿，而只是對于淺層知識的應用，缺乏很有效的深層的模仿和方針，對于復雜的模擬就難以適應。因此，在開發專家系統方面應注意專家系統的代價/效益分析方法問題，專家系統軟件的有效性和試驗問題，知識獲取問題，專家系統與其他常規計算工具相結合等問題。

2.2模糊邏輯的控制技術

模糊方法是一種對系統宏觀的控制，十分簡單且易于掌握，為隨機、非線性和不確定性系統的控制，提供了良好的途徑。將人的操作經驗用模糊關系來表示，通過模糊推理和決策方法，來對復雜過程對象進行有效控制。通常用“如果…，則…”的方式來表達在實際控制中的專家知識和經驗，不依賴被控對象模型、魯棒性較強的。模糊控制技術的應用非常廣泛，與常規控制相比，模糊控制技術在提高模糊控制的控制品質，如：穩態誤差、超調等問題，自身的學習能力還不完善，要求系統具有完備的知識，這對工業智能系統的設計是困難的。如模糊變結構控制，自適應或自組織模糊控制，自適應神經網絡控制，神經網絡變結構控制等。另一方面包含了各種智能控制方法之間的交叉結合，對電力系統這樣一個復雜的大系統來講，綜合智能控制更有巨大的應用潛力。現在，在電力系統中研究得較多的有神經網絡與專家系統的結合，專家系統與模糊控制的結合，神經網絡與模糊控制的結合，神經網絡、模糊控制與自適應控制的結合等方面。這些模糊方法的運用因其可使用范圍廣，目前已經在自動化控制中被廣泛應用。

2.3神經網絡的控制技術

神經網絡是一種介于符號推理與數值計算之間，適合用作智能控制的數學工具。神經網絡從m維空間到n維空間，復雜的非線性映射、學習能力為解決復雜的非線性系統控制問題，提供了有效的途徑。在神經網絡中，知識是通過學習例子分布存儲，當個別處理單元損壞時，不會影響整個系統的正常工作，是對非線性系統具有最好的控制性能。目前，主要集中在神經網絡模型、結構、學習算法的研究，硬件的實現等。

2.4線性最優控制技術

線性最優控制技術是現代控制重要組成部分。目前，在大型機組方面，直接用最優勵磁控制手段代替古典勵磁方式，不但提高了遠距離輸電線路輸電能力，而且同時改善動態的品質。另外，在發電機制動電阻的最優時間控制方面，最優控制技術也獲得了成功的應用。它是諸多現代控制技術中應用最多、最為成熟的一個分支。

2.5綜合智能控制技術

綜合智能控制重要的技術發展方向是智能集成化。一方面，可將多項智能技術相互結合于一體，不在單獨運用，各取優勢。如模糊技術和神經網絡的結合，神經網絡與模糊控制的結合，神經網絡與專家系統的結合等，這些都在電力系統自動化控制中研究的較多，如可用神經網絡與模糊邏輯良好結合的技術基礎，去處理同一系統內的問題，神經網絡處理非結構化信息，模糊系統處理結構化的知識等。另一方面，自動化控制智能技術與傳統的自適應控制的結合，如：神經網絡、模糊控制與自適應控制的結合等。目前，國內已有控制專家已著手發展研究，既能有效處理模糊知識又能有效學習的模糊與神經網絡集成技術，這必將為電力系統智能控制的發展提供新的途徑。

3.結束語

當前，像電力系統這樣一類復雜的不確定性工業過程，對其有效控制，關鍵在于自動化控制智能技術應具有較強的知識處理能力，包含知識學習和利用，推理和決策等方面。在未來電力系統的發展進程中，隨著計算機的廣泛應用，控制技術的深入研究，自動化控制智能技術將朝著全面智能化的方向發展。從而實現智能性工作環境，減少人員的值守，甚至于無人值班。同時，也有效的促進與提高電力系統平穩、安全和經濟的運行。

【參考文獻】

第8篇：神經網絡的魯棒性范文

關鍵詞：進化算法；人工智能；短期電力負荷預測；進化算法

中圖分類號：TP181；TM727 文獻標識碼：A

0 引言

電力負荷預測是指利用電力歷史負荷的特點和其它相關因素的影響，找尋電力負荷中自身存在的周期性的規律，并挖掘出出未來的發展趨勢，由此預測出未來某特定時刻的負荷數據[1]。短期負荷預測是指預測未來一月、未來一周、未來一天，甚至于未來一天24小時中任意時刻的負荷值。準確的短期負荷預測是電力系統安全經濟的調度、規劃的保證，是電力系統穩定運行的前提，是社會正常生產和人民安定生活的保障。

隨著全球不可再生資源的不斷減少及環境污染的日益增加，將風能、太陽能等新能源發電系統形成的分布式能源接入傳統電網中的新型電網――智能電網（smart grid）由此產生。智能電網將信息技術、通信技術、計算機技術以及各種輸、配電硬件設施集成為一整體，通過先進的信息技術，實現配電網智能、彈性、自愈等功能[2]。

無論是國外還是國內，配電自動化都是智能電網的核心。配電自動化實際上是實現配電設備正常運行及事故狀態下監測、保護、控制、用電和配電管理的現代化[3]。短期電力負荷預測則是實現配電管理、故障處理等問題的前提。因此為了達到精確地配電自動化，高精度的短期負荷預測必不可少。

1 問題的分析及解決

智能電網的“互動、自愈、安全、經濟、清潔、節能、高效”等要求導致了短期電力負荷預測更為復雜[4]。不同的區域，不同的發電形式及用戶端的引入都導致了電網運行環境的復雜性。環境一旦變化（比如事故，分布式電源的啟停），智能電網的短期負荷預測模型必須能自適應這些變化，從而得到高逼近的預測值以輔助電網的調度、管理等操作，確保電力系統的正常運作。因此，智能電網環境下的短期電力負荷預測應具有高度自適應性和智能性的特點。

另外，智能電網中AMI雖然為負荷預測提供了所需的數據，但在龐大的數據集成時，有可能引入不良數據的干擾，并且復雜的通信網絡（數據傳輸環節）也提高了數據的出錯風險[5]。因而，智能電網的短期負荷預測中數據的預處理不可或缺。

針對智能電網短期電力負荷預測的異常數據較多、智能性較強和自適應要求較高的特點，本文通過下面三個途徑進行實現：（1）采用自動的不良數據辨識方法，采用統計學的數學方法來剔除噪聲數據；（2）通過算法的比較，對人工智能算法進行仿真比較，得到較優的短期電力負荷的支持向量機預測基本模型；（3）對比優化算法，采用進化算法完成人工智能模型的參數的尋優，形成算法的組合，提高模型的精度和自適應性。

2 數據處理

輸入數據的處理為預測模型提供了干凈、準確的數據，減少預測算法的處理量，提高預測效率和預測精度。本文按照以下步驟完成數據預處理：

步驟1：從數據庫中讀取短期電力負荷表；

步驟2：缺失值的處理。檢查待識別日的負荷數據數值是否為空值，若為空值，則定義缺失值為：

（1）

其中 表示第 天時刻的負荷值， 為相應的權值，且 ，本文分別取 ；

步驟3：垂直方向異常數據識別。計算出8個同一季度、同一周期日型同一時刻點 的歷史負荷的均值 和方差

：

（2）

（3）

然后計算出每天 時刻數據的偏離率：

（4）

最后確定偏離率大于閾值的點為異常點。

步驟4：垂直處理。相鄰的周期類型一致的負荷數據的加權均值取代噪聲數據：

（5）

步驟：5：水平方向異常數據識別。將一天96點數據依次排列，按式（6）求出第一個序列 ：

（6）

然后按式（7）求出新一組序列：

（7）

從而形成負荷的估計序列為：

（8）

接著計算 對 的偏離率 ：

（9）

最后確定偏離率大于閾值的點為異常點。

步驟6：水平處理。利用估計序列的負荷值代替異常數據：

（10）

步驟7：歸一化處理，部分數據顯示見表1；

步驟8：重建數據表，將處理后的負荷數據與其它所需輸入屬性放入其中；

步驟9：為保證訓練數據的統一性，將數據表擴充，得到輸入數據，以一組為例如表2。

3 人工智能預測算法

隨著智能電網的研究，電力系統規模日益增大，電力系統變化也越來越復雜。人工智能方法以計算機技術為基礎，具有很好的智能性。它不僅能夠實現非線性曲線的高度擬合，而且可以體現出許多不確定因素的影響，這就保證了該方法對不確定變化的適應性[6]。目前應用最為廣泛和成熟的方法是人工神經網絡[7]（artificial neural network，ANN）和支持向量機[8]（support vector machine，SVM）。鑒于人工智能算法的特點，本文以人工智能算法建立預測的基礎模型。

人工智能算法建立預測模型的過程類似于機器學習的過程。以訓練樣本為人工智能模型的輸入，利用人工智能技術的學習算法實現模型參數的確定，由此得到人工智能預測模型，如圖1所示。

采用人工智能進行短期負荷預測的算法為：

步驟1：確定訓練樣本集；

步驟2：設定預測算法的初始參數值；

步驟3：利用預測算法中的訓練過程訓練預測算法的模型參數；

步驟4：輸入測試樣本，得到預測輸出值。

4 進化算法

人工智能算法初始參數采用固定值難以收斂到全局最小且易受人為因素影響，所以單一的人工智能方法高度自適應智能電網環境。

進化算法EA（evolutionary algorithms）與傳統的優化算法相比，是高魯棒性和廣泛適用性的全局優化方法。算法具有自組織、自適應、自學習的特性，能夠不受問題性質的限制，有效地處理傳統優化算法難以解決的復雜問題。常見的進化算法有遺傳算法[9]（GA）和粒子群算法[10]（PSO）。近年來云進化算法[11]（cloud based evolutionary algorithm，CBEA）稱為進化算法中的熱點。本文以這三種算法分別優化比較。圖2為進化算法的算法流程。

采用進化算法進行參數優化的步驟為：

步驟1：確定進化算法的所需的初始參數值；

步驟2：隨機的產生初始進化群；

步驟3：將初始進化個體代入待優化的模型中，采用交叉驗證誤差的方式評價進化個體的適應度；

步驟4：按照進化算法規則產生子代的進化群；

步驟5：最優進化個體代入模型得到最優模型；

步驟6：將測試樣本輸入代入最優模型，求出待測點輸出；

步驟7： ；返回步驟1，滾動預測出 ；

步驟8：輸出所有預測值。

5 模型的建立及仿真

智能電網的短期電力負荷預測模型首先由人工智能算法建立出基礎的預測模型，以歷史負荷和上一輪預測負荷與實際負荷的誤差，求出初始預測負荷 ，然后以 與 的交叉驗證誤差的的函數作為進化算法的適應度，根據適應度的大小選擇最優的模型參數 和 ，代入人工智能算法得出最優的預測模型，由此預測出未來負荷。該預測模型的結構框圖見圖3。

本文通過實驗仿真LSSVR、BP神經網絡和RBF神經網絡的短期電力負荷預測模型，并對預測結果進行比較以選擇出最適于智能電網的預測算法。其仿真結果如圖4所示。

Fig.4 Prediction results based on 3 kinds algorithms of AI

比較圖4，可以看出LSSVR比BP神經網絡和RBF神經網絡的預測曲線更貼近實際值。

本文將三種算法預測一個點的時間統計為表3，由此分辨模型的實時性。

由表3可知，由于LSSVR算法的參數較少，所以LSSVR的時效性遠遠高于BP神經網絡和RBF神經網絡。另外因為本文在BP神經網絡中多加了一個隱含層，相對的隱層單元數也增加了，使得時效性最差。

接著本文將BP神經網絡、RBF神經網絡和LSSVR的預測結果進行統計，得到表4。通過表4評價模型的預測精度。

分析表4， LSSVR的預測結果的合格點百分比分別高于BP神經網絡和RBF神經網絡9.85%和19.13%，所以LSSVR對該系統進行負荷預測時，高度相符的數據最多，誤差的平均值就最小；而LSSVR在MSE上則比BP神經網絡和RBF神經網絡分別低0.0769和0.1434，表明了預測誤差波動較小，顯示了預測模型LSSVR較高的精度；另外，從準確率上看，LSSVR比BP神經網絡和RBF神經網絡分別高7.69%和14.34%，同樣說明了LSSVR預測的精度最高。綜上，采用LSSVR進行短期負荷預測的效果最好。

接著以LSSVR為基礎模型，采用CBEA、GA和PSO實現模型參數的優化，得到CBEA_LSSVR、GA_LSSVR和PSO_LSSVR組合預測模型。其預測結果圖如圖5所示。

觀察圖5表明CBEA_LSSVR的預測結果曲線比GA_LSSVR和PSO_LSSVR的預測結果曲線更能代表實際負荷曲線，預測效果最好。

觀察表5，CBEA_LSSVR與PSO_LSSVR的預測時間相差無幾，但是比GA_LSSVR的預測時間稍短，時效性稍高。這是因為CBEA_LSSVR的算法采用實數編碼，并減少了遺傳和變異的操作。

分析表6，CBEA_LSSVR預測模型的預測結果在合格點百分比、MSE和準確率三個方面比GA_LSSVR和PSO_LSSVR預測模型的預測結果分別提高了2.6%和4.89%、-0052和-0.01534、0.53%和0.54%，由此可知CBEA_LSSVR短期電力負荷預測模型比GA_LSSVR和PSO_LSSVR短期電力負荷預測模型的預測精度高。另外，多次實驗發現CBEA_LSSVR預測曲線幾乎沒有變化，魯棒性高。

6 總結

本文首先采用人工智能算法預測短期負荷，從精度和時效性兩方面選擇最優的基礎模型；然后通過CBEA_LSSVR與GA_LSSVR及PSO_LSSVR預測模型進行對比，發現CBEA_LSSVR具有更快的收斂速度、更好的魯棒性和更高的預測精度，是智能電網的短期電力負荷預測的首選。

參考文獻：

[1] 牛東曉， 曹樹華， 盧建昌， 等. 電力負荷預測技術及其應用[M]. 北京：中國電力出版社， 2009： 1-9.

[2] 余貽鑫， 欒文鵬. 智能電網[J]. 電網與清潔能源， 2009，25（1）： 7-11.

[3] 龔靜. 配電網綜合自動化技術[M]. 北京：機械工業出版社， 2008： 1-40.

[4] 張煒桀. 智能電網環境下的電力負荷預測[D]. 成都： 西南交通大大學， 2011.

[5] 王建軍. 智能電網環境下的自適互動智能負荷預測研究[J]. 陜西電力， 2010，38（5）： 11-15.

[6] Thessalonike， Constantine D. Spyropoulos. Methods and Applications of Artificial Intelligence[C]. Greece， Ai， Hellenic Conference， 2002

[7] Niu Dongxiao， Xing Mian， Meng Ming. Research on ANN Power Load Forecasting Based on United Data Mining Technology[J]. Transactions of China Electrotechnical society， 2004， 19（9）： 62-68.

[8] Long Wen， Xu Songjin. Short-term Load Forecasting Based on LSSVM with Mutative Scale Chaos Optimization Parameters [J]. Water Resources and Power， 2011， 29（11）： 186-188， 76.

[9] 牛東曉， 劉達， 陳廣娟， 等. 基于遺傳優化的支持向量機小時負荷滾動預測[J]. 電工技術學報， 2007， 22（6）：148-153.

[10] Ning Lu， Jianzhong Zhou， Yaoyao He， et.al. Particle Swarm Optimization for Parameter Optimization of Support Vector Machine Model[C]. The Second International Conference on intelligent Computation Technology and Automation， 2009， 283-286.

[11] Gao Ying. An optimization algorithm based on cloud model[C]//2009 International Conference on Computational Intelligence and Security， IEEE computer society， 2009： 84-87.

基金項目：

安徽工業大學研究生創新研究基金（項目編號2011029）。

作者簡介：

第9篇：神經網絡的魯棒性范文

關鍵詞：變風量空調系統 智能控制

變風量空調系統亦稱為VAV系統，它是通過改變送風量，從而與空調區負荷的變化相適應。其工作原理是當空調區負荷變化時，系統末端裝置自動調節送入房間的送風量，確保室內溫度保持在設計范圍內，從而使得空氣處理機組在低負荷時的送風量下降，空氣處理機組的送風機轉速也隨之降低，達到節能的目的。空調系統是一個多輸入多輸出、非線性，不確定的系統，很難找到一個精確的數學模型。為了使變風量空調系統能夠在隨機復雜的自然環境中以最優、最節能狀態運行，這就對變風量空調系統中的控制環節提出了較高要求。

一、模糊控制

模糊控制是以模糊集理論為基礎的一種新興控制手段，它是一種非線性控制，利用模糊集理論設計的，無需知道被控對象精確的數學模型。

變風量空調系統由冷熱水機組、空氣處理機組、風閥及風管、送（回）風機以及空調房間構成。

控制系統一般可以分為五部分：室內溫度控制；室內正壓控制；送風靜壓控制；送風溫度控制；新風量控制。

這五部分相互獨立又相互間有很強的耦合性。當某個房間的溫度下降，該房間的末端裝置的風閥就會關小，從而導致總風管內的送風靜壓升高，其他房間的送風量增加。此時這些房間末端裝置的風閥就會關小以恒定各自的送風量。這又導致系統靜壓進一步升高。當靜壓達到一定程度時靜壓控制器就降低送風機的轉速以減小風量，回風機風量也隨之減小。系統靜壓又回到原來的水平，這樣各末端裝置的風閥又開始開大。由于系統的壓力變化必將影響到新風量的變化，從而導致送風溫度的變化。這時，系統處在一種頻繁的調節當中。送進室內的風量也是忽大忽小。因此變風量系統對控制的要求比定風量系統要高，要建立一個合適那些工程控制的數學模型比較困難。目前VAV空調系統的控制方式基本上采用的是傳統PID算法的DDC控制。然而，VAV空調系統是一個干擾大、高度非線性和不確定性的系統，這就使得依賴于精確模型基礎的傳統PID控制算法控制效果不夠理想。近些年來，研究者提出了不同的控制策略和方法，較為常用的為PID控制和模糊控制組合成的控制器，組合方式分為如下兩種。一種是串聯結構。它利用模糊規則和模糊推理在線調整PID控制參數。此類控制器利用模糊邏輯推理得到修正量。此類控制器的空調系統的仿真結果表明，系統超調量比常規PID的大大減小，調節時間也縮短。另一種為并聯結構。當偏差較小時，利用PID控制器；當偏差較大時，利用模糊控制器。這使系統具有較好的靜態特性和動態特性。

二、神經元網絡控制

神經網絡是一個高度非線性動力系統，具有并行分布處理能力、高度魯棒性和容錯能力、分布存儲及學習能力。其模型是以神經元的數學模型為基礎來描述的。利用神經網絡設計的具有自適應、自學習功能的單神經元控制器能夠克服傳統的PID調節器的參數在過程復雜且參數易變的空調系統中不容易實時在線調整的缺點，對提高空調系統的控制效果和魯棒性有積極的意義。但是應用神經網絡控制時需要大量的數據，數據的不足及其他客觀原因的影響，實際的神經網絡的學習速度較慢且系統的穩定性及學習算法也有待改進。

模糊控制善于直接表示知識，只接收結構化的語言規則信息。神經網絡控制則學習數據隱含的知識，只接收數據樣本信息。兩者的結合取長補短，擴展了數據處理能力，既可處理結構化的語言規則信息，還能處理數據樣本信息，便于更好地提高控制系統的智能性。在空調系統中輸入輸出變量多，這對神經網絡的算法和總體結構影響不大。模糊控制結合神經網絡控制能更好地解決非線性及耦合性問題，提高系統的動態性能。

三、小結

隨著人們節能意識的增強和建筑節能工作力度的加大，對建筑對具有高能耗的空調系統節能控制提出了更高的要求。智能控制在中央空調系統的控制中表現出了很好的節能效果，具有廣闊的發展前景，但是各種控制策略、控制算法都各有自己的優缺點。設計人員應該根據實際情況做出合理的選擇，從而使中央空調系統既能滿足人們的舒適性要求，也能夠達到節能要求。

參考文獻：

[1]黃翔等.空調工程[M].北京：機械工業出版社，2008.

[2]趙維.樓宇變風量空調系統的自適應模糊PID控制研究[J].重慶交通大學，2010.

[3]曹艷鵬，冀兆良.幾種控制方式在空調系統運行節能中的應用[J].制冷 2010（29）.

[4]王金選.智能控制技術在智能建筑中的應用[D]. 華僑大學，2004.