大色佬视频在线观看,人妻中文字幕无碼在线

《前饋神經(jīng)網(wǎng)絡(luò)分析與設(shè)計(jì)》系統(tǒng)地論述了前饋神經(jīng)網(wǎng)絡(luò)的主要理論、設(shè)計(jì)基礎(chǔ)及應(yīng)用實(shí)例，旨在使讀者了解神經(jīng)網(wǎng)絡(luò)的發(fā)展背景和研究對(duì)象，理解和熟悉它的基本原理和主要應(yīng)用，掌握它的結(jié)構(gòu)模型和設(shè)計(jì)應(yīng)用方法，特別是前饋神經(jīng)網(wǎng)絡(luò)的參數(shù)學(xué)習(xí)算法和結(jié)構(gòu)設(shè)計(jì)方法，為深入研究和應(yīng)用開(kāi)發(fā)打下基礎(chǔ)。為了便于讀者理解，書(shū)中盡量避免煩瑣的數(shù)學(xué)推導(dǎo)，加強(qiáng)了應(yīng)用舉例，并在內(nèi)容的選擇和編排上注意到讀者初次接觸新概念的易接受性和思維的邏輯性。作為擴(kuò)充知識(shí)，書(shū)中還介紹了前饋神經(jīng)系統(tǒng)的基本概念、體系結(jié)構(gòu)、控制特性及信息模式。

更多科學(xué)出版社服務(wù)，請(qǐng)掃碼獲取。

第1章緒論
1.1 引言腦和神經(jīng)系統(tǒng)是人體結(jié)構(gòu)、功能中最復(fù)雜的系統(tǒng)，隨著分子生物學(xué)、細(xì)胞生物學(xué)的發(fā)展，大規(guī)模開(kāi)展腦研究成為可能［1］。眾所周知，數(shù)字計(jì)算機(jī)具有很強(qiáng)的計(jì)算和信息處理能力，但是它對(duì)于模式識(shí)別、感知以及在復(fù)雜環(huán)境中作決策等問(wèn)題的處理能力卻遠(yuǎn)不如人。神經(jīng)生理學(xué)研究結(jié)果表明，人的智能主要取決于大腦皮層，而大腦皮層是一個(gè)大規(guī)�；ミB的生物神經(jīng)網(wǎng)絡(luò)生物神經(jīng)網(wǎng)絡(luò)［2］。探求大腦的組織結(jié)構(gòu)和運(yùn)行機(jī)制，從模仿人腦智能的角度出發(fā)，尋求新的信息處理方法是當(dāng)前人工智能領(lǐng)域的研究熱點(diǎn)問(wèn)題。國(guó)家中長(zhǎng)期科學(xué)和技術(shù)發(fā)展規(guī)劃綱要中也明確指出：腦功能的細(xì)胞和分子機(jī)理、腦學(xué)習(xí)記憶和思維等高級(jí)認(rèn)知功能的過(guò)程及其神經(jīng)基礎(chǔ)、腦信息表達(dá)等研究方向?qū)儆诋?dāng)前的科學(xué)前沿問(wèn)題［3］。
高性能、低成本、普適計(jì)算和智能化等是當(dāng)前信息科學(xué)發(fā)展的主要方向，尋求新的計(jì)算與處理方式和物理實(shí)現(xiàn)是未來(lái)信息技術(shù)領(lǐng)域面臨的重大挑戰(zhàn)［3］。人工神經(jīng)網(wǎng)絡(luò)人工神經(jīng)網(wǎng)絡(luò)的研究正是在與傳統(tǒng)計(jì)算方法挑戰(zhàn)的過(guò)程中得以發(fā)展、壯大，目前已經(jīng)成為人工智能領(lǐng)域中最活躍的研究方向之一。一般來(lái)說(shuō)，神經(jīng)網(wǎng)絡(luò)主要研究ABC2等問(wèn)題，即人工神經(jīng)網(wǎng)絡(luò)人工神經(jīng)網(wǎng)絡(luò)(artificial neural network, ANN)、生物神經(jīng)網(wǎng)絡(luò)生物神經(jīng)網(wǎng)絡(luò)(biological neural network, BNN)、認(rèn)知科學(xué)認(rèn)知科學(xué)(cognitive science)和混沌混沌(chaos)［4］。人工神經(jīng)網(wǎng)絡(luò)的研究主要集中在神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)和學(xué)習(xí)算法的研究?jī)煞矫妫?］。近年來(lái)隨著腦科學(xué)、神經(jīng)生物學(xué)的發(fā)展，人工神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的研究開(kāi)始全面向生物神經(jīng)系統(tǒng)靠攏。
人工神經(jīng)網(wǎng)絡(luò)是智能科學(xué)的重要組成部分，已經(jīng)成為腦科學(xué)、認(rèn)知科學(xué)、計(jì)算機(jī)科學(xué)、數(shù)學(xué)和物理學(xué)等學(xué)科共同關(guān)注的焦點(diǎn)。其應(yīng)用研究已經(jīng)滲透到工業(yè)、農(nóng)業(yè)、國(guó)防、航空等領(lǐng)域，并且在信號(hào)處理、智能控制、模式識(shí)別、圖像處理、非線性優(yōu)化、知識(shí)處理等方面取得了令人鼓舞的進(jìn)展［6-11］。
從20世紀(jì)80年代初復(fù)蘇以來(lái)，人工神經(jīng)網(wǎng)絡(luò)在計(jì)算能力、對(duì)任意連續(xù)映射的逼近能力、學(xué)習(xí)理論以及動(dòng)態(tài)網(wǎng)絡(luò)穩(wěn)定性分析等方面都取得了豐碩的成果［12］。在結(jié)構(gòu)設(shè)計(jì)方面，除了經(jīng)典的神經(jīng)網(wǎng)絡(luò)外卻鮮有突破性進(jìn)展，但這方面的工作已引起了學(xué)者們的廣泛關(guān)注［13-15］。神經(jīng)網(wǎng)絡(luò)實(shí)際應(yīng)用的需求驅(qū)動(dòng)了其理論研究的發(fā)展，其實(shí)每一個(gè)成功的應(yīng)用都需要對(duì)神經(jīng)網(wǎng)絡(luò)進(jìn)行精心設(shè)計(jì)�？梢�(jiàn)，人工神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)優(yōu)化設(shè)計(jì)是神經(jīng)網(wǎng)絡(luò)成功應(yīng)用的核心技術(shù)，對(duì)其展開(kāi)研究也是神經(jīng)網(wǎng)絡(luò)推廣應(yīng)用的客觀需要。
人工神經(jīng)網(wǎng)絡(luò)就是借鑒生物神經(jīng)網(wǎng)絡(luò)生物神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)和生物神經(jīng)元工作機(jī)理，在一定程度上模擬人腦功能的信息處理系統(tǒng)。人工神經(jīng)網(wǎng)絡(luò)已經(jīng)在模式識(shí)別、組合優(yōu)化、函數(shù)逼近、智能控制、過(guò)程建模等方面得到成功應(yīng)用，應(yīng)用前景不容置疑。但目前的神經(jīng)網(wǎng)絡(luò)多數(shù)是通過(guò)足夠的設(shè)計(jì)經(jīng)驗(yàn)和充足的數(shù)據(jù)確定其結(jié)構(gòu)，且神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)一旦確定之后將不再調(diào)整。對(duì)一些工況變化不大、動(dòng)態(tài)特性比較平穩(wěn)的任務(wù)，理論和實(shí)踐都已經(jīng)證明通過(guò)調(diào)整神經(jīng)網(wǎng)絡(luò)參數(shù)可以滿足實(shí)際需要。但是對(duì)于工況變化異常劇烈、動(dòng)態(tài)特性呈現(xiàn)出很強(qiáng)的非線性的任務(wù)，其效果往往不佳。傳統(tǒng)的固定結(jié)構(gòu)人工神經(jīng)網(wǎng)絡(luò)性能僅僅由參數(shù)學(xué)習(xí)算法提供，在工作過(guò)程中，只是通過(guò)改變神經(jīng)網(wǎng)絡(luò)的參數(shù)以適應(yīng)任務(wù)的變化。而神經(jīng)計(jì)算領(lǐng)域的研究結(jié)果顯示生物神經(jīng)網(wǎng)絡(luò)生物神經(jīng)網(wǎng)絡(luò)之所以有如此強(qiáng)大的信息處理能力，與生物神經(jīng)網(wǎng)絡(luò)生物神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)有很大的關(guān)系，生物神經(jīng)網(wǎng)絡(luò)生物神經(jīng)網(wǎng)絡(luò)的信息傳輸和信息處理能夠根據(jù)信息量和復(fù)雜度進(jìn)行自組調(diào)整神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)連接方式。為了進(jìn)一步推進(jìn)人工神經(jīng)網(wǎng)絡(luò)對(duì)人腦功能的模擬，解決人工神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)動(dòng)態(tài)優(yōu)化設(shè)計(jì)的問(wèn)題，本書(shū)詳細(xì)介紹了幾種典型前饋神經(jīng)網(wǎng)絡(luò)；并描述了幾種前饋神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法；最后分析了神經(jīng)網(wǎng)絡(luò)性能與神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)之間的聯(lián)系，介紹了前饋神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)生長(zhǎng)和削減的演化機(jī)制，基于此獲得幾種自組織前饋神經(jīng)網(wǎng)絡(luò)。
1.2 神經(jīng)網(wǎng)絡(luò)及其發(fā)展
1.2.1神經(jīng)網(wǎng)絡(luò)的定義人工神經(jīng)網(wǎng)絡(luò)，簡(jiǎn)稱(chēng)神經(jīng)網(wǎng)絡(luò)，是由大量簡(jiǎn)單的處理單元——人工神經(jīng)元人工神經(jīng)元(artificial neuron)互相連接而組成的一個(gè)高度非線性、并行的自適應(yīng)的信息處理系統(tǒng)。神經(jīng)網(wǎng)絡(luò)是一個(gè)非線性的動(dòng)力學(xué)系統(tǒng)，打破了傳統(tǒng)的串行處理計(jì)算機(jī)的局限，以并行分布式存儲(chǔ)和處理信息，盡管單個(gè)神經(jīng)元的結(jié)構(gòu)和功能都比較簡(jiǎn)單，但大量的神經(jīng)元組合起來(lái)卻具有強(qiáng)大的處理問(wèn)題的能力。神經(jīng)網(wǎng)絡(luò)旨在模仿人腦或生物的信息處理系統(tǒng)，是對(duì)人腦功能的一種模仿與簡(jiǎn)化，具有學(xué)習(xí)、記憶、聯(lián)想、類(lèi)比、計(jì)算以及智能處理的能力，是現(xiàn)代神經(jīng)科學(xué)研究與工程技術(shù)相結(jié)合的產(chǎn)物。神經(jīng)網(wǎng)絡(luò)理論的開(kāi)創(chuàng)與發(fā)展，對(duì)智能科學(xué)和信息技術(shù)的發(fā)展產(chǎn)生了重大的影響和積極的推動(dòng)作用。
1943年美國(guó)神經(jīng)生理學(xué)家McCulloch和Pitts提出的第一個(gè)神經(jīng)網(wǎng)絡(luò)模型M-P模型［16］，開(kāi)創(chuàng)了微觀人工智能的研究工作，奠定了人工神經(jīng)網(wǎng)絡(luò)發(fā)展的基礎(chǔ)。人工神經(jīng)網(wǎng)絡(luò)經(jīng)過(guò)幾十年的發(fā)展，無(wú)論是在理論研究還是在工程應(yīng)用方面都取得了較為豐富的科研成果。
1.2.2 神經(jīng)網(wǎng)絡(luò)的功能
神經(jīng)網(wǎng)絡(luò)是通過(guò)對(duì)人類(lèi)大腦結(jié)構(gòu)和功能的模擬建立起來(lái)的一個(gè)非線性、自適應(yīng)的高級(jí)信息處理系統(tǒng)。它是現(xiàn)代神經(jīng)科學(xué)研究與工程技術(shù)應(yīng)用相結(jié)合的產(chǎn)物，通過(guò)對(duì)大腦的模擬進(jìn)行信息處理。神經(jīng)網(wǎng)絡(luò)具有強(qiáng)大的計(jì)算能力，是由其本身大規(guī)模的并行分布式結(jié)構(gòu)和較好的學(xué)習(xí)能力以及由此延伸而來(lái)的泛化能力決定。神經(jīng)網(wǎng)絡(luò)具有非線性、分布/處理、容錯(cuò)性、自適應(yīng)性等顯著特點(diǎn)，如圖1-1所示。
圖1-1神經(jīng)網(wǎng)絡(luò)的特點(diǎn)
1.非線性
神經(jīng)網(wǎng)絡(luò)的單個(gè)處理單元——人工神經(jīng)元人工神經(jīng)元可以是線性或非線性的，但是由此互相連接而成的神經(jīng)網(wǎng)絡(luò)本身卻是非線性的。此外，非線性是一種分布于整個(gè)網(wǎng)絡(luò)的特殊性質(zhì)。因此，神經(jīng)網(wǎng)絡(luò)具有非線性映射能力，且理論研究已經(jīng)表明一個(gè)三層的神經(jīng)網(wǎng)絡(luò)能夠以任意精度逼近非線性系統(tǒng)。
2.并行分布/處理
神經(jīng)網(wǎng)絡(luò)是為模擬大腦的結(jié)構(gòu)和功能而建立的一種數(shù)學(xué)模型，大量的人工神經(jīng)元人工神經(jīng)元相互連接成一個(gè)高度并行的非線性動(dòng)力學(xué)系統(tǒng)。盡管單個(gè)人工神經(jīng)元人工神經(jīng)元的功能都十分簡(jiǎn)單，但大量神經(jīng)元的并行活動(dòng)使得整個(gè)網(wǎng)絡(luò)呈現(xiàn)出較強(qiáng)大的處理能力。神經(jīng)網(wǎng)絡(luò)中信息的存儲(chǔ)體現(xiàn)在神經(jīng)元之間互相連接的并行分布結(jié)構(gòu)上，進(jìn)而使得信息的處理必然采用大規(guī)模的并行分布方式進(jìn)行，即神經(jīng)網(wǎng)絡(luò)中信息的存儲(chǔ)和處理是在整個(gè)網(wǎng)絡(luò)中同時(shí)進(jìn)行的，信息不是存儲(chǔ)在神經(jīng)網(wǎng)絡(luò)中的某個(gè)局部，而是分布在網(wǎng)絡(luò)的所有單元之中。一個(gè)神經(jīng)網(wǎng)絡(luò)可以存儲(chǔ)多種信息，而神經(jīng)元連接權(quán)值中只存儲(chǔ)多種信息的一部分。神經(jīng)網(wǎng)絡(luò)的內(nèi)在結(jié)構(gòu)的并行分布方式，使得信息的存儲(chǔ)和處理在空間與時(shí)間分布上均是并行的。神經(jīng)網(wǎng)絡(luò)中的數(shù)據(jù)及其處理是全局的而不是局部的。
3.容錯(cuò)性
神經(jīng)網(wǎng)絡(luò)善于聯(lián)想、概括、類(lèi)比和推廣，加之神經(jīng)網(wǎng)絡(luò)信息存儲(chǔ)和處理的并行特性，使得神經(jīng)網(wǎng)絡(luò)在以下兩個(gè)方面表現(xiàn)出較好的容錯(cuò)性。一方面，由于網(wǎng)絡(luò)的信息采用分布式存儲(chǔ)，分布在各個(gè)神經(jīng)元的連接權(quán)值之中，當(dāng)網(wǎng)絡(luò)中某一神經(jīng)元或連接權(quán)值出現(xiàn)問(wèn)題時(shí)，局部的改變將不會(huì)影響網(wǎng)絡(luò)的整體非線性映射。這一點(diǎn)，與人的大腦中每時(shí)每刻都有神經(jīng)細(xì)胞的正常死亡和分裂，但不會(huì)影響大腦的整體功能相類(lèi)似。另一方面，當(dāng)網(wǎng)絡(luò)的輸入信息模糊、殘缺或不完整時(shí)，神經(jīng)網(wǎng)絡(luò)能夠通過(guò)聯(lián)想、記憶等實(shí)現(xiàn)對(duì)輸入信息的正確識(shí)別。
4.自適應(yīng)性
自適應(yīng)性是指系統(tǒng)能夠通過(guò)改變自身的某些性能以適應(yīng)外界環(huán)境變化的能力。自適應(yīng)性是神經(jīng)網(wǎng)絡(luò)的一個(gè)重要特性。神經(jīng)網(wǎng)絡(luò)的自學(xué)習(xí)能力表現(xiàn)在，當(dāng)外界環(huán)境發(fā)生改變，即網(wǎng)絡(luò)的輸入變化時(shí)，神經(jīng)網(wǎng)絡(luò)通過(guò)一段時(shí)間的學(xué)習(xí)和訓(xùn)練，能夠自動(dòng)調(diào)整網(wǎng)絡(luò)的結(jié)構(gòu)和參數(shù)，從而給出期望的輸出�？梢栽趯W(xué)習(xí)過(guò)程中不斷地完善自身，具有創(chuàng)新的特點(diǎn)。而其自組織特性則表現(xiàn)在，神經(jīng)網(wǎng)絡(luò)在接收外部激勵(lì)后可以根據(jù)一定的規(guī)則通過(guò)對(duì)網(wǎng)絡(luò)權(quán)值的調(diào)整以及神經(jīng)元的增減來(lái)重新構(gòu)建新的神經(jīng)網(wǎng)絡(luò)。神經(jīng)網(wǎng)絡(luò)不但可以處理各種變化的信息，而且在其學(xué)習(xí)階段可以根據(jù)流過(guò)網(wǎng)絡(luò)的外部和內(nèi)部信息對(duì)自身的連接權(quán)值（結(jié)構(gòu)）進(jìn)行調(diào)整，從而改變網(wǎng)絡(luò)本身的非線性動(dòng)力學(xué)特性，從而實(shí)現(xiàn)對(duì)外界環(huán)境的變化。
1.2.3 神經(jīng)網(wǎng)絡(luò)的發(fā)展
人工神經(jīng)網(wǎng)絡(luò)是一門(mén)新興交叉學(xué)科，是人類(lèi)智能研究的重要組成部分，人工神經(jīng)網(wǎng)絡(luò)借鑒了神經(jīng)科學(xué)的研究成果，基于模仿人類(lèi)大腦的結(jié)構(gòu)和功能構(gòu)成的一種信息處理系統(tǒng)，具有廣泛的應(yīng)用前景。已成為腦科學(xué)、神經(jīng)科學(xué)、認(rèn)知科學(xué)、心理學(xué)、計(jì)算機(jī)科學(xué)、數(shù)學(xué)和物理學(xué)等共同關(guān)注的焦點(diǎn)。它模仿人腦神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)和某些工作機(jī)制建立一種計(jì)算模型，在過(guò)去半個(gè)多世紀(jì)中一直統(tǒng)治著信息處理的程序化計(jì)算。人工神經(jīng)網(wǎng)絡(luò)的應(yīng)用和發(fā)展不但推動(dòng)神經(jīng)動(dòng)力學(xué)本身的發(fā)展，而且為智能計(jì)算提供了新的現(xiàn)代化方法，有可能給信息科學(xué)帶來(lái)革命性的變化。雖然目前人工神經(jīng)網(wǎng)絡(luò)的研究正處在前所未有的熱潮中，但它的發(fā)展卻不是一帆風(fēng)順的。從研究時(shí)間遞推的角度看，人工神經(jīng)網(wǎng)絡(luò)研究主要經(jīng)歷了興起與高潮、蕭條、穩(wěn)步發(fā)展的較為曲折的道路，如圖1-2所示。
圖1-2人工神經(jīng)網(wǎng)絡(luò)的發(fā)展
1.興起與高潮期(1940-1970年)
1943年，心理學(xué)家McCulloch和數(shù)理邏輯學(xué)家Pitts提出了M-P模型［16］，這是第一個(gè)用數(shù)理語(yǔ)言描述腦的信息處理過(guò)程的模型，雖然神經(jīng)元的功能比較弱，但它為以后的研究工作提供了依據(jù)。1949年，心理學(xué)家Hebb提出突觸聯(lián)系可變的假設(shè)［17］，根據(jù)這一假設(shè)提出的學(xué)習(xí)規(guī)律為神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)算法奠定了基礎(chǔ)。1957年，計(jì)算機(jī)科學(xué)家Rosenblatt提出了著名的感知機(jī)模型［18］，它的模型包含了現(xiàn)代計(jì)算機(jī)的一些原理，是第一個(gè)完整的人工神經(jīng)網(wǎng)絡(luò)，第一次把神經(jīng)網(wǎng)絡(luò)研究付諸工程實(shí)現(xiàn)。1960年，Windrow提出了自適應(yīng)線性單元(ADAIINE)［19］，主要用于自適應(yīng)系統(tǒng)。這些簡(jiǎn)單網(wǎng)絡(luò)中所體現(xiàn)的許多性質(zhì)，如并行處理、分布式存儲(chǔ)、連續(xù)計(jì)算、可學(xué)習(xí)性等，因而引起了不少人的興趣。至此，人工神經(jīng)網(wǎng)絡(luò)的研究工作進(jìn)入了第一個(gè)高潮［20］。
……

你還可能感興趣

我要評(píng)論