《廣義主成分分析算法及應用》主要討論了隨機系統(tǒng)信號廣義主成分分析方法及應用情況。全書可分為三部分:第一部分包括概述和基礎理論,主要介紹廣義主成分分析的概念、國內外研究現(xiàn)狀,以及與廣義主成分分析密切相關的矩陣理論、優(yōu)化理論和神經(jīng)網(wǎng)絡等理論基礎;第二部分研究多種廣義主成分分析方法,該部分是《廣義主成分分析算法及應用》的核心內容,重點介紹廣義主成分分析、成對廣義主成分分析、耦合廣義主成分分析、確定性離散時間系統(tǒng)、雙目的廣義主成分分析、奇異主成分分析等內容;第三部分研究廣義主成分分析方法的應用,主要討論在信號處理、圖像恢復和模式識別與分類等領域的應用。
《廣義主成分分析算法及應用》核心內容十分新穎,均為近年來作者們發(fā)表在IEEE信號處理、神經(jīng)網(wǎng)絡與學習系統(tǒng)等匯刊上的長文組成編輯提煉而成,是基于神經(jīng)網(wǎng)絡和優(yōu)化理論的特征信息提取領域研究和應用的新進展。
《廣義主成分分析算法及應用》適合于信息科學與技術(電子、通信、自動控制、計算機、系統(tǒng)工程、模式識別、信號處理等)各學科有關教師、研究生和科技人員教學、自學或進修之用。
模式分類廣泛存在于工程實際中,一個模式分類系統(tǒng)的好壞,首先與所選特征能否較好地反映將要研究的問題密切相關。因此,設計和獲取特征是設計模式分類系統(tǒng)的第一步。很多情況下,我們可能已經(jīng)得到了一組特征,這些特征中可能有很多特征與要解決的問題并不密切,在后續(xù)的分類器設計中可能會影響分類器的性能。另一方面,有時很多特征都與分類問題密切,但特征過多會造成計算量大、推廣能力差等問題,很多方法可能會無法計算,因此需要在保證分類效果的前提下,選擇盡可能少的特征來分類。
特征提取與選擇的基本任務是研究如何從眾多的特征中求出那些對分類識別最有效的特征,從而實現(xiàn)特征空間維數(shù)的壓縮。特征提取和選擇方法很多,有基于可分性判據(jù)的特征選擇、基于誤判概率的特征選擇、離散K-L變換法、基于決策界的特征選擇、基于矩陣分解的特征提取、基于神經(jīng)網(wǎng)絡的自動特征提取等方法,這些方法各有優(yōu)缺點。一個大型復雜系統(tǒng)如果發(fā)生故障,必然表現(xiàn)在其某些指標的檢測數(shù)據(jù)發(fā)生異常,反映數(shù)據(jù)本質屬性的特征信息必然發(fā)生變化。如何快速有效地提取系統(tǒng)輸出信號中所包含的特征信息是大型復雜系統(tǒng)故障診斷與預測等領域需要解決的關鍵技術之一。
哪些信息是系統(tǒng)的特征信息?如何描述這些特征信息?如何及時發(fā)現(xiàn)并從大量復雜的數(shù)據(jù)信息中提取有用的特征信息?如何應用這些特征信息?這些問題都是現(xiàn)代信息科學與技術各學科,如電子、通信、自動控制、計算機、系統(tǒng)工程、模式識別、信號處理等面臨的帶有共性的問題。
筆者一直從事隨機系統(tǒng)信號處理、自動控制、神經(jīng)網(wǎng)絡和模式識別的學術、科研、教學和工程應用等研究工作。近20年來,在多個國家自然科學基金課題的支持下,我們在特征信息神經(jīng)網(wǎng)絡提取、數(shù)據(jù)驅動特征建模等方面取得了一系列研究成果,并已將它們發(fā)表在IEEE神經(jīng)網(wǎng)絡與學習系統(tǒng)、信號處理、工業(yè)電子等匯刊上。盡快將這些研究成果介紹給讀者,推動我國信息科學與技術領域隨機系統(tǒng)估計理論研究的發(fā)展,是作者撰寫該書的目的和動力。
第1章 緒論
1.1 隨機系統(tǒng)特征提取及其意義
1.2 主成分分析國內外研究現(xiàn)狀
1.2.1 基于神經(jīng)網(wǎng)絡的主成分分析研究現(xiàn)狀
1.2.2 廣義主成分分析算法研究現(xiàn)狀
1.2.3 基于神經(jīng)網(wǎng)絡的奇異值分解研究現(xiàn)狀
1.2.4 主成分與廣義主成分分析的國內研究
1.3 本章小結
第2章 基礎理論
2.1 特征子空間與特征提取
2.2 主成分分析與Oja學習規(guī)則
2.2.1 主成分分析基本原理
2.2.2 Hebbian規(guī)則與Oja算法
2.3 主成分分析典型算法
2.3.1 基于Hebbian規(guī)則主成分分析
2.3.2 基于優(yōu)化方法的主成分分析
2.3.3 有側向連接主成分分析
2.3.4 非線性主成分分析
2.3.5 其他主成分分析
2.3.6 次成分分析神經(jīng)網(wǎng)絡算法
2.4 廣義主成分分析及其神經(jīng)網(wǎng)絡算法
2.4.1 廣義Hermitian特征值問題
2.4.2 廣義特征信息提取神經(jīng)網(wǎng)絡算法
2.5 奇異值分解及神經(jīng)網(wǎng)絡算法
2.5.1 奇異值分解基礎
2.5.2 奇異值特征提取神經(jīng)網(wǎng)絡算法
2.6 Rayleigh商及其特性
2.6.1 Rayleigh商
2.6.2 Rayleigh商迭代
2.6.3 Rayleigh商求解的梯度和共軛梯度算法
2.6.4 廣義Rayleigh商
2.7 本章小結
第3章 廣義主成分分析
3.1 引言
3.2 廣義主成分分析算法
3.2.1 廣義對稱特征值問題的Mathew類牛頓算法
3.2.2 廣義特征值分解的自組織算法
3.2.3 廣義特征分解的類RLS算法
3.2.4 基于RLS方法的廣義特征向量提取算法
3.2.5 廣義對稱特征值問題的快速自適應算法
3.2.6 基于冪方法的快速廣義特征向量跟蹤
3.2.7 基于牛頓法的廣義特征向量提取算法
3.2.8 提取次廣義特征向量的在線算法
3.3 -種新型廣義主成分分析
3.3.1 一種新型的廣義主成分分析算法
3.3.2 GOja算法的自穩(wěn)定性分析
3.3.3 GOja算法的實驗驗證
3.4 一種新型廣義次成分分析
3.4.1 基于擬牛頓法的廣義次成分分析算法
3.4.2 多維廣義次成分并行提取準則
3.4.3 多維廣義次成分并行提取算法
3.4.4 WGIC算法的自穩(wěn)定性分析
3.4.5 WGIC算法的全局收斂性分析
3.4.6 仿真實驗
3.5 本章小結
……
第4章 成對廣義主成分分析
第5章 耦合廣義主成分分析
第6章 確定性離散時間系統(tǒng)
第7章 雙目的廣義主成分分析
第8章 奇異主成分分析
第9章 廣義主成分分析的工程應用
參考文獻