內容簡介
本書沿襲“程式設計師的數學”系列平易近人的風格,用通俗的語言和具象的圖表深入講解了編程中所需的
線性代數知識。內容包括向量、矩陣、行列式、秩、逆矩陣、線性方程、LU分解、特徵值、對角化、
Jordan標準型、特徵值算法等。
作者簡介
專攻套用數學和物理,主要從事腦科墊擔學與信號處理領域的研究。喜歡Ruby、JavaScript、PostScript等語言。最近正在研究基於統計學理論的語言處理。工學博士。
平岡和幸,專攻套用數學和物理,對機器學習興趣濃厚。喜歡Ruby,熱愛Scheme。最近被Common Lisp吸引,正在潛心研究。工學博士。
目錄
第0章 動機 1
0.1 空間想像給我們帶來的直觀感受 1
0.2 有效利用線性近似的手段 2
第1章 用空間的語言表達向量、矩陣和行列式 5
1.1 向量與空間 5
1.1.1 最直接的定義:把數值羅列起來就是向量 6
1.1.2 “空間”的形象 9
1.1.3 基底 11
1.1.4 構成基底的承滲辯拔條件 16
1.1.5 維數 18
1.1.6 坐標 19
1.2 矩陣和映射 19
1.2.1 暫時的定義 19
1.2.2 用矩陣來表達各種關係(1) 24
1.2.3 矩陣就是映射! 25
1.2.4 矩陣的乘積=映射的合成 28
1.2.5 矩陣運算的性質 31
1.2.6 矩陣的乘方=映射的疊代 35
1.2.7 零矩陣、單位矩陣、對角矩陣 37
1.2.8 逆矩陣=逆映射 44
1.2.9 分塊矩陣 47
1.2.10 用矩陣表示各種關係(2) 53
1.2.11 坐標變換與矩陣 55
1.2.12 轉置矩陣=??? 63
1.2.13 補充(1):時刻注意矩陣規模 64
1.2.14 補充(2):從矩陣的元素的角度看 67
1.3 行列式與擴大率 68
1.3.1 行列式=體積擴大率 68
1.3.2 行列式的性質 73
1.3.3 行列式的計算方法(1):計算公式▽愚再膠 80
1.3.4 行列式的計算方法(2):筆算法▽ 87
1.3.5 補充:行列式按行(列)展開與逆矩陣▽ 91
2.1 問題設定:逆問題 95
2.2 良性問題(可逆矩陣) 97
2.2.1 可逆性與逆矩陣 97
2.2.2 線性方程組的解法(係數矩陣可逆的情況)▽ 97
2.2.3 逆矩陣的計算方法▽ 107
2.2.4 初等變換▽ 110
2.3 惡性問題 115
2.3.1 惡性問題示例 115
2.3.2 問題的惡劣程度——核與像 120
2.3.3 維數頁嘗櫃定理 122
2.3.4 用式子表示“壓縮扁平化”變換(線性無關、線性相關) 126
2.3.5 線索的實際個數(秩) 130
2.3.6 秩的求解方法(1)——悉心觀察 137
2.3.7 秩的求解方法(2)——筆算 142
2.4 良性惡性的判定(逆矩陣存在的條件) 149
2.4.1 重點是“是不是壓縮扁平化映射” 149
2.4.2 與可逆性等價的條件 150
2.4.3 關於可逆性的小結 151
2.5 針對惡性問題的對策 152
2.5.1 求出所有能求的結果(1)理論篇 152
2.5.2 求出所有能求的結果(2)實踐篇 155
2.6 愚頸請現實中的惡性問題(接近奇異的矩陣) 167
2.6.1 問題源於哪裡 167
2.6.2 對策示例——提克洛夫規範漿危洪化 170
第3章 計算機上的計算(1)——LU 分解 173
3.1 引言 173
3.1.1 切莫小看數值計算 173
3.1.2 關於本書中的程式 174
3.2 熱身:加減乘運算 174
3.3 LU分解 176
3.3.1 定義 176
3.3.2 分解能帶來什麼好處 178
3.3.3 LU分解真的可以做到嗎 178
3.3.4 LU分解的運算量如何 180
3.4 LU分解的步墊譽背拳驟(1)一般情況 182
3.5 利用LU分解求行列式值 186
3.7 利用LU分解求逆矩陣 191
3.8 LU分解的步驟(2)意外發生的情況 192
3.8.1 需要整理順序的情況 192
3.8.2 重新整理順序也無濟於事的狀況 196
第4章 特徵值、對角化、Jordan標準型——判斷是否有失控的危險 197
4.1 問題的提出:穩定性 197
4.2 一維的情況 202
4.3 對角矩陣的情況 203
4.4 可對角化的情況 205
4.4.1 變數替換 205
4.4.2 變數替換的求法 213
4.4.3 從坐標變換的角度來解釋 215
4.4.4 從乘方的角度來解釋 219
4.4.5 結論:關鍵取決於特徵值的絕對值 220
4.5 特徵值、特徵向量 220
4.5.1 幾何學意義 220
4.5.2 特徵值、特徵向量的性質 225
4.5.3 特徵值的計算:特徵方程 232
4.5.4 特徵向量的計算▽ 240
4.6 連續時間系統 246
4.6.1 微分方程 247
4.6.2 一階情況 250
4.6.3 對角矩陣的情況 250
4.6.4 可對角化的情況 252
4.6.5 結論:特徵值(的實部)的符號是關鍵 252
4.7 不可對角化的情況 255
4.7.1 首先給出結論 255
4.7.3 Jordan標準型的性質 257
4.7.4 利用Jordan標準型解決初始值問題(失控判定的最終結論) 264
4.7.5 化Jordan標準型的方法 271
4.7.6 任何方陣均可化為Jordan標準型的證明 279
第5章 計算機上的計算(2)——特徵值算法 299
5.1 概要 299
5.1.1 和筆算的不同之處 299
5.1.3 5×5以上的矩陣的特徵值不存在通用的求解步驟! 302
5.1.4 有代表性的特徵值數值算法 303
5.2 Jacobi方法 303
5.2.1 平面旋轉 304
5.2.2 通過平面旋轉進行相似變換 306
5.2.3 計算過程的最佳化 309
5.3 冪法原理 310
5.3.1 求絕對值最大的特徵值 310
5.3.2 求絕對值最小的特徵值 311
5.3.3 QR分解 312
5.3.4 求所有特徵值 316
5.4 QR方法 318
5.4.1 QR方法的原理 319
5.4.2 Hessenberg矩陣 321
5.4.3 Householder方法 322
5.4.4 Hessenberg矩陣的QR疊代 325
5.4.5 原點位移、降階 327
5.4.6 對稱矩陣的情況 327
5.5 反冪法 328
附錄A 希臘字母表 330
附錄B 複數 331
附錄C 關於基底的補充說明 336
附錄D 微分方程的解法 341
D.1 dx/dt = f(x) 型 341
D.2 dx/dt = ax + g(t) 型 342
附錄E 內積、對稱矩陣、正交矩陣 346
E.1 內積空間 346
E.1.1 模長 346
E.1.2 正交 347
E.1.3 內積 347
E.1.5 轉置矩陣 351
E.1.6 復內積空間 351
E.2 對稱矩陣與正交矩陣——實矩陣的情況 352
附錄F 動畫演示程式的使用方法 354
F.1 執行結果 354
F.2 準備工作 354
F.3 使用方法 355
參考文獻 357
叢書信息
程式設計師的數學 (共3冊), 這套叢書還有 《程式設計師的數學》,《
程式設計師的數學2》
2.2.4 初等變換▽ 110
2.3 惡性問題 115
2.3.1 惡性問題示例 115
2.3.2 問題的惡劣程度——核與像 120
2.3.3 維數定理 122
2.3.4 用式子表示“壓縮扁平化”變換(線性無關、線性相關) 126
2.3.5 線索的實際個數(秩) 130
2.3.6 秩的求解方法(1)——悉心觀察 137
2.3.7 秩的求解方法(2)——筆算 142
2.4 良性惡性的判定(逆矩陣存在的條件) 149
2.4.1 重點是“是不是壓縮扁平化映射” 149
2.4.2 與可逆性等價的條件 150
2.4.3 關於可逆性的小結 151
2.5 針對惡性問題的對策 152
2.5.1 求出所有能求的結果(1)理論篇 152
2.5.2 求出所有能求的結果(2)實踐篇 155
2.6 現實中的惡性問題(接近奇異的矩陣) 167
2.6.1 問題源於哪裡 167
2.6.2 對策示例——提克洛夫規範化 170
第3章 計算機上的計算(1)——LU 分解 173
3.1 引言 173
3.1.1 切莫小看數值計算 173
3.1.2 關於本書中的程式 174
3.2 熱身:加減乘運算 174
3.3 LU分解 176
3.3.1 定義 176
3.3.2 分解能帶來什麼好處 178
3.3.3 LU分解真的可以做到嗎 178
3.3.4 LU分解的運算量如何 180
3.4 LU分解的步驟(1)一般情況 182
3.5 利用LU分解求行列式值 186
3.7 利用LU分解求逆矩陣 191
3.8 LU分解的步驟(2)意外發生的情況 192
3.8.1 需要整理順序的情況 192
3.8.2 重新整理順序也無濟於事的狀況 196
第4章 特徵值、對角化、Jordan標準型——判斷是否有失控的危險 197
4.1 問題的提出:穩定性 197
4.2 一維的情況 202
4.3 對角矩陣的情況 203
4.4 可對角化的情況 205
4.4.1 變數替換 205
4.4.2 變數替換的求法 213
4.4.3 從坐標變換的角度來解釋 215
4.4.4 從乘方的角度來解釋 219
4.4.5 結論:關鍵取決於特徵值的絕對值 220
4.5 特徵值、特徵向量 220
4.5.1 幾何學意義 220
4.5.2 特徵值、特徵向量的性質 225
4.5.3 特徵值的計算:特徵方程 232
4.5.4 特徵向量的計算▽ 240
4.6 連續時間系統 246
4.6.1 微分方程 247
4.6.2 一階情況 250
4.6.3 對角矩陣的情況 250
4.6.4 可對角化的情況 252
4.6.5 結論:特徵值(的實部)的符號是關鍵 252
4.7 不可對角化的情況 255
4.7.1 首先給出結論 255
4.7.3 Jordan標準型的性質 257
4.7.4 利用Jordan標準型解決初始值問題(失控判定的最終結論) 264
4.7.5 化Jordan標準型的方法 271
4.7.6 任何方陣均可化為Jordan標準型的證明 279
第5章 計算機上的計算(2)——特徵值算法 299
5.1 概要 299
5.1.1 和筆算的不同之處 299
5.1.3 5×5以上的矩陣的特徵值不存在通用的求解步驟! 302
5.1.4 有代表性的特徵值數值算法 303
5.2 Jacobi方法 303
5.2.1 平面旋轉 304
5.2.2 通過平面旋轉進行相似變換 306
5.2.3 計算過程的最佳化 309
5.3 冪法原理 310
5.3.1 求絕對值最大的特徵值 310
5.3.2 求絕對值最小的特徵值 311
5.3.3 QR分解 312
5.3.4 求所有特徵值 316
5.4 QR方法 318
5.4.1 QR方法的原理 319
5.4.2 Hessenberg矩陣 321
5.4.3 Householder方法 322
5.4.4 Hessenberg矩陣的QR疊代 325
5.4.5 原點位移、降階 327
5.4.6 對稱矩陣的情況 327
5.5 反冪法 328
附錄A 希臘字母表 330
附錄B 複數 331
附錄C 關於基底的補充說明 336
附錄D 微分方程的解法 341
D.1 dx/dt = f(x) 型 341
D.2 dx/dt = ax + g(t) 型 342
附錄E 內積、對稱矩陣、正交矩陣 346
E.1 內積空間 346
E.1.1 模長 346
E.1.2 正交 347
E.1.3 內積 347
E.1.5 轉置矩陣 351
E.1.6 復內積空間 351
E.2 對稱矩陣與正交矩陣——實矩陣的情況 352
附錄F 動畫演示程式的使用方法 354
F.1 執行結果 354
F.2 準備工作 354
F.3 使用方法 355
參考文獻 357
叢書信息
程式設計師的數學 (共3冊), 這套叢書還有 《程式設計師的數學》,《
程式設計師的數學2》