- Python机器学习算法与应用
- 邓立国
- 435字
- 2020-11-23 14:57:14
2.4.3 主成分的导出
根据主成分分析的数学模型的定义,要进行主成分分析,就需要根据原始数据以及模型3个条件的要求,求出主成分系数,以便得到主成分模型。这就是导出主成分所要解决的问题。
(1)根据主成分数学模型的条件①要求主成分之间互不相关,为此主成分之间的协差阵应该是一个对角阵。对于主成分,
F=AX
(2.49)
其协差阵应为,
![](https://epubservercos.yuewen.com/E04642/18562448708360306/epubprivate/OEBPS/Images/ZQ-185-009_inline_0109.jpg?sign=1739578450-tj1RIh9tB4xhbTJoOD702HIWmSghttzp-0-ec55db1d1c337adba67cfb016fd4e037)
(2.50)
(2)设原始数据的协方差阵为V,如果原始数据进行了标准化处理,那么协方差阵等于相关矩阵,即有
V=R=XX'
(2.51)
(3)根据主成分数学模型条件③和正交矩阵的性质,若能够满足条件③最好要求A为正交矩阵,即满足
AA'=I
(2.52)
将原始数据的协方差代入主成分的协差阵公式,得
![](https://epubservercos.yuewen.com/E04642/18562448708360306/epubprivate/OEBPS/Images/ZQ-185-009_inline_0112.jpg?sign=1739578450-nIROxQeZoRUZrDU7oxh6kz8LSmpKLlpy-0-d67fe61b13c92b0466d7e6718f693edc)
(2.53)
展开上式,得
![](https://epubservercos.yuewen.com/E04642/18562448708360306/epubprivate/OEBPS/Images/ZQ-185-009_inline_0113.jpg?sign=1739578450-IW5fOtDZbcI2JaQKBy7hA0v3GvTXPEHk-0-339e4704fad27856927d58cace817236)
(2.54)
展开等式两边,根据矩阵相等的性质,这里只根据第一列得出的方程为:
![](https://epubservercos.yuewen.com/E04642/18562448708360306/epubprivate/OEBPS/Images/ZQ-185-009_inline_0114.jpg?sign=1739578450-3TR1X14rJZs7i3N10UmtJ0WnMh097L0k-0-d27a7ba6668c10005e00f412a7d49c90)
(2.55)
为了得到该齐次方程的解,要求其系数矩阵行列式为0,即
![](https://epubservercos.yuewen.com/E04642/18562448708360306/epubprivate/OEBPS/Images/ZQ-185-009_inline_0115.jpg?sign=1739578450-I1GQRDvbi8CRehH3FgMWQdTNkaYjR6CS-0-76dbc8035c1593b3ec065cda51f7665c)
(2.56)
|R-λ1I|=0
显然, 是相关系数矩阵的特征值,
是相应的特征向量。根据第二列、第三列等可以得到类似的方程,于是
是方程|R-λI|=0的p个根,
为特征方程的特征根,
是其特征向量的分量。