- Python机器学习算法与应用
- 邓立国
- 242字
- 2020-11-23 14:57:14
2.4.4 证明主成分的方差是依次递减
设相关系数矩阵R的p个特征根为λ1≥λ2≥…≥λp,相应的特征向量为,得
![](https://epubservercos.yuewen.com/E04642/18562448708360306/epubprivate/OEBPS/Images/ZQ-185-009_inline_0122.jpg?sign=1739399634-rMmyZCjMdfzA6xFl1QNkcDDXW83d9yG9-0-fd7de3cea59321534d1af7da0ccd83aa)
(2.57)
相对于的方差为:
Var(F1)=a1XX'a'1=a1Ra'1=λ1
(2.58)
同样有Var(Fi)=λ1,即主成分的方差依次递减,并且协方差为:
![](https://epubservercos.yuewen.com/E04642/18562448708360306/epubprivate/OEBPS/Images/ZQ-185-009_inline_0126.jpg?sign=1739399634-QzVOVvgSKCEe9EcVfAKOCV01wr2Y8wOK-0-c945d64daea48d39122589a067fefe28)
(2.59)
综上所述,根据证明可知,主成分分析中的主成分协方差是对角矩阵,其对角线上的元素恰好是原始数据相关矩阵的特征值,而主成分系数矩阵A的元素则是原始数据相关矩阵特征值相应的特征向量。矩阵A是一个正交矩阵。
于是,变量(x1,x2…xp)经过变换后得到新的综合变量为
![](https://epubservercos.yuewen.com/E04642/18562448708360306/epubprivate/OEBPS/Images/ZQ-185-009_inline_0127.jpg?sign=1739399634-52xyTvkdEqXymf9hHnwwYRxbcR50JAWN-0-0b2bdc457bd45e8228d90747f8f97417)
(2.60)
新的随机变量彼此不相关,且方差依次递减。