今天我想理解下正定矩陣！

因為這個矩陣在convex optimization 老是出現(xiàn)~

我們只考慮正定矩陣的原始定義，不考慮某些人對他的擴展。

In linear algebra, a symmetric n × n real matrix M is said to be positive definite if z^TMz is positive for any non-zero column vector z of n real numbers. Here z^T denotes the transpose of z.

因此，正定矩陣是 對稱的、方陣，這里說的是實矩陣，可以擴展到復數(shù)矩陣，只是把轉置換成共軛轉置，并且要求那個二次型結果是實數(shù)就可以了。

討論A^TA這種矩陣~

首先這個矩陣是對稱矩陣，不管A是什么矩陣，甚至退化成向量，這個矩陣都是對稱矩陣，不存在任何例外。

他一定是半正定矩陣：

任意給定一個非零向量z，那么z^TA^TAz = (Az)^T(Az)，顯然這個結果是非負的！

那什么情況下這種矩陣是正定矩陣呢？什么情況下他是半正定矩陣，并且不是正定矩陣呢？

我們討論下什么情況下這個二次型等于零。我們從A本身討論，

如果(Az)^T(Az)=0

Az = z1A1 + z2A2 + ... + znAn. 這里假設A有n列，n可以取任何正整數(shù)，Ai表示矩陣A的第i列，zi表示z的第i個分量。我們可以把這個式子看成是A的列向量的線性組合，因為z非零，所以，當且僅當A的列向量線性相關的時候Az才有可能為零，如果他們線性無關，那么一定存在一個非零的z，使得Az=0。也就是說A^TA是否為正定矩陣，與A的秩是否等于列數(shù)是等價的。

如果A的列向量線性無關，那么A^TA為正定矩陣。

如果A的列向量線性相關，那么A^TA為半正定矩陣。