말씀하신 방법이 맞습니다. M이 정사각행렬일 때는 고유값분해를 통해 0에 가까운 고유벡터를 찾아 p로 잡을 수 있습니다. 하지만 보통 =0 이 나오는 경우는 거의 없습니다. 그래서 보통 Ax=b 형태로 잡고, 푸는 경우가 많은데요. 여기에서 보통 LU, QR, SVD, cholesky 기법 등을 사용한다고 보시면 될 것 같습니다.