不变子空间问题