Все формулы РФ

Математика / Матрицы, определители

Матрица ортогональной проекции

Если столбцы Q образуют ортонормированный базис подпространства W, то матрица P=QQ^T переводит любой вектор в его ортогональную проекцию на W.

Опубликовано: Обновлено:

Линейная алгебраМатрицыОртогональная проекцияОртонормированный базис

Формула

$$P=QQ^{T},\quad Q^{T}Q=I$$
projection-matrix-flow Q^T берет координаты, Q собирает проекцию

Схема показывает поток x -> Q^T x -> Q(Q^T x) и итоговую тень на подпространстве W.

Матрица QQ^T является операторной формой ортогональной проекции.

Обозначения

$P$
матрица ортогональной проекции на W, матрица n x n
$Q$
матрица с ортонормированными столбцами q_1,...,q_k, матрица n x k
$Q^T$
транспонированная матрица Q, матрица k x n
$I$
единичная матрица размера k, матрица

Условия применения

  • Столбцы Q должны быть ортонормированными.
  • Подпространство W должно совпадать со столбцовым пространством Q.
  • Формула записана для вещественного евклидова пространства.

Ограничения

  • Для неортонормированных столбцов A формула QQ^T неприменима; используют A(A^TA)^{-1}A^T при полном столбцовом ранге.
  • В комплексном случае транспонирование заменяется эрмитовым сопряжением Q^*.
  • Матрица проекции на подпространство имеет размер пространства, а не размерность подпространства.

Подробное объяснение

Матрица Q хранит ортонормированный базис подпространства W в столбцах. Умножение Q^T x вычисляет все скалярные произведения x*q_i, то есть координаты проекции в этом базисе. Затем умножение Q(Q^T x) собирает вектор обратно в исходном пространстве. Поэтому результат равен сумме (x*q_i)q_i и совпадает с ортогональной проекцией на W.

Свойства P=QQ^T отражают геометрию проекции. Во-первых, P^2=QQ^TQQ^T=Q(Q^TQ)Q^T=QQ^T=P, то есть повторная проекция ничего не меняет. Во-вторых, P^T=(QQ^T)^T=QQ^T=P, матрица симметрична. Эти два свойства вместе являются характерными для ортогональной проекции в вещественном евклидовом пространстве.

Матрица проекции удобна, когда нужно применять одну и ту же проекцию ко многим векторам. Вместо повторного ручного разложения можно один раз построить P и умножать Px. В статистике и численных методах эта идея лежит рядом с матрицами приближения, QR-разложением и наименьшими квадратами: ортонормированные столбцы делают формулы короче и устойчивее.

Как пользоваться формулой

  1. Соберите ортонормированные базисные векторы подпространства столбцами в Q.
  2. Проверьте условие Q^TQ=I.
  3. Вычислите P=QQ^T.
  4. Для проекции любого x умножьте Px.
  5. Проверьте свойства P^2=P и P^T=P, если нужно подтвердить результат.

Историческая справка

Матричная запись проекций стала естественной после того, как матрицы начали рассматривать как самостоятельные объекты линейной алгебры. В XIX веке Кэли и Сильвестр усилили матричный язык, а развитие векторных пространств и ортогональных разложений дало геометрический смысл таким операторам. Проекционные матрицы заняли важное место в XX веке в статистике, численных методах и вычислительной линейной алгебре, особенно рядом с наименьшими квадратами и QR-разложением. Формула P=QQ^T является аккуратной современной записью случая, когда базис подпространства заранее ортонормирован. В прикладных курсах она помогает увидеть, что проекция является линейным оператором, а не только геометрическим рисунком.

Историческая линия формулы

Матрица ортогональной проекции не является формулой одного автора. В справочнике ее разумно связывать с матричной алгеброй Кэли и с грассмановой линией подпространств, поскольку обе линии нужны для понимания записи P=QQ^T.

Артур Кэли 1821-1895Герман Грассман 1809-1877

Пример

Пусть W - плоскость xy в R^3, а Q=[[1,0],[0,1],[0,0]]. Столбцы Q ортонормированы. Тогда P=QQ^T=[[1,0,0],[0,1,0],[0,0,0]]. Для x=(4,-2,7) получаем Px=(4,-2,0), то есть z-компонента отбрасывается. Проверим свойство проекции: P^2=P, потому что повторное применение уже не меняет вектор, лежащий в плоскости xy. Также P^T=P, что соответствует ортогональности проекции: остаток x-Px=(0,0,7) перпендикулярен плоскости. Если применить P к любому вектору из самой плоскости, например (5,1,0), он останется без изменений.

Частая ошибка

Частая ошибка - писать P=Q^TQ. Но Q^TQ=I дает проверку ортонормированности столбцов и имеет размер k x k, а матрица проекции на R^n должна иметь размер n x n. Вторая ошибка - использовать P=QQ^T для любых независимых столбцов; без ортонормированности получится неверная матрица. Третья ошибка - путать P^2=P с P=I. Проекция является тождественной только на самом подпространстве, но не на всем пространстве. Еще одна ошибка - забывать симметричность для ортогональной проекции.

Практика

Задачи с решением

Построить простую матрицу проекции

Условие. Найдите P для проекции R^3 на ось Ox.

Решение. Q - столбец (1,0,0)^T. Тогда P=QQ^T=[[1,0,0],[0,0,0],[0,0,0]].

Ответ. P=diag(1,0,0).

Проверить размер

Условие. Q имеет размер 4 x 2 и ортонормированные столбцы. Какой размер имеет P=QQ^T?

Решение. QQ^T имеет размер (4 x 2)(2 x 4), значит результат 4 x 4.

Ответ. 4 x 4.

Дополнительные источники

  • MIT OpenCourseWare 18.06SC, Projection Matrices and Least Squares
  • Interactive Linear Algebra, Margalit and Rabinoff, Orthogonal Projection
  • Jim Hefferon, Linear Algebra, Projection Matrices

Связанные формулы

Математика

Ортонормированный базис

$e_i\cdot e_j=\delta_{ij}$

Базис называется ортонормированным, если его векторы имеют длину 1 и попарно ортогональны. Краткая запись e_i*e_j=delta_ij объединяет оба условия в одной формуле.

Математика

Матричное произведение

$(AB)_{ij}=\sum_{k=1}^{m}a_{ik}b_{kj}$

Матричное произведение строит элемент новой матрицы как скалярное произведение строки первой матрицы и столбца второй. Порядок множителей важен.

Математика

Ортогональная матрица

$Q^{T}Q=I,\quad Q^{-1}=Q^{T}$

Квадратная матрица Q ортогональна, если ее столбцы образуют ортонормированный базис. Тогда обратная матрица равна транспонированной, а преобразование сохраняет длины и углы.