Все формулы РФ

Математика / Матрицы, определители

Ортогональная проекция на подпространство с ортонормированным базисом

Если q_1,...,q_k образуют ортонормированный базис подпространства W, то проекция x на W равна сумме его компонент вдоль этих базисных направлений.

Опубликовано: Обновлено:

Линейная алгебраОртогональная проекцияОртонормированный базисОртогональность

Формула

$$\operatorname{proj}_{W}x=\sum_{i=1}^{k}(x\cdot q_i)q_i$$
projection-subspace-orthonormal Проекция как сумма ортогональных компонент

Схема показывает подпространство W, ортонормированные направления q_i, проекцию x_W и перпендикулярный остаток.

Ортонормированный базис позволяет собрать проекцию из независимых координатных теней.

Обозначения

$W$
подпространство, на которое проецируют, подпространство
$x$
исходный вектор, вектор
$q_i$
i-й вектор ортонормированного базиса W, единичный вектор
$k$
размерность подпространства W, число
$x\cdot q_i$
коэффициент проекции вдоль q_i, число

Условия применения

  • Векторы q_1,...,q_k должны быть ортонормированным базисом W.
  • Вектор x должен принадлежать пространству, в котором задано W.
  • Ортогональность и норма должны пониматься относительно одного и того же скалярного произведения.

Ограничения

  • Если базис W ортогонален, но не нормирован, нужно делить каждую компоненту на q_i*q_i.
  • Если векторы q_i не ортогональны, простая сумма компонентов неверна.
  • Если W задано неортонормированными столбцами, сначала используют Грама-Шмидта или решают нормальные уравнения.

Подробное объяснение

Проекция на подпространство обобщает проекцию на прямую. Если W имеет ортонормированный базис q_1,...,q_k, то внутри W все координаты ведут себя как независимые перпендикулярные оси. Компонента x вдоль q_i равна x*q_i, а сумма всех этих компонент дает вектор внутри W.

Почему это ближайший вектор? Рассмотрим остаток r=x-sum(x*q_i)q_i. Для любого q_j получаем r*q_j=x*q_j - sum(x*q_i)(q_i*q_j). Из-за ортонормированности все слагаемые исчезают, кроме i=j, и остается x*q_j-x*q_j=0. Значит r перпендикулярен каждому базисному вектору W, а значит всему W. Именно условие ортогональности остатка характеризует ближайшую точку подпространства.

Эта формула важна для приложений. В методе наименьших квадратов вектор данных часто не лежит в столбцовом пространстве модели, и проекция дает ближайший достижимый вектор. В численных методах ортонормированные столбцы матрицы Q позволяют записать проекцию как QQ^T x, что существенно проще и устойчивее, чем работа с произвольными базисами.

Как пользоваться формулой

  1. Проверьте, что q_i образуют ортонормированный базис W.
  2. Для каждого q_i вычислите коэффициент x*q_i.
  3. Умножьте каждый q_i на соответствующий коэффициент.
  4. Сложите все полученные компоненты.
  5. Проверьте, что остаток x-proj_W x ортогонален всем q_i.

Историческая справка

Проекции на подпространства являются продолжением классической идеи ближайшей точки, но их современная форма принадлежит линейной алгебре и теории пространств со скалярным произведением. В XIX веке язык подпространств, размерности и независимых направлений развивался через работы Грассмана и последующее оформление линейных пространств. Позднее ортогональные разложения стали ключевыми в анализе, рядах Фурье и численных методах. В курсах линейной алгебры проекции связывают геометрию с решением несовместных систем: если точное Ax=b невозможно, ищут ближайший вектор в столбцовом пространстве A. Так геометрия перпендикуляра стала языком приближений и вычислительной практики.

Историческая линия формулы

Современная формула проекции через ортонормированный базис не приписывается одному автору. Она опирается на развитие скалярных произведений, подпространств и ортогональных разложений; историческая связь с Грассманом уместна через язык подпространств.

Герман Грассман 1809-1877

Пример

Пусть W=span{q1,q2} в R^3, где q1=(1,0,0), q2=(0,1,0). Это ортонормированный базис плоскости xy. Для x=(3,-2,5) получаем x*q1=3, x*q2=-2. Проекция равна 3q1-2q2=(3,-2,0). Остаток x-proj_W x=(0,0,5) перпендикулярен W, потому что его скалярные произведения с q1 и q2 равны нулю. Если заменить q1 и q2 на повернутый ортонормированный базис той же плоскости, проекция останется (3,-2,0), хотя отдельные коэффициенты изменятся. Это показывает, что объектом является подпространство, а не выбранная таблица координат внутри него.

Частая ошибка

Частая ошибка - использовать формулу с неортонормированным набором. Тогда коэффициенты x*q_i учитывают масштаб и взаимные наклоны неправильно. Вторая ошибка - забыть сложить все компоненты: проекция на плоскость требует вклада по каждому базисному направлению, а не только по одному. Третья ошибка - думать, что проекция зависит от конкретного ортонормированного базиса W; она зависит от самого подпространства, а не от удобного выбора осей в нем. Еще одна ошибка - не проверять ортогональность остатка к каждому q_i.

Практика

Задачи с решением

Проекция на координатную плоскость

Условие. Найдите проекцию x=(1,4,-3) на W=span{(1,0,0),(0,1,0)}.

Решение. Базис W ортонормирован. Коэффициенты равны 1 и 4, значит проекция (1,4,0).

Ответ. (1,4,0).

Проекция на повернутую плоскость

Условие. Пусть q1=(1/sqrt(2),1/sqrt(2),0), q2=(0,0,1), x=(2,0,3). Найдите proj_W x.

Решение. x*q1=2/sqrt(2)=sqrt(2), x*q2=3. Получаем sqrt(2)q1+3q2=(1,1,3).

Ответ. (1,1,3).

Дополнительные источники

  • MIT OpenCourseWare 18.06SC, Projections onto Subspaces
  • Interactive Linear Algebra, Margalit and Rabinoff, Orthogonal Projection
  • Jim Hefferon, Linear Algebra, Orthogonal Projection

Связанные формулы

Математика

Ортогональная проекция на прямую

$\operatorname{proj}_{u}v=\frac{v\cdot u}{u\cdot u}u$

Ортогональная проекция вектора v на прямую, заданную ненулевым вектором u, равна такому кратному u, что остаток v-proj_u v перпендикулярен прямой.

Математика

Координаты в ортонормированном базисе

$x=\sum_{i=1}^{n}(x\cdot e_i)e_i$

В ортонормированном базисе коэффициент при базисном векторе равен скалярному произведению x с этим вектором. Поэтому разложение вектора строится без решения системы уравнений.

Математика

Матрица ортогональной проекции

$P=QQ^{T},\quad Q^{T}Q=I$

Если столбцы Q образуют ортонормированный базис подпространства W, то матрица P=QQ^T переводит любой вектор в его ортогональную проекцию на W.

Математика

Расстояние до подпространства через проекцию

$\operatorname{dist}(x,W)=\|x-\operatorname{proj}_{W}x\|$

Расстояние от вектора x до подпространства W равно длине ортогонального остатка после проекции x на W. Проекция дает ближайший вектор внутри W.