Псевдообратные матрицы

Обращение прямоугольных матриц. Псевдообратная матрица.

Если А — квадратная и невырожденная матрица, то для неё сущест­вует обратная матрица А ^-1. Если же А — не квадратная, а прямоуголь­ная m?n – матрица (m ? n) или квадратная, но вырожденная, то матри­ца А не имеет обратной и символ А ^-1не имеет смысла. Однако, как будет показано далее, для произвольной прямоугольной матрицы А су­ществует «псевдообратная» матрица А⁺, которая обладает некоторыми свойствами обратной матрицы и имеет важные применения при решении системы линейных уравнений. В случае, когда А –квадратная невырож­денная матрица, псевдообратная матрица А⁺ совпадает с обратной А ^-1).¹

1. Скелетное разложение матрицы.

В дальнейшем мы будем пользоваться представлением произвольной прямоугольной m?n – матрицы А = || а_ik || ранга r в виде произведения двух матриц В и С, имеющих соответственно размеры m ? r и r ? n:

( r = r_A ). (1)

Здесь ранги сомножителей В и С обязательно равны рангу произведе­ния А, r_В = r_с = r. Действительно, r r_В, r_с. Но ранги r_В и r_с не могут превосходить r, так как r – один из размеров матриц В и С. Поэтому r_В = r_с = r.

Для того чтобы получить разложение (1), достаточно в качестве столбцов матрицы В взять любые r линейно независимых столбцов матрицы А, либо любые r линейно независимых столбцов, через кото­рые линейно выражаются столбцы матрицы А.² Тогда произвольный j-й столбец матрицы А будет линейной комбинацией столбцов матрицы В с коэффициентами c_1j, c_2j, …, c_rj ; эти коэффициенты и образуют j-й столбец матрицы С ( j = 1, …, n ).³

1) Определение псевдообратной матрицы было дано в 1920 г. Муром, указавшим на важные применения этого понятия. Позже независимо от Мура в несколько иной форме псевдообратная матрица определялась и исследовалась в работах Бьерхаммара, Пенроуза и других авторов.

2) Мы исходим из известного положения: в матрице А ранга r имеется r линейно независимых столбцов, через которые линейно (т. е. в виде линейных комбинаций с число­выми коэффициентами из данного поля) выражаются все остальные столбцы. Анало­гичное утверждение имеет место и для строк.

3) Совершенно так же строками матрицы С могут быть любые r строк, через которые выражаются в виде линейных комбинаций все строки матрицы А. Тогда коэф­фициенты этих линейных комбинаций образуют строки матрицы В.

Поскольку матрицы В и С имеют максимально возможный ранг r, то квадратные матрицы В^*В и СС^* являются невырожденными:

| В^*В | ? 0, | СС^* | ? 0. (2)

Действительно, пусть столбец x – произвольное решение уравнения

В^*Вx = 0. (3)

Умножим это уравнение слева на строку х^*. Тогда х^*В^*Вx = (Вх)^*Вх = 0. Отсюда следует Вх = 0 и (поскольку Вx – линейная комбинация линейно независимых столбцов матрицы В); x = 0. Из того, что уравнение (3) имеет только нулевое решение х = 0, выте­кает, что | В^*В | ? 0. Аналогично устанавливается второе неравенство (2).¹ Разложение (1) будем называть скелетным разложением матрицы А.

1) Неравенства (2) также непосредственно следует из формулы Бине – Коши. Согласно этой формуле определитель | В^*В | (| СС^* | ) равен сумме квадратов модулей всех миноров r – го порядка матрицы В (соответственно С).

2. Существование и единственность псевдообратной матрицы.

Рассмотрим матричное уравнение:

АХА = А. (4)

Если А – квадратная невырожденная матрица, то это уравнение имеет единственное решение Х = А^-1. Если же А – произвольная прямоуголь­ная m?n –матрица, то искомое решение Х имеет размеры n?m, но не определяется однозначно. В общем случае уравнение (4) имеет бес­численное множество решений. Ниже будет показано, что среди этих решений имеется только одно, обладающее тем свойством, что его строки и столбцы являются линейными комбинациями соответственно строк и столбцов сопряженной матрицы А*. Именно это решение мы будем называть псевдообратной матрицей для А и обозначать через А⁺.

Матрица А⁺ размеров n?m называется псевдо­обратной для m?n – матрицы А, если выполняются равенства ¹.

АА⁺А = А, (5)

А⁺ = UА^* = А^*V, (6)

где U и V – некоторые матрицы.

Докажем сначала, что для данной матрицы А не может существо­вать двух различных псевдообратных матриц А₁⁺ и А₂⁺. Действительно,

из равенств

АА₁⁺А = АА₂⁺А = А, А₁⁺ = U₁А^* = А^*V₁, А₂⁺ = U₂А^* = А^*V₂,

полагая D = А₂⁺ – А₁⁺, U = U₂ – U₁, V = V₂ – V₁;

Найдём: АDА = 0, D = UА^* = А^*V. Отсюда (DА)^*DА = А^*D^*DА = А^*V^*АDА = 0 и, следовательно DА = 0. Но тогда DD^* = DАU^* = 0, т.е. D = А₂⁺ – А₁⁺ = 0.

Для того чтобы установить существование матрицы А⁺, мы восполь­зуемся скелетным разложением (1) и будем искать сначала псевдообратные матрицы В⁺ и С⁺.² Так как по определению должны иметь место равенства:

ВВ⁺В = В, В⁺ = В^* , (7)

где – некоторая матрица, то ВВ^*В = В.

1) Условия (6) означают, что строки (столбцы) матрицы А⁺ являются линейными комбинациями строк (столбцов) матрицы А^*.

2) Из определения сразу следует, что если А = 0, то и А⁺ = 0. Поэтому в дальнейшем предполагается, что А ? 0, и потому r = r_A > 0.

Умножая слева на В^* и замечая, что В^*В – невырожденная квадратная матрица, найдём: = (В^*В)^-1.

Но тогда второе из равенств (7) даёт искомое выражение для В⁺:

В⁺ = (В^*В)^-1В^*. (8)

Совершенно аналогично найдем:

С⁺ = С^*(СС^*)^-1. (9)

Покажем теперь, что матрица

А⁺ = С⁺В⁺ = С^*(СС^*)^-1(В^*В)^-1В^* (10)

удовлетворяет условиям (5), (6) и, следовательно, является псевдо-
обратной матрицей для А.

В самом деле,

АА⁺А = ВСС^*(СС^*)^-1(В^*В)^-1В^*ВС = ВС = А.

С другой стороны, из равенств (8) – (10) с учётом равенства А^* = С^*В^*, полагая К = (СС^*)^-1(В^*В)^-1, находим:

А⁺ = С^*КВ^* = С^*К(СС^*)^-1СС^*В^* = UС^*В^* = UА^*,

А⁺ = С^*КВ^* = С^*В^*В(В^*В)^-1КВ^* = С^*В^*V = А^*V,

где U = С^*К(СС^*)^-1С, V = В(В^*В)^-1КВ^*.

Таким образом доказано, что для произвольной прямоугольной матрицы А существует одна и только одна псевдообратная матрица А⁺, которая определяется формулой (10), где В и С – сомножители в скелетном разложении А = ВС матрицы А.¹ Из самого определения псевдообрат­ной матрицы непосредственно следует, что в случае квадратной невырож­денной матрицы A псевдообратная матрица A⁺ совпадает с обратной А^-1 .

П Р И М Е Р. Пусть:

.

Здесь r = 2. Примем в качестве столбцов матрицы В первые два столбца матрицы А.

1) Разложение (1) не определяет однозначно сомножителей ВС. Однако поскольку, как было доказано, существует только одна псевдообратная матрипа А⁺ , формула (10) при всех скелетных разложениях матрицы А даёт одно и то же значение для А⁺.

Тогда: ,

и В^*В = , (В^*В)^-1 = ,

СС^* = (СС^*)^-1 =

Поэтому согласно формуле (10):

А⁺ = , = .

3. Свойства псевдообратной матрицы.

Отметим следующие свойства псевдообратной матрицы:

1. (А^*)⁺ = (А⁺)^*;

2. (А⁺)⁺ = А;

3. (АА⁺)^* = АА⁺, (АА⁺)² = АА⁺;

4. (А⁺А)^* = А⁺А, (А⁺А)² = А⁺А.

Первое свойство означает, что операции перехода к сопряжённой и к псевдообратной матрице перестановочны между собой. Равенство 2 выражает собой взаимность понятия псевдообратной матрицы, так как, согласно 2, псевдообратной матрицей для А⁺ является исходная матрица А. Согласно равенствам 3 и 4 матрицы АА⁺ и А⁺А являются эрмитовыми и инволютивными (квадрат каждой из этих матриц равен самой матрице).

Для вывода равенства 1 воспользуемся скелетным разложением (1):

А = ВС. Тогда равенство А^* = С^*В^* даёт скелетное разложение матрицы А^*.

Поэтому, заменяя в формуле (10) матрицу В на С^*, а матрицу С на В^*, получим:

(А^*)⁺ = В(В^*В)^-1(СС^*)^-1С = [С^*(СС^*)^-1(В^*В)^-1В^*]^* = (А⁺)^*.

Равенства А⁺ = С⁺В⁺, В⁺ = (В^*В)^-1В^*, С⁺ = С^*(СС^*)^-1 являются скелет­ными разложениями. Следовательно,

(А⁺)⁺ = (В⁺)⁺ (С⁺)⁺ = (В^*)⁺ В^* ВСС^* (С^*)⁺.

Используя свойство 1, а также выражения для В⁺ и С⁺, найдем:

(А⁺)⁺ = В(В^*В)^-1В^*ВСС^*(СС^*)^-1С = ВС = А.

Справедливость равенств 3 и 4 проверяется непосредственно путём подстановки в эти равенства вместо А⁺ соответствующего выражения из формулы (10).

Заметим, что в общем случае, когда разложение А = ВС не является скелетным, не всегда имеет место равенство А⁺ = С⁺В⁺. Так, например, = ВС. Здесь А⁺ = А^-1 = ,

В⁺ = = ()⁺ = = , С⁺ = = = = .

С⁺В⁺ = ? А⁺.

4. Наилучшее приближённое решение.

(по методу наименьших квадратов). Рассмотрим произвольную систему линейных уравнений:

(11)

или в матричной записи:

Ах = у. (12)

Здесь у₁, у₂, …, у_m – заданные числа, а х₁, х₂, …, х_n – искомые.

В общем случае система (11) может быть и несовместной. Столбец

х⁰ = (,, …, ) (13)

называется наилучшим приближённым решением системы (11), если при значениях х₁ = , х₂ = , …, х_n = «квадратичное отклонение»

| у – Ах |² = (14)

достигает своего наименьшего значения и среди всех столбцов х, для которых это отклонение имеет минимальное значение, столбец х⁰ имеет наименьшую «длину», т. е. для этого столбца величина

| х²| = х^*х = (15)

имеет наименьшее значение.

Покажем, что система (11) всегда имеет одно и только одно наилучшее приближённое решение и это приближённое решение определяется по формуле:

х⁰ = А⁺у , (16)

где А⁺ – псевдообратная матрица для матрицы А.

Для этого рассмотрим произвольный столбец х и положим:

у – Ах = u + v,

где u = у – Ах⁰ = у – АА ⁺у, v = А( х⁰ – х ). (17)

Тогда получим:

| у – Ах |² = (у – Ах)^*(у – Ах) = (u + v)^*(u + v) = u^*u + v^*u + u^*v + v^*v. (18)

Но:

v^*u = ( х⁰ – х )^*А^*( у – АА⁺у) = ( х⁰ – х )^*( А^* – А^* АА ⁺)у. (19)

Исходя из разложения (1) и формулы (10), найдем:

А^*АА⁺ = С^*В^*ВСС^*(СС^*)^-1(В^*В)^-1В^* = С^*В^* = А^*,

Поэтому из равенства (19) следует:

v^*u = 0, (20)

но тогда и u^*v = (v^*u)^* = 0. (21)

Поэтому из равенства (18) находим:

| у – Ах |² =| u |² + | v |² = | у – Ах⁰ |² + | А( х⁰ – х ) |², (22)

И, следовательно, для любого столбца х:

| у – Ах | | у – Ах⁰ |, (23)

Пусть теперь: | у – Ах | = | у – Ах⁰ |;

тогда, согласно равенству (22),

Аz = 0, (24)

где z = х – х⁰.

С другой стороны, | х²| = (х⁰ + z)^*(х⁰ + z) = | х⁰|² + | z |² + (х⁰)^*z + z^*х⁰. (25)

Вспоминая, что A⁺ = А^*V, получим в силу (24):

(х⁰)^*z = (А⁺y)^*z = (А^*Vy)^*z = y^*V^*Аz = 0. (26)

Но тогда и z^*х⁰ = ((х⁰)^*z)^* = 0.

Поэтому из равенства (25) находим:

| х²| = | х⁰|² + | z |²

И, следовательно,

| х²| | х⁰|², (27)

причём знак = имеет место только при z = 0, т.е. при х = х⁰, где х⁰ = А⁺y.

Пример. Найти наилучшее приближённое решение (по методу наименьших квадратов) системы линейных уравнений:

х₁ - х₂ + 2х₃ = 3,

- х₁ + 2х₂ – 3х₃ + х₄ = 6,

х₂ - х₃ + х₄ = 0.

Здесь:

.

Но тогда:

,

И потому:

.

Следовательно, = 1, = 1, = 0, = 2.

Определим норму m ? n – матрицы A = как неотрицательное число, задаваемое формулой:

. (28)

При этом очевидно, что:

(29)

Рассмотрим матричное уравнение:

АХ= У, (30)

где А и У – заданные m ? n и m ? р – матрицы, а Х – искомая n ? р – матрица.

Определим наилучшее приближённое решение Х⁰ уравнения (30) из условия:

причем в случае, когда:

требуется чтобы: .

Из соотношений: , (31)

(32)

следует, что k-й столбец искомой матрицы Х⁰_·k должен быть наилучшим

приближённым решением системы линейных уравнений:

А Х_·k = У_·k .

Поэтому: Х⁰_·k = А⁺У_·k .

Поскольку это равенство справедливо при любом k = 1, ..., р, то

Х⁰ = А⁺У. (33)

Таким образом, уравнение (30) всегда имеет одно и только одно наилуч­шее приближённое решение, определяемое формулой (33).

В частном случае, когда У = Е – единичная матрица m-го порядка, имеем X⁰=А⁺. Следовательно, псевдообратная матрица А⁺ является наилучшим приближённым решением (по методу наименьших квадратов) матричного уравнения:

АХ = Е.

Это свойство псевдообратной матрицы А⁺ может быть принято в качества её определения.

5. Метод Гревилля последовательного нахождения псевдообратной матрицы.

Пусть а_k – k-й столбец в m ? n – матрице А, А_k = ( а₁, …, а_k ) – матрица, образованная первыми k столбцами матрицы А, b_k – последняя строка в матрице А_k⁺( k = 1, …, n, A₁ = a₁, A_n = A)

Тогда: А_k⁺ = а₁⁺ = (34)

и для k > 1 имеют место рекуррентные формулы:

А_k⁺ = , В_k = – d_kb_k , d_k = а_k ; (35)

При этом, если с_k = а_k –d_k ? 0, то

b_k = = ( а_k –d_k )⁺ ; (36)

если же с_k = 0, т.е. а_k =d_k , то

b_k = ( 1 + d_k^*d_k )^-1d_k^*. (37)

Далее проверим, что матрица является псевдо­обратной для матрицы А_k⁺, если матрица В_k и строка b_k определяются формулами (28)—(32). Этот метод не требует вычисления детерминантов и может быть использован для вычисления обратной матрицы.

П р и м е р. Пусть

Заметим, что для каждой вещественной матрицы М мы можем писать М^' вместо М^*.

Тогда = = ,

d₂ = = , c₂ – a₂ – A₁d₂ = ,

= ,

B₂ = .

Таким образом,

.

Далее:

и

Поэтому:

и