Проекты матрицы

Содержание 
 

1. Уравнения, векторы,  матрицы, алгебра 

2. Умножение матриц  как внешнее произведение векторов 

3. Нормы векторов  и матриц 

4. Матрицы и определители 

5. Собственные значения  и собственные векторы 

6. Ортогональные  матрицы из собственных векторов 

7. Функции с матричным  аргументом 

8. Вычисление проекторов  матрицы 

Пример использования  числовых характеристик матриц 

10. Оценка величины  и нахождение собственных значений 

Литература 
 
 

1. Уравнения, векторы,  матрицы, линейная алгебра 

Многие из рассмотренных  нами задач сводились к формированию систем линейных алгебраических или  дифференциальных уравнений, которые  требовалось решить. Пока системы  включали в себя не более трех-четырех  переменных, их несложно было решать известными классическими методами: методом  определителей (Крамера) или методом исключения переменных (Гаусса). С появлением цифровых вычислительных машин порядок алгебраических уравнений, решаемых методом исключений вырос в несколько десятков раз. Однако выявилось множество причин, по которым решение таких систем получить не удавалось. Появившиеся различные модификации метода исключения не привели к существенным улучшениям ситуации с получением решений. Появление же систем с количеством переменных более многих сотен и тысяч заставили обратиться и развивать итерационные методы и методы эквивалентных векторно-матричных преобразований применительно к решению линейных систем алгебраических уравнений. 

Основные теоретические  результаты были получены путем обобщения  известных классических методов  функционального анализа и алгебры  конечномерных линейных пространств  на векторно-матричные представления  систем линейных алгебраических и дифференциальных уравнений. 

Общая форма записи линейной системы алгебраических уравнений  с n неизвестными может быть представлена следующим образом: 

Здесь - неизвестные, 

- заданные числа, 

- заданные числовые  коэффициенты. 

Последовательность  записи уравнений в системе и  обозначение неизвестных в последней  не играет роли. В этом плане удобно при анализе и исследованиях  системы использовать упорядоченную  индексацию натурального ряда для неизвестных, значений правых частей и коэффициентов  в уравнениях, однозначно привязывая, тем самым, каждое слагаемое и  каждое уравнение к определенной позиции в общей записи. В результате можно выделить в данной записи уравнений  три позиционно упорядоченных неделимых  объекта: 

список переменных - , 

список правых частей - и 

матрицу коэффициентов - . 

Первые два объекта  в линейной алгебре называют вектором-строкой, а второй - квадратной матрицей. 

Операции с векторами, матрицами должны быть определены так, чтобы однозначно отображать допустимые эквивалентные преобразования исходной системы алгебраических уравнений. В предельных случаях задания  векторов и матриц: , - аддитивные и мультипликативные операции должны переходить в аналогичные операции со скалярными величинами. 

Если рассмотреть i-тую строку исходной системы то в ней кроме упорядоченного расположения компонент присутствует упорядоченное  по индексу j размещение коэффициентов , которые могут рассматриваться как вектор-строка . Результатом суммы покомпонентного перемножения двух векторов-строк должно быть число. В линейной алгебре такая операция с векторами определена и названа скалярным или внутренним произведением векторов:

Скалярное произведение линейно, так как обладает основными  свойствами линейных преобразований , и коммутативно. Определение скалярного произведения позволяет переписать исходную систему уравнений в виде вектора с компонентами из скалярных произведений:

или 

. 

Вторая форма представления  векторов в форме столбцов более  наглядна в смысле зрительного установления покомпонентного равенства двух векторов: стоящего слева от знака  равенства и справа. Эта форма, форма вектора-столбца принята  за каноническую (основную).

Левый вектор-столбец  в записи каждой строки содержит вектор неизвестных и естественно желание  вынести его за прямые скобки. Оставшиеся коэффициенты упорядочены, как в  матрице . Теперь для представления исходной системы уравнений в виде несложно определить векторно-матричную операцию , результатом которой является вектор с i-той компонентой, равной .Аксиоматическое построение линейной (векторной) алгебры с рассмотренными базовыми операциями позволило установить важные и полезные свойства, как самих объектов алгебры, так и их алгебраических выражений.2. Умножение векторов и матрицСреди n-мерных векторов и векторных операций над ними важно выделить сумму n векторов, умноженных на числовые константы:которая при произвольном выборе в частности может оказаться нулевым вектором (с нулевыми компонентами) или одним из суммируемых векторов . Если нулевой вектор при суммировании не нулевых векторов можно получить лишь в случае, когда все , то такие векторы в наборе называют линейно независимыми. Такими векторами в частности будут единичнывекторы , у которых все компоненты нулевые, кроме единичной компоненты, расположенной на j-строке. 

Линейно независимый  набор единичных векторов с геометрической точки зрения можно рассматривать  как n-мерную систему координат. Набор  компонент любого вектора в этой n-мерной системе определяет координаты точки конца вектора, исходящего из начала координат, а также являются длинами проекций вектора на координатных осях. 

Среди матриц размера  и операций с ними в первую очередь  необходимо отметить операцию умножения  матрицы на матрицу. Необходимость  введения операции умножения матриц возникает уже при первом взгляде  на полученную векторную форму записи линейного уравнения . Векторы слева и справа имеют равные компоненты. Так как коэффициенты в строках матрицы в общем произвольны по величине, то соответствующие компоненты вектора x не обязаны быть равными компонентам вектора y. Последнее означает, что умножение вектора x на матрицу A вызвало изменение длины и направления вектора x. Если аналогичное преобразование выполняется над вектором правой части до решения уравнения, то вектор левой части должен быть преобразован так же:Фактически мы имеем дело с заменой системы координат. Рассмотрим методику вычисления коэффициентов результирующей матрицы уравнения:где - элемент матрицы С, равный скалярному произведению вектор-строки матрицы В на вектор-столбец матрицы А.Произведение матриц в общем случае не коммутативно. Ассоциативный и распределительный законы в матричных выражениях выполняются. 

3. Нормы векторов  и матриц 

Интерпретация упорядоченного набора чисел, как вектора в многомерном  пространстве, позволяет говорить и  о его длине. В прямоугольной  системе координат по известным  длинам проекций на координатные оси  длину самого вектора вычисляют, как корень квадратный из суммы квадратов  проекций: 

, 

где - компоненты вектора , 

- евклидова норма  вектора, его длина. 

В качестве нормы  в литературе иногда используют квадрат  длины вектора или другое выражение  с компонентами вектора, лишь бы оно  обладало свойствами расстояния: было положительным, линейным и удовлетворяло  неравенству треугольника. 

Деление вектора  на величину его нормы называют нормированием, т.е. приведением вектора к единичной  длине. 

Норма матрицы в  принципе тоже может быть определена в виде корня квадратного из суммы  квадратов ее элементов или другими  выражениями со свойствами расстояний. Однако в ряде случаев работы с  векторно-матричными выражениями нормы  векторов и матриц должны быть согласованными ввиду того, что результатом произведения матрицы на вектор является опять  же вектор. Если выражение для нормы  вектора принято, то 

, 

где функция sup говорит о том, что из всех отношений норм, стоящих в числителе и знаменателе, взятых при любом векторе x, кроме нулевого, выбирается наименьшее, т.е. это функция выбора нижней границы значений. Согласованная матричная норма для евклидовой нормы вектора удовлетворяет неравенству 

. 

Нормы вектора и  матрицы служат, в основном, для  сопоставительной оценки матриц и векторов, указывая на возможный диапазон представления  строгих числовых характеристик. К  числу последних, в первую очередь, нужно отнести определители матриц, собственные значения и собственные  векторы матриц и ряд других. 

4. Матрицы и определители 

Упорядоченный набор  коэффициентов из системы линейных алгебраических уравнений используется для получения числовой характеристики, величина которой инвариантна по отношению к эквивалентным преобразованиям  системы. Речь идет об определителе матрицы. Важное свойство определителей матрицы  обнаруживается в связи с вычислением  произведения матриц: 

Учитывая это свойство и зная, что определитель единичной  матрицы det(E)=1, можно найти матрицу B и ее определитель из уравнения: 

откуда следует, что  и . 

Из свойств определителей  нелишне помнить и такие: 

где - транспонированная  матрица A, 

n - размер квадратной матрицы A, 

- матрица перестановки  строк или столбцов, 

s, c=0,1,…, n - число выполненных перестановок строк и / или столбцов. 

Если обратная матрица  исходной системы уравнений определена, то, используя эквивалентные преобразования их векторно-матричной записи, решение  уравнений можно представить  в следующем виде: 

 Умножив вектор  правых частей на обратную  матрицу, получим вектор решения. 

Классический способ вычисления обратной матрицы использует определители и осуществляется по формуле: 

, 

где - алгебраическое дополнение, а - минор матрицы A, получаемый вычислением определителя матрицы A, в которой вычеркнуты j-тая строка и i-тый столбец. 

Такой способ вычисления определителя представляет в основном теоретический интерес, так как  требует выполнения неоправданно большого числа операций. 

Очень просто вычисляется  определитель, если матрица диагональная или треугольная. В этом случае определитель равен произведению диагональных элементов. Кстати и решения уравнений, имеющих  такие матрицы коэффициентов, получаются тривиально. Поэтому основные усилия разработчиков методов решения  алгебраических уравнений направлены на поиск и обоснование эквивалентных  преобразований матрицы с сохранением  всех ее числовых характеристик, но имеющих  в конце преобразований диагональную или треугольную форму. 

5. Собственные значения  и собственные векторы 

Рассмотрим теоретические  основы и методы, позволяющие выполнять  эквивалентные матричные преобразования. 

Найдем вектор, который  под воздействием матрицы A изменяет только свою величину, но не направление. Для системы уравнений это  означает, что вектор решения должен быть пропорционален с некоторым  коэффициентом вектору правой части: 

В результате несложных  преобразований получены однородные векторно-матричные  уравнения в столбцовой и в строчной формах с некоторым числовым параметром и неизвестным вектором-столбцом x и вектором-строкой , представляющих собственное состояние системы. Однородная система может иметь отличное от нуля решение лишь в том случае, когда определитель ее равен нулю. Это следует из формул получения решения методом определителей (Крамера), в которых и определитель знаменателя, и определитель числителя оказываются равными нулю. 

Полагая, что решение  все же существует, т.е. и , удовлетворить уравнению можно только за счет приравнивания нулю определителя однородной системы: 

Раскрыв определитель и сгруппировав слагаемые при  одинаковых степенях неизвестного параметра, получим алгебраическое уравнение  степени n относительно : 

Это уравнение называется характеристическим уравнением матрицы  и имеет в общем случае n корней, возможно комплексных, которые называются собственными значениями матрицы и в совокупности составляют спектр матрицы. Относительно n корней различают два случая: все корни различные или некоторые корни кратные. 

Важным свойством  характеристического уравнения  матрицы A является то, что согласно теореме Гамильтона-Кели, матрица A удовлетворяет ему: 

где - k-тая степень  матрицы. 

Подставляя каждое в однородную систему, получим векторно-матричные  уравнения для нахождения векторов или векторов-строк . Эти векторы называются соответственно правыми собственными векторами и левыми собственными векторами матрицы. 

Решение однородных уравнений имеет некоторую специфику. Если (как в равной мере и ) является решением, то, будучи умноженным на произвольную константу, оно тоже будет являться решением. Поэтому в качестве собственных векторов берут такие векторы, которые имеют норму, равную единице, и тогда: 

Если все собственные  числа различны, то собственные векторы  матрицы A образуют систему n линейно независимых векторов таких, что 

6. Ортогональные  матрицы из собственных векторов 

Из правых собственных  векторов можно составить матрицу T, а из левых - матрицу , которые обладают уникальными свойствами по отношению к матрице A. 

Умножив матрицу A слева  на матрицу , а справа - на матрицу T, после несложных преобразований получим: 

. 

 Каждое скалярное  произведение в матрице, принимая  во внимание линейную независимость  собственных векторов, полученных  для различных собственных значений, можно преобразовать так: 

Поэтому, результатом  преобразования матрицы A будет диагональная матрица с собственными значениями, расположенными на диагонали: 

Если вместо A взять  единичную матрицу и проделать  аналогичные преобразования, то станет очевидным равенство , откуда следует . Последнее позволяет для преобразования матрицы A в диагональную обходиться только системой правых собственных векторов-столбцов: 
 

Последнее показывает, что умножение матрицы A на слева и на S справа, где S - произвольная не особая матрица, преобразует ее в некоторую матрицу B, которая имеет определитель, равный определителю матрицы A. Такие преобразования матриц называют эквивалентными (подобными). 

Продолжая использовать T-матрицу, несложно получить следующие  важные результаты: 

. 

7. Функции с матричным  аргументом 

Пусть теперь задана некоторая матричная функция  от матрицы A: 

. 

С другой стороны  очевидно и обратное 

, 

где - матрица с  одной единицей на i-том месте  диагонали (). 

где - проекторы матрицы A, образуемые умножением одноименных  правых и левых собственных векторов по правилам умножения прямоугольных  матриц с размерами соответственно и . Сумма проекторов . 

Проекторы обладают свойствами идемпотентных матриц, т.е. матриц, все степени которых равны  первой. Для невырожденных проекторов () матрицы A () справедливо: 

Представление функции  от матрицы A в виде взвешенной суммы  проекций называется спектральным разложением  матричной функции по собственным  значениям матрицы A: 

. 

 Если в качестве  матричных функций взять и , то их спектральные разложения будут следующими: 

8. Вычисление проекторов  матрицы 

Проекторы матрицы  можно также вычислить, воспользовавшись интерполяционным многочленом Лагранжа с матричным аргументом: 

По известному спектру  проекторы матрицы можно найти  и методом неопределенных коэффициентов. Для чего выбирают такие функции  от матрицы A, которые вычисляются  очевидным образом, например, такие: 

Записывая разложение для каждой функции, получим следующую  систему линейных уравнений относительно проекторов: 

В случае, когда в  спектре матрицы имеются кратные  собственные значения, вычисление проекторов осуществляется по интерполяционным формулам Лагранжа, учитывающим еще и заданные значения производных в отдельных  точках. Разложение матричной функции  по значениям ее на спектре в этом случае имеет вид: 

где - значения i-тых произ-водных функции в точках, соответствующих различным (не кратным) корням характеристического многочлена, 

- число кратных  корней , 

- проекторы кратных  корней, в выражении которых содержатся 

- проекторы различных  корней. 

9. Пример использования  числовых характеристик матриц 

Знание собственных  значений матрицы и ее проекторов позволяет выполнять вычисления аналитических функций получающихся, например, при решениях систем линейных дифференциальных уравнений, при исследованиях  эквивалентных матричных преобразований и пр. 

Для примера построим матрицу с заданными собственными значениями и собственными векторами, основанными на векторах . 

Сначала необходимо убедиться в линейной независимости  исходных векторов и добиться того, чтобы левые и правые одноименные  собственные векторы оказались  ортогональными, т.е. . Проверка линейной независимости может быть объединена с процессом ортогонализации заданной системы векторов методом Грама-Шмидта. 

Для заданных векторов построим систему векторов таких, что , следующим образом: 

Откуда последовательно  находятся коэффициенты : 

Взаимной ортогональности  векторов v можно было бы добиваться и так, чтобы каждый был ортогонален каждому , положив и приравняв нулю скалярные произведения : 

Определитель этой системы называют определителем  Грама: 

, 

где - матрица, в общем  случае комплексно сопряженная с  матрицей 

, составленной из  заданных векторов. 

Если грамиан положителен, а он всегда неотрицателен, то векторы линейно независимы, а если равен нулю, то зависимы. Это один из способов проверки конкретного набора векторов на их линейную независимость. 

Для заданного выше набора векторов определитель произведения матрицы X на транспонированную X* будет равен 

Таким образом, заданная система векторов линейно независима. Для построения ортонормированной  системы векторов последовательно  вычислим коэффициенты и ортогональные  векторы: 

После нормирования векторы образуют правую систему  собственных векторов. Транспонированная  Т-матрица с этими векторами  есть -матрица (); ее строки являются собственными левосторонними векторами: 

. 

 Внешнее (матричное)  произведение каждого нормированного  вектора самого на себя дает  нам проекторы искомой матрицы: 

Умножая каждое собственное значение из заданного набора на свой проектор и суммируя, получим: 

. 

Аналогично получается обратная матрица: 

. 

С помощью этих же проекторов вычисляется любая аналитическая  функция, аргументом которой является матрица A: 

. 

10. Оценка величины  и нахождение собственных значений 

Краткое рассмотрение основных теоретических положений  линейной алгебры позволяет сделать  следующие выводы: для успешного  решения систем линейных алгебраических уравнений и вычислений матричных  функций необходимо уметь находить ее собственные значения и собственные  векторы. 

Для любой матрицы A с действительными компонентами и любого ненулевого вектора v существует отношение Рэлея, связывающее скалярное произведение векторов v и Av с минимальным и максимальным собственными значениями: 

. 

К высказанному необходимо сделать еще ряд замечаний, связанных со случаями, когда исходная матрица имеет кратные собственные значения или оказывается вырожденной. 

Характеристическое  уравнение матрицы A с кратным  корнем можно записать в виде 

. 

На основании этой записи можно составить минимальное  характеристическое уравнение , для которого матрица A также является корнем: 

. 

Особенности в части  определения собственных значений и векторов обычно возникают в  несимметричных матрицах (). Некоторые  из них никакими подобными преобразованиями не удается свести к диагональной. Например, не поддаются диагонализации матрицы n-го порядка, которые не имеют n линейно независимых собственных векторов. Однако любая матрица A размера с помощью преобразования подобия может быть приведена к прямой сумме жордановых блоков или к канонической жордановой форме: 

, 

где A - произвольная матрица размера ; 

- жорданов блок  размера ; 

V - некоторая невырожденная  матрица размера . 

Характеристическое  уравнение жорданова блока размера  независимо от количества единиц в  верхней диагонали записывается в виде произведения одинаковых сомножителей и, следовательно, имеет только кратных  корней: 

. 

Если выразить матрицу V в форме вектора с компонентами в виде векторов-столбцов , то из равенства AV=VJ для каждого жорданового блока следует соотношение 

. 

 Здесь в зависимости  от структуры верхней диагонали,  в которой может быть либо  ноль, либо единица. Если жордановы  блоки имеют размер , то мы имеем случай симметричной матрицы или матрицы с различными собственными значениями. 

При поиске решений  систем линейных уравнений с несимметричными  матрицами, последние стремятся теми или иными приемами свести к выражению с симметричными матрицами. 

Один из возможных  подходов к решению несимметричных линейных систем состоит в замене исходной системы эквивалентной  системой: 

. 

Недостаток этого  подхода состоит в том, что  мера обусловленности произведения матрицы A на свою транспонированную, оцениваемая  отношением , оказывается больше, чем у матрицы A. 

Под мерой обусловленности  понимают отношение наибольшего  собственного значения матрицы к  наименьшему. Это отношение влияет на скорость сходимости итерационных процедур при решении уравнений. 

Итак, основными алгебраическими  системами уравнений можно считать  неоднородные системы уравнений  с симметричными матрицами коэффициентов. 

Литература 
 

1. Вержбицкий В.М.  Основы численных методов: Учебник  для вузов - 3-е изд. М: Высшая  школа, 2009. - 840 с. 

2. Самарcкий А.А. Задачи и упражнения по численным методам. Изд. 3 Изд-во: КомКнига, ЛКИ, 2006. - 208 с. 

3. Турчак Л.И., Плотников П.В. Основы численных методов. Изд-во: ФИЗМАТЛИТ®, 2003. - 304 с. 

4. Хеннер Е.К., Лапчик М.П., Рагулина М.И. Численные методы. Изд-во: «Академия/Academia», 2004. - 384c. 

5. Чистяков С.В.  Численные и качественные методы  прикладной математики. СПб: 2004. - 268 с.