Введение

 
 

      Линейная  алгебра, численные методы – раздел вычислительной математики, посвященный  математическому описанию и исследованию процессов численного решения задач  линейной алгебры.

      Среди задач линейной алгебры наибольшее значение имеют две: решение системы линейных алгебраических уравнений, определение собственных значений и собственных векторов матрицы. Другие часто встречающиеся задачи: обращение матрицы, вычисление определителя и т.д.

      Любой численный метод линейной алгебры  можно рассматривать как некоторую последовательность выполнения арифметических операций над элементами входных данных. Если при любых входных данных численный метод позволяет найти решение задачи за конечное число арифметических операций, то такой метод называется прямым. В противоположном случае численный метод называется итерационным. Прямые методы - это такие, как метод Гаусса, метод окаймления, метод пополнения, метод сопряжённых градиентов и др. Итерационные методы – это метод простой итерации, метод вращений, метод переменных направлений, метод релаксации и др.

      На  практике в большинстве случаев  найти точное решение возникшей  математической задачи не удается. Это  происходит главным образом не потому, что мы не умеем этого сделать, а поскольку искомое решение  обычно не выражается в привычных для нас элементарных или других известных функциях. Поэтому важное значение приобрели численные методы, особенно в связи с возрастанием роли математических методов в различных областях науки и техники и с появлением высокопроизводительных ЭВМ.

     Под численными методами подразумеваются  методы решения задач, сводящиеся к  арифметическим и некоторым логическим действиям над числами, т.е. к тем  действиям, которые выполняет ЭВМ.

     В настоящее время появилось значительное число различных программных  продуктов (MathCAD, MathLAB и т.д.), с помощью которых, задавая только входные данные, можно решить значительное число задач.

     Конечно, использование таких программных  продуктов значительно сокращает  время и ресурсы по решению  ряда важных задач. Однако, использование этих программ без тщательного анализа метода, с помощью которого решается задача, нельзя гарантировать, что задача решена правильно. Поэтому для более полного понимания того, как осуществляется расчет различного вида уравнений и их систем, необходимо теоретически изучить методы их решения и на практике их проработать. Этим обозначается проблема нашей работы.

    Учитывая  важность выше указанных проблем, тему своей работы мы определили так: «Численные методы решения систем линейных алгебраических уравнений ».

    В качестве объекта исследования выступают различные численные методы решения линейных алгебраических уравнений и систем линейных алгебраических уравнений.

    Предметом исследования, является выявление эффективности и сравнительная характеристика методов.

    Задачи исследования:

• изучить и проанализировать литературу по проблемам численных методов;
• изучить научную и учебную литературу по теме «Численные методы решения систем линейных алгебраических уравнений;
• определить основные этапы изучения темы «Численные методы решения систем линейных алгебраических уравнений»;
• продемонстрировать на примерах использование методов.

    Дипломная работа состоит из введения, двух глав, заключения, списка используемой литературы (20 наименований).

    Во  введении обоснована актуальность темы исследования, определены объект, предмет, проблема и задачи исследования.

    В первой главе изучается теория и терминология численных методов с примерами и пояснениями.

    Во второй главе  рассматривается применение численных методов решения линейных алгебраических уравнений в теории и на практике.

    В заключении подведены итоги и  сделаны основные выводы. 
 

    Глава I. Теоретические  основы исследования

      §1 ЧИСЛЕННЫЕ МЕТОДЫ

 
 

         Разрешимость системы линейных уравнений.

         Когда мы говорим о главной матрице системы линейных уравнений, то всегда имеем в виду квадратную матрицу nхn, т. е. матрицу с одинаковым количеством строк и столбцов. Это важно.

     Если, например, количество строк (количество уравнений в системе) будет меньше, чем количество столбцов (фактически, количества неизвестных), то система будет неопределенной, т. е. мы не сможем однозначно определить все неизвестные (решить систему).

      Но  это не единственное ограничение. Из векторной алгебры известно, что  система линейных уравнений имеет решение (однозначное) тогда и только тогда, когда ее главный определитель не равен нулю: Δ ≠ 0.

      Рассмотрим  случай, когда определитель системы  равен нулю. Здесь возможны два  варианта:

1. Δ = 0 и каждый из дополнительных определителей Δx_i = 0. Это имеет место только тогда, когда коэффициенты при неизвестных x_i пропорциональны, т. е. каждое уравнение системы получается из первого уравнения умножением обеих его частей на число k. При этом система имеет бесчисленное множество решений.
2. Δ = 0 и хотя бы один дополнительный определитель Δx_i ≠ 0. Это имеет место только тогда, когда коэффициенты при всех неизвестных x_i, пропорциональны. При этом получается система из противоречивых уравнений, которая не имеет решений [7].

 

1. Матричный метод решения  систем линейных алгебраических уравнений

 

      Пусть дана система линейных уравнений:

      

      Рассмотрим  матрицу, составленную из коэффициентов  при неизвестных:

      

      Свободные члены и неизвестные можно  записать в виде матрицы столбцов:

      

      Тогда, используя правило умножение  матриц, эту систему уравнений можно записать так:

      

      или

      A·x = b. (1)

      Равенство (1) называется матричным уравнением или системой уравнений в матричном  виде.

      Матрица А коэффициентов при неизвестных  называется главной матрицей системы.

      Иногда  рассматривают также расширенную матрицу системы, т. е. главную матрицу системы, дополненную столбцом свободных членов, которую записывают в следующем виде:

      

      Любую линейную систему уравнений можно  записать в матричном виде. Например, пусть дана система:

      

      Эта система из двух уравнений с тремя неизвестными – x, y,. В высшей математике можно рассматривать системы из очень большого числа уравнений с большим количеством неизвестных и поэтому неизвестные принято обозначать только буквой х, но с индексами:

      

      Запишем эту систему в матричном виде:

      

      Здесь главная матрица системы:

      

      Расширенная матрица будет иметь вид:

        
 

      Microsoft Office Excel. Если же говорить о программе Excel, которая является одной из наиболее известных в обработке электронных таблиц, то без преувеличения можно утверждать, что ее возможности практически неисчерпаемы.

      Обработка  текста, управление базами данных -  программа настолько мощна, что  во многих случаях превосходит специализированные программы - редакторы или программы  баз данных. Такое многообразие функций может  поначалу  запутать, нежели заставить  применять   их  на  практике. Но по мере приобретения опыта начинаешь по достоинству ценить то, что границ  возможностей Excel тяжело достичь.

      За  всю историю табличных  расчетов  с  применением  персональных компьютеров требования  пользователей к подобным  программам  существенно изменились. В начале основной акцент в такой программе, как, например, Visi Calc, ставился на счетные функции.  Сегодня,  положение другое. Наряду с инженерными и бухгалтерскими расчетами  организация  и  графическое изображение  данных  приобретают  все  возрастающее  значение. Кроме того, многообразие функций, предлагаемое такой расчетной и графической программой, не должно осложнять работу пользователя. Программы для Windows создают для этого идеальные предпосылки.

      В последнее время  многие как раз  перешли на использование Windows в  качестве своей пользовательской среды. Как следствие, многие фирмы, создающие  программное обеспечение, начали предлагать большое количество программ для Windows.

      MathCAD.

      Программа MathCAD по своему назначению позволяет моделировать в электронном документе научно–технические, а также экономические расчёты в форме, достаточно близкой к общепринятым ручным расчётам. Это упрощает составление программы расчёта, автоматизирует перерасчёт и построение графических иллюстраций подобно электронным таблицам Excel, документирование результатов как в текстовом редакторе Word.

      Программа Mathcad известна за лёгкость, с которой  математические уравнения, текст, и  графика могут быть объединены в одном документе. Кроме того, вычислительные способности Mathcad распространяются от сложения столбца чисел к решению интегралов и производных, решение систем уравнений и больше.

      Достоинством  MathCAD является также наличие в его составе электронных книг. Одна из них – учебник по самой программе, другие – справочник по различным разделам математики, физики, радиоэлектроники и др. 

      К численным методам решения систем линейных уравнений относят такие  как: метод Гаусса, метод Крамера, итерационные методы. В методе Гаусса, например, работают над расширенной матрицей системы. А в методе Крамера – с определителями системы, образованными по специальному правилу. 

1.2 Метод Гаусса – прямой и обратный ход 
 

      Рассмотрим  метод Гаусса. Например, пусть дана расширенная матрица некоторой системы m линейных уравнений c n неизвестными:

      

      Будем считать, что a₁₁ ≠ 0 (если это не так, то достаточно переставить первую и некоторую другую строку расширенной матрицы местами). Проведем следующие элементарные преобразования:

      C₂-(a₂₁/a₁₁)*C₁,

      ...

      C_m-(a_m1/a₁₁)*C₁,

      т.е. Ci-(a_i1/a₁₁)*C₁, i = 2, 3, ..., m.

      Т. е. от каждой строки расширенной матрицы (кроме первой) отнимаем первую строку, умноженную на частное от деления  первого элемента этой строки на диагональный элемент а₁₁.

      В результате получим матрицу:

      

      Т. е. первая строка осталась без изменений, а в столбце под а₁1 на всех местах оказались нули. Обратим внимание, что преобразования коснулись всех элементов строк, начиная со второй, всей расширенной матрицы системы.

      Теперь  наша задача состоит в том, чтобы  получить нули подо всеми диагональными  элементами матрицы А – a_ij, где I = j.

      Повторим  наши элементарные преобразования, но уже для элемента α₂₂.

      C₁-(a₁₂/α₂₂)*C₂,

      ...

      C_m-(α_m2/α₂₂)*C₂,

      т.е. C_i-(α_i2/α₂₂)*C₂, i = 3, ..., m.

      Т. е. от каждой строки расширенной матрицы (теперь кроме первой и второй) отнимаем вторую строку, умноженную на частное  от деления первого элемента этой (текущей) строки на диагональный элемент  α₂₂.

      Такие преобразования продолжаются до тех  пор, пока матрица не приведется к верхнее - треугольному виду. Т. е. под главной диагональю не окажутся все нули:

      

      Вспомнив, что каждая строка представляет собой  одно из уравнений линейной системы  уравнений, легко заметить, что последнее m-ое уравнение принимает вид:

      γ_mn*x_n = δ_m.

      Отсюда  легко можно найти значение первого  корня – x_n = δ_m/γ_mn.

      Подставив это значение в предыдущее m-1-е  уравнение, легко получим значение x_n-1-ого корня.

      Таким образом, поднимаясь до самого верха  обратным ходом метода Гаусса, мы последовательно найдем все корни системы уравнений [5]. 

      Пример 1

      Рассмотрим  систему уравнений:

      

      Главный определитель данной системы: 

      

      Δ = [1*(-4)*(-2)+2*2*1+(-1)*(-1)*(-1)]-[1*(-4)*(-1)+2*(-1)*(-2)+2*(-1)*1] = [8+4-1]-[4+4-2] = 11-6 =5,

      т. е. Δ ≠ 0.

      Т. е. система определена и разрешима. Решим ее по методу Гаусса.

      Проведем  прямой ход метода Гаусса, выписав  предварительно расширенную матрицу  системы:

      

      Получим нули под главной диагональю в  первом столбце расширенной матрицы. Для получения нуля в элементе a21 (т. е. под диагональю во второй строке матрицы) вторую строку матрицы преобразуем по формуле C₂-(a₂₁/a₁₁)*C₁ = C₂-(2/1)*C₁ = C₂-2*C₁:

      

      Аналогично  поступаем и с элементом а31 (т. е. под диагональю в третьей  строке матрицы). Третью строку матрицы  преобразуем по формуле C₃-(a₃₁/a₁₁)*C₁ = C₃-(-1/1)*C₁ = C₃+C₁:

      

      Таким образом, мы получили нули под главной  диагональю в первом столбце расширенной  матрицы. Осталось получить нуль под  главной диагональю во втором столбце  матрицы, т. е. на месте элемента а32. Для этого третью строку матрицы преобразуем по формуле C₃-(a₃₂/a₂₂)*C₂ = C₃-(1/-2)*C₂ = C₃+1/2C₂:

        

      Таким образом, проведя прямой ход метода Гаусса, мы получили расширенную матрицу системы, приведенную к верхне-треугольному виду:

      

      Эта матрица эквивалентна системе:

      

      Обратным  ходом метода Гаусса найдем корни системы. Из последнего уравнения найдем корень х₃:

      -5/2x₃ = 3/2,

      x₃ = (3/2):(-5/2) = 3/2*(-2/5) = -3/5.

      Корень x₃ = -3/5 найден. Подставим его в верхнее (второе) уравнение системы (-2x₂-3x₃ = 1):

      -2x₂-3(-3/5) = 1,

      -2x₂+9/5 = 1,

      -2x₂ = 1-9/5,

      -2x₂ = -4/5,

      x₂ = (-4/5):(-2) = (-4/5)*(-1/2) = 2/5.

      Корень x₂ = 2/5 найден. Подставим его и корень х₃ в верхнее (первое) уравнение системы (x₁-x₂+x₃ = 0):

      x₁-2/5+(-3/5) = 0,

      x₁-5/5 = 0,

      x₁ = 5/5 = 1.

      Проверка:

        

      т. е.

      

      т. е.

      

      и т. д [9].

      Вывод: Итак, метод Гаусса (или, иначе, метод последовательного исключения неизвестных) состоит в следующем:

1. Путем элементарных преобразований систему уравнений приводят к эквивалентной ей системе с верхнее - треугольной матрицей. Эти действия называют прямым ходом.
2. Из полученной треугольной системы переменные находят с помощью последовательных подстановок (обратный ход).
3. При этом все преобразования проводятся над так называемой расширенной матрицей системы, которую и приводят к верхнее - треугольному виду в прямом ходе метода.

 

3.   Итерация для линейных систем

 
 

      Способ  итераций дает возможность получить последовательность приближенных значений, сходящихся к точному решению  системы, подобно тому, как это  делается для одного уравнения.

      Для определенности ограничимся системой из четырех уравнений с четырьмя неизвестными (система четвертого порядка), которую запишем в виде: 

      

      Разрешим  первое уравнение системы относительно х₁:

      х₁ = (-a₁₂/a₁₁)х₂-a₁₃/a₁₁х₃-a₁₄/a₁₁х₄-a₁₅/a₁₁.

      Затем разрешим второе уравнение относительно х₂ и т. д. Тогда систему можно переписать в виде:

      

      где α = -a_ik/a_ii, i = 1, 2, 3, 4; k = 1, 2, 3, 4, 5.

      Система является частным случаем записи вида:

      

      При этом линейная функция L₁ фактически не зависит от х₁.

      Зададим какие-либо начальные значения неизвестных (нулевые приближения):

      х₁⁽⁰⁾, х₂⁽⁰⁾, х₃⁽⁰⁾, х₄⁽⁰⁾.

      Подставляя  эти значения в правые части системы (*), получим первые приближения:

      

      Полученные  первые приближения могут быть так  же использованы для получения вторых, третьих и т. д. приближений. Т. е. можно записать:

      

      Условия сходимости итерационного процесса. 

      Установим условия, выполнение которых обеспечит  сходимость получающихся приближений  к истинному (точному) решению системы  х₁, х₂, х₃, х₄.

      Не  вдаваясь в подробности, скажем, что для того чтобы итерационный процесс сходился к точному решению, достаточно, чтобы все коэффициенты системы были малы по сравнению с диагональными.

      Это условие можно сформулировать и  более точно [20]:

      Для сходимости процесса итераций достаточно, чтобы в каждом столбце сумма отношений коэффициентов системы к диагональным элементам, взятым из той же строки, была строго меньше единицы:

        

      1.4 Итерация Якоби 
 

      Рассмотрим  систему линейных уравнений:

      

      Уравнения можно записать в виде:

      

      Это позволяет предложить следующий итерационный процесс:

      

      или (другой вид записи) 

      

      Покажем, что если начать с точки P₀ = (х₁⁽⁰⁾, х₂⁽⁰⁾, х₃⁽⁰⁾, х₄⁽⁰⁾) = (1, 2, 2), то итерация (3) сходится к решению (2, 4, 3). Подставим х₁ = 1, х₂ = 2, х₂ = 2 в правую часть каждого уравнения из (3), чтобы получить новые значения:

      

      Новая точка P₁ = (х₁⁽¹⁾, х₂⁽¹⁾, х3⁽¹⁾, х₄⁽¹⁾) = (1.75, 3.375, 3), ближе, чем P₀.

      Итерация, использующая (3), генерирует последовательность точек {P_k}, которая сходится к решению (2, 4, 3):

      Этот  процесс называется итерацией Якоби и может использоваться для решения определенных типов линейных систем [19]. 

      1.5 Итерация Гаусса-Зейделя 
 

      Процесс итерации Якоби иногда можно модифицировать для ускорения сходимости.

      Отметим, что итеративный процесс Якоби  производит три последовательности – {х₁^(k)}, {х₂^(k)}, {х₃^(k)}, {х₄^(k)}. Кажется разумным, что х₁^(k+1) может быть использовано вместо х₂^(k). Аналогично х₁^(k+1) и х₂^(k+1) можно использовать в вычислении х₃^(k+1). Например, для уравнений из системы (1) это даст следующий вид итерационного процесса Гаусса-Зейделя, использующий (3*):

      

      Такой итерационный процесс даст результаты: 
 

 

      Т. е. к точному решению мы пришли уже на 10-ом шаге итерации, а не на 19, как в итерации Якоби [19]. 
 

      Вывод:

1. Способ итераций дает возможность получить последовательность приближенных значений, сходящихся к точному решению системы. Для этого система приводится к виду (для случая системы из четырех уравнений):