Ирина Эланс

Автор который поможет с любыми образовательными и учебными заданиями

Алгоритмы и программы

Глава 1. Алгоритмы и программы

1.1 История развития теории алгоритмов.

Теория алгоритмов, как наука, непосредственно связана с предметами математической логики и теории конечных автоматов. В Древней Греции Аристотель и его ученик Платон сформулировали основные правила логики, которые используются до нашего времени для доказательства правильности и решения логических задач.

Математическая логика – это наука о правилах формального логического мышления.

Теория автоматов изучает модели конечных автоматов, описывающие вычислительные узлы и элементы управления ЭВМ и других технических устройств.

Возникновение понятия «алгоритм» связано с именем узбекского математика Маххамада ибн Мусса Аль-Хорезми (IX в.), который сформулировал правила умножения и деления чисел в десятичной системе счисления. В латинских переводах с арабского языка его имя записывалось как algorismi. В дальнейшем термин алгоритм использовался для обозначения произвольных процессов, в которых искомые величины решаемых задач находятся последовательно из исходных данных по определённым правилам.

На протяжении многих веков учёные всего мира создали много методов и алгоритмов решения различных задач в математике и физике.

В 1936 году английский ученый Тьюринг разработал модель вычислительной машины для решения задач на основе алгоритмов и доказал:

возможность автоматического решения задач с помощью алгоритмов, реализуемых в виде программы;
реальность создания универсальных вычислительных машин.

На основе этой модели («машина Тьюринга») была построена классическая теория алгоритмов, основу которой составляли формальные описания следующих понятий:

1 – алгоритм;

2 – алгоритмический процесс;

3 – взаимосвязь между алгоритмом и алгоритмическим процессом и др.

Таким образом, само понятие алгоритма стало объектом математического изучения. В классической теории алгоритмов изучаются только вопросы существования или несуществования алгоритмов путем сведения этих вопросов к исследованию какого-либо одного узкого класса алгоритмов, что не позволяет охватить многие важные проблемы данной теории.

Теоретический аспект теории алгоритмов заключается в том, что она является фундаментов вычислительных наук, средством обоснования математики, доказательства правильности и разрешимости задач.

До середины XX века использовалось понятие алгорифма, заимствованное из математики. Позже с возникновением практического аспекта теории алгоритмов стал использоваться термин алгоритм. Причиной этому послужило развитие наук, изучающих структуру и принципы работы ЭВМ. Решение задач на ЭВМ было принято описывать в виде алгоритмов. Создание компьютеров и языков программирования способствовало выделению теории алгоритмов как самостоятельной дисциплины. Сегодня понятие алгоритма вышло за пределы математики и используется в различных областях, где алгоритмом называют точно сформулированное правило, являющееся руководством для достижения необходимого результата. Кроме того, алгоритмы являются первоосновой для программирования задач на ЭВМ.

Практический аспект теории алгоритмов заключается в классификации задач по классам сложности, разработке алгоритмов решения трудных задач, оценке сложности алгоритмов, создании методов разработки быстрых эффективных алгоритмов. За последние годы было создано много хороших алгоритмов решения задач различных классов.

1.2 Основные понятия, определения и задачи теории алгоритмов.

Было выявлено, что если удается получить алгоритм решения какой-либо задачи, то эту задачу можно решать автоматически с помощью технических устройств.

Таким образом, алгоритмы являются:

формой изложения научных результатов;
руководством к действию при решении уже изученных проблем;
средством автоматического решения задач;
инструментом, используемым при исследовании и решении новых проблем;
средством обоснования в математике;
одним из средств описания сложных процессов.

Хотя алгоритмы важны для практики, практическая потребность не является первичной при изучении и разработке алгоритмов. Часто они разрабатываются для решения задач, которые не имеют пока практического применения. Однако многие научные результаты, полученные без практики, рано или поздно находят свое практическое применение.

1.2.1. Понятие алгоритма.

Существует два основных понятия алгоритма:

1 – интуитивное определение;

2 – формальное определение.

1. Алгоритм в интуитивном смысле – это точное предписание о выполнении в определенном порядке некоторой последовательности операций для решения всех задач некоторого заданного типа.

Содержание алгоритма, удобного для решения какой-либо задачи, позволяет использовать его даже человеку-непрофессионалу. Кроме того, его можно техническим устройством, выполняющим алгоритм автоматически (ЭВМ по заданной программе).

Формализация понятия алгоритма не должна учитывать ограниченность ресурсов, необходимых для его реализации, но требовать конечности этих ресурсов, т. е. возможной реализации как таковой.

2. Формальное определение алгоритма дается на основе математических методов и основывается либо на других понятиях, имеющих математическое определение, либо на понятиях-аксиомах, не требующих доказательства.

На основе свойств алгоритма можно сформулировать формальное определение. Алгоритм – это правило, сформулированное на некотором языке и определяющее процесс преобразования исходных данных в искомые результаты (алгоритмический процесс). При этом допустимые исходные данные представлены как предложения на языке исходных данных.

Алгоритм характеризуется:

понятностью для исполнителя;
массовостью, то есть допустимостью для него всех предложений на языке описания исходных данных;
детерминированностью и другими свойствами.

Неточность интуитивного понятия заключается в неточности тех терминов, через которые оно выражается, а именно:

язык;
понятность;
точность

интуитивные понятия,

смысл которых ясен, а научные

определения не составлены.

1.2.2 Алгоритмический процесс.

Алгоритмический процесс – это процесс последовательного преобразования конструктивных объектов, происходящий дискретно.

Конструктивные объекты – это слова, числа, предложения, которые описывают исходные данные, промежуточные результаты и конечные данные.

Алгоритмический процесс состоит из конечного числа шагов, каждый из которых является простым и выполняется за конечное время. Число шагов алгоритмического процесса связано с количеством времени S(t), затрачиваемого на их выполнение, а в ряде случаев и расходом других ресурсов.

1.2.3 Основные вопросы теории алгоритмов.

Основные вопросы теории алгоритмов можно сформулировать следующим образом:

Что может делать ЭВМ.
Каким образом ЭВМ решает задачи.
Существует ли для заданной задачи эффективный алгоритм решения.
Как сравнить различные алгоритмы решения одной и той же задачи.

1) Анализ вычислительных процессов, протекающих в соответствии с заданными алгоритмами, привел к следующему открытию. Было строго доказано существование таких типов задач, для которых невозможен единый эффективный метод решения, т. е. алгоритм, решающий все задачи данного класса (неразрешимые задачи).

Более того, ряд задач невозможно решить на современном уровне развития ЭВМ (задачи искусственного интеллекта). Поэтому одной из главных целей теории алгоритмов является исследование различных типов задач по областям применения с целью выяснить, возможен ли для них алгоритм решения.

2) Ответ на второй вопрос требует рассмотрения принципов работы ЭВМ и организации вычислительных процессов для различных структур ЭВМ в рамках их классификации, а также оценки качества алгоритмов, реализуемых в различных ЭВМ.

3) Эффективным считается алгоритм, обладающий наибольшим быстродействием.

4) Для сравнения различных алгоритмов по быстродействию необходимо рассмотреть следующие параметры:

временная функция T(N);
функция сложности алгоритма O(g(N)), учитывающая зависимость скорости роста числа шагов алгоритма от объема исходных данных.

1.3 Алгоритмы и языки.

Как уже отмечалось, алгоритм – это правило, а любое правило должно быть четко сформулировано на каком-либо языке (1). Это возможно лишь при условии, что исходные данные и искомые результаты могут быть описаны в полном объеме на каком-либо другом языке (2). Т. е. каждому исходному данному, промежуточному и конечному результатам соответствует некоторое предложение на этом языке. Смысл предложения должен быть однозначным.

Язык (1) – это язык описания алгоритмов (алгоритмический язык).

Язык (2) – это язык описания данных (язык операндов).

В самом алгоритме присутствуют не конкретные исходные, промежуточные или конечные данные, а только их названия (например, переменные в программах). Для задания алгоритмического процесса достаточно знать названия операций, их порядок и названия искомых результатов.

Операнд – это объект, над которым выполняется операция, задаваемая алгоритмом. Все предложения языка операндов считаются допустимыми, а какие-либо сочетания символов (алфавита), не принадлежащих данному языку, по определению недопустимы.

Разнообразие допустимых предложений языка операндов описывает разнообразие предметов и задач, что определяет свойство массовости алгоритма.

1.4. Способы записи алгоритмов

Существуют различные формы (способы) представления алгоритмов. Основными среди них являются:

Словесное описание алгоритма на естественном языке (вербальная форма).
Построчная запись алгоритма (более строгое описание на естественном языке).
Представление алгоритма в виде блок-схемы.
Способ изображения алгоритма с помощью структурограммы (схема Насси-Шнейдермана).
Запись алгоритма на каком-либо языке программирования.

Пример: Найти наибольший общий делитель (НОД) двух целых положительных чисел методом последовательного вычитания (алгоритм Евклида).

Вербальное представление алгоритма.

«Чтобы найти НОД двух целых положительных чисел составим таблицу из двух столбцов и назовем их m и n. Запишем первое из заданных чисел в столбец m, а второе - в столбец n. Если данные числа не равны, заменим большее из них результатом вычитания из большего меньшего числа. Повторяем такие замены до тех пор, пока числа не окажутся равными, после чего число из столбца m считаем искомым результатом». Очевидно, такая форма представления алгоритма может тяжело восприниматься читателем и применяется в основном при решении простых задач.

Построчная запись алгоритма.

Начало.
Ввод m, n.
Если m¹n, перейти к пункту 4, иначе - к пункту 7.
Если m>n, перейти к пункту 5, иначе - к пункту 6.
m=m-n; перейти к пункту 3.
n=n-m; перейти к пункту 3.
НОД=m.
Вывод результата.
Конец.

Представление алгоритма в виде блок-схемы отличается высокой степенью наглядности. Блок-схема состоит из соединенных между собой стрелками (линиями потока информации) блоков различного вида, начертание которых регламентируется ГОСТ 19701-90. Применительно к рассматриваемой задаче блок-схема алгоритма выглядит:

Представление алгоритма с помощью структурограммы позволяет изображать схему передач управления не с помощью явного указания линий потоков информации, а посредством представления вложенности структур:

Запись алгоритма на конкретном языке программирования представляет собой текст программы, который текст должен быть откомпилирован, то есть, переведен на язык машинных команд, понятный компьютеру.

Program nod;

Var m, n: integer;

Begin

Writeln(‘Введите исходные числа m и n’); Read(m,n);

While m<>n do

If m>n Then m:=m-n Else n:=n-n;

Writeln(‘НОД равен’, m:3);

End.

1.5 Свойства алгоритмов.

1. Дискретность. Алгоритм определяет дискретный характер процесса решения задачи. Поэтому правило, порождающее непрерывный характер процесса решения задачи, не является алгоритмом.

Примеры:

«Уходя, гасите свет» - примитивный алгоритм.

«Правила пользования междугородним телефоном» - пошаговый процесс.

«Не курить» - непрерывный процесс, не являющийся алгоритмом.

2. Массовость. Алгоритм должен решать не одну конкретную задачу (ограниченное множество неизменных исходных данных), а серию однотипных задач. Т. е. множество различных исходных данных порождает различные результаты.

Хоты массовость является одним из свойств большинства алгоритмов, также ценность представляют алгоритмы, имеющие единственный вариант исходных данных.

Нужно считать, что для каждого алгоритма существует некоторый класс объектов, допустимых в качестве исходных данных.

Массовость алгоритма – это допустимость всех объектов соответствующего класса, а не допустимость какого-либо их количества.

3. Детерминированность. Реализация алгоритма является детерминированным (определенным) процессом. Всякий раз при запуске алгоритма с одинаковыми исходными данными должен получаться одинаковый результат, т. е. алгоритм может быть повторен сколько угодно раз.

4. Потенциальная осуществимость алгоритма. Говорят, что алгоритм применим к допустимому исходному данному, если с его помощью можно получить искомый результат. Иначе, хотя исходное данное и допустимо, но алгоритм к нему не применим.

Неприменимость алгоритма к допустимому исходному данному заключается в том, что алгоритмический процесс становится бесконечным, либо безрезультатно обрывается на каком-либо шаге.

Отвлекаясь от реальной ограниченности времени и ресурсов, необходимых для выполнения алгоритма, требуют лишь того, чтобы алгоритмический процесс заканчивался после конечного числа шагов, и чтобы на каждом шаге не было препятствий для его выполнения. В этом случае считают, что алгоритм применим к исходному данному и потенциально (а не реально) осуществим.

Пример1. Бесконечный цикл:

i=0

while i<= 10 do

k=k*2;

Пример 2. Последовательность вычислений:

1. b=2*a

2. b=b+1

3. c=b mod 3 a=6®d=6

4. d=a/c a=7®алгоритм не применим (ошибка деления на ноль).

Кроме потенциальной осуществимости алгоритма на практике требуется и реальная осуществимость.

5. Понятность. Алгоритм понятен для исполнителя, если он знает, как его выполнять (know how). Возникает вопрос: что именно должен знать исполнитель?

Свойство понятности можно истолковать как наличие алгоритма, определяющего процесс выполнения заданного алгоритма. В этом случае исполнителями могут быть любые объекты. Тогда исполнителю должен быть известен алгоритм (руководство к действию) для решения всех других алгоритмов, соответствующих исполнителю. Таким образом, возникает рекурсивное определение алгоритма, например, любая операционная система – это алгоритм алгоритмов.

6. Корректность. Алгоритм корректен, если выполняются три условия:

Преобразование допустимых входных данных в выходные результаты выполняется за конечное число шагов (свойство дискретности).
Результат работы алгоритма устойчив к погрешностям исходных данных.
Результат работы алгоритма устойчив к вычислительной погрешности (свойство обусловленности).

Если хоть одно из этих условий не выполняется, то алгоритм считается некорректным.

Вычислительная погрешность (машинная точность) возникает из-за ограниченной разрядной сетки ЭВМ и операций округления.

Обусловленность алгоритма показывает чувствительность результата работы алгоритма к малым, но неизбежным ошибкам вычислений.

Алгоритм хорошо обусловлен, если малые вычислительные погрешности приводят к малой относительной погрешности результата.

Для плохо обусловленного алгоритма .

Примечание 1. Если задача корректна и хорошо обусловлена, то плохо обусловленный алгоритм даёт неправильное решение и требует замены.

Примечание 2. Если исходная задача не корректна и плохо обусловлена, то никакой хороший алгоритм не даст правильного решения.

Пример3: Алгоритм деления двух чисел столбиком не корректен, если не задан критерий окончания вычислительного процесса.

Пример4: Рассмотрим задачу нахождения корней квадратного уравнения:

Пусть точное значение выходного данного x=5, а результат измерений и ввода в компьютер значений входных данных a,b,c содержит малую погрешность .

Тогда для точных значений входных данных существует единственный действительный корень (D=0), а погрешность входных данных приводит к появлению комплексных корней, не имеющих физического смысла при решении задачи.

Пример5: Вычислить значение интеграла

При вычислениях допускать округление результатов до шести знаков после запятой.

Выполним интегрирование по частям и получим рекуррентную формулу

Будем проводить вычисления начиная со значения I₀. Тогда на девятом шаге получим , что приводит в дальнейшем к росту погрешности и неправильному результату. Погрешность вычислений растёт со скоростью факториала.

Вывод: Алгоритм неустойчив при .

Однако, устойчивость алгоритма зависит от порядка вычислений. Так, если проводить вычисления в обратном порядке по формуле , начиная с конца, например, n=54, то на первом шаге ошибка будет велика порядка 0,05, но с каждым шагом она будет уменьшаться со скоростью факториала, что обеспечивает правильное решение в целом.

Пример 6: Вычислить значение функции .

А) при объявлении в программе переменной X : real вещественного типа, для её хранения в памяти компьютера отводится 6 байт, что позволяет хранить числа в диапазоне {10^-38…10³⁸}. Прямой порядок произведения чисел уже на первом шаге выдает ошибку переполнения в программе: .

Б) тоже самое возникает при обратном порядке перемножения чисел: .

В) Сгруппируем пары произведений чисел и обеспечим корректность алгоритма

Если алгоритм создан для решения определенной задачи (заданного набора исходных данных), то для любого исходного данного из этого набора должно формироваться правильное решение. Эмпирические алгоритмы, как правило, не корректны.

В этом смысле иногда используется более простое толкование свойства корректности. Считают, что алгоритм корректен, если его можно применить.

7. Эффективность. Данное свойство определяет быстродействие и связано с понятием вычислительной сложности алгоритма.

Эмпирические алгоритмы, как правило, не являются эффективными. Теоретические алгоритмы являются корректными и эффективными, но могут быть реально неосуществимы.

1.6 Классификация алгоритмов.

I. Т. к. алгоритм создается для решения задач одного класса, то вводят классификацию алгоритмов по типу решаемых задач:

Табличные алгоритмы имеют в своей основе таблицу (поле исходных значений) и правила поиска решений.
Численные алгоритмы задаются в виде формул и блок-схем. В их основе значительную роль играют арифметические операции (+,–, /, *).
Алгоритмы игр имеют в основе логические задачи.
Комбинационные алгоритмы представляют собой совокупность алгоритмов других классов.

II. По способу создания (источники) различают:

Эмпирические алгоритмы – алгоритмы, полученные в ходе эксперимента или имитационного моделирования.
Теоретически обусловленные алгоритмы – алгоритмы, возникшие из основных положения какой-либо теории.
Эвристические алгоритмы – алгоритмы, основанные на личном опыте, таланте и изобретательности разработчика.
Комбинационные алгоритмы – генерируются из уже известных алгоритмов.

III. По критерию реализуемости различают:

Простые алгоритмы – хорошо обусловленные алгоритмы.
Трудно разрешимые алгоритмы – алгоритмы решения частных задач, обладающих большой сложностью и не являющихся эффективными.
Нереализуемые алгоритмы.

IV. По критерию сложности различают:

Алгоритмы с логарифмической сложностью.
Полиномиальные алгоритмы (класс P).
Недетерминированные полиномиальные алгоритмы (класс NP), имеющие степенную или факториальную сложность.

1.7 Методы доказательства корректности алгоритмов.

I. Корректность эмпирических алгоритмов обычно доказывается экспериментально. Такой алгоритм корректен, если он позволяет получить правильное решение для всего набора допустимых исходных данных.

II. Корректность теоретически обусловленных алгоритмов гарантируется формальным доказательством.

III. Корректность комбинационных алгоритмов, полученных на основе других ранее известных и заведомо корректных алгоритмов, определяется различными методами:

Конструирование алгоритмов. Новый алгоритм получают комбинированием уже известных алгоритм как составных частей.
Метод эквивалентных преобразований алгоритма. Два алгоритма считаются эквивалентными, если:

всякий вариант исходных данных, допустимый для одного алгоритма, также допустим и для другого;
применимость одного алгоритма к каким-либо исходным данным гарантирует, что и другой алгоритм тоже к ним применим;
результаты, даваемые как первым, так и вторым алгоритмами при одинаковых входных данных также одинаковы.

Алгоритмы и программы 📙 Реферат → 🆔 20433