Федеральное агентство по образованию

Государственное образовательное  учреждение

высшего профессионального  образования 

Факультет физико-математический

Кафедра математического моделирования 
 
 

Курсовая работа

          Применение муравьиных алгоритмов

            при решении задач оптимизации 
 
 
 
 
 
 
 

2009г.

Содержание         Введение..................................................................................................................3

Глава 1. Муравьиные алгоритмы.

     1. Биологические принципы поведения муравьиной колонии.................5

     2. Истории создания муравьиных алгоритмов...........................................7

     3. Концепция муравьиных алгоритмов.................................. …………....9

     4. Обобщённый алгоритм............................................... ...........................11

     5. Этапы решения задачи при помощи муравьиных алгоритмов...........13

     6. Достоинства и недостатки муравьиных алгоритмов...........................14

     6.1. Достоинства:.........................................................................................14

     6.2. Недостатки:...........................................................................................14

Глава 2. Применение муравьиных алгоритмов при решении  задач оптимизации.

     1.1. Применение муравьиных алгоритмов для задачи

     коммивояжёра..............................................................................................16

     1.2. Муравьиный алгоритм для задачи коммивояжёра в псевдокоде..............................................................................................................25

     2.1.  Задача оптимального распределения файлов      в    компьютерной сети……………………………………………………………………….…...28

     2.2  Муравьиный алгоритм для задачи  распределения файлов 

     в компьютерной сети  в псевдокоде…………………………..…………29

Заключение………………...................................................................................32

Список  использованной литературы...................................................................33

Приложение……………………………………………………………………....35 
 

         Введение

     Актуальность  работы. В последние годы интенсивно разрабатывается научное направление с названием «Природные вычисления» (Natural Computing), объединяющее математические методы, в которых заложены принципы природных механизмов принятия решений. Эти механизмы обеспечивают эффективную адаптацию флоры и фауны к окружающей среде на протяжении нескольких миллионов лет.

     Среди так называемых “Soft computing techniques”, разработанных  за последние десять лет для трудно решаемых задач дискретной оптимизации, числятся

     • Генетические алгоритмы  - основываются на естественном отборе и генетике.

     • Муравьиные алгоритмы (Ant Colony Optimization – ACO, Ant Systems – AS) –моделируют поведение муравейника.

     Цель  работы. Изучение работы муравьиных алгоритмов, решение задач оптимизации с помощью данного алгоритма и реализация его с помощью языка программирования Delphi.   

          Задачи работы.

• Изучить теоретические основы  муравьиных алгоритмов.
• Описать решение муравьиными алгоритмами задач оптимизации.
• Проанализировать применения муравьиных алгоритмов.

     Практическая  ценность. В ходе выполнения дипломной работы был создан программный продукт реализации муравьиного алгоритма, который

      можно успешно применять в различных областях для решения сложных задач оптимизации.

      Новизна работы. Задачи выбора оптимальных решений составляют в настоящее время   обширную область актуальных практических и теоретических приложений. В работе излагаются результаты исследования возможности применения одного из таких  алгоритмов – алгоритм моделирования    поведения муравьиных колоний для решения задач оптимизации.

Содержание работы.

     Дипломная работа состоит из введения, двух глав, заключения,

списка литературы и приложений.

     В первой главе рассмотрены биологические принципы поведения муравьиной колонии, история создания, концепция и принцип работы муравьиных алгоритмов.

     Во  второй главе  решены задачи оптимизации (задача коммивояжера и задача оптимального распределения файлов в компьютерной сети) с помощью муравьиных алгоритмов. Приведен сравнительный анализ  результатов  решения задачи коммивояжера с помощью муравьиного и генетических алгоритмов.

     В приложении приведены листинги программ реализации задач оптимизации на языке программирования Delphi. 

Глава 1. Муравьиные алгоритмы

     1. Биологические принципы поведения муравьиной колонии.

         Муравьи относятся к социальным насекомым, образующим коллективы. Коллективная система способна решать сложные динамические задачи по выполнению совместной работы, которая не могла бы выполняться

каждым  элементом системы в отдельности  в разнообразных средах без внешнего управления, контроля или  координации. В таких случаях говорят о роевом интеллекте, как о замысловатых способах кооперативного поведения, то есть стратегии выживания.

        Одним из подтверждений оптимальности поведения муравьиных колоний является тот факт, что сеть гнёзд суперколоний близка к минимальному остовному дереву графа их муравейников. [1]

        Основу поведения муравьиной колонии составляет самоорганизация, обеспечивающая достижения общих целей колонии на основе низкоуровневого взаимодействия. Колония не имеет централизованного управления, и её особенностями являются обмен локальной информацией только между отдельными особями (прямой обмен – пища, визуальные и химические контакты) и наличие непрямого обмена, который и используется в муравьиных алгоритмах. Таким образом, в общем случае рассматриваются слепые муравьи, не способные чувствовать близость пищи.

         Непрямой обмен – стигмержи (stigmergy), представляет собой разнесённое во времени взаимодействие, при котором одна особь изменяет

некоторую область окружающей среды, а другие используют эту информацию позже, когда в неё попадают. Биологи установили, что такое отложенное взаимодействие происходит через специальное химическое вещество – феромон (pheromone), секрет специальных желёз, откладываемый при перемещении муравья. Концентрация феромона на пути определяет предпочтительность движения по нему. [2]

       Адаптивность поведения реализуется испарением феромона, который в природе воспринимается муравьями в течение нескольких суток. Мы можем провести некоторую аналогию между распределением феромона в

окружающем  колонию пространстве, и «глобальной» памятью муравейника, носящей динамический характер.  

     2.История создания муравьиных алгоритмов

         Началось всё с изучения поведения реальных муравьёв. Эксперименты с Argentine ants, проводимые Госсом в 1989 и Денеборгом в 1990 году послужили отправной точкой для дальнейшего исследования роевого интеллекта. Исследования применения полученных знаний для дискретной математики начались в начале 90-х годов XX века, автором идеи является Марко Дориго из Университета Брюсселя, Бельгия. Именно он впервые сумел формализовать поведение муравьёв и применить стратегию их поведения для решения задачи о кратчайших путях. Позже при участии Гамбарделлы, Тайлларда и Ди Каро были разработаны и многие другие подходы к решению сложных оптимизационных задач при помощью муравьиных алгоритмов. На сегодняшний день эти методы являются весьма конкурентоспособными по сравнению с другими эвристиками и для некоторых задач дают наилучшие на сегодняшний день результаты.

        Муравьиные алгоритмы представляют  собой вероятностную жадную эвристику,  где вероятности  устанавливаются, исходя из информации о качестве решения, полученной из предыдущих решений. Они могут использоваться как для статических, так и для динамических комбинаторных оптимизационных задач.  Сходимость гарантирована, то есть в любом случае мы получим оптимальное решение, однако скорость  сходимости неизвестна.

        Имитация самоорганизации муравьиной  колонии составляет основу муравьиных  алгоритмов оптимизации. Колония муравьев может рассматриваться как многоагентная система, в которой каждый агент (муравей) функционирует автономно по очень простым правилам. В противовес почти примитивному поведению агентов, поведение всей системы получается на удивление разумным. [14]

         Муравьиные алгоритмы серьезно  исследуются европейскими учеными  с середины 90-х годов. На сегодняшний день уже получены хорошие результаты для оптимизации таких сложных комбинаторных задач, как задача коммивояжера, задача оптимизации маршрутов грузовиков, задача раскраски графа, квадратичная задача о назначениях, задача оптимизации сетевых графиков, задача календарного планирования и многие другие.

     Особенно  эффективны муравьиные алгоритмы при  динамической оптимизации процессов  в распределенных нестационарных системах, например, трафиков в телекоммуникационных сетях. [1] 

     3. Концепция муравьиных алгоритмов

        Идея муравьиного алгоритма – моделирование поведения муравьёв, связанного с их способностью быстро находить кратчайший путь от муравейника к источнику пищи и адаптироваться к изменяющимся условиям,

находя  новый кратчайший путь. При своём движении муравей метит путь феромоном, и эта информация используется другими муравьями для выбора пути. Это элементарное правило поведения и определяет способность муравьёв находить новый путь, если старый оказывается недоступным.

        Рассмотрим случай, показанный на рисунке, когда на оптимальном доселе пути возникает преграда. В этом случае необходимо определение нового оптимального пути. Дойдя до преграды, муравьи с равной вероятностью будут обходить её справа и слева. То же самое будет происходить и на обратной стороне преграды. Однако, те муравьи, которые случайно выберут кратчайший путь, будут быстрее его проходить, и за несколько передвижений он будет более обогащён феромоном. Поскольку движение муравьёв определяется концентрацией феромона, то следующие будут предпочитать именно этот путь, продолжая обогащать его феромоном до тех пор, пока этот путь по какой-либо причине не станет недоступен.

        Очевидная положительная обратная связь быстро приведёт к тому, что кратчайший путь станет единственным маршрутом движения большинства муравьёв. Моделирование испарения феромона – отрицательной обратной связи – гарантирует нам, что найденное локально оптимальное решение не будет единственным – муравьи будут искать и другие пути. Если мы моделируем процесс такого поведения на некотором графе, рёбра которого представляют собой возможные пути перемещения муравьёв, в течение определённого времени, то наиболее обогащённый феромоном путь по рёбрам этого графа и будет являться решением задачи, полученным с помощью муравьиного алгоритма. [15] 

      4. Обобщённый алгоритм

         Любой муравьиный алгоритм, независимо от модификаций, представим в следующем виде

     • Пока (условия выхода не выполнены)

     1. Создаём муравьёв

     2. Ищем решения 

     3. Обновляем феромон 

     4. Дополнительные действия {опционально} 

         Теперь рассмотрим каждый шаг в цикле более подробно

1. Создаём муравьёв

         Стартовая точка, куда помещается муравей, зависит от ограничений, накладываемых условиями задачи. Потому что для каждой задачи способ размещение муравьёв является определяющим. Либо все они помещаются в одну точку, либо в разные с повторениями, либо без повторений.

           На этом же этапе задаётся начальный уровень феромона. Он инициализируется небольшим положительным числом для того, чтобы на начальном шаге вероятности перехода в следующую вершину не были нулевыми.

     2. Ищем решения 

         Вероятность перехода из вершины i в вершину j определяется по следующей формуле

       Где – уровень феромона, – эвристическое расстояние, а α, β,– константные параметры.

        При α = 0 выбор ближайшего города наиболее вероятен, то есть алгоритм становится жадным. При  β = 0 выбор происходит только на основании феромона, что приводит к субоптимальным решениям.

       Поэтому необходим компромисс между этими величинами, который находится экспериментально.

     3. Обновляем феромон 

Уровень феромона обновляется в соответствии с приведённой формулой

     Где   ρ– интенсивность испарения,   Lk(t )– цена текущего решения для k-ого муравья, а Q – параметр, имеющий значение порядка цены оптимального решения, то есть – феромон, откладываемый k-ым муравьём, использующим ребро (i,j).

     4. Дополнительные действия 

       Обычно здесь используется алгоритм  локального поиска, однако он  может также появиться и после  поиска всех решений. [1]  

     5. Этапы решения задачи при помощи муравьиных алгоритмов

     Для того чтобы построить подходящий муравьиный алгоритм для решения какой-либо задачи, нужно

     1. Представить задачу в виде  набора компонент и переходов  или набором неориентированных  взвешенных графов, на которых  муравьи могут строить решения.

     2. Определить значение следа феромона.

     3. Определить эвристику поведения муравья, когда строим решение .

     4. Если возможно, то реализовать  эффективный локальный поиск.

     5. Выбрать специфический ACO алгоритм  и применить для решения задачи.

     6. Настроить параметр ACO алгоритма.

     Также определяющими являются

         • Количество муравьёв

         • Баланс между изучением  и использованием

         • Сочетание с  жадными эвристиками или локальным  поиском 

         • Момент, когда обновляется  феромон [4] 
 
 
 
 
 
 

     6. Достоинства и недостатки муравьиных алгоритмов

     6.1. Достоинства:

• Для TSP (Traveling Salesman Problem) сравнительно эффективны
• Для небольшого количества узлов TSP может быть решена полным перебором
• Для большого количества узлов TSP вычислительно сложна (NP-трудная) – экспоненциальное время сходимости
• Работают лучше, чем другие глобальные оптимизации для TSP (нейронные сети, генетические алгоритмы)
• Сравнение с GAs (Genetic Algorithms):
• Опираются на память обо всей колонии вместо памяти только о предыдущем поколении
• Меньше подвержены неоптимальным начальным решениям (из-за случайного выбора пути и памяти колонии)

     6.2. Недостатки:

• Теоретический анализ затруднён:
1. В результате последовательности случайных (не независимых) решений
2. Распределение вероятностей меняется при итерациях
3. Исследование больше экспериментальное, нежели теоретическое
• Сходимость гарантируется, но время сходимости не определено
• Обычно необходимо применение дополнительных методов таких, как локальный поиск
• Сильно зависят от настроечных параметров, которые подбираются только исходя из экспериментов [1]

     Глава 2. Применение муравьиных алгоритмов при решении задач оптимизации.

     1.1.Применение муравьиных алгоритмов для задачи коммивояжёра.

        Задача формулируется как задача поиска минимального по стоимости замкнутого маршрута по всем вершинам без повторений на полном взвешенном графе с n вершинами. Содержательно вершины графа являются

городами, которые должен посетить коммивояжёр, а веса рёбер отражают расстояния (длины) или стоимости проезда. Эта  задача является NP-трудной, и точный переборный алгоритм её решения имеет факториальную сложность.

       Моделирование поведения муравьёв связано с распределением феромона на тропе – ребре графа в задаче коммивояжёра. При этом вероятность включения ребра в маршрут отдельного муравья пропорциональна количеству феромона на этом ребре, а количество откладываемого феромона пропорционально длине маршрута. Чем короче маршрут, тем больше феромона будет отложено на его рёбрах, следовательно, большее количество муравьёв будет включать его в синтез собственных маршрутов. Моделирование такого подхода, использующего только положительную обратную связь, приводит к преждевременной сходимости – большинство муравьёв двигается по локально оптимальному маршруту. Избежать этого можно, моделируя отрицательную обратную связь в виде испарения феромона. При этом если феромон испаряется быстро, то это приводит к потере памяти колонии и забыванию хороших решений, с другой стороны, большое время испарения может привести к получению устойчивого локального оптимального решения.[1]

        Теперь с учётом особенностей задачи коммивояжёра, мы можем описать локальные правила поведения муравьёв при выборе пути.

     1. Муравьи имеют собственную «память». Поскольку каждый город может  быть посещён только один раз,  то у каждого муравья есть  список уже посещённых городов – список запретов. Обозначим через  J i,k список городов, которые необходимо посетить муравью k, находящемуся в городе i.

              2. Муравьи обладают «зрением» – видимость есть эвристическое желание посетить город j, если муравей находится в городе i. Будем считать, что видимость обратно пропорциональна расстоянию между городами

     3. Муравьи обладают «обонянием» – они могут улавливать след

феромона, подтверждающий желание посетить город  j из города i на основании опыта других муравьёв. Количество феромона на ребре (i,j) в

момент  времени t обозначим через 

   На этом основании мы можем сформулировать вероятностно-пропорциональное правило, определяющее вероятность перехода k-ого муравья из города i в город j:

       Где α, β – параметры, задающие веса следа феромона. При α =0 алгоритм вырождается до жадного алгоритма (будет выбран ближайший город). Заметим, что выбор города является вероятностным, правило (1) лишь определяет ширину зоны города j; в общую зону всех городов бросается случайное число, которое и определяет выбор муравья. Правило (1) не изменяется в ходе алгоритма, но у двух разных муравьёв значение вероятности перехода будут отличаться, т.к. они имеют разный список разрешённых городов.

     5. Пройдя ребро (i,j), муравей откладывает на нём некоторое количество феромона, которое должно быть связано с оптимальностью сделанного выбора. Пусть Tk (t) есть маршрут, пройденный муравьём k к моменту времени t, Lk(t) – длина этого маршрута, а Q – параметр, имеющий значение порядка длины оптимального пути. Тогда откладываемое количество феромона может быть задано в виде

        Правила внешней среды определяют, в первую очередь, испарение феромона. Пусть есть коэффициент испарения, тогда правило испарения имеет вид

     где m – количество муравьёв в колонии.

     В начале алгоритма количества феромона на рёбрах принимается равным небольшому положительному числу. Общее количество муравьёв остаётся постоянным и равным количеству городов, каждый муравей начинает маршрут из своего города.

     Дополнительная  модификация алгоритма может  состоять в ведении так называемых «элитных» муравьёв, которые усиливают рёбра наилучшего маршрута, найденного с начала работы алгоритма. Обозначим через T* наилучший текущий маршрут, через L* – его длину. Тогда если в колонии есть e элитных муравьёв, то рёбра маршрута получат дополнительное количество феромона

     Реализация  муравьиного алгоритма  на примере 

     задачи  коммивояжера.

     Постановка  задачи. Задан взвешенный граф  G1 (рис.1). Найти длину пути муравья в задаче коммивояжера. Начальная вершина 1. Дана последовательность Р = 65,61,35 случайных чисел, выпавших при выборе очередной вершины. Расстояния  , между вершинами k,j и интенсивность феромона    на ребре [k,j] заданы таблицы

Решение

     Секторы вероятности перехода сортировать  по возрастанию номеров вершин . использовать формулу вероятности  перехода  из вершины k в j.

     где  α=1, β=1,  =1/