Многопроцессорные системы

Изм.

Лист

№ Документа_

Подпись_

_Дата_

Лист_

 

Министерство  по науке и образованию РФ

ФГБОУ ВПО

Тульский  государственный университет

Кафедра автоматики и телемеханики

 

 

 

 

 

 

 

 

 

 

 

 

Контрольно  – курсовая работа

по курсу:

«Операционные системы»

«Многопроцессорные системы»

 

 

 

 

 

 

 

Выполнил: ст. гр. 220491

Салимов А.С.

Проверил: доц. каф. АТМ

Сулимова  В.В.

 

 

 

 

 

 

 

 

 

 

 

 

Тула 2012

 

Содержание

 

Введение 3

1. Многопроцессорные системы 4

2. Архитектура многопроцессорных вычислительных систем 5

2.1. Классификация архитектур по параллельной обработке данных 5

2.2. SMP архитектура 7

2.3. MPP архитектура 9

2.4. Гибридная архитектура (NUMA) Организация когерентности многоуровневой иерархической памяти. 11

2.5. PVP архитектура 13

2.6. Кластерная архитектура 15

3. Требования к компонентам МВС 18

3.1. Отношение стоимость/производительность 18

3.2. Масштабируемость 19

3.3. Совместимость и мобильность программного обеспечения 20

4. Надежность и отказоустойчивость МВС 22

5. Назначение, область применения многопроцессорных вычислительных систем 25

Заключение 27

Список использованных источников 28

 

 

 

 

 

 

 

 

Введение

 

В настоящее время сфера применения многопроцессорных вычислительных систем (МВС) непрерывно расширяется, охватывая  все новые области в различных  отраслях науки, бизнеса и производства. Стремительное развитие кластерных систем создает условия для использования  многопроцессорной вычислительной техники в реальном секторе экономики.

Потребность решения сложных прикладных задач с большим объемом вычислений и принципиальная ограниченность максимального  быстродействия "классических" –  по схеме фон Неймана - ЭВМ привели  к появлению многопроцессорных  вычислительных систем (МВС). Использование  таких средств вычислительной техники  позволяет существенно увеличивать  производительность ЭВМ при любом  существующем уровне развития компьютерного  оборудования.

 

 

 

 

 

 

 

 

 

 

 

 

 

 

1. Многопроцессорные системы

Вычислительная техника в своем  развитии по пути повышения быстродействия ЭВМ приблизилась к физическим пределам. Время переключения электронных  схем достигло долей наносекунды, а  скорость распространения сигналов в линиях, связывающих элементы и  узлы машины, ограничена значением 30 см/нс (скоростью света). Поэтому дальнейшее уменьшение времени переключения электронных  схем не позволит существенно повысить производительность ЭВМ. В этих условиях требования практики (сложные физико-технические  расчеты, многомерные экономико-математические модели и другие задачи) по дальнейшему  повышению быстродействия ЭВМ могут  быть удовлетворены только путем  распространения принципа параллелизма на сами устройства обработки информации и создания многопроцессорных вычислительных систем. Такие системы позволяют  производить распараллеливание  во времени выполнения программы  или параллельное выполнение нескольких программ¹.

Чтобы дать более полное представление о многопроцессорных  вычислительных системах, помимо высокой  производительности необходимо назвать  и другие отличительные особенности. Прежде всего это необычные архитектурные решения, направленные на повышение производительности (работа с векторными операциями, организация быстрого обмена сообщениями между процессорами или организация глобальной памяти в многопроцессорных системах и др.).

Понятие архитектуры  высокопроизводительной системы является достаточно широким, поскольку под  архитектурой можно понимать и способ параллельной обработки данных, используемый в системе, и организацию памяти, и топологию связи между процессорами, и способ исполнения системой арифметических операций. Попытки систематизировать  все множество архитектур начались в конце 60-х годов и непрерывно продолжаются по сей день².

 

 

 

 

 

__________________________________________________________________

1. Многомашинные и многопроцессорные вычислительные комплексы [электронный ресурс] URL: http://www.icmm.ru/~masich/win/lexion/l6/l6.html

2. Богданов А.В. Архитектура и топологии многопроцессорных вычислительных систем, Учебное издание. Интернет-Университет Информационных Технологий: 2005. – С. 8.

2. Архитектура многопроцессорных вычислительных систем

1.  Классификация архитектур по параллельной обработке данных

В 1966 году М.Флинном (Flynn) был предложен чрезвычайно удобный подход к классификации архитектур вычислительных систем. В основу было положено понятие потока, под которым понимается последовательность элементов, команд или данных, обрабатываемая процессором. Соответствующая система классификации основана на рассмотрении числа потоков инструкций и потоков данных и описывает четыре архитектурных класса:

SISD = Single Instruction Single Data  
MISD = Multiple Instruction Single Data  
SIMD = Single Instruction Multiple Data  
MIMD = Multiple Instruction Multiple Data ) 

SISD (single instruction stream / single data stream) - одиночный поток команд и одиночный поток данных. К этому классу относятся последовательные компьютерные системы, которые имеют один центральный процессор, способный обрабатывать только один поток последовательно исполняемых инструкций. В настоящее время практически все высокопроизводительные системы имеют более одного центрального процессора, однако, каждый из них выполняют несвязанные потоки инструкций, что делает такие системы комплексами SIMD-систем, действующих на разных пространствах данных. Для увеличения скорости обработки команд и скорости выполнения арифметических операций может применяться конвейерная обработка. В случае векторных систем векторный поток данных следует рассматривать как поток из одиночных неделимых векторов. Примерами компьютеров с архитектурой SISD являются большинство рабочих станций Compaq, Hewlett-Packard и Sun Microsystems. 

MISD (multiple instruction stream / single data stream) - множественный поток команд  и одиночный поток данных. Теоретически  в этом типе машин множество  инструкций должно выполнятся над единственным потоком данных. До сих пор ни одной реальной машины, попадающей в данный класс, не было создано. В качестве аналога работы такой системы, по-видимому, можно рассматривать работу банка. С любого терминала можно подать команду и что-то сделать с имеющимся банком данных. Поскольку база данных одна, а команд много, то мы имеем дело с множественным потоком команд и одиночным потоком данных¹. 

__________________________________________________________________

1. Богданов А.В. Архитектура и топологии многопроцессорных вычислительных систем, Учебное издание. Интернет-Университет Информационных Технологий: 2005. – С. 8.

SIMD (single instruction stream / multiple data stream) - одиночный поток команд и  множественный поток данных. Эти  системы обычно имеют большое  количество процессоров, в пределах  от 1024 до 16384, которые могут выполнять  одну и ту же инструкцию  относительно разных данных в  жесткой конфигурации. Единственная  инструкция параллельно выполняется  над многими элементами данных. Примерами SIMD машин являются системы  CPP DAP, Gamma II и Quadrics Apemille. Другим подклассом SIMD-систем являются векторные  компьютеры. Векторные компьютеры  манипулируют массивами сходных  данных подобно тому, как скалярные  машины обрабатывают отдельные  элементы таких массивов. Это  делается за счет использования  специально сконструированных векторных  центральных процессоров. Когда  данные обрабатываются посредством  векторных модулей, результаты  могут быть выданы на один, два или три такта частотогенератора  (такт частотогенератора является  основным временным параметром  системы). При работе в векторном  режиме векторные процессоры  обрабатывают данные практически  параллельно, что делает их  в несколько раз более быстрыми, чем при работе в скалярном  режиме. Примерами систем подобного  типа является, например, компьютеры Hitachi S3600.

MIMD (multiple instruction stream / multiple data stream) - множественный  поток команд и множественный  поток данных. Эти машины параллельно  выполняют несколько потоков  инструкций над различными потоками  данных. В отличие от многопроцессорных  SISD-машин, упомянутых выше, команды  и данные связаны, потому что  они представляют различные части  одной и той же выполняемой  задачи. Например, MIMD-системы могут  параллельно выполнять множество  подзадач, с целью сокращения  времени выполнения основной  задачи. Наличие большого разнообразия  попадающих в данный класс  систем, делает классификацию Флинна  не полностью адекватной. Действительно  и четырех-процессорный SX-5 компании NEC и тысяче-процессорный Cray T3E оба  попадают в этот класс. Это  заставляет использовать другой  подход к классификации, иначе  описывающий классы компьютерных  систем. Основная идея такого  подхода может состоять, например, в следующем. Считаем, что множественный  поток команд может быть обработан  двумя способами: либо одним  конвейерным устройством обработки,  работающем в режиме разделения  времени для отдельных потоков,  либо каждый поток обрабатывается  своим собственным устройством.  Первая возможность используется  в MIMD компьютерах, которые обычно  называют конвейерными или векторными, вторая – в параллельных компьютерах¹.

 

__________________________________________________________________

1. Богданов А.В. Архитектура и топологии многопроцессорных вычислительных систем, Учебное издание. Интернет-Университет Информационных Технологий: 2005. – С. 9.

 

В основе векторных компьютеров лежит  концепция конвейеризации, т.е. явного сегментирования арифметического  устройства на отдельные части, каждая из которых выполняет свою подзадачу  для пары операндов. В основе параллельного  компьютера лежит идея использования  для решения одной задачи нескольких процессоров, работающих сообща, причем процессоры могут быть как скалярными, так и векторными.

2. SMP архитектура

 

SMP архитектура (symmetric multiprocessing) - cимметричная многопроцессорная архитектура. Главной особенностью систем с архитектурой SMP является наличие общей физической памяти, разделяемой всеми процессорами.

Схематический вид SMP-архитектуры.

Память является способом передачи сообщений между  процессорами, при этом все вычислительные устройства при обращении к ней  имеют равные права и одну и  ту же адресацию для всех ячеек  памяти. Поэтому SMP архитектура называется симметричной. Последнее обстоятельство позволяет очень эффективно обмениваться данными с другими вычислительными  устройствами. SMP-система строится на основе высокоскоростной системной  шины (SGI PowerPath, Sun Gigaplane, DEC TurboLaser), к слотам которой подключаются функциональные блоки трех типов: процессоры (ЦП), операционная система (ОП) и подсистема ввода/вывода (I/O). Для подсоединения к модулям I/O используются уже более медленные  шины (PCI, VME64). Наиболее известными SMP-системами  являются SMP-cервера и рабочие станции на базе процессоров Intel (IBM, HP, Compaq, Dell, ALR, Unisys, DG, Fujitsu и др.) Вся система работает под управлением единой ОС (обычно UNIX-подобной, но для Intel-платформ поддерживается Windows NT). ОС автоматически (в процессе работы) распределяет процессы по процессорам, но иногда возможна и явная привязка¹.  
 

__________________________________________________________________

1. Богданов А.В. Архитектура и топологии многопроцессорных вычислительных систем, Учебное издание. Интернет-Университет Информационных Технологий: 2005. – С. 9.

Основные преимущества SMP-систем:

• простота и универсальность  для программирования. Архитектура SMP не накладывает ограничений на модель программирования, используемую при создании приложения: обычно используется модель параллельных ветвей, когда  все процессоры работают абсолютно  независимо друг от друга - однако, можно  реализовать и модели, использующие межпроцессорный обмен. Использование  общей памяти увеличивает скорость такого обмена, пользователь также  имеет доступ сразу ко всему объему памяти. Для SMP-систем существуют сравнительно эффективные средства автоматического  распараллеливания. 

• легкость в эксплуатации. Как правило, SMP-системы используют систему охлаждения, основанную на воздушном кондиционировании, что  облегчает их техническое обслуживание. 

• относительно невысокая  цена. 

Недостатки:

• системы с общей памятью, построенные на системной шине, плохо  масштабируемы .

 Этот важный недостаток SMP-системы не позволяет считать  их по-настоящему перспективными. Причины плохой масштабируемости  состоят в том, что в данный  момент шина способна обрабатывать  только одну транзакцию, вследствие  чего возникают проблемы разрешения  конфликтов при одновременном  обращении нескольких процессоров  к одним и тем же областям  общей физической памяти. Вычислительные  элементы начинают друг другу  мешать. Когда произойдет такой  конфликт, зависит от скорости  связи и от количества вычислительных  элементов. В настоящее время  конфликты могут происходить  при наличии 8-24-х процессоров.  Кроме того, системная шина имеет  ограниченную (хоть и высокую)  пропускную способность (ПС) и  ограниченное число слотов. Все  это с очевидностью препятствует  увеличению производительности  при увеличении числа процессоров  и числа подключаемых пользователей.  В реальных системах можно  использовать не более 32 процессоров.  Для построения масштабируемых систем на базе SMP используются кластерные или NUMA-архитектуры. При работе с SMP системами используют так называемую парадигму программирования с разделяемой памятью (shared memory paradigm)¹.

__________________________________________________________________

1. Богданов А.В. Архитектура и топологии многопроцессорных вычислительных систем, Учебное издание. Интернет-Университет Информационных Технологий: 2005. – С. 10.

3. MPP архитектура

 

MPP архитектура (massive parallel processing) - массивно-параллельная архитектура.  Главная особенность такой архитектуры  состоит в том, что память  физически разделена. В этом  случае система строится из  отдельных модулей, содержащих  процессор, локальный банк операционной  памяти (ОП), два коммуникационных  процессора (рутера) или сетевой  адаптер, иногда - жесткие диски  и/или другие устройства ввода/вывода. Один рутер используется для  передачи команд, другой - для передачи  данных. По сути, такие модули  представляют собой полнофункциональные  компьютеры (см. рис.). Доступ к банку  ОП из данного модуля имеют  только процессоры (ЦП) из этого  же модуля. Модули соединяются  специальными коммуникационными  каналами. Пользователь может определить  логический номер процессора, к  которому он подключен, и организовать  обмен сообщениями с другими  процессорами. Используются два  варианта работы операционной  системы (ОС) на машинах MPP архитектуры.  В одном полноценная операционная  система (ОС) работает только на  управляющей машине (front-end), на каждом  отдельном модуле работает сильно  урезанный вариант ОС, обеспечивающий  работу только расположенной  в нем ветви параллельного  приложения. Во втором варианте  на каждом модуле работает  полноценная UNIX-подобная ОС, устанавливаемая отдельно на каждом модуле. 

Схематический вид архитектуры  с раздельной памятью

Главное преимущество:

Главным преимуществом систем с раздельной памятью является хорошая  масштабируемость: в отличие от SMP-систем в машинах с раздельной памятью  каждый процессор имеет доступ только к своей локальной памяти, в  связи с чем не возникает необходимости в потактовой синхронизации процессоров. Практически все рекорды по производительности на сегодняшний день устанавливаются на машинах именно такой архитектуры, состоящих из нескольких тысяч процессоров (ASCI Red, ASCI Blue Pacific)¹. 

__________________________________________________________________

1. Богданов А.В. Архитектура и топологии многопроцессорных вычислительных систем, Учебное издание. Интернет-Университет Информационных Технологий: 2005. – С. 11.

Недостатки:

• отсутствие общей памяти заметно снижает скорость межпроцессорного обмена, поскольку нет общей среды  для хранения данных, предназначенных  для обмена между процессорами. Требуется  специальная техника программирования для реализации обмена сообщениями  между процессорами.  
• каждый процессор может использовать только ограниченный объем локального банка памяти.  
•  вследствие указанных архитектурных недостатков требуются значительные усилия для того, чтобы максимально использовать системные ресурсы. Именно этим определяется высокая цена программного обеспечения для массивно-параллельных систем с раздельной памятью. 

Системами с раздельной памятью  являются суперкомпьютеры МВС-1000, IBM RS/6000 SP, SGI/CRAY T3E, системы ASCI, Hitachi SR8000, системы Parsytec. 

Машины последней серии CRAY T3E от SGI, основанные на базе процессоров Dec Alpha 21164 с пиковой производительностью 1200 Мфлопс/с (CRAY T3E-1200), способны масштабироваться до 2048 процессоров.  
 
При работе с MPP системами используют так называемую Massive Passing Programming Paradigm - парадигму программирования с передачей данных (MPI, PVM, BSPlib)¹. 

 

 

 

 

 

 

 

 

 

 

 

 

 

__________________________________________________________________

1. Богданов А.В. Архитектура и топологии многопроцессорных вычислительных систем, Учебное издание. Интернет-Университет Информационных Технологий: 2005. – С. 12.

4. Гибридная архитектура (NUMA) Организация когерентности многоуровневой иерархической памяти.

 

Гибридная архитектура NUMA (nonuniform memory access). Главная особенность такой архитектуры - неоднородный доступ к памяти. 

Гибридная архитектура воплощает  в себе удобства систем с общей  памятью и относительную дешевизну  систем с раздельной памятью. Суть этой архитектуры - в особой организации  памяти, а именно: память является физически  распределенной по различным частям системы, но логически разделяемой, так что пользователь видит единое адресное пространство. Система состоит  из однородных базовых модулей (плат), состоящих из небольшого числа процессоров  и блока памяти. Модули объединены с помощью высокоскоростного  коммутатора. Поддерживается единое адресное пространство, аппаратно поддерживается доступ к удаленной памяти, т.е. к  памяти других модулей. При этом доступ к локальной памяти осуществляется в несколько раз быстрее, чем к удаленной. По существу архитектура NUMA является MPP (массивно-параллельная архитектура) архитектурой, где в качестве отдельных вычислительных элементов берутся SMP (cимметричная многопроцессорная архитектура) узлы. 

Структурная схема компьютера с гибридной сетью: четыре процессора связываются между собой при  помощи кроссбара в рамках одного SMP узла. Узлы связаны сетью типа "бабочка" (Butterfly): 

Впервые идею гибридной архитектуры  предложил Стив Воллох и воплотил в системах серии Exemplar. Вариант Воллоха - система, состоящая из 8-ми SMP узлов. Фирма HP купила идею и реализовала  на суперкомпьютерах серии SPP¹.

__________________________________________________________________

1. Богданов А.В. Архитектура и топологии многопроцессорных вычислительных систем, Учебное издание. Интернет-Университет Информационных Технологий: 2005. – С. 12.

Идею подхватил Сеймур Крей (Seymour R.Cray) и добавил новый  элемент - когерентный кэш, создав так  называемую архитектуру cc-NUMA (Cache Coherent Non-Uniform Memory Access), которая расшифровывается как "неоднородный доступ к памяти с обеспечением когерентности кэшей". Он ее реализовал на системах типа Origin.

Организация когерентности  многоуровневой иерархической памяти.

Понятие когерентности кэшей  описывает тот факт, что все  центральные процессоры получают одинаковые значения одних и тех же переменных в любой момент времени. Действительно, поскольку кэш-память принадлежит  отдельному компьютеру, а не всей многопроцессорной  системе в целом, данные, попадающие в кэш одного компьютера, могут  быть недоступны другому. Чтобы избежать этого, следует провести синхронизацию  информации, хранящейся в кэш-памяти процессоров. 

Для обеспечения подобной когерентности кэшей существуют несколько возможностей: 

• Использовать механизм отслеживания шинных запросов (snoopy bus protocol), в котором  кэши отслеживают переменные, передаваемые к любому из центральных процессоров  и, при необходимости, модифицируют собственные копии таких переменных.  
• Выделять специальную часть памяти, отвечающую за отслеживание достоверности всех используемых копий переменных. 

Наиболее известными системами  архитектуры cc-NUMA являются: HP 9000 V-class в SCA-конфигурациях, SGI Origin3000, Sun HPC 15000, IBM/Sequent NUMA-Q 2000. На настоящий момент максимальное число процессоров в cc-NUMA-системах может превышать 1000 (серия Origin3000). Обычно вся система работает под управлением единой ОС, как в SMP. Возможны также варианты динамического "подразделения" системы, когда отдельные "разделы" системы работают под управлением разных ОС. При работе NUMA-системами, также как с SMP, используют так называемую парадигму программирования с общей памятью (shared memory paradigm)¹.

 

 

 

 

 

 

__________________________________________________________________

1. Богданов А.В. Архитектура и топологии многопроцессорных вычислительных систем, Учебное издание. Интернет-Университет Информационных Технологий: 2005. – С. 13.

5. PVP архитектура

 

PVP (Parallel Vector Process) - параллельная  архитектура с векторными процессорами.  
     Основным признаком PVP-систем является наличие специальных векторно-конвейерных процессоров, в которых предусмотрены команды однотипной обработки векторов независимых данных, эффективно выполняющиеся на конвейерных функциональных устройствах. Как правило, несколько таких процессоров (1-16) работают одновременно с общей памятью (аналогично SMP) в рамках многопроцессорных конфигураций. Несколько таких узлов могут быть объединены с помощью коммутатора (аналогично MPP). Поскольку передача данных в векторном формате осуществляется намного быстрее, чем в скалярном (максимальная скорость может составлять 64 Гб/с, что на 2 порядка быстрее, чем в скалярных машинах), то проблема взаимодействия между потоками данных при распараллеливании становится несущественной. И то, что плохо распараллеливается на скалярных машинах, хорошо распараллеливается на векторных. Таким образом, системы PVP архитектуры могут являться машинами общего назначения (general purpose systems). Однако, поскольку векторные процессоры весьма дороги, эти машины не будут являться общедоступными. 

Наиболее популярны 3 машины PVP архитектуры: 

1. CRAY SV-2, SMP архитектура. Пиковая производительность системы в стандартной конфигурации может составлять десятки терафлопс.  
 
2. NEC SX-6, NUMA архитектура. Пиковая производительность системы может достигать 8 Тфлопс, производительность 1 процессора составляет 8 Гфлопс. Система масштабируется до 128 узлов.  
3. Fujitsu-VPP5000 (vector parallel processing) ), MPP архитектура. Производительность 1 процессора составляет 9.6 Гфлопс, пиковая производительность системы может достигать 1249 Гфлопс, максимальная емкость памяти - 8 Тб. Система масштабируется до 512 узлов.  

Парадигма программирования на PVP системах предусматривает векторизацию циклов (для достижения разумной производительности одного процессора) и их распараллеливание (для одновременной загрузки нескольких процессоров одним приложением)¹. 

__________________________________________________________________

1. Богданов А.В. Архитектура и топологии многопроцессорных вычислительных систем, Учебное издание. Интернет-Университет Информационных Технологий: 2005. – С. 14.

На практике рекомендуют  следующие процедуры: 

• производить векторизацию вручную, цель - перевести задачу в  матричную форму. При этом, в соответствии с длиной вектора, размеры матрицы  должны быть кратны 128 или 256.  
• работать с векторами в виртуальном пространстве, разлагая искомую функцию в ряд и оставляя число членов ряда, кратное 128 или 256. 

За счет большой физической памяти (доли терабайта), даже плохо  векторизуемые задачи на PVP системах решаются быстрее, на системах со скалярными процессорами¹.

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

__________________________________________________________________

1. Богданов А.В. Архитектура и топологии многопроцессорных вычислительных систем, Учебное издание. Интернет-Университет Информационных Технологий: 2005. – С. 14-15.

6. Кластерная архитектура

 

Кластер представляет собой  два или больше компьютеров (часто  называемых узлами), объединяемых при  помощи сетевых технологий на базе шинной архитектуры или коммутатора  и предстающих перед пользователями в качестве единого информационно-вычислительного  ресурса. В качестве узлов кластера могут быть выбраны серверы, рабочие  станции и даже обычные персональные компьютеры. Преимущество кластеризации  для повышения работоспособности  становится очевидным в случае сбоя какого-либо узла: при этом другой узел кластера может взять на себя нагрузку неисправного узла, и пользователи не заметят прерывания в доступе. Возможности масштабируемости кластеров  позволяют многократно увеличивать  производительность приложений для  большего числа пользователей. технологий (Fast/Gigabit Ethernet, Myrinet) на базе шинной архитектуры или коммутатора. Такие суперкомпьютерные системы являются самыми дешевыми, поскольку собираются на базе стандартных комплектующих элементов ("off the shelf"), процессоров, коммутаторов, дисков и внешних устройств. 

Кластеризация может быть осуществлена на разных уровнях компьютерной системы, включая аппаратное обеспечение, операционные системы, программы-утилиты, системы управления и приложения. Чем больше уровней системы объединены кластерной технологией, тем выше надежность, масштабируемость и управляемость  кластера.

Типы кластеров

Условное деление на классы предложено Язеком Радаевским и Дугласом Эдлайном:

Класс I. Класс машин строится целиком из стандартных деталей, которые продают многие продавцы компьютерных компонент (низкие цены, простое обслуживание, аппаратные компоненты доступны из различных источников).

Класс II. Система имеет эксклюзивные или не широко распространенные детали. Этим можно достичь очень хорошей производительности, но при более высокой стоимости.

Как уже указывалось выше, кластеры могут существовать в различных  конфигурациях¹.

__________________________________________________________________

1. Богданов А.В. Архитектура и топологии многопроцессорных вычислительных систем, Учебное издание. Интернет-Университет Информационных Технологий: 2005. – С. 15.

Наиболее употребляемыми типами кластеров являются: 
• Системы высокой надежности. 
• Системы для высокопроизводительных вычислений. 
• Многопоточные системы.

 Отметим, что границы  между этими типами кластеров  до некоторой степени размыты,  и часто существующий кластер  может иметь такие свойства  или функции, которые выходят  за рамки перечисленных типов.  Более того, при конфигурировании  большого кластера, используемого  как система общего назначения, приходится выделять блоки, выполняющие  все перечисленные функции. 

Кластеры для  высокопроизводительных вычислений предназначены для параллельных расчётов. Эти кластеры обычно собраны из большого числа компьютеров. Разработка таких кластеров является сложным процессом, требующим на каждом шаге аккуратных согласований таких вопросов как инсталляция, эксплуатация и одновременное управление большим числом компьютеров, технические требования параллельного и высокопроизводительного доступа к одному и тому же системному файлу (или файлам) и межпроцессорная связь между узлами и координация работы в параллельном режиме. Эти проблемы проще всего решаются при обеспечении единого образа операционной системы для всего кластера. Однако реализовать подобную схему удаётся далеко не всегда и обычно она обычно применяется лишь для не слишком больших систем.

Многопоточные системы используются для обеспечения единого интерфейса к ряду ресурсов, которые могут со временем произвольно наращиваться (или сокращаться) в размере. Наиболее общий пример этого представляет собой группа Веб-серверов.