Что такое findslide.org?

FindSlide.org - это сайт презентаций, докладов, шаблонов в формате PowerPoint.


Для правообладателей

Обратная связь

Email: Нажмите что бы посмотреть 

Яндекс.Метрика

Презентация на тему Принципы построения параллельных вычислительных систем

Содержание

Пути достижения параллелизмаПримеры параллельных вычислительных системСуперкомпьютерыКластерыКлассификация многопроцессорных вычислительных систем МультипроцессорыМультикомпьютерыТиповые схемы коммуникации процессоровСистемные платформы для построения кластеров ЗаключениеСодержание
Параллельные и распределенные вычисленияЛекция 2. 	Принципы построения параллельных Пути достижения параллелизмаПримеры параллельных вычислительных системСуперкомпьютерыКластерыКлассификация многопроцессорных вычислительных систем МультипроцессорыМультикомпьютерыТиповые схемы коммуникации Пути достижения параллелизма…Под параллельными вычислениями понимаются процессы обработки данных, в которых одновременно Достижение параллелизма возможно только при выполнимости следующих требований:независимость функционирования отдельных устройств ЭВМ Возможные режимы выполнения независимых частей программы:многозадачный режим (режим разделения времени), при котором Пути достижения параллелизмаОсновное внимание будем уделять второму типу организации параллелизма, реализуемому на многопроцессорных вычислительных системах СуперкомпьютерыСуперкомпьютер – это вычислительная система, обладающая предельными характеристиками по производительности среди имеющихся Суперкомпьютеры. Программа ASCI 	(Accelerated Strategic Computing Initiative)1996, система ASCI Red, построенная Intel, Суперкомпьютеры. МВС-1000…	(Межведомственный Суперкомпьютерный Центре РАН)   2001Пиковая производительность 1024 GFlops, максимально Суперкомпьютеры. МВС-1000Примеры параллельных вычислительных систем… Суперкомпьютеры. МВС-15000…	(Межведомственный Суперкомпьютерный Центре РАН)   2005Общее количество узлов 276 (552 Суперкомпьютеры. МВС-15000Примеры параллельных вычислительных систем… КластерыПримеры параллельных вычислительных систем…Кластер – группа компьютеров, объединенных в локальную вычислительную сеть Кластеры. Beowulf…В настоящее время под кластером типа “Beowulf” понимается вычислительная система, состоящая Кластеры. Thunder 2004, Ливерморская Национальная Лаборатория (США): 1024 сервера, в каждом по Кластеры. Вычислительный кластер ННГУ… Примеры параллельных вычислительных систем… Кластеры. Вычислительный кластер ННГУ 2007, Модернизация в рамках Инновационной образовательной программы Систематика Флинна (Flynn) классификация по способам взаимодействия последовательностей (потоков) выполняемых команд и Детализация систематики Флинна… дальнейшее разделение типов многопроцессорных систем основывается на используемых способах Детализация систематики Флинна…Классификация вычислительных систем… Мультипроцессоры с использованием единой общей памяти (shared memory)… обеспечивается однородный доступ к Мультипроцессоры с использованием единой общей памяти…Классификация вычислительных систем… Мультипроцессоры с использованием единой общей памяти Проблемы:Доступ с разных процессоров к общим Мультипроцессоры с использованием физически распределенной памяти…Классификация вычислительных систем… Мультикомпьютеры…Классификация вычислительных систем… Мультикомпьютеры 	Данный подход используется при построении двух важных типов многопроцессорных вычислительных систем: Мультикомпьютеры. Кластеры… Классификация вычислительных систем…Кластер - множество отдельных компьютеров, объединенных в сеть, Мультикомпьютеры. Кластеры…	Преимущества:Могут быть образованы на базе уже существующих у потребителей отдельных компьютеров, Мультикомпьютеры. Кластеры	Недостатки:Организация взаимодействия вычислительных узлов кластера при помощи передачи сообщений обычно приводит Характеристика типовых схем коммуникации… При организации параллельных вычислений в мультикомпьютерах для взаимодействия, Топология сети передачи данных…полный граф (completely-connected graph or clique) – система, в Топология сети передачи данных…кольцо (ring) – данная топология получается из линейки процессоров Топология сети передачи данных…решетка (mesh) – система, в которой граф линий связи Топология сети вычислительных кластеров	Для построения кластерной системы во многих случаях используют коммутатор Характеристики топологии сети… диаметр – максимальное расстояние между двумя процессорами сети; характеризует Характеристики топологии сети Характеристика типовых схем коммуникации ЗаключениеПриведена общая характеристика способов организации параллельных вычисленийРассмотрено различие между многозадачным, параллельным и В чем заключаются основные способы достижения параллелизма?В чем могут состоять различия параллельных Приведите дополнительные примеры параллельных вычислительных системВыполните рассмотрение дополнительных способов классификации компьютерных системРассмотрите Гергель В.П. Теория и практика параллельных вычислений. - М.: Интернет-Университет, БИНОМ. Лаборатория
Слайды презентации

Слайд 2 Пути достижения параллелизма
Примеры параллельных вычислительных систем
Суперкомпьютеры
Кластеры
Классификация многопроцессорных вычислительных

Пути достижения параллелизмаПримеры параллельных вычислительных системСуперкомпьютерыКластерыКлассификация многопроцессорных вычислительных систем МультипроцессорыМультикомпьютерыТиповые схемы

систем
Мультипроцессоры
Мультикомпьютеры
Типовые схемы коммуникации процессоров
Системные платформы для построения кластеров


Заключение

Содержание


Слайд 3 Пути достижения параллелизма…
Под параллельными вычислениями понимаются процессы обработки

Пути достижения параллелизма…Под параллельными вычислениями понимаются процессы обработки данных, в которых

данных, в которых одновременно могут выполняться несколько операций компьютерной

системы


Слайд 4 Достижение параллелизма возможно только при выполнимости следующих требований:
независимость

Достижение параллелизма возможно только при выполнимости следующих требований:независимость функционирования отдельных устройств

функционирования отдельных устройств ЭВМ (устройства ввода-вывода, обрабатывающие процессоры и

устройства памяти),
избыточность элементов вычислительной системы
использование специализированных устройств (например, отдельные процессоры для целочисленной и вещественной арифметики, устройства многоуровневой памяти),
дублирование устройств ЭВМ (например, использование нескольких однотипных обрабатывающих процессоров или нескольких устройств оперативной памяти),
Дополнительная форма обеспечения параллелизма - конвейерная реализация обрабатывающих устройств

Пути достижения параллелизма…


Слайд 5 Возможные режимы выполнения независимых частей программы:
многозадачный режим (режим

Возможные режимы выполнения независимых частей программы:многозадачный режим (режим разделения времени), при

разделения времени), при котором для выполнения нескольких процессов используется

единственный процессор (данный режим является псевдопараллельным, в каждый момент времени исполняемым может быть единственный процесс),
параллельное выполнение, когда в один и тот же момент времени может выполняться несколько команд обработки данных (обеспечивается при наличии нескольких процессоров или при помощи конвейерных и векторных обрабатывающих устройств),
распределенные вычисления, при которых для параллельной обработки данных используется несколько обрабатывающих устройств, достаточно удаленных друг от друга, а передача данных по линиям связи приводит к существенным временным задержкам.

Пути достижения параллелизма…


Слайд 6 Пути достижения параллелизма
Основное внимание будем уделять второму типу

Пути достижения параллелизмаОсновное внимание будем уделять второму типу организации параллелизма, реализуемому на многопроцессорных вычислительных системах

организации параллелизма, реализуемому на многопроцессорных вычислительных системах


Слайд 7 Суперкомпьютеры
Суперкомпьютер – это вычислительная система, обладающая предельными характеристиками

СуперкомпьютерыСуперкомпьютер – это вычислительная система, обладающая предельными характеристиками по производительности среди

по производительности среди имеющихся в каждый конкретный момент времени

компьютерных систем

Примеры параллельных вычислительных систем…


Слайд 8 Суперкомпьютеры. Программа ASCI
(Accelerated Strategic Computing Initiative)
1996, система

Суперкомпьютеры. Программа ASCI 	(Accelerated Strategic Computing Initiative)1996, система ASCI Red, построенная

ASCI Red, построенная Intel, производительность 1 TFlops,
1999, ASCI Blue

Pacific от IBM и ASCI Blue Mountain от SGI, производительность 3 TFlops,
2000, ASCI White с пиковой производительностью свыше 12 TFlops (реально показанная производительность на тесте LINPACK составила на тот момент 4938 GFlops)

Примеры параллельных вычислительных систем…


Слайд 9 Суперкомпьютеры. МВС-1000…
(Межведомственный Суперкомпьютерный Центре РАН)
2001
Пиковая

Суперкомпьютеры. МВС-1000…	(Межведомственный Суперкомпьютерный Центре РАН)  2001Пиковая производительность 1024 GFlops, максимально

производительность 1024 GFlops, максимально показанная на тесте LINPACK производительность734

GFlops,
384 двухпроцессорных модуля на базе Alpha 21264 667 MHz (кэш L2 4 Mb), собранные в виде 6 базовых блоков, по 64 модуля в каждом,
Каждый вычислительный модуль имеет по 2 Gb оперативной памяти, HDD 20 Gb, сетевые карты Myrinet (2000 Mbit) и Fast Ethernet (100 Mbit),
Операционные системы управляющего сервера и вычислительных модулей – ОС Linux RedHat 6.2 с поддержкой SMP.

Примеры параллельных вычислительных систем…


Слайд 10 Суперкомпьютеры. МВС-1000
Примеры параллельных вычислительных систем…

Суперкомпьютеры. МВС-1000Примеры параллельных вычислительных систем…

Слайд 11 Суперкомпьютеры. МВС-15000…
(Межведомственный Суперкомпьютерный Центре РАН)
2005
Общее

Суперкомпьютеры. МВС-15000…	(Межведомственный Суперкомпьютерный Центре РАН)  2005Общее количество узлов 276 (552

количество узлов 276 (552 процессора). Каждый узел представляет собой:
2

процессора IBM PowerPC 970 с тактовой частотой 2.2 GHz, кэш L1 96 Kb и кэш L2 512 Kb,
4 Gb оперативной памяти на узел,
40 Gb жесткий диск IDE,
Операционная система SuSe Linux Enterprise Server версии 8 для платформ x86 и PowerPC,
Пиковая производительность 4857.6 GFlops и максимально показанная на тесте LINPACK 3052 GFlops.

Примеры параллельных вычислительных систем…


Слайд 12 Суперкомпьютеры. МВС-15000
Примеры параллельных вычислительных систем…

Суперкомпьютеры. МВС-15000Примеры параллельных вычислительных систем…

Слайд 13 Кластеры
Примеры параллельных вычислительных систем…
Кластер – группа компьютеров, объединенных

КластерыПримеры параллельных вычислительных систем…Кластер – группа компьютеров, объединенных в локальную вычислительную

в локальную вычислительную сеть (ЛВС) и способных работать в

качестве единого вычислительного ресурса.

Предполагает более высокую надежность и эффективность, нежели ЛВС, и существенно более низкую стоимость в сравнении с другими типами параллельных вычислительных систем (за счет использования типовых аппаратных и программных решений).


Слайд 14 Кластеры. Beowulf…
В настоящее время под кластером типа “Beowulf”

Кластеры. Beowulf…В настоящее время под кластером типа “Beowulf” понимается вычислительная система,

понимается вычислительная система, состоящая из одного серверного узла и

одного или более клиентских узлов, соединенных при помощи сети Ethernet или некоторой другой сети передачи данных. Это система, построенная из готовых серийно выпускающихся промышленных компонент, на которых может работать ОС Linux/Windows, стандартных адаптеров Ethernet и коммутаторов.

Примеры параллельных вычислительных систем…


Слайд 15 Кластеры. Thunder
2004, Ливерморская Национальная Лаборатория (США):
1024

Кластеры. Thunder 2004, Ливерморская Национальная Лаборатория (США): 1024 сервера, в каждом

сервера, в каждом по 4 процессора Intel Itanium 1.4

GHz,
8 Gb оперативной памяти на сервер,
общая емкость дисковой системы 150 Tb,
операционная система CHAOS 2.0,
пиковая производительность 22938 GFlops и максимально показанная на тесте LINPACK 19940 GFlops (5-ая позиция списка Top500 ).

Примеры параллельных вычислительных систем…


Слайд 16 Кластеры. Вычислительный кластер ННГУ…
Примеры параллельных вычислительных систем…

Кластеры. Вычислительный кластер ННГУ… Примеры параллельных вычислительных систем…

Слайд 17 Кластеры. Вычислительный кластер ННГУ
2007, Модернизация в

Кластеры. Вычислительный кластер ННГУ 2007, Модернизация в рамках Инновационной образовательной

рамках Инновационной образовательной программы ННГУ:
64 вычислительных сервера, каждый из

которых имеет 2 двухядерных процессора Intel Core Duo 2,66 GHz, 4 GB RAM, 100 GB HDD, 1 Gbit Ethernet card,
Пиковая производительность ~3 Tflops
Операционная система Microsoft Windows.

Примеры параллельных вычислительных систем


Слайд 18 Систематика Флинна (Flynn)
классификация по способам взаимодействия последовательностей

Систематика Флинна (Flynn) классификация по способам взаимодействия последовательностей (потоков) выполняемых команд

(потоков) выполняемых команд и обрабатываемых данных:
SISD (Single Instruction, Single

Data)
SIMD (Single Instruction, Multiple Data)
MISD (Multiple Instruction, Single Data)
MIMD (Multiple Instruction, Multiple Data)

Классификация вычислительных систем…

Практически все виды параллельных систем, несмотря на их существенную разнородность, относятся к одной группе MIMD


Слайд 19 Детализация систематики Флинна…
дальнейшее разделение типов многопроцессорных систем

Детализация систематики Флинна… дальнейшее разделение типов многопроцессорных систем основывается на используемых

основывается на используемых способах организации оперативной памяти,
позволяет различать два

важных типа многопроцессорных систем:
multiprocessors (мультипроцессоры или системы с общей разделяемой памятью),
multicomputers (мультикомпьютеры или системы с распределенной памятью).

Классификация вычислительных систем…


Слайд 20 Детализация систематики Флинна…
Классификация вычислительных систем…

Детализация систематики Флинна…Классификация вычислительных систем…

Слайд 21 Мультипроцессоры с использованием единой общей памяти (shared memory)…

Мультипроцессоры с использованием единой общей памяти (shared memory)… обеспечивается однородный доступ


обеспечивается однородный доступ к памяти (uniform memory access or

UMA),
являются основой для построения:
векторных параллельных процессоров (parallel vector processor or PVP). Примеры: Cray T90,
симметричных мультипроцессоров (symmetric multiprocessor or SMP). Примеры: IBM eServer, Sun StarFire, HP Superdome, SGI Origin.

Классификация вычислительных систем…


Слайд 22 Мультипроцессоры с использованием единой общей памяти…
Классификация вычислительных систем…

Мультипроцессоры с использованием единой общей памяти…Классификация вычислительных систем…

Слайд 23 Мультипроцессоры с использованием единой общей памяти
Проблемы:
Доступ с

Мультипроцессоры с использованием единой общей памяти Проблемы:Доступ с разных процессоров к

разных процессоров к общим данным и обеспечение, в этой

связи, однозначности (когерентности) содержимого разных кэшей (cache coherence problem),
Необходимость синхронизации взаимодействия одновременно выполняемых потоков команд

Классификация вычислительных систем…


Слайд 24 Мультипроцессоры с использованием физически распределенной памяти…
Классификация вычислительных систем…

Мультипроцессоры с использованием физически распределенной памяти…Классификация вычислительных систем…

Слайд 25 Мультикомпьютеры…
Классификация вычислительных систем…

Мультикомпьютеры…Классификация вычислительных систем…

Слайд 26 Мультикомпьютеры
Данный подход используется при построении двух важных

Мультикомпьютеры 	Данный подход используется при построении двух важных типов многопроцессорных вычислительных

типов многопроцессорных вычислительных систем:
массивно-параллельных систем (massively parallel processor

or MPP), например: IBM RS/6000 SP2, Intel PARAGON, ASCI Red, транспьютерные системы Parsytec,
кластеров (clusters), например: AC3 Velocity и NCSA NT Supercluster.

Классификация вычислительных систем…


Слайд 27 Мультикомпьютеры. Кластеры…
Классификация вычислительных систем…
Кластер - множество отдельных

Мультикомпьютеры. Кластеры… Классификация вычислительных систем…Кластер - множество отдельных компьютеров, объединенных в

компьютеров, объединенных в сеть, для которых при помощи специальных

аппаратно-программных средств обеспечивается возможность унифицированного управления (single system image), надежного функционирования (availability) и эффективного использования (performance)

Слайд 28 Мультикомпьютеры. Кластеры…
Преимущества:
Могут быть образованы на базе уже существующих

Мультикомпьютеры. Кластеры…	Преимущества:Могут быть образованы на базе уже существующих у потребителей отдельных

у потребителей отдельных компьютеров, либо же сконструированы из типовых

компьютерных элементов;
Повышение вычислительной мощности отдельных процессоров позволяет строить кластеры из сравнительно небольшого количества отдельных компьютеров (lowly parallel processing),
Для параллельного выполнения в алгоритмах достаточно выделять только крупные независимые части расчетов (coarse granularity).

Классификация вычислительных систем…


Слайд 29 Мультикомпьютеры. Кластеры
Недостатки:
Организация взаимодействия вычислительных узлов кластера при помощи

Мультикомпьютеры. Кластеры	Недостатки:Организация взаимодействия вычислительных узлов кластера при помощи передачи сообщений обычно

передачи сообщений обычно приводит к значительным временным задержкам,
Дополнительные

ограничения на тип разрабатываемых параллельных алгоритмов и программ (низкая интенсивность потоков передачи данных)

Классификация вычислительных систем


Слайд 30 Характеристика типовых схем коммуникации…
При организации параллельных вычислений

Характеристика типовых схем коммуникации… При организации параллельных вычислений в мультикомпьютерах для

в мультикомпьютерах для взаимодействия, синхронизации и взаимоисключения параллельно выполняемых

процессов используется передача данных между процессорами вычислительной среды.

Топология сети передачи данных - структура линий коммутации между процессорами вычислительной системы


Слайд 31 Топология сети передачи данных…

полный граф (completely-connected graph or

Топология сети передачи данных…полный граф (completely-connected graph or clique) – система,

clique) – система, в которой между любой парой процессоров

существует прямая линия связи,


линейка (linear array or farm) – система, в которой все процессоры перенумерованы по порядку и каждый процессор, кроме первого и последнего, имеет линии связи только с двумя соседними,

Характеристика типовых схем коммуникации…


Слайд 32 Топология сети передачи данных…

кольцо (ring) – данная топология

Топология сети передачи данных…кольцо (ring) – данная топология получается из линейки

получается из линейки процессоров соединением первого и последнего процессоров

линейки,


звезда (star) – система, в которой все процессоры имеют линии связи с некоторым управляющим процессором,

Характеристика типовых схем коммуникации…


Слайд 33 Топология сети передачи данных…

решетка (mesh) – система, в

Топология сети передачи данных…решетка (mesh) – система, в которой граф линий

которой граф линий связи образует прямоугольную сетку,




гиперкуб (hypercube) –

данная топология представляет частный случай структуры решетки, когда по каждой размерности сетки имеется только два процессора.

Характеристика типовых схем коммуникации…


Слайд 34 Топология сети вычислительных кластеров
Для построения кластерной системы во

Топология сети вычислительных кластеров	Для построения кластерной системы во многих случаях используют

многих случаях используют коммутатор (switch), через который процессоры кластера

соединяются между собой.
Одновременность выполнения нескольких коммуникационных операций является ограниченной.

Характеристика типовых схем коммуникации…

В любой момент времени каждый процессор может принимать участие только в одной операции приема - передачи данных


Слайд 35 Характеристики топологии сети…
диаметр – максимальное расстояние между

Характеристики топологии сети… диаметр – максимальное расстояние между двумя процессорами сети;

двумя процессорами сети; характеризует максимально-необходимое время для передачи данных

между процессорами,
связность (connectivity) – минимальное количество дуг, которое надо удалить для разделения сети передачи данных на две несвязные области,
ширина бинарного деления (bisection width) – минимальное количество дуг, которое надо удалить для разделения сети передачи данных на две несвязные области одинакового размера,
стоимость – общее количество линий передачи данных в многопроцессорной вычислительной системе.

Характеристика типовых схем коммуникации…


Слайд 36 Характеристики топологии сети
Характеристика типовых схем коммуникации

Характеристики топологии сети Характеристика типовых схем коммуникации

Слайд 37 Заключение
Приведена общая характеристика способов организации параллельных вычислений
Рассмотрено различие

ЗаключениеПриведена общая характеристика способов организации параллельных вычисленийРассмотрено различие между многозадачным, параллельным

между многозадачным, параллельным и распределенным режимами выполнения программ
Приведен

ряд примеров параллельных вычислительных систем
Дано описание одного из наиболее известных способов классификации вычислительных систем – систематики Флинна
Даны ключевые определения мультипроцессора и мультикомпьютера
Рассмотрены основные характеристики сетей передачи данных в многопроцессорных вычислительных системах

Слайд 38 В чем заключаются основные способы достижения параллелизма?
В чем

В чем заключаются основные способы достижения параллелизма?В чем могут состоять различия

могут состоять различия параллельных вычислительных систем?
Что положено в основу

классификация Флинна?
В чем состоит принцип разделения многопроцессорных систем на мультипроцессоры и мультикомпьютеры?
В чем состоят положительные и отрицательные стороны кластерных систем?
Какие топологии сетей передачи данных наиболее широко используются при построении многопроцессорных систем?
В чем состоят особенности сетей передачи данных для кластеров?
Каковы основные характеристики сетей передачи данных?
Какие системные платформы могут быть использованы для построения кластеров?

Вопросы для обсуждения


Слайд 39 Приведите дополнительные примеры параллельных вычислительных систем
Выполните рассмотрение дополнительных

Приведите дополнительные примеры параллельных вычислительных системВыполните рассмотрение дополнительных способов классификации компьютерных

способов классификации компьютерных систем
Рассмотрите способы обеспечения когерентности кэшей в

системах с общей разделяемой памятью
Подготовьте обзор программных библиотек, обеспечивающих выполнение операций передачи данных для систем с распределенной памятью
Рассмотрите топологию сети передачи данных в виде двоичного дерева
Выделите эффективно реализуемые классы задач для каждого типа топологий сети передачи данных

Темы заданий для самостоятельной работы


  • Имя файла: printsipy-postroeniya-parallelnyh-vychislitelnyh-sistem.pptx
  • Количество просмотров: 137
  • Количество скачиваний: 0
- Предыдущая Вовка
Следующая - OTPdirekt. Обучение v.2.0