- Главная
- Разное
- Бизнес и предпринимательство
- Образование
- Развлечения
- Государство
- Спорт
- Графика
- Культурология
- Еда и кулинария
- Лингвистика
- Религиоведение
- Черчение
- Физкультура
- ИЗО
- Психология
- Социология
- Английский язык
- Астрономия
- Алгебра
- Биология
- География
- Геометрия
- Детские презентации
- Информатика
- История
- Литература
- Маркетинг
- Математика
- Медицина
- Менеджмент
- Музыка
- МХК
- Немецкий язык
- ОБЖ
- Обществознание
- Окружающий мир
- Педагогика
- Русский язык
- Технология
- Физика
- Философия
- Химия
- Шаблоны, картинки для презентаций
- Экология
- Экономика
- Юриспруденция
Что такое findslide.org?
FindSlide.org - это сайт презентаций, докладов, шаблонов в формате PowerPoint.
Обратная связь
Email: Нажмите что бы посмотреть
Презентация на тему Архитектура Tesla. Программно-аппаратный стек CUDA
Содержание
- 2. Примеры многоядерных системНа первой лекции мы рассмотрелиIntel Core 2 DuoSMPCellBlueGene/LG80 / Tesla
- 3. Примеры многоядерных системМы хотели обратить ваше внимание
- 4. Tesla vs GeForceУ кого есть вопросы в чем разница?
- 5. ПланАрхитектура TeslaПрограммная модель CUDAСинтаксические особенности CUDA
- 6. Архитектура Tesla: Мультипроцессор Tesla 8
- 7. Архитектура Tesla Мультипроцессор Tesla 10
- 8. Архитектура Tesla 10Interconnection Network
- 9. АрхитектураМаштабируемость:[+][-] SM внутри TPC[+][-] TPC[+][-] DRAM партицииСхожие архитектуры:Tesla 8: 8800 GTXTesla 10: GTX 280
- 10. Технические деталиRTM CUDA Programming GuideRun CUDAHelloWorldПечатает аппаратно
- 11. ПланАрхитектура TeslaСинтаксические особенности CUDAПрограммная модель CUDA
- 12. Программная модель CUDA GPU (device) это вычислительное
- 13. Программная модель CUDAПоследовательные части кода выполняются на
- 14. Программная модель CUDAПараллельная часть кода выполняется как
- 15. Программная модель CUDAДесятки тысяч потоковfor (int ix
- 16. Программная модель CUDAПотоки в CUDA объединяются в
- 17. Программная модель CUDAПотоки в блоке могут разделять
- 18. Программная модель CUDAБлоки могут использовать shared память
- 19. Программная модель CUDAБлоки потоков объединяются в сетку (grid) потоковВозможна 1D, 2D топология сетки блоков потоков
- 20. ПланАрхитектура TeslaСинтаксические особенности CUDAПрограммная модель CUDA
- 21. Синтаксис CUDA CUDA – это расширение языка
- 22. Синтаксис CUDA СпецификаторыСпецификатор функцийСпецификатор переменных
- 23. Синтаксис CUDA Встроенные переменные Сравним CPU код
- 24. Синтаксис CUDA Встроенные переменныеВ любом CUDA kernel’e
- 25. Синтаксис CUDA Директивы запуска ядраКак запустить
- 26. Как скомпилировать CUDA кодNVCC – компилятор для
- 27. Ресуры нашего курса CUDA.CS.MSU.SUМесто для вопросов и дискуссийМесто
- 28. Скачать презентацию
- 29. Похожие презентации
Примеры многоядерных системНа первой лекции мы рассмотрелиIntel Core 2 DuoSMPCellBlueGene/LG80 / Tesla
![АрхитектураМаштабируемость:[+][-] SM внутри TPC[+][-] TPC[+][-] DRAM партицииСхожие архитектуры:Tesla 8: 8800 GTXTesla 10: GTX 280](/img/tmb/12/1161280/43bdd5a26fee4a3ab436e47b5f725078-720x.jpg "Архитектура Tesla. Программно-аппаратный стек CUDA")
![Программная модель CUDAПотоки в блоке могут разделять ресурсы со своими соседямиfloat g_Data[gN];for](/img/tmb/12/1161280/c445fb7df40faad328fd87b0d2b610d8-720x.jpg "Архитектура Tesla. Программно-аппаратный стек CUDA")
![Синтаксис CUDA CUDA – это расширение языка C [+] спецификаторы для функций](/img/tmb/12/1161280/e57a3717aafab5604f76b229661d6807-720x.jpg "Архитектура Tesla. Программно-аппаратный стек CUDA")
Слайд 3
Примеры многоядерных систем
Мы хотели обратить ваше внимание на
следующие особенности:
Как правило вычислительный узел – достаточно маломощный процессор
Вычислительные
узлы имеют свою оперативную память и свой кэшВычислительные узлы объединяются в более крупные блоки
Крупные блоки могут объединяться с целью наращивания вычислительной мощи
Слайд 9
Архитектура
Маштабируемость:
[+][-] SM внутри TPC
[+][-] TPC
[+][-] DRAM партиции
Схожие архитектуры:
Tesla
8: 8800 GTX
Tesla 10: GTX 280
Слайд 10
Технические детали
RTM CUDA Programming Guide
Run CUDAHelloWorld
Печатает аппаратно зависимые
параметры
Размер shared памяти
Кол-во SM
Размер warp’а
Кол-во регистров на SM
т.д.
Слайд 12
Программная модель CUDA
GPU (device) это вычислительное устройство,
которое:
Является сопроцессором к CPU (host)
Имеет собственную память (DRAM)
Выполняет одновременно
очень много нитей
Слайд 13
Программная модель CUDA
Последовательные части кода выполняются на CPU
Массивно-параллельные
части кода выполняются на GPU как ядра
Отличия нитей между
CPU и GPUНити на GPU очень «легкие»
HW планировщик задач
Для полноценной загрузки GPU нужны тысячи нитей
Для покрытия латентностей операций чтения / записи
Для покрытия латентностей sfu инструкций
Слайд 14
Программная модель CUDA
Параллельная часть кода выполняется как большое
количество нитей
Нити группируются в блоки фиксированного размера
Блоки объединяются в
сеть блоковЯдро выполняется на сетке из блоков
Каждая нить и блок имеют свой идентификатор
Слайд 15
Программная модель CUDA
Десятки тысяч потоков
for (int ix =
0; ix < nx; ix++)
{
pData[ix] = f(ix);
}
for
(int ix = 0; ix < nx; ix++)for (int iy = 0; iy < ny; iy++)
{
pData[ix + iy * nx] = f(ix) * g(iy); }
for (int ix = 0; ix < nx; ix++)
for (int iy = 0; iy < ny; iy++)
for (int iz = 0; iz < nz; iz++)
{
pData[ix + (iy + iz * ny) * nx] = f(ix) * g(iy) * h(iz);
}
Слайд 16
Программная модель CUDA
Потоки в CUDA объединяются в блоки:
Возможна
1D, 2D, 3D топология блока
Общее кол-во потоков в блоке
ограниченоВ текущем HW это 512 потоков
Слайд 17
Программная модель CUDA
Потоки в блоке могут разделять ресурсы
со своими соседями
float g_Data[gN];
for (int ix = 0; ix
< nx; ix++){
pData[ix] = f(ix, g_Data[ix / n]); }
Слайд 18
Программная модель CUDA
Блоки могут использовать shared память
Т.к.
блок целиком выполняется на одном SM
Объем shared памяти
ограничен и зависит от HWВнутри Блока потоки могут синхронизоваться
Т.к. блок целиком выполняется на одном SM
Слайд 19
Программная модель CUDA
Блоки потоков объединяются в сетку (grid)
потоков
Возможна 1D, 2D топология сетки блоков потоков
Слайд 21
Синтаксис CUDA
CUDA – это расширение языка C
[+] спецификаторы для функций и переменных
[+] новые встроенные
типы [+] встроенные переменные (внутри ядра)
[+] директива для запуска ядра из C кода
Как скомпилировать CUDA код
[+] nvcc компилятор
[+] .cu расширение файла
Слайд 23
Синтаксис CUDA
Встроенные переменные
Сравним CPU код vs CUDA
kernel:
__global__ void incKernel ( float * pData )
{
int idx = blockIdx.x * blockDim.x + threadIdx.x; pData [idx] = pData [idx] + 1.0f;
}
float * pData;
for (int ix = 0; ix < nx; ix++)
{
pData[ix] = pData[ix] + 1.0f;
}
Пусть nx = 2048
Пусть в блоке 256 потоков
? кол-во блоков = 2048 / 256 = 8
[ 0 .. 7 ]
[ == 256]
[ 0 .. 255 ]
Слайд 24
Синтаксис CUDA
Встроенные переменные
В любом CUDA kernel’e доступны:
dim3 gridDim;
uint3
blockIdx;
dim3 blockDim;
uint3 threadIdx;
int warpSize;
dim3 – встроенный тип, который
используется для задания размеров kernel’аПо сути – это uint3.
Слайд 25
Синтаксис CUDA
Директивы запуска ядра
Как запустить ядро с
общим кол-во тредов равным nx?
incKernel ( pData );
dim3
threads(256, 1, 1);dim3 blocks(nx / 256, 1);
float * pData;
<<< , >>> угловые скобки, внутри которых задаются параметры запуска ядра:
Кол-во блоке в сетке
Кол-во потоков в блоке
…
Неявно предпологаем, что nx кратно 256
Слайд 26
Как скомпилировать CUDA код
NVCC – компилятор для CUDA
Основными
опциями команды nvcc являются:
-deviceemu - компиляция в режиме эмуляции, весь код будет
выполняться в многонитевом режиме на CPU и можно использовать обычный отладчик (хотя не все ошибки могут проявится в таком режиме)--use_fast_math - заменить все вызовы стандартных математических функций на их быстрые (но менее точные) аналоги
-o
CUDA файлы обычно носят расширение .cu
Слайд 27
Ресуры нашего курса
CUDA.CS.MSU.SU
Место для вопросов и дискуссий
Место для
материалов нашего курса
Место для ваших статей!
Если вы нашли какой-то
интересный подход!Или исследовали производительность разных подходов и знаете, какой из них самый быстрый!
Или знаете способы сделать работу с CUDA проще!
Steps3d
www.nvidia.ru
