Презентация на тему Кэш-память

организации памяти заключается в использовании

на одном компьютере нескольких уровней памяти, которые характеризуются разным временем доступа к памяти и объемом памяти. (Время доступа к памяти это время между операциями чтения/записи, которые выполняются по случайным адресам.) Основой для иерархической организации памяти служит принцип локальности ссылок во времени и в пространстве.
Локальность во времени состоит в том, что процессор многократно использует одни и те же команды и данные.
Локальность в пространстве состоит в том, что если программе нужен доступ к слову с адресом A, то скорее всего, следующие ссылки будут к адресам, расположенным по близости с адресом A.
Из свойства локальности ссылок следует, что в типичном вычислении обращения к памяти концентрируются вокруг небольшой области адресного пространства и более того, выборка идет по последовательным адресам. Время доступа к иерархически организованной памяти уменьшается благодаря следующему

сокращению количества обращений к оперативной памяти
совмещению обработки текущего фрагмента программы и пересылки данных из основной памяти в буферную память.

память небольшeго размера с прямым

доступом. Она предназначена для временного хранения фрагментов кода и данных. Кэш-память охватывает все адресное пространство памяти, но в отличие от оперативной памяти, она не адресуема и невидима для программиста.

Схема построения кэш-памяти
Кэш-память построена на принципе локальности ссылок во времени и в пространстве.
Кэш-контроллер загружает копии программного кода и данных из ОП в кэш-память блоками, равными размеру строки за один цикл чтения. Процессор читает из кэш-памяти по словам.
Кэш-контроллер перехватывает запросы процессора к основной памяти и проверяет, есть ли действительная копия информации в кэш-памяти.

инструкций
1-го уровня
(L1I)
Кэш данных
1-го уровня
(L1D)
Регистры

кэш- память?


Загрузка по требованию (on demand).
Спекулятивная загрузка

(speculative load). Алгоритм предполагает помещать данные в кэш-память задолго до того, как к ним произойдет реальное обращение. У кэш-контроллера есть несколько алгоритмов, которые указывают, какие ячейки памяти потребуются процессору в ближайшее
время.

в памяти?

после фиксации промаха (сквозной просмотр).
одновременно с

поиском блока в кэш-памяти, в случае кэш-попадания, обращение к оперативной памяти прерывается (отложенный просмотр).

в кэш-память.
Алгоритм записи данных и команд из кэш-памяти в

основную память.
Алгоритм замещения строки в кэш-памяти.
Размер кэш-памяти.
Длина строки в кэш-памяти.

Множественно-ассоциативный (set-associative mapping).

a(4096),b(4096),c(4096)
common a,b,c
do i=1,4096
c(i)=a(i)+b(i)
enddo

объема кэш-памяти и степени ассоциативности для длины троки 32

байта

быстрый поиск, маленькие теги, простая реализация
Минус: пробуксовка кэша
(Полностью) ассоциативный
1

блок – любая строка
Плюс: нет пробуксовки кэша
Минус: медленный поиск, большие теги, сложная реализация
Множественно-ассоциативный
1 блок – несколько строк
Компромиссный вариант

запись с буфери-зацией (Write Combining).
Обратная запись (Write

Back (WB)).

(MRU)
Pseudo-Least Recently Used (PLRU)

быть как минимум в ширину канала памяти

Большой размер
-- Более

эффективное использование канала памяти при последовательном доступе
-- Позволяет уменьшать «ассоциативность» кэша и количество линий

Маленький размер
-- Более эффективное использование канала памяти при произвольном доступе
-- Заполнение можно делать за одну транзакцию к памяти

вместить рабочие данные
Маленький, для быстрого доступа
Степень ассоциативности кэша
Большая, чтобы

избегать пробуксовки
Маленькая, для быстрого доступа
Размер строки кэша
Большой, чтобы использовать локальность
Большой, чтобы уменьшить теги
Маленький (доля полезных данных в кэше больше, если данные в памяти распределены произвольным образом)

for (i…)
for (j…)
{a[i][j]…
b[j]…

}
...
...
}

Программа:

Оперативная память
(медленная)

Кэш-память
(быстрая)

Регистры
(сверхбыстрая память)

2 Гб

L1: 64Кб
L2: 2Мб

32 целочисл.
32 веществ.

X[N][M];
for (i=0;i

(j=0;j X[i][j]=expr(i,j);

X(N,M)
do 10 j=1,M

цикл по столбцам
do 10 i=1,N цикл по строкам
10 X(i,j)=expr(i,j)

C[i][k]+=A[i][j]*B[j][k];
×
=


Cik
Aij
Bjk
Медленно:

(…)
for (…)
C[i][k]+=A[i][j]*B[j][k];

21264
32 Кб = 8192 float (real*4) = 4096 double

(real*8)

Параметры:
Объем: 64 Кб
2-канальный множественно- ассоциативный

Оперативная память

64 байта

0

32Кб

511

32Кб

32Кб

программе на языке Си
d ≥ размер строки кэш-памяти (для

Alpha 21264 – 64 байта)

методом Якоби
Размер 2D слоя для N=128: 128*128 = 16384

элементов = 64 Кб

Размер массива: N × N × N

кэша
По возможности используйте последовательный обход данных
Избегайте одновременного использования данных,

расположенных в памяти на расстоянии 32Кб (и кратном 32Кб)

ccc
оптимизирован для процессоров Alpha
GNU C Compiler v2.91
команда: gcc или

cc
формирует код для любого процессора
старая версия компилятора, формирует очень медленный код

Замечание:
Команда mpicc использует Compaq C Compiler

Для компиляции Ваших программ используйте Compaq C Compiler (команда: ссс)

общих подвыражений. Начальная глобальная оптимизация.
Используется по умолчанию.
–O
–O2 Встраивание небольших статических

подпрограмм. Глобальная оптимизация, приводящая к увеличению размера кода: раскрытие умножения и деления (используя сдвиги), раскрутка циклов, дублирование кода для избежания ветвлений.
–O3 Встраивание небольших глобальных подпрограмм.
–O4 Программная конвейеризация.
–fast -O3 плюс дополнительная оптимизация, включая оптимизацию вещественных вычислений, приводящую к некоторой потере точности.

природы и способа использования объектов языка
Старайтесь не использовать глобальных

переменных
Используйте различные переменные для разных вычислений
Компилятору должно быть ясно, какие зависимости имеются между данными в программе
Старайтесь не использовать указатели
Компилируйте все модули программы сразу
Не стоит делать вручную то, что может сделать компилятор
Не разворачивайте циклы
Пишите более ясный и простой код, особенно внутри циклов