Items in your hands are quicker to access than items in your pockets, which are quicker to access than items in your cupboard, which are quicker to access than items at Digikey. Each successive type of storage I have listed is larger but slower than the previous.
Итак, давайте получим лучшее из обоих миров, давайте сделаем ваши руки такими же большими, как склад Digikey! Нет, это не работает, потому что теперь они больше не руки. Они пушечное ядро, отягощающие тебя.
Причина, по которой доступ к большему хранилищу медленнее - это расстояние . Большее хранилище находится в среднем дальше от вас. Это верно как для физических предметов, так и для оперативной памяти.
Память компьютера занимает физическое пространство. По этой причине большие воспоминания физически больше, и некоторые места в этой памяти будут физически дальше. Вещи, которые находятся далеко, требуют больше времени, из-за ограничений скорости. В случае ваших карманов и Digikey ограничения скорости - это скорость ваших рук и ограничения скорости на шоссе.
В случае ОЗУ, ограничения скорости - это скорость распространения электрических сигналов, задержка распространения затворов и драйверов, а также общее использование синхронных часов. Даже если бы деньги не были целью, и вы могли бы купить столько, сколько захотите, самой быстрой технологии оперативной памяти, доступной сегодня, вы не смогли бы извлечь выгоду из всего этого. Если хотите, выложите лист формата L1 в кэш A4 и поместите ваш процессор прямо в центр. Когда центральный процессор хочет получить доступ к некоторой памяти прямо в углу памяти, буквально потребуется наносекунда для запроса, чтобы получить его, и наносекунда для его возврата. И это не включает все задержки распространения через и ворота и драйверы. Это серьезно замедлит ваш процессор 3GHz.
Поскольку синхронную логику гораздо проще спроектировать, чем асинхронную логику, один «блок» ОЗУ будет синхронизирован с одинаковыми тактовыми частотами. Если вы хотите сделать всю память кэшем L1, то вам придется синхронизировать весь лот с медленными часами, чтобы справиться с наихудшим временем синхронизации наиболее удаленного расположения в памяти. Это означает, что удаленные области памяти теперь сдерживают локальные, которые могли бы быть синхронизированы быстрее. Итак, лучшее, что нужно сделать, - это распределить память по зонам. Самый маленький и самый маленький раздел кэша будет использовать самые быстрые часы. Следующий ближайший и самый маленький раздел будет использовать немного более медленные часы и т. Д.
И теперь у вас есть кэш-память L1 и L2 и оперативная память.
Что приводит нас к следующей причине, потребляемой мощности.
Кеш на самом деле потребляет значительное количество энергии. Не только сама память, но и вся логика, которая ее окружает, которая обрабатывает отображение между строками кэша и основной памятью. Увеличение производительности этой дополнительной логики может привести к увеличению энергопотребления. Теперь для определенных приложений (мобильных, встраиваемых) у вас еще больше стимулов для того, чтобы держать кэш небольшим.
См. Компромиссы дизайна кэша для оптимизации мощности и производительности: пример из практики (Ching-Long Su и Alvin M. Despain, 1995).