Почему AMD, установившая SSD на плату GPU, так сильно уменьшила задержки?

AMD недавно была в новостях с интересной платой Radeon Pro с парой твердотельных накопителей M2.

Как отмечают некоторые из более подробных историй (например, здесь или здесь ), преимущества могут быть в основном получены не за счет высокой пропускной способности (у M2 только по 4 линии PCIe каждая, поэтому собственный 16-линейный разъем платы должен иметь больше), но с низкой задержкой. Эта история включает утверждение «это приводит к снижению времени доступа к памяти в 10 раз».

Мой вопрос в основном: почему твердотельные накопители, подключенные по PCIe, на плате графического процессора должны иметь значительно меньшую задержку, чем доступ графического процессора к основной системной памяти или устройствам хранения на системной шине PCIe? Что насчет основной системы, которая «мешает» и означает, что встроенные твердотельные накопители могут быть намного быстрее?

Отвечая с некоторой точки зрения непрофессионала (я не специалист по аппаратному обеспечению, но я построил свой собственный компьютер), я проведу аналогию, используя ситуацию с получением некоторых ингредиентов для приготовления пищи.

Использование «основной системы» ОЗУ / хранилища похоже на то, как вы ищете ингредиент, не находите его в своих шкафах и, скажем, идете к своему соседу и спрашиваете, есть ли у них его. Оказывается, они делают; они приносят это вам, вы благодарите их, возвращаетесь в свой дом и пользуетесь им.

Использование встроенной оперативной памяти / хранилища похоже на поиск ингредиента, его нахождение в шкафу и его использование.

Имея встроенную память / память, GPU просто выполняет меньше работы для получения необходимой информации. Информация также просто ближе, как физически, так и при рассмотрении количества аппаратного и программного обеспечения, которое необходимо пройти. При наличии встроенного ОЗУ / хранилища графическому процессору нужно только посмотреть, где находится информация, и затем извлечь эту информацию из ОЗУ / хранилища, которое затем проходит, возможно, через пару дюймов по проводам к процессорам GPU.

С оперативной памятью / хранилищем основной системы существует большая длина провода для прохождения сигнала, по которому, хотя это может быть лишь незначительная доля секунды, все равно можно сложить более тысячи вызовов для получения информации. Кроме того, есть больше потенциальных узких мест, со всеми различными частями, которые связаны между собой.

Наконец, благодаря встроенной оперативной памяти и памяти, AMD имеет возможность оптимизировать систему, поскольку она контролирует именно аппаратное обеспечение. Это так же, как Apple адаптирует Mac OS к своим компьютерам Mac.