«Скрытие» задержки сети для быстрой памяти в центрах обработки данных

Распределение серверной памяти между приложениями в больших компьютерных кластерах по-прежнему является основной целью для облачных и высокопроизводительных вычислительных сообществ. Благодаря быстрым сетевым технологиям память, доступная в серверных стойках центра, может управляться планировщиками, как если бы это был единый ресурс, обеспечивающий значительное повышение скорости и производительности. 

Служба, разработанная исследователями Мичиганского университета под названием Infiniswap, сделала эту технологию, называемую «дезагрегацией памяти», возможной в 2017 году, но она все еще страдала от нескольких задержек, что делало маловероятным принятие в реальном мире. Теперь новая система из той же лаборатории, которая называется Leap, улучшает это и другие решения по дезагрегации, применяя метод, называемый предварительной выборкой, в удаленных средах памяти. Компания Leap получила награду «Лучший доклад» на ежегодной технической конференции USENIX 2020 года.

По словам соавтора Leap Хасана Аль-Маруфа, основной проблемой, стоящей перед практической дезагрегацией памяти, была разница в скорости между локальным и удаленным доступом к памяти.

«Когда вы обращаетесь к памяти локально», - говорит Маруф, доктор философии. студент в отделе компьютерных наук и инженерии UM, «память работает на наносекундном уровне. Но когда вы выходите в сеть, все работает на микросекундном уровне».

Для удаленной загрузки страницы данных из памяти требуется в среднем четыре или пять микросекунд (страница - это наименьшая единица данных, которую процессор обычно извлекает из памяти за раз). В худшем случае это может занять до 40-50 микросекунд.

Это может показаться не таким уж большим, но задержка на порядок величины при переходе от наносекунд к микросекундам представляет собой значительное падение производительности - примерно столько же, сколько при сравнении ОЗУ с твердотельным накопителем или твердотельного накопителя с жестким диском. Компромисс был слишком велик, и существующие методы оказались благоприятными для удаленного доступа к памяти.

«Наши измерения показывают, что средний доступ к удаленным страницам размером 4 КБ занимает около 40 микросекунд в современных системах дезагрегации памяти, таких как Infiniswap», - пишут Маруф и соавтор проф. Мошараф Чоудхури. «Такая высокая задержка доступа значительно влияет на производительность, потому что приложения, интенсивно использующие память, могут выдерживать не более одной микросекундной задержки».

Если ваша жизнь связана с компьтерами, созданием и разработкой сайтов, вы постаянно обучаетесь, то вам может понадобится сертификация битрикс . Все вопросы о ней и нетолько можно найти на сайте antibitrix.ru.