Нынешние центры обработки данных оказались недостаточно хороши для ИИ

Международная корпорация Schneider Electric предложила пересмотреть конструкцию центров обработки данных с учетом требований, предъявляемых к рабочим нагрузкам искусственного интеллекта. В недавно опубликованном техническом документе компания описала проблемы, связанные с размещением рабочих нагрузок ИИ. Рабочие нагрузки, связанные с искусственным интеллектом, часто требуют сетевого взаимодействия с низкой задержкой и высокой пропускной способностью, что приводит к плотной компоновке стоек, перегрузке систем электропитания и терморегулирования в существующих ЦОД. Современные графические процессоры могут потреблять более 700 Вт энергии, а серверы - более 10 кВт. Для обучения больших языковых моделей могут потребоваться сотни таких систем, что превышает типичную для большинства центров обработки данных мощность 10-20 кВт на стойку. Такое уплотнение может привести к появлению узких мест в сети, что негативно скажется на производительности кластера. В то время как для решения задач вывода, связанных с использованием обученных моделей для генерации текста и изображений, требуется меньшее количество ускорителей ИИ, обеспечение питания плотных стоек и эффективный отвод тепла остаются сложной задачей. Schneider Electric предлагает операторам ЦОД рассмотреть изменения в системах электропитания, охлаждения, конфигурации стоек и управления программным обеспечением, чтобы адаптироваться к требованиям широкого внедрения ИИ.