Nvidia представила «самый мощный в мире GPU для ИИ-задач»
Они обеспечат высокую производительность© Nvidia
Графический процессор B200 предлагает до 20 петафлопс FP4 мощности от 208 миллиардов транзисторов, а суперчип GB200 совмещает два таких GPU с одним процессором Grace CPU, предлагая в 30 раз большую производительность для задач ИИ. Кроме того, новые чипы используют четырехбитные нейроны, что повышает их производительность.
Nvidia подчеркивает, что благодаря новым чипам можно значительно сократить энергопотребление. Например, для обучения модели с 1,8 триллиона параметров ранее требовалось 8 000 графических процессоров, а теперь эту задачу можно решить с помощью 2 000 новых чипов, потребляя всего 4 мегаватта энергии.
Помимо улучшенной производительности, Nvidia также представила новый NVLink переключатель, который позволяет связывать между собой до 576 GPU, обеспечивая 1,8 терабайта в секунду двунаправленной пропускной способности.