Опубликовано 01 марта 2025, 01:30
1 мин.

Представлена ИИ-модель, которая генерирует текст гораздо быстрее ChatGPT

И других традиционных моделей
Inception Labs представила Mercury Coder, модель искусственного интеллекта, которая генерирует текст гораздо быстрее, чем традиционные модели, такие как ChatGPT. В отличие от обычного ИИ, который создает текст по одному слову за раз, Mercury использует подход, основанный на диффузии, создавая целые ответы за один раз путем доработки первоначального чернового варианта в четкий текст.
Представлена ИИ-модель, которая генерирует текст гораздо быстрее ChatGPT

Этот метод, вдохновленный Stable Diffusion, заменяет слова на пустоты, а затем постепенно «заполняет пробелы», чтобы создать окончательный ответ. Это позволяет Mercury работать параллельно, что делает его намного быстрее моделей, генерирующих текст последовательно.

По данным Inception Labs, Mercury может генерировать более 1 000 слов в секунду на графических процессорах Nvidia H100, значительно превосходя аналогичные модели. Например, Mercury Coder Mini достигает скорости в 19 раз выше, чем GPT-4o Mini, сохраняя при этом аналогичную точность при решении задач кодирования.

Mercury Coder доступен для тестирования на демо-сайте Inception.