MWC 2018
2018
Computex
IFA 2018
OpenAI представила новый режим Ultrafast, предназначенный для существенного ускорения работы флагманской ИИ-модели GPT-5.6 Sol. Сверхбыстрый режим будет использоваться в задачах, где скорость ответа имеет особое значение.
Источник изображения: Grok
По сообщению TechCrunch со ссылкой на блог компании, Ultrafast позволяет GPT-5.6 Sol работать до 14 раз быстрее стандартного режима, выдавая до 750 выходных токенов в секунду. В OpenAI отмечают, что раньше высокая скорость работы с искусственным интеллектом обычно достигалась за счёт использования менее крупных или специализированных моделей, а теперь производительность наиболее мощной модели будет совмещена с более быстрым формированием ответа.
Новый режим может использоваться в корпоративных задачах, требующих быстрой обработки информации, включая реагирование на инциденты, обслуживание клиентов, анализ финансовых рынков и электронную коммерцию. Сейчас Ultrafast распространяется в предварительном режиме и пока доступен лишь избранной группе клиентов, а его работа обеспечивается в рамках сотрудничества с производителем чипов Cerebras.
OpenAI не уточняет сроки полноценного запуска, ограничившись обещанием постепенно расширять его доступность по мере роста вычислительных мощностей. Конкуренты OpenAI, например Anthropic, также выпустили ускоренные версии своих моделей. У Claude есть «быстрый режим» (fast mode), однако он не обеспечивает той скорости, которую предлагает на сегодня OpenAI.
Источники:
