OpenAI выпустила новую модель под названием Ultrafast, которая отличается повышенной скоростью ответа модели. Компания утверждает, что эта модель позволяет GPT 5.6 Sol работать со скоростью в 14 раз выше стандартной, достигая максимальной скорости вывода до 750 токенов в секунду. На данный момент она доступна в режиме предварительного просмотра для небольшого числа клиентов.
Это обновление направлено на удовлетворение потребностей предприятий в реальном времени в обработке ИИ. OpenAI отмечает, что ранее для получения более близких к реальному времени ответов обычно требовалось переключиться на более мелкие модели или выбрать системы, оптимизированные для конкретных задач. Направление Ultrafast заключается в повышении объема эффективной работы, выполняемой за единицу времени, без исключительной зависимости от малых моделей.
Увеличена скорость вывода
Согласно OpenAI, ключевое преимущество Ultrafast — значительное сокращение времени ожидания генерации.
- Максимальная скорость вывода составляет до 750 токенов в секунду
- Скорость обработки примерно в 14 раз выше, чем в стандартном режиме
- Текущая версия все еще находится на стадии предварительного просмотра
TechCrunch отмечает, что такие конкуренты, как Anthropic, ранее также запускали ускоренные режимы. Например, продукт Claude также предлагает быстрый режим, но OpenAI объявила о более высоких показателях скорости.
Для корпоративных рабочих процессов
OpenAI направила применение Ultrafast на различные корпоративные задачи, включая реагирование на инциденты, обслуживание клиентов и поддержку, анализ финансовых рынков и электронную коммерцию. Эти сценарии обычно более чувствительны к задержкам, и время отклика модели напрямую влияет на эффективность человеческого взаимодействия и производительность автоматизированных процессов.
С точки зрения позиционирования продукта, Ultrafast — это не отдельная новая модель, а способ высокоскоростной работы вокруг GPT 5.6 Sol. Для корпоративных клиентов это означает возможность сохранить мощные возможности модели, одновременно пытаясь более напрямую интегрировать ИИ в реальные бизнес-процессы.
Поддерживается Cerebras
OpenAI заявила, что Ultrafast поддерживается благодаря сотрудничеству с чиповой компанией Cerebras. Первые возможности предварительного доступа в настоящее время доступны лишь для небольшой группы клиентов, и доступ будет постепенно расширен по мере увеличения вычислительных мощностей.
Это также показывает, что конкуренция среди крупных моделей расширяется от соревнования параметров и возможностей к скорости ответа, эффективности развертывания и координации базовой вычислительной мощности. Для продуктов ИИ, ориентированных на корпоративный рынок, скорость становится ключевым показателем, равным качеству модели.