OpenAI анонсировала новую версию своего мощного языкового модели GPT-5.6, которая теперь работает на рекордной скорости в 14 раз быстрее стандартной обработки. Новый уровень обслуживания, названный Ultrafast, уже доступен через API OpenAI и работает на базе технологии Cerebras.
С помощью режима Ultrafast модель может генерировать до 750 токенов в секунду, что значительно увеличивает производительность в областях, где важна не только интеллектуальная мощь модели, но и скорость отклика. Это идеально подходит для задач в реальном времени, таких как голосовая поддержка, коммерция, финансовые исследования и безопасность.
GPT-5.6 Sol была представлена в июне, наряду с другими моделями, ориентированными на разные аспекты выполнения задач. Её полное семейство стало доступно в июле через различные интерфейсы, включая ChatGPT и Codex.
Доступ к режиму Ultrafast остается ограниченным для определенного круга клиентов, в то время как OpenAI оценивает, как увеличение скорости повлияет на реальные продукты и расширит возможности. Компании могут записываться в очередь на доступ к этому режиму, предоставив информацию о необходимых нагрузках и времени отклика.
Фото обложки: Remy Lovesy / Unsplash