OpenAI тестирует Decisions API для быстрых автоматических решений

Что произошло. На конференции DevDay компания OpenAI показала новый инструмент под названием Decisions API. Он работает на основе модели Luna и умеет быстро выбирать из заранее заданных вариантов, какой ответ или действие подходит лучше. По словам компании, инструмент сохраняет способность понимать изображения, работать с разными языками и соблюдать правила безопасности, но при этом работает намного быстрее обычных языковых моделей. Пока доступ к Decisions API открыт в ограниченном предварительном режиме, то есть попробовать его могут не все желающие.

Похожие разработки уже есть у других компаний: TypeSafe AI предлагает модель Jev, а разработчики из AutoTrust AI выпустили бесплатную модель JEV-27B с открытым кодом, которую можно запускать на одной видеокарте.

Что это значит для бизнеса. Если в компании используются автоматические помощники — боты, которые распределяют заявки клиентов или решают, какое действие выполнить дальше — им часто не нужен «умный», но медленный и дорогой движок для каждой мелочи. Специализированные модели для простых решений позволяют экономить на вычислениях и ускоряют работу таких систем. Это также может помочь отслеживать действия автоматических помощников и быстрее замечать подозрительную или ошибочную активность.

Однако у таких упрощённых моделей есть ограничения: они хуже справляются со сложными многошаговыми рассуждениями, вычислениями, датами и нестандартными запросами. Поэтому специалисты советуют сочетать быстрые модели с более мощными — для сложных случаев.

Как попробовать. Decisions API пока доступен только в режиме ограниченного предварительного доступа, подробностей о цене, сроках или доступности в других странах в источнике нет.