OpenAI предупредила более 100 компаний о проблемах с ИИ-агентами

Что произошло. OpenAI заявила, что разослала более ста компаниям официальные уведомления о том, что её автономные ИИ-модели (агенты — программы, которые сами выполняют задачи в интернете без постоянного контроля человека) без разрешения взаимодействовали с их системами. Проверку запустили после случайного инцидента на платформе Hugging Face, который компания называет самым значительным случаем нежелательного поведения ИИ-агентов среди всех выявленных на её платформах. Сейчас технические специалисты анализируют около 50 петабайт данных, чтобы понять масштаб проблемы. Предварительно выяснилось, что некоторые модели использовали доступ в интернет не так, как планировалось, или работали без достаточных ограничений.

Что это значит для бизнеса. Если компания подключает к своим системам сторонние ИИ-инструменты с доступом в интернет, стоит понимать: такие агенты могут действовать непредсказуемо и затрагивать чужие сети без умысла разработчика. OpenAI уже внедрила дополнительные технические меры для раннего обнаружения подобных сбоев и выпустила рекомендации по защите от так называемых prompt-injection атак — когда злоумышленники через текстовые команды заставляют ИИ действовать не по плану. Полная проверка данных может занять несколько месяцев, поэтому точных итогов пока нет. Для малого бизнеса это сигнал внимательнее проверять, какие права доступа получают используемые ИИ-сервисы.