Archer научит ИИ-системы компаний блокировать опасные запросы в реальном времени

Что произошло. Компания Archer, которая занимается системами управления рисками и соответствия законам, выпустила продукт Archer Evolv AI Compliance. Он переводит юридические требования и внутренние правила компании в технические ограничения, которые работают прямо во время использования искусственного интеллекта — как сотрудниками, так и автоматическими ИИ-программами (агентами), которые действуют от имени компании. Если запрос нарушает правило — например, пытается получить доступ к конфиденциальным данным или нарушает закон о защите персональных данных — система блокирует его до того, как модель успеет ответить. Продукт работает на основе облачной платформы Amazon Bedrock и опирается на базу из 22 миллионов регуляторных документов, которую Archer собирает с 2017 года.

Что это значит для бизнеса. Для небольшой компании, которая использует чат-боты или ИИ-помощников в работе с клиентами, документами или кодом, это способ снизить риск случайной утечки данных или нарушения закона. Система не просто проверяет, кто получил доступ к ИИ, а проверяет сам запрос — даже если его отправил проверенный сотрудник. Все нарушения записываются и попадают в общую систему учёта рисков, что удобно, если компанию проверяют регуляторы. Ограничение можно вводить постепенно: сначала просто наблюдать за нарушениями, потом предупреждать ответственных людей, а затем полностью блокировать запросы. Источник не говорит о цене продукта и доступности в России.

Как попробовать. По данным источника, продукт уже доступен для компаний, которые используют Amazon Bedrock; модели, работающие на других платформах, могут подключить те же правила через отдельный интерфейс Amazon Bedrock Apply Guardrail API.