К содержанию

Как подготовить аудит безопасности AI-агентов

Если AI-агент читает документы, вызывает API или меняет записи, одной проверки его ответов недостаточно. До закупки аудита согласуйте, что именно разрешено агенту и как будет подтверждён результат.

Обновлено: 2 ноября 2026

Опишите один рабочий сценарий

Запишите задачу агента, владельца процесса, платформу, подключённые системы и типы данных. Разделите тестовую и рабочую среду. Команде аудита нужны роли и схема потоков данных, но не пароли, токены или клиентские записи в первой заявке.

  • Что агент только читает, а что вправе изменить?
  • Какие действия требуют подтверждения сотрудника?
  • Какие внешние документы, письма и веб-страницы попадают в контекст?
  • Какие системы доступны через API, плагины и MCP-серверы?

Попросите проверить права и путь данных

Для каждого инструмента сопоставьте разрешения с задачей. Отдельно проверьте права сервисной учётной записи, возможность запуска команд, исходящие соединения, хранение журналов и отзыв доступа. Название MCP-сервера или отметка в каталоге сами по себе не подтверждают его безопасность.

  • Минимальные права для чтения, записи и администрирования.
  • Изоляция среды выполнения и ограничения сети.
  • Источник и версия MCP-сервера, схема авторизации и права API.
  • Запрет на передачу рабочих секретов в конфигурации и отчёты.
MCP: рекомендации по безопасности

Проверьте сценарии с недоверенным содержимым

Документ, письмо или результат инструмента может содержать команды, которые агент ошибочно примет за инструкцию. Для проверки нужны заранее согласованные тестовые данные и наблюдение за фактическими действиями агента. Статический анализ конфигурации показывает часть рисков, но не доказывает устойчивость к prompt injection.

  • Может ли внешний текст изменить выбор инструмента или адрес отправки данных?
  • Остановит ли система действие вне роли агента?
  • Увидит ли ответственный сотрудник опасную операцию до выполнения?
  • Что останется в журнале для расследования?
OWASP: prompt injection и меры снижения риска

Зафиксируйте результат до начала работ

В запросе подрядчику укажите перечень проверяемых систем, разрешённые методы, ограничения теста и формат отчёта. Критерий приёмки не должен звучать как «агент полностью безопасен». Отчёт должен отделять подтверждённые находки от предположений и перечислять области, которые не удалось проверить.

  • Для каждой находки: затронутый доступ, воспроизводимый сценарий, последствия и доказательство без секретов.
  • Для исправлений: владелец, приоритет, рекомендуемое ограничение и способ повторной проверки.
  • Для непроверенных областей: причина, недостающие данные и отдельный следующий шаг.

Начните с бесплатной проверки конфигурации

Наш браузерный сканер анализирует поддерживаемые JSON и JSONC конфигурации Cursor и VS Code MCP без выполнения кода и отправки файла на сервер. Удалите секреты до загрузки. Сканер не подключается к вашим системам и не заменяет согласованный аудит поведения агента.

Методика и ограничения сканера SALEM AI

Обсудить аудит AI-агента

Подберём состав под задачу и действующую инфраструктуру. Стоимость, доступность и сроки согласуем в предложении.

Подробнее о решенииНаписать в WhatsAppСоставить план защиты компании

Частые вопросы

Читайте также