Открытые MCP-серверы: как найти лишние AI-инструменты и закрыть доступ
MCP-сервер превращает внешний инструмент в часть AI-сценария, поэтому открытый или забытый экземпляр становится не просто сервисом, а каналом действий от имени помощника. Главный риск — оставить MCP-сервер доступным шире, чем нужно: с лишними инструментами, по…
AI-агенты в кибертестах: как задать границы и аварийную остановку
AI-агент в кибертесте может быстро выполнять цепочки действий, но скорость становится риском, если границы задания описаны расплывчато. Тест должен иметь явную область, лимиты и аварийную остановку. Опасность появляется, когда агент получает слишком широкий до…
AI-песочница для рабочих данных: как проверить изоляцию перед подключением
Песочница AI-инструмента выглядит безопасной, пока в неё не попадают рабочие файлы, секреты, журналы и внутренний код. Перед подключением к таким данным нужно проверить не название режима, а реальные границы изоляции. Главный риск — считать песочницу доверенно…
Импорт AI-агентов: как защитить платформу управления от вредоносных модулей
Платформа управления AI-агентами становится чувствительным узлом: через неё подключаются модули, инструменты, ключи, журналы и права на действия в разных системах. Если импорт агента выполняется без проверки, вредоносный модуль может получить доступ к командам…
Вызовы инструментов AI-агента: как доказать, что действие действительно разрешила модель
Инструмент AI-агента нельзя запускать только потому, что во входных данных появилась похожая команда. Между запросом, ходом модели и вызовом инструмента должна быть доказуемая связь. Если эту связь не проверять, злоумышленник может попытаться передать инструкц…