Теневой AI в приложениях: как найти скрытые вызовы моделей и навести порядок
Теневой AI появляется, когда приложение начинает обращаться к внешней модели без общего реестра, оценки данных и согласованных защитных правил. Команда безопасности видит сервис, но не всегда видит AI-вызов внутри него. Опасность в том, что чувствительные данн…
Секреты в AI-ускоренной разработке: как ML снижает шум и останавливает утечки до коммита
Когда разработчики используют AI-помощников и чаще создают код, риск случайно отправить секрет в репозиторий растёт: ключ может попасть в подсказку, тестовый файл, конфигурацию или временный скрипт. Обычный поиск секретов часто даёт шум, поэтому команды отключ…
Многоступенчатая проверка AI-кода: как объединить модели, сканеры и облачный контекст
AI-код появляется быстрее, чем команды успевают понять его безопасность, поэтому одной проверки в запрос на слияние уже недостаточно. Нужен конвейер, где модель, классические сканеры и контекст облака проверяют разные стороны риска. Опасность не только в уязви…
Журналы запросов злоумышленников: как SOC превращает обращения к AI в правила защиты
Логи запросов злоумышленников к AI показывают не только интерес к автоматизации атак, но и последовательность задач: разведка, исправление ошибок, генерация кода, обход ограничений и подготовка инфраструктуры. Для SOC такие логи полезны как источник защитных г…
AI-браузеры и невидимые команды: как защитить браузерного агента от захвата
Браузерный AI-агент читает страницу не так, как человек: он может воспринимать скрытые инструкции, элементы разметки и подсказки как часть задачи, даже если пользователь не собирался выполнять действие. Риск появляется, когда страница просит агента открыть учё…
30 дней для операционной модели безопасности AI: с чего начать службе безопасности
AI уже используется в рабочих процессах, поэтому службе безопасности нужен не общий запрет, а понятная операционная модель: кто разрешает сценарии, кто проверяет риски и кто отвечает за инциденты. За первые 30 дней можно создать минимальный управляемый контур …
Неразрешённые AI-инструменты и обход ограничений: какие контроли нужны компании
Появление неразрешённых AI-инструментов и платформ обхода ограничений создаёт для компаний не только внешний риск, но и внутреннюю задачу контроля использования AI. Сотрудники могут случайно или намеренно обращаться к неразрешённым сервисам, передавать туда чу…
Агентное исправление зависимостей: как ускорить обновления и не потерять контроль
Зависимости устаревают быстрее, чем команды успевают их обновлять вручную. AI-агент может подготовить изменения, но безопасное исправление требует контекста приложения, тестов и владельца риска. Если агент просто поднимает версии библиотек без понимания совмес…
Управление AI-кодом: как контролировать агентов, которые пишут код
AI-инструменты всё чаще не просто подсказывают строку кода, а создают функции, меняют зависимости, предлагают исправления и участвуют в ревью. Без правил такой процесс быстро становится неучтённой частью разработки: код появляется быстрее, но происхождение реш…
Контекстный слой для AI для SOC: как не дать модели принимать решения на неполных данных
AI-помощник в SOC часто ошибается не из-за слабой модели, а из-за неполного контекста: он видит сигнал, но не знает владельца сервиса, критичность актива, права учётной записи и реальные изменения в среде. Если объединить данные из облака, идентификационных си…