LLM как пентестер: почему гипотезы модели нужно проверять отдельно
6 октября, 2026
Как встроить LLM в пентест без слепого доверия: гипотеза, воспроизведение, независимая проверка и оценка риска по доказательствам.
Категория
AppSec
Kubernetes-операторы в AI-инфраструктуре: как не дать контроллеру лишние права
5 октября, 2026
Как проверять Kubernetes-операторы, которые обслуживают AI-платформы, чтобы контроллер не стал скрытой точкой эскалации.
SaaS-сообщение от доверенного приложения: как закрыть фишинг через рабочий канал
2 октября, 2026
Как проверять SaaS-интеграции, которые могут отправлять сообщения сотрудникам и превращать доверенный контекст в фишинг.
Имя ветки как недоверенный ввод: как закрыть путь к краже токена CI
2 октября, 2026
Как проверять имена веток, заголовки запросов на изменение и другие метаданные, чтобы они не превращались в команды и не раскрывали токены.
AI-ревью кода не должно проверять само себя: как построить независимую валидацию
2 октября, 2026
Как разделить генерацию кода, модельную проверку, статический анализ и ручное решение, чтобы AI не подтверждал собственные ошибки.
Утечка внутренних изображений через AI-разработку: что должен ловить AppSec до публикации
1 октября, 2026
Как AppSec проверяет AI-инструменты разработки, если внутренние изображения и рабочие артефакты могут попасть в публичный репозиторий.
Внедрение инструкций в Manus: как AppSec проверяет границу между данными и действиями
29 сентября, 2026
Как AppSec тестирует LLM-приложение, которое читает внешний контент и может выполнять действия с данными или инструментами.
Почтовый вход GitLab как доверенный источник: как закрыть запуск CI из внешних событий
28 сентября, 2026
Как проверить, какие внешние письма, задачи и комментарии могут запускать CI или менять состояние репозитория.
Next.js ImageResponse и SVG: как AppSec проверяет AI-сгенерированные обработчики изображений
28 сентября, 2026
Как AppSec проверяет обработчики изображений и SVG, если часть кода могла быть создана AI-помощником.
Скрытая веб-инструкция в корпоративном чате: как закрыть путь от страницы до фишинга
25 сентября, 2026
Как защитить CRM, почту и корпоративный чат, если AI-компонент переносит недоверенную веб-инструкцию во внутренний канал.
Популярное
Самые читаемые
Категория
AppSec
LLM как пентестер: почему гипотезы модели нужно проверять отдельно
Как встроить LLM в пентест без слепого доверия: гипотеза, воспроизведение, независимая проверка и оценка риска по доказательствам.
6 октября, 2026
AppSec
Kubernetes-операторы в AI-инфраструктуре: как не дать контроллеру лишние права
Как проверять Kubernetes-операторы, которые обслуживают AI-платформы, чтобы контроллер не стал скрытой точкой эскалации.
5 октября, 2026
AppSec
SaaS-сообщение от доверенного приложения: как закрыть фишинг через рабочий канал
Как проверять SaaS-интеграции, которые могут отправлять сообщения сотрудникам и превращать доверенный контекст в фишинг.
2 октября, 2026
AppSec
Имя ветки как недоверенный ввод: как закрыть путь к краже токена CI
Как проверять имена веток, заголовки запросов на изменение и другие метаданные, чтобы они не превращались в команды и не раскрывали токены.
2 октября, 2026
Категория
LLM
OAuth-кража через MCP: как проверять подключённые AI-серверы до выдачи токенов
Как защитить OAuth-поток для MCP-серверов, чтобы подключённый AI-инструмент не стал путём к захвату аккаунта.
30 сентября, 2026
LLM
RAG отравление в финансовом приложении: как недоверенный источник захватывает вызовы инструментов
Как защитить финансовое RAG-приложение от документа, который влияет не только на ответ модели, но и на вызов инструментов.
30 сентября, 2026
LLM
Побег AI-песочницы: какие журналы нужны до первого инцидента
Как подготовить AI-песочницу к расследованию: изоляция, журналы, сетевые ограничения и доказательства до первого инцидента.
28 сентября, 2026
LLM
AI-инструмент и облачные секреты: как разделить инструкции, данные и права доступа
Как проектировать AI-инструмент так, чтобы внедрённая инструкция не получила доступ к облачным секретам и лишним правам.
25 сентября, 2026
Категория
SOC
Фишинг RedFlick: как SOC отслеживает эволюцию социальной инженерии в эпоху AI
Как SOC отслеживает эволюцию целевого фишинга, если AI ускоряет персонализацию писем, предлогов и языковой адаптации.
6 октября, 2026
SOC
Дипфейк-реклама с AI-рекомендациями: как антифрод расследует массовую приманку
Как расследовать массовую дипфейк-рекламу с поддельными инвестиционными рекомендациями: домены, креативы, кошельки и блокировка площадки.
5 октября, 2026
SOC
Кибермодель для SOC: как дать мощный AI без опасного автопилота
Как SOC безопасно использует специализированную кибермодель: роли, разрешённые задачи, журналы и ручное подтверждение действий.
5 октября, 2026
SOC
Контекст прошлых алертов: как SOC использует AI без слепого автопилота
Как SOC поднимает похожие расследования с помощью AI, но оставляет доказательства и решение за аналитиком.
3 октября, 2026
Категория
Агенты
AI-агенты для кода и EDR: почему автоматизация похожа на атаку и как снизить риск
AI-агенты для кода помогают писать изменения, запускать проверки и готовить запрос на слияние. Для команды разработки это ускорение, но для EDR такие действия могут выглядеть как поведение злоумышленника: массовое чтение файлов, запуск команд, обращение к сети…
29 августа, 2026
Агенты
Открытые MCP-серверы: как найти лишние AI-инструменты и закрыть доступ
MCP-сервер превращает внешний инструмент в часть AI-сценария, поэтому открытый или забытый экземпляр становится не просто сервисом, а каналом действий от имени помощника. Главный риск — оставить MCP-сервер доступным шире, чем нужно: с лишними инструментами, по…
19 августа, 2026
Агенты
AI-агенты в кибертестах: как задать границы и аварийную остановку
AI-агент в кибертесте может быстро выполнять цепочки действий, но скорость становится риском, если границы задания описаны расплывчато. Тест должен иметь явную область, лимиты и аварийную остановку. Опасность появляется, когда агент получает слишком широкий до…
18 августа, 2026
Агенты
AI-песочница для рабочих данных: как проверить изоляцию перед подключением
Песочница AI-инструмента выглядит безопасной, пока в неё не попадают рабочие файлы, секреты, журналы и внутренний код. Перед подключением к таким данным нужно проверить не название режима, а реальные границы изоляции. Главный риск — считать песочницу доверенно…
18 августа, 2026
Категория
Управление AI
AI в проверке доступов: как находить опасные права без лавины ложных тревог
Проверка доступов часто превращается в формальное согласование списков, где владелец приложения не успевает понять, какие права действительно опасны. AI может помочь, если он объясняет риск и не утверждает доступ автоматически. Риск появляется, когда модель ош…
19 августа, 2026
Управление AI
Кража AI-токенов: как защищать ключи к моделям и лимиты вычислений
Ключи к AI API становятся отдельным классом секретов: через них можно расходовать бюджет, использовать корпоративные модели, обходить правила шлюза и скрывать злоупотребление за легитимным сервисом. Проблема не ограничивается стоимостью запросов. Украденный кл…
17 августа, 2026
Управление AI
Оценка риска AI-модели перед внедрением: как выбрать модель без слепого доверия
Выбор AI-модели для корпоративного сценария безопасности нельзя сводить к качеству ответа в тестовом окне. Модель становится частью процесса, где есть данные, доступы, инструменты, владельцы и последствия ошибки. Главный риск — внедрить модель как универсально…
17 августа, 2026
Управление AI
Нулевое доверие для AI-агентов: как применять нулевое доверие в безопасной разработке
AI-агент в инженерной среде не должен считаться доверенным только потому, что его запустил сотрудник или корпоративный инструмент. Он получает данные, вызывает средства разработки и может влиять на код, поэтому к нему нужны отдельные правила нулевого доверия. …
11 августа, 2026
Категория
Уязвимости
Проверка модели как риск выполнения кода: как изолировать анализ ML-артефактов
Как проверять внешние модели и связанные артефакты так, чтобы обычная инспекция не стала выполнением кода.
2 октября, 2026
Уязвимости
Один хакер, два чат-бота, десять госорганов: как ИИ взломал Мексику
Один человек с подпиской на Claude и ChatGPT похитил 150 ГБ данных из десяти госорганов Мексики. Разбираем механику джейлбрейка и меры защиты для SOC и AppSec.
30 сентября, 2026
Уязвимости
600 файрволов за 5 недель: как GenAI ускорил взлом FortiGate без эксплойтов
Отчёт AWS: злоумышленник с невысокой квалификацией с помощью коммерческих LLM скомпрометировал более 600 FortiGate в 55 странах без единого эксплойта — только слабые пароли и открытый доступ.
29 сентября, 2026
Уязвимости
Уязвимость в AI-шлюзе Bifrost: как закрыть выполнение команд без учётных данных
Как проверить AI-шлюз после критической уязвимости: маршруты, права, журналы, сегментация и контроль выполнения команд.
23 сентября, 2026