AI в разборе детектов: как учить модель рассуждать, но не принимать решение вместо аналитика
В очереди SOC один детект редко содержит весь ответ. AI может собрать контекст и предложить гипотезу, но окончательное решение должно оставаться у аналитика, который видит бизнес-смысл и риск ошибки. Главный риск — принять красивое объяснение за доказательство…
AI-отчёты об уязвимостях: как не утонуть в потоке находок низкого качества
Команда приёма уязвимостей получает всё больше отчётов, которые выглядят убедительно, но плохо воспроизводятся. AI помогает быстро писать текст, поэтому качество доказательств становится важнее объёма описания. Главный риск — потратить время инженеров на длинн…
AI-звонки от имени поддержки: как расследовать голосовой фишинг против владельцев украденных устройств
Голосовой фишинг стал опаснее, когда синтетический голос начал звучать как привычная поддержка. В сценарии с украденным устройством жертва уже находится в стрессовой ситуации, поэтому просьба назвать код или пароль кажется частью восстановления доступа. Главны…
Подмена пакетов через галлюцинации AI: как галлюцинации AI создают риск цепочки поставок
подмена пакетов через галлюцинации AI — это риск, который возникает на стыке AI-помощников и разработки. Модель может предложить библиотеку, пакет или домен, которого на самом деле нет. Злоумышленник регистрирует такое имя и ждёт, пока разработчик установит ег…
AI в SOC: как перейти от индикаторов к контексту угроз
SOC часто тонет не в нехватке данных, а в нехватке смысла. Индикаторы приходят из разных источников: адреса, домены, следы вредоносных писем, события входа, действия в облаке и сигналы от EDR. Отдельный индикатор редко отвечает на главный вопрос: это опасно им…
Офлайн-стек AI у атакующей группы: как SOC распознавать ускоренный фишинг и разработку вредоносных инструментов
Локальный AI-стек у атакующей группы меняет привычные признаки злоупотребления: нет обращений к публичному AI API, но есть быстрые варианты приманок, переводы, стилизация писем и ускоренная подготовка вредоносных артефактов. Главный риск — искать только внешни…
90 дней атак на AI-инфраструктуру: что SOC должен видеть в шлюзах и сервисах моделей
AI-инфраструктура стала отдельной поверхностью атаки: шлюзы моделей, серверы инструментов, панели управления и сервисы хранения контекста часто публикуются быстрее, чем описываются правила их защиты. SOC должен видеть не только обычные сетевые события, но и по…
CSS-инъекции против почты и AI-читалок: как письмо может украсть токены через интерфейс
Письмо становится риском не только из-за ссылки или вложения. Если почтовый интерфейс и AI-читалка обрабатывают активную разметку небезопасно, само отображение сообщения может повлиять на границы интерфейса и утечки токенов. Главный риск — считать тело письма …
Инцидент у AI-поставщика: какие проверки должны требовать заказчики
Когда AI-поставщик сообщает об инциденте и новых мерах защиты, заказчику недостаточно прочитать публичный отчёт. Нужно перевести обещания в проверяемые требования: логи, изоляцию, доступ сотрудников, сроки хранения и независимый контроль. Главный риск — принят…
Контекст авторизации в AI-приложениях: как не показать пользователю чужие данные
AI-приложение часто имеет широкий доступ к базам знаний, документам и внутренним сервисам. Пользователь при этом должен видеть только свои данные, поэтому права нужно проверять на уровне источника, а не только в тексте запроса. Главный риск — сделать модель по…