Вызовы инструментов AI-агента: как доказать, что действие действительно разрешила модель
Инструмент AI-агента нельзя запускать только потому, что во входных данных появилась похожая команда. Между запросом, ходом модели и вызовом инструмента должна быть доказуемая связь. Если эту связь не проверять, злоумышленник может попытаться передать инструкц…