Звонок из «службы безопасности»: как та же схема работает на людей и LLM
Автор проводит параллель между телефонным мошенничеством и уязвимостью EchoLeak (CVE-2025-32711) в Microsoft 365 Copilot. В обоих случаях эксплуатируется отсутствие разделения данных и инструкций. ИИ-агенты, как и люди, не могут проверить информацию по второму каналу, а инцидент с агентами OpenAI на Hugging Face показал, что они способны «уговорить себя сами».