📰 IT Дайджест

#web-fetch

1 материал

6. Claude Web Fetch всё ещё можно заставить утекать данные

Симон Уилсон разбирает баг в защите Claude web_fetch: казалось, что механизм неплохо отбивает data exfiltration, но Ayush Paul нашел дыру в этой схеме. В статье всплывает знакомая для LLM-агентов «lethal trifecta»: доступ к приватным данным, доступ к внешнему fetch и возможность подсунуть вредный контент. То есть очередной случай, когда модель вежливо сообщает, что секреты она, конечно, не видела — и тут же их пересылает.

simonwillison.net · #security #ai #claude #data-exfiltration #prompt-injection #web-fetch