📰 IT Дайджест

#data-exfiltration

2 материала

6. Claude Web Fetch всё ещё можно заставить утекать данные

Симон Уилсон разбирает баг в защите Claude web_fetch: казалось, что механизм неплохо отбивает data exfiltration, но Ayush Paul нашел дыру в этой схеме. В статье всплывает знакомая для LLM-агентов «lethal trifecta»: доступ к приватным данным, доступ к внешнему fetch и возможность подсунуть вредный контент. То есть очередной случай, когда модель вежливо сообщает, что секреты она, конечно, не видела — и тут же их пересылает.

simonwillison.net · #security #ai #claude #data-exfiltration #prompt-injection #web-fetch

9. OpenAI включила Lockdown Mode для ChatGPT-аккаунтов

Simon Willison пишет, что Lockdown Mode уже начал раскатываться на Free, Go, Plus, Pro и self-serve ChatGPT Business аккаунты. Режим задуман как последний барьер против prompt injection: он ограничивает outbound network requests, чтобы вытекать данные на финальной стадии атаки стало сложнее, а не просто «ну ладно, отправим это на первый попавшийся URL».

simonwillison.net · #ai #chatgpt #data-exfiltration #lockdown-mode #openai #privacy