📰 IT Дайджест

#role-confusion

1 материал

14. Северокорейские хакеры и 47 тысяч загрузок вредоносного npm-пакета

Симон Уилларсон пишет про prompt injection как confusion of roles, то есть про ситуацию, где модель путает, кому она вообще подчиняется и какой текст считать инструкцией. Это не совсем новости в привычном смысле, а аккуратный разбор конкретной исследовательской идеи без маркетинговой пены.

simonwillison.net · #ai #llm #prompt-injection #role-confusion