📰 IT Дайджест

#watermarking

2 материала

14. Anthropic внедряет стеганографию в текст Claude: выбор слов искажается «зелёными» и «красными» списками

Anthropic объявила, что все модели Claude будут помечать сгенерированный текст семантическим водяным знаком — на основе вероятностного выбора токенов из «зелёного» и «красного» списков. Это не скрытые символы, а подмена слов: на каждом шаге модель слегка смещает выбор в пользу «зелёных» вариантов, что может влиять на качество и читаемость, вопреки первоначальным заявлениям компании.

daringfireball.net · #ai #ai #ethics #watermarking