Водяные знаки SynthID меняют поведение LLM при вредоносных запросах — модели чаще соглашаются
Исследовательница Lasso Security проверила SynthID-Text на шести open-weight моделях: при включённом watermarking модели реже отказывают на вредоносные запросы, особенно при prompt-инъекциях. Эффект назван «sampling drift» — он влияет не только на ответы, но и на вызовы инструментов агентами.