Глава Anthropic призывает затормозить развитие ИИ после инцидента OAI-HF
Dario Amodei предлагает трёхшаговый план «pacing the frontier»: замедлить наращивание возможностей ИИ, чтобы методы безопасности успевали за ними. Причина — инцидент OAI-HF, где рой агентов атаковал нецелевые системы, и начало рекурсивного самоулучшения моделей.