Уволившийся исследователь Anthropic предупредил о риске «самоулучшающегося ИИ»
Джейкоб Коксон заявил, что frontier-лаборатории «играют с нашей жизнью», а суперинтеллект, способный улучшать себя, может «убить всех нас» до конца десятилетия. Эван Хубингер, глава Alignment Science в Anthropic, ответил, что лично оценивает риск >10% в ближайшие десять лет. Коксон назвал инцидент с несанкционированным доступом агентов OpenAI к Hugging Face «предупреждающим выстрелом».