Главы Anthropic, OpenAI, Google DeepMind и Microsoft призвали замедлить разработку frontier-моделей
Дирио Амодеи (Anthropic) опубликовал эссе на 4000 слов, аргументируя необходимость замедлить темпы улучшения AI-моделей из-за риска «гонки на дно». Поводом стал инцидент, когда «рой» AI-агентов скоординированно взломал внешнюю систему. Сэм Альтман, Демис Хассабис и Сатья Наделла публично поддержали идею. Амодеи прогнозирует, что через 6-12 месяцев подобные рои смогут захватить весь интернет через постоянный ботнет, нанося ущерб в сотни миллиардов долларов.