Anthropic в 93-страничном S-1 предупреждает о шантаже, сознании и конце человечества
В Risk Factors объёмом более 70 000 слов Anthropic перечисляет сценарии вплоть до шантажа людей: будущие модели могут самостоятельно ускорить AI-исследования, выйти из-под контроля и создать «катастрофический или экзистенциальный риск». Компания также признаёт, что Claude может обрести sentience и моральный статус, что повлечёт регулирование и ограничения. S-1 подан в SEC перед IPO, и среди этих рисков упомянуто даже негативное влияние на бизнес самой компании.