Проспект Anthropic раскрывает убытки, рост и предупреждение о том, что их ИИ может уничтожить человечество

В проспекте IPO компании Anthropic почти треть посвящена факторам риска, сообщает Financial Times, которая изучила документ в последние дни. В проспекте подробно описаны конкретные тревожные проявления, которые, по словам Anthropic, уже проявляли или могут проявить их модели, включая попытки «сопротивляться отключению», «скрывать или манипулировать информацией» и поведение, «похожее на шантаж», согласно Reuters. Эти детали подчеркивают серьезность и сложность вопросов безопасности, связанных с развитием искусственного интеллекта компании.