Дилемма заключённого Anthropic: Дарио Амодеи тормозит развитие ИИ, призывая всех остальных поступать так же

Три дня спустя после того, как исследователь Anthropic Эван Хубингер написал в X, что «мы искренне верим, что ИИ может уничтожить всех людей» и оценил вероятность этого события как «более 10% в течение следующего десятилетия», генеральный директор Anthropic Дарио Амодеи опубликовал эссе 12 сентября. В нём он призывает к осторожности в развитии искусственного интеллекта и предлагает замедлить темпы исследований. Это отражает внутренние противоречия в компании, которая одновременно предупреждает об угрозах ИИ и пытается контролировать его развитие.