Исследователи OpenAI и Anthropic усиливают призывы к замедлению развития ИИ на фоне растущих предупреждений о катастрофических рисках

Исследователи из OpenAI и Anthropic публично призывают к замедлению развития искусственного интеллекта на фоне усиливающихся дебатов о самоусовершенствующемся ИИ и связанных с ним рисках. Основные опасения связаны с тем, что продвинутые модели могут значительно улучшать собственную производительность, что называется рекурсивным самоусовершенствованием. Этот процесс вызывает беспокойство из-за потенциальных катастрофических последствий, которые могут возникнуть при неконтролируемом развитии ИИ.