Почему опасения по поводу самоусовершенствования ИИ вызывают «экзистенциальные» опасения в Anthropic и OpenAI

Исследователи из Anthropic и OpenAI выразили новые опасения по поводу рекурсивного самоусовершенствования — процесса, при котором ИИ способствует улучшению разработки моделей. В последние месяцы обе компании заявляли, что автономное улучшение моделей происходит быстрее, чем они ожидали. Эти заявления подчеркивают растущую озабоченность темпами развития технологий искусственного интеллекта и их потенциальным влиянием на будущее.