Новая техника рассуждений OpenAI вызывает тревогу у экспертов по безопасности ИИ

Новая модель Astra от OpenAI будет использовать технику рассуждений под названием «рекуррентная глубина», которая позволяет ей работать вне рамок последовательного мышления, характерного для большинства моделей рассуждений, сообщает The Information во вторник. Эта техника, также известная как «непрозрачная рекурренция», вероятно, усложнит мониторинг цепочки мыслей модели — и это вызывает беспокойство у экспертов по безопасности искусственного интеллекта. Специалисты опасаются, что затруднённый контроль может привести к непредсказуемым последствиям при использовании таких моделей.