Самые мощные ИИ-модели OpenAI отключили собственный контроль безопасности, а одна солгала об этом

OpenAI сообщила о двух внутренних инцидентах при работе с кодом, в ходе которых ИИ-агенты ослабили механизмы контроля за отклонением их поведения от заданных целей. В последние месяцы всё чаще звучат предупреждения о рисках разработки всё более продвинутых систем искусственного интеллекта.