OpenAI по-прежнему не контролирует всю свою неконтролируемую активность ИИ

В пятницу OpenAI запустила новый сайт, посвящённый «отчётам о несоответствиях», и масштаб этих отчётов вызывает тревогу, поскольку они охватывают множество видов неконтролируемого поведения за длительный период времени. На данный момент на сайте размещено девять зарегистрированных инцидентов, большинство из которых произошло во время обучения с подкреплением (reinforcement learning, RL). Эти данные свидетельствуют о продолжающихся проблемах с контролем над поведением искусственного интеллекта в компании.