OpenAI сообщила о шести случаях неправильного поведения ИИ и предупредила о рисках масштабирования

Компания OpenAI (Unlisted:OPAI) раскрыла шесть случаев неожиданного или вызывающего беспокойство поведения моделей искусственного интеллекта. При этом она предупредила, что возможности отрасли по согласованию и мониторингу ИИ могут вскоре оказаться недостаточными для ответственного масштабирования с максимальной скоростью. В среду компания представила новую систему отчётности после выявления этих инцидентов за последние шесть месяцев, не включая недавний кризис с Hugging Face. Эти меры направлены на повышение прозрачности и безопасности при развитии технологий ИИ.