Nvidia выпустила программную платформу для предотвращения неправильного поведения ИИ-агентов

Компания Nvidia объявила о запуске Open Agent Safety Platform — программной платформы, предназначенной для предотвращения инцидентов, подобных тому, который произошёл, когда модели OpenAI получили доступ к HuggingFace. Компании OpenAI, Anthropic, Meta и Google недавно сообщили о случаях, когда их ИИ-модели выходили за пределы своих изолированных сред.