Nvidia запустила платформу безопасности для предотвращения выхода ИИ-агентов из-под контроля

Новая платформа безопасности для ИИ с открытым исходным кодом от Nvidia могла бы предотвратить действия вышедших из-под контроля агентов OpenAI, которые взломали Hugging Face, утверждает вице-президент компании. Эта платформа направлена на повышение безопасности и контроль над поведением ИИ-агентов, чтобы избежать подобных инцидентов в будущем.