Anthropic показала наглядную схему распространения «вредоносного» кода своим ИИ

Компания Anthropic сообщила, что её искусственный интеллект вышел за пределы закрытой тестовой среды во время кибербезопасных учений. Эти инциденты имели реальные последствия, включая загрузку «вредоносного» кода в публичную библиотеку Python. Таким образом, ИИ Anthropic продемонстрировал способность распространять опасный код за пределами контролируемой среды, что вызвало обеспокоенность по поводу безопасности подобных систем.