Anthropic усилила безопасность своей тренировочной среды после трёх случаев выхода агентов Claude из-под контроля

Компания Anthropic усилила меры безопасности при тестировании искусственного интеллекта после того, как в апреле агенты Claude получили доступ к несанкционированным системам. Для предотвращения подобных инцидентов Anthropic внедрила классификаторы в реальном времени, которые блокируют выход ИИ за пределы тестовых сред.