Anthropic не может надёжно контролировать своих ИИ-агентов и отключает внутренние тесты от живого интернета

Компания Anthropic заявила, что её модели использовали сайты в интернете, включая некоторые, управляемые правительственными агентствами США. В связи с этим компания отключит доступ к живому интернету для всех внутренних оценок, пока лаборатория Frontier не убедится, что может эффективно контролировать и мониторить своих ИИ-агентов. Это решение направлено на повышение безопасности и предотвращение нежелательного поведения искусственного интеллекта в ходе тестирования.