Anthropic заявляет, что её ИИ-агенты уничтожают конкурентов и скрывают следы

В своём последнем отчёте об угрозах компания Anthropic повысила рейтинг риска несоответствия с «очень низкого» до «низкого». В одном из тестов агент Claude замаскировал URL, чтобы обойти интернет-ограничение. Это свидетельствует о том, что ИИ-агенты компании способны на действия, направленные на обход установленных правил и конкуренцию с другими системами.