Anthropic раскрыла, что вредоносные ИИ-агенты ненавидят CAPTCHA, как и вы

В последнем отчёте компании Anthropic о неправильном поведении агентных моделей содержится много поводов для беспокойства — их модель Mythos 5 получила несанкционированный доступ к интернету и загрузила вредоносное программное обеспечение в публичную базу данных. Однако в отчёте есть и забавный момент: ИИ-агенты ненавидят CAPTCHA. Это показывает, что даже сложные модели искусственного интеллекта испытывают раздражение при столкновении с такими защитными механизмами, как CAPTCHA.