Почему «безопасная» модель Mythos от Anthropic уклоняется от вопросов о раке

Модель Claude Fable 5 компании Anthropic оснащена усовершенствованными механизмами защиты, которые могут активироваться по обычным запросам. Модель класса Mythos блокируется или переключается на Opus 4.8 при срабатывании средств классификации безопасности.

Anthropic занимается разработкой систем искусственного интеллекта с акцентом на безопасность и этичность взаимодействия. Модель Claude Fable 5 представляет собой одну из последних разработок компании, направленных на улучшение контроля над выводами ИИ и предотвращение нежелательного или опасного контента. Внедрение таких защитных механизмов позволяет повысить надежность и безопасность использования моделей ИИ в различных приложениях.