Anthropic выпустила первую публичную версию Claude Mythos с усиленными мерами безопасности

Компания Anthropic во вторник выпустила Claude Fable 5 — первую публичную версию долгожданной и вызывающей опасения модели Claude Mythos, оснащённой защитными механизмами, предотвращающими использование модели для эксплуатации уязвимостей в области кибербезопасности или разработки биологического оружия.

Anthropic была основана в 2021 году бывшими сотрудниками OpenAI и специализируется на разработке безопасных и этичных моделей искусственного интеллекта. Claude Mythos является частью серии языковых моделей Claude, разработанных с целью конкуренции с другими крупными ИИ-системами, такими как GPT от OpenAI. Компания активно работает над внедрением ограничений, чтобы минимизировать возможный вред от использования своих технологий.