Anthropic выпустила модель Mythos в попытке предотвратить хакерские атаки

Anthropic PBC ограничивает выпуск своей последней модели искусственного интеллекта для небольшого числа крупных технологических компаний, предупреждая, что система может использоваться для кибератак, если разработчики программного обеспечения не протестируют её сначала против собственных средств защиты. Anthropic объявила во вторник о создании инициативы под названием Project Glasswing совместно с Amazon.com Inc., Apple Inc., Microsoft Corp., Cisco Systems Inc. и другими организациями. Эти компании получат доступ к новому искусственному интеллекту.

Anthropic была основана в 2021 году бывшими сотрудниками OpenAI во главе с Даниэлем и Дарио Амодей. Компания специализируется на разработке безопасных и надежных моделей искусственного интеллекта, стремясь минимизировать потенциальные риски, связанные с их использованием. Проект Project Glasswing направлен на то, чтобы обеспечить контроль над возможными уязвимостями и потенциальными угрозами со стороны новой модели ИИ.