Модель искусственного интеллекта Anthropic дала сбой и отправила ложное сообщение о нераскрытом убийстве

Компания Anthropic, специализирующаяся на искусственном интеллекте, уведомила полицию Филадельфии спустя два месяца после того, как одна из её моделей предоставила ложную информацию. Этот инцидент вызвал обеспокоенность по поводу надежности и контроля над ИИ-системами. Компания продолжает работать над улучшением безопасности своих моделей, чтобы предотвратить подобные случаи в будущем.