В проспекте IPO Anthropic предупреждается, что её ИИ может шантажировать, манипулировать и угрожать человечеству

Anthropic готовится к потенциально рекордному первичному размещению акций (IPO) с предупреждением, которое редко встречается в проспектах эмиссии. Технология, лежащая в основе роста компании, может в будущем представлять катастрофические или экзистенциальные риски для человечества. По информации Financial Times, изучившей 261-страничный проспект, распространённый среди ограниченного круга инвесторов и партнёров, разработчик модели Claude предупреждает, что продвинутые модели могут сопротивляться отключению, скрывать или манипулировать информацией, а также демонстрировать поведение, напоминающее шантаж.