Компания Anthropic, поддерживаемая Amazon, и Пентагон столкнулись по вопросу мер безопасности в области ИИ — официальные лица выступают против ограничений на автономные вооружения и наблюдение: отчет

Американская компания Anthropic, занимающаяся разработкой искусственного интеллекта при поддержке Amazon.com, Inc., оказалась в противостоянии с Пентагоном относительно использования своих AI-инструментов. Противостояние с Пентагоном: Высоко рисковый спор вокруг ИИ Предметом спора является то, могут ли AI-модели компании Anthropic, в которые встроены меры безопасности для предотвращения вредоносных действий, без ограничений использоваться военными и разведывательными службами США, сообщает Reuters со ссылкой на источники, знакомые с ситуацией. По данным этих источников, в компании Anthropic выразили обеспокоенность...

Anthropic была основана бывшими сотрудниками OpenAI, и ее целью является создание безопасного и надежного искусственного интеллекта. В марте 2021 года компания привлекла 124 миллиона долларов инвестиций, в том числе от таких компаний, как Google и Zoom. Существуют опасения, что без должных ограничений AI-технологии могут быть использованы в военных целях, что противоречит миссии компании по обеспечению безопасной интеграции искусственного интеллекта в общественные процессы.