Meta пересматривает работу своего ИИ-чат-бота при общении с детьми после того, как сенатор инициировал расследование его бесед с подростками

Сенатор Джош Хоули заявил, что начнёт расследование того, как компания Meta обучает свой ИИ‑чат‑бот. Meta будет обучать свой чат‑бот не вступать в романтические беседы и не обсуждать темы самоповреждения с детьми.

Хоули — республиканский сенатор от штата Миссури и член юридического комитета Сената, который в январе 2024 года провёл слушания по защите детей в интернете с участием гендиректора Meta Марка Цукерберга; на этих слушаниях Цукерберг публично извинился перед пострадавшими семьями. Meta внедряет ассистента Meta AI на Facebook, Instagram, WhatsApp и Messenger и заявляет, что инструмент оснащён защитными мерами, предотвращающими обсуждение сексуального характера и выдачу вредных советов, а при упоминании самоубийства или самоповреждения перенаправляет пользователей к службам кризисной помощи.