Google сообщает австралийскому регулятору о масштабах жалоб на ИИ-контент с дипфейками на тему терроризма

Google сообщила австралийским властям, что за почти год компания получила более 250 жалоб из разных стран мира о том, что её программное обеспечение искусственного интеллекта использовалось для создания дипфейков с террористическим содержанием. Также, компания, принадлежащая Alphabet, отметила, что получила десятки сообщений от пользователей о том, что её программа ИИ, Gemini, использовалась для создания материалов с насилием над детьми, согласно данным Австралийской комиссии по безопасности в интернете. Согласно австралийскому законодательству, технологические компании обязаны периодически предоставлять Комиссии информацию о мерах по минимизации вреда или же рискуют получить штрафы.

Австралийская комиссия по безопасности в интернете активно работает над созданием более безопасной онлайн-среды и взаимодействует с крупными технологическими компаниями для предотвращения нарушения норм этики в интернете. По последним данным, использование современных технологий для создания дипфейков всё чаще становится инструментом для совершения преступлений, включая распространение дезинформации и материалов с насилием.