Частота возникновения галлюцинаций в моделях ИИ от Google и OpenAI растет

Эксперты предупредили газету The Times of London на прошлой неделе, что обзоры искусственного интеллекта от Google "галлюцинируют" ложную информацию и отвлекают пользователей от достоверных источников. Google представила свою функцию обзоров искусственного интеллекта в мае 2024 года. Эта функция предназначена для предоставления быстрых ответов на поисковые запросы. Обзоры формируются с помощью Gemini AI от Google — большой языковой модели, аналогичной ChatGPT. Она просматривает результаты поиска, чтобы создать сводные графики, и включает ссылки на некоторые из источников.

В последние годы Google активно развивает использование искусственного интеллекта в своих сервисах, стремясь улучшить качество поиска и предложить пользователям более удобные способы получения информации. Однако проблема ложной информации, создаваемой ИИ, требует особого внимания и проработки для сохранения доверия пользователей. Огромное количество данных, доступных в интернете, делает задачу обеспечения точности и достоверности получаемых сведений особенно актуальной.