Исследователи Google представляют «достоверную неопределённость», позволяющую крупным языковым моделям делать обоснованные предположения вместо фантазий

Крупные языковые модели по-прежнему испытывают трудности с «галлюцинациями», что создает серьезное препятствие для их использования в реальных корпоративных приложениях. Снижение количества таких ошибок является сложной задачей, вынуждая разработчиков моделей идти на жесткий компромисс, при котором устранение фактических ошибок часто приводит к подавлению корректных ответов.

«Галлюцинации» в языковых моделях означают генерацию недостоверной или вымышленной информации. По данным исследований, даже самые продвинутые модели, такие как GPT-4, могут демонстрировать подобные ошибки, особенно при работе с узкоспециализированными или комплексными запросами. Внедрение дополнительных механизмов проверки фактов и обучения на специализированных датасетах помогает снизить уровень неточностей, но полностью устранить «галлюцинации» пока не удалось.