Исследование TELUS Digital выявило скрытый риск в поведении моделей ИИ

Исследование показывает, что использование подсказок с ролью может вызывать изменения в моральных оценках больших языковых моделей (LLM), приводя к неожиданным и непоследовательным ответам. Для предприятий это означает, что важно тщательно выбирать модель, проводить серьезные тесты и постоянную оценку, чтобы обеспечить постоянное и надежное поведение ИИ в производстве. Новое исследование, опубликованное TELUS Digital под названием "Парадокс устойчивости: почему лучшие исполнители становятся более рискованными агентами", выяснило, что использование техники "роль-плей", когда LLM просят выступить в какой-либо роли в рамках запроса или беседы, может приводить к изменению моральных суждений, что ведет к неожиданным и противоречивым ответам. Кроме того, исследование демонстрирует, что моральная последовательность в повторных тестах в основном определяется семейством моделей, к которому принадлежит LLM.

Это исследование является частью более широких усилий исследователей в области искусственного интеллекта по улучшению понимания и контроля поведения LLM. По мере того как искусственный интеллект становится все более интегрированным в бизнес-процессы и повседневную жизнь, вопросы этики и предсказуемости ответов становятся все более актуальными. Это требует от предприятий тщательной стратегии при разработке и использовании моделей ИИ.