Российские исследователи из Института искусственного интеллекта AIRI создали два новых метода, которые помогают системам искусственного интеллекта (ИИ) точнее формировать запросы для поиска информации в базах данных. Это особенно важно при работе с узкоспециализированными темами, где ошибки случаются чаще.
Алгоритмы ИИ хорошо справляются с простыми и общими запросами, но при работе с узкими и сложными темами часто допускают ошибки, особенно если ответа на вопрос нет. Новые подходы помогают ИИ оценивать, насколько он уверен в правильности своего ответа, и предупреждать пользователя о возможных ошибках.
Ученые обучили популярные языковые модели и проверили их работу на двух наборах данных. Результаты показали, что модели делают около 30% ошибок, но при этом зачастую «уверены» в неправильных ответах. Для решения этой проблемы разработали внешний классификатор и метод калибровки, которые помогают отсеивать до 90% ошибочных запросов.
Как объяснила руководитель группы Елена Тутубалина, эти методы позволяют повысить надежность ИИ и сделать его работу более безопасной и контролируемой для специалистов.