Используйте эти термины, чтобы задавать более точные вопросы при выборе обучения или заказе работ. Знание терминологии помогает описать требования, но не доказывает надёжность системы.
Модель, промпт, контекст и токен
Модель — это система, которая создаёт или анализирует контент. Промпт описывает задачу. Контекст — это материалы, доступные для подготовки ответа, например ваши инструкции и предоставленные документы. Токены — единицы, используемые для обработки текста и других входных данных; в разных языках они соотносятся со словами неодинаково.
Галлюцинации и опора на источники
Галлюцинация — это правдоподобный, но неподтверждённый или неверный результат. Опора на источники означает привязку ответа к относящимся к вопросу подтверждающим материалам. Запросите фрагмент источника, на котором основано важное утверждение, а затем проверьте, действительно ли этот фрагмент его подтверждает. Добавление документов может помочь, но не устраняет необходимость проверки.
Поиск по источникам, база знаний и RAG
База знаний — это упорядоченное собрание исходных материалов. Поиск по источникам находит фрагменты, относящиеся к задаче. RAG сочетает найденные материалы с генерацией. Например, помощник службы поддержки может выбрать разделы правил, прежде чем составить ответ. Для устаревших или противоречащих друг другу источников всё равно нужен ответственный, который устранит эти проблемы.
Рабочий процесс, агент и оценка
Рабочий процесс следует заданным шагам; агент может выбирать шаги или инструменты в рамках задачи. Оценка проверяет, соответствуют ли результаты и действия требованиям, на характерных примерах. Полезная оценка включает ситуации с недостающими данными, ошибочными предположениями и сбоями, а также чёткий критерий передачи работы человеку.
Сохраните этот чек-лист
- Важные утверждения сверены с источниками
- У базы знаний есть ответственный
- Для действий установлены ограничения
- В оценке используются реалистичные примеры
Это авторское практическое руководство. Примеры приведены для наглядности; интерфейсы инструментов и доступные функции могут меняться.