по базе знаний
Разработаю ИИ-ассистента по базе знаний компании — RAG-систему, которая ищет ответ в ваших регламентах, инструкциях, документах и каталоге и к каждому ответу даёт ссылку на источник.
Кому нужен ассистент по базе знаний
Разработка ИИ-ассистента окупается, когда ответы уже есть в документах, но их долго искать:
- Поддержка клиентов
- Новые сотрудники
- Отдел продаж
- Юристы и бухгалтерия
- Сервис и техподдержка
- Интернет-магазины с большим каталогом
- Производство и инструкции
- Внутренний портал компании
У всех этих случаев общая черта: знания в компании уже записаны, но найти нужный ответ трудно. Регламенты лежат в разных папках, инструкции дублируют друг друга, а часть ответов существует только в голове опытных сотрудников. RAG-система делает записанную часть знаний доступной в виде диалога: человек задаёт вопрос своими словами и получает ответ со ссылкой на документ.
Главное в этой услуге — точные ответы по вашим документам, а не генерация текстов и не перестройка процессов. Если нужно встроить нейросеть в одну операцию на сайте или в CRM — описания товаров, разбор заявок, черновики писем, — вам сюда: интеграция нейросети в сайт и CRM. Если ещё не ясно, с какого процесса начинать и окупится ли ИИ, начните с внедрения ИИ в бизнес: разбор задач и пилот. А консультант для посетителей сайта, который ещё и собирает заявки, — это ИИ-чат-бот для сайта.
Когда пора внедрять RAG-систему
Признаки, что база знаний работает плохо:
- Одни и те же вопросы в чате
- Сотрудники ищут регламенты по папкам
- Ответы зависят от того, кто отвечает
- Новички отвлекают опытных коллег
- Клиенты не находят ответ на сайте
- Документов сотни, поиск по названию не помогает
Обычный поиск по сайту или папкам ищет совпадение слов. Если сотрудник спрашивает «как оформить возврат», а в регламенте написано «порядок приёма товара от покупателя», поиск по словам ничего не найдёт. RAG ищет по смыслу, поэтому находит нужный раздел даже при другой формулировке вопроса.
Как устроена RAG-система
RAG — поиск по базе знаний плюс генерация ответа на найденных фрагментах.
Ключевое отличие от обычного чат-бота — модель не придумывает ответ из общих знаний, а пересказывает найденные фрагменты ваших документов. Поэтому качество ответа напрямую зависит от двух вещей: насколько хорошо работает поиск и насколько полны и актуальны сами документы. Поэтому настройку поиска и работу с базой считаю основной частью проекта, а подключение модели — завершающей.
На этапе поиска многое решает то, как документ разбит на фрагменты. Слишком мелкие куски теряют контекст, слишком крупные содержат лишнее и путают модель. Разбиение подбираю под тип документов: регламенты, карточки товаров и инструкции режу по-разному. Для каждого фрагмента сохраняю ссылку на документ и раздел, чтобы ассистент мог показать источник.
Индексация
Документы разбиваются на фрагменты и индексируются для поиска по смыслу. При изменении документов индекс обновляется.
Поиск
На вопрос пользователя система находит самые близкие по смыслу фрагменты. Учитываю права доступа: сотрудник видит только свои разделы.
Генерация ответа
Модель формулирует ответ только по найденным фрагментам и прикладывает ссылки. Модель подключается через API, подходят GigaChat и YandexGPT. Поиск по базе и обработку документов пишу на Python, Node.js или PHP.
Контроль
Журнал вопросов показывает, где база неполная и где ассистент ошибается. По нему дополняю документы и правила.
Как подготовить базу знаний
RAG-система отвечает настолько хорошо, насколько хороши документы в базе. Поэтому перед индексацией документы стоит привести в порядок. Первое — убрать устаревшее. Если в базе лежат два регламента, старый и новый, ассистент может процитировать любой из них.
Второе — устранить противоречия. Когда в разных документах один и тот же вопрос решается по-разному, модель не знает, чему верить. Такие места я отмечаю при аудите, а решение, какой вариант правильный, остаётся за вами.
Третье — структура. Документ с понятными заголовками и разделами разбивается на фрагменты лучше, чем сплошной текст. Таблицы, списки и пошаговые инструкции тоже обрабатываются лучше, если у них есть заголовок и пояснение.
Четвёртое — формат. Текстовые PDF и DOCX индексируются без проблем. Сканы и фотографии документов сначала нужно распознать, и качество распознавания влияет на качество ответов. Для страниц сайта и каталога можно настроить автоматическую выгрузку, чтобы ассистент знал актуальные цены и наличие.
Время, потраченное на порядок в документах, окупается дважды: ассистент отвечает точнее, а сотрудникам проще работать с самой базой.
Что входит в создание RAG-системы
Под ключ — от сбора документов до интерфейса.
Отдельно настраиваю поведение в сложных ситуациях. Если в базе нет ответа, ассистент так и говорит и предлагает передать вопрос специалисту. Если вопрос касается раздела, к которому у пользователя нет доступа, ассистент не раскрывает его содержимое. Эти правила проверяю на тестовом наборе вопросов вместе с обычными сценариями.
- Сбор и подготовка документов
- Индексация и поиск по смыслу
- Обновление базы при изменении файлов
- Ответы со ссылками на источник
- Разграничение доступа к разделам
- Чат на сайте, в портале или Telegram
- Передача вопроса специалисту
- Тестовый набор вопросов и проверка
Как проходит разработка RAG-систем
Качество ассистента определяется качеством базы, поэтому начинаю с документов.
Больше всего времени обычно занимает не код, а работа с документами и тестовыми вопросами. Зато после этого видно, где ассистент отвечает уверенно, а где база требует доработки. Проблемные места фиксирую в отчёте, чтобы владельцы документов могли их исправить. На каждом этапе вы видите промежуточный результат и можете поправить направление.
Аудит базы
Смотрю, какие документы есть, в каком виде, что устарело и чего не хватает. Отмечаю дубли и противоречия, которые запутают ассистента.
Тестовые вопросы
Вместе с вами составляю список реальных вопросов и правильных ответов. Этот набор становится эталоном для проверки качества.
Прототип
Индексирую документы, подключаю модель, прогоняю тестовые вопросы. По результатам настраиваю разбиение текста и правила ответа.
Интерфейс
Встраиваю ассистента в сайт, личный кабинет, портал или мессенджер.
Запуск и улучшение
Слежу по журналу за вопросами без ответа и дополняю базу.
Почему стоит обратиться ко мне
Ассистент нужно не только собрать, но и встроить в рабочие системы.
Разработка ИИ-ассистента не заканчивается на прототипе. Ассистента нужно разместить там, где люди уже работают: на сайте, во внутреннем портале, в Telegram. Сайты на WordPress и 1С-Битрикс и интеграции с ними — моя основная работа, поэтому встраивание не становится отдельным проектом. Ассистента можно подключить и к нескольким каналам сразу на одной базе знаний.
RAG-система не знает больше, чем ваши документы, — поэтому работа начинается с базы знаний.
От чего зависит стоимость
Первый фактор — объём и состояние документов. Аккуратная база в одном формате индексируется быстро, а разрозненные файлы со сканами, дублями и устаревшими версиями требуют подготовки.
Второй — права доступа. Ассистент для клиентов на сайте работает с открытыми данными. Внутренний ассистент, где разные отделы видят разные разделы, требует разграничения доступа на этапе поиска, и это отдельная работа.
Третий — где будет работать ассистент. Чат на сайте, встраивание в портал или B2B-портал, бот в Telegram, интеграция с CRM — у каждого канала своя доработка интерфейса.
Четвёртый — требования к обновлению. Если документы меняются редко, индекс обновляется вручную. Если часто, настраиваю автоматическое обновление при изменении файлов или страниц. Отдельно оплачиваются запросы к модели по тарифам выбранного сервиса.
Частые вопросы
Сколько стоит создание RAG-системы?
Разработка — от 60 000 ₽, итог считаю по времени: от 2 000 ₽ за час. После аудита документов и разбора задачи могу назвать фиксированную стоимость. Использование модели оплачивается отдельно по тарифам сервиса.
Основные факторы стоимости — объём и состояние документов, разграничение доступа, число каналов и требования к обновлению базы. Подробнее о них — в разделе выше. Расход на модель зависит от числа вопросов и виден в журнале.
Чем RAG-система отличается от обычного чат-бота?
Обычный бот работает по заранее заданным сценариям или отвечает из общих знаний модели. RAG-система ищет ответ в ваших документах и показывает источник, поэтому её проще проверить.
По сути это два разных инструмента. Сценарный бот хорош для простых действий: запись, статус заказа, выбор из меню. RAG-система нужна, когда вопросы разнообразны, а ответы уже есть в документах компании. Оба подхода можно совместить в одном боте: сценарии для действий и RAG для вопросов.
Какие документы можно загрузить?
Текстовые PDF, DOCX, таблицы, страницы сайта, карточки каталога, статьи базы знаний. Сканы требуют распознавания текста, это обсуждаю отдельно.
Если документы хранятся в системе с API, например во внутреннем портале или CRM, можно настроить автоматическую выгрузку. Тогда изменения в документах попадают в индекс без ручной загрузки. Таблицы с большим числом колонок иногда требуют предварительной обработки, чтобы поиск находил нужные строки.
Может ли ассистент ошибиться?
Может, если в базе устаревшие или противоречивые данные. Поэтому ответы идут со ссылкой на источник, а журнал вопросов помогает находить и исправлять такие места.
Чтобы снизить риск, ассистента настраиваю отвечать только по найденным фрагментам и признавать, когда ответа нет. Тестовый набор вопросов прогоняю после каждого значимого изменения базы или настроек. Если пользователь отмечает неверный ответ, вопрос попадает в журнал для разбора.
Где хранятся документы?
Индекс и документы можно разместить на вашем сервере. В модель передаются только найденные фрагменты, нужные для ответа.
Если в документах есть персональные данные или коммерческая тайна, это учитываю при выборе модели и настройке доступа. Для работы в РФ подходят GigaChat и YandexGPT, их подключаю через API. Доступ к журналу вопросов получают только ответственные сотрудники, а права пользователей ассистента повторяют права на разделы базы.
Сколько времени занимает разработка ИИ-ассистента?
От 3 недель для ассистента по аккуратной базе с одним каналом; точный срок называю после аудита документов.
Быстрее всего запускается ассистент по аккуратной базе в одном формате с одним каналом общения. Подготовка разрозненных документов, разграничение доступа и встраивание в несколько систем добавляют времени. Обычно начинаю с прототипа на части базы, чтобы проверить подход до полного запуска. По итогам прототипа становится понятно, какие документы требуют доработки.
Что нужно от компании для старта?
Доступ к документам, которые станут базой знаний, и список типичных вопросов с правильными ответами. Нужен сотрудник, который знает тему и может оценить ответы ассистента на тестовых вопросах.
Если ассистент должен работать на сайте или в портале, понадобится доступ к ним. Остальное — разбиение документов, индексацию, подключение модели и интерфейс — беру на себя. Если документов много, начинаю с одного раздела базы.
Как ассистент узнаёт об изменениях в документах?
Индекс обновляется при изменении файлов: вручную через загрузку или автоматически по расписанию либо по событию в системе, где хранятся документы. Удалённые и заменённые документы убираются из индекса, чтобы ассистент не цитировал старые версии.
Способ обновления выбираю под то, как часто у вас меняются документы. Дату последнего обновления индекса видно в настройках.
Нужен ассистент по базе знаний?
Пришлите пример документов и вопросов — оценю, как построить RAG-систему.
