Для сложных вопросов по документам ИИ-поиск с графом знаний точнее обычного

Что произошло. Издание tech-insider.org опубликовало подробную инструкцию, как настроить GraphRAG — технологию от Microsoft для поиска ответов в документах с помощью графа знаний (связей между сущностями: людьми, компаниями, темами) — на обычном компьютере, без подключения к платным облачным ИИ-сервисам. Авторы ссылаются на исследование британского Национального центра инноваций в данных: на 510 сложных вопросах, которые требуют сопоставления информации из разных документов, подход с графом знаний дал 65,3% верных ответов против 28,9% у обычного поиска по смыслу текста (так называемого vector RAG).

Что это значит для бизнеса. Обычный ИИ-поиск по документам хорошо находит ответ, если он лежит в одном фрагменте текста. Но если вопрос требует «сложить» факты из разных файлов и отделов — например, понять общую картину по десяткам отчётов — такой поиск часто ошибается. GraphRAG справляется с этим лучше, потому что строит граф связей между сущностями и темами. Минус — построение такого графа требует намного больше вычислительных ресурсов и времени, чем обычная индексация: по словам авторов, обработка даже небольшого набора документов может занять от 15 минут до часа и больше, а на слабом оборудовании — часы. Также система пока не умеет напрямую читать PDF-файлы — их нужно сначала преобразовать в обычный текст с помощью отдельной программы.

Как попробовать. Инструкция рассчитана на тех, кто готов самостоятельно настроить это на своём компьютере: установить программу Ollama для запуска ИИ-моделей локально, скачать модели и программный пакет graphrag от Microsoft, а затем загрузить свои текстовые файлы. Авторы советуют начинать с небольшого набора из 10–20 документов, чтобы проверить настройки перед полноценным запуском, и предупреждают, что этот способ подходит не для всех задач — для простых вопросов обычный поиск по смыслу текста может быть дешевле и достаточно точным.