Топ‑5 open‑source инструментов для локального AI‑поиска по документам

Perplexica (Vane) — это open-source AI-поисковик, который работает локально и цитирует источники

Perplexica (теперь называется Vane) — это поисковая система на базе AI, которую вы ставите на свой сервер. Она делает ровно то же, что Perplexity: получает от вас вопрос, гуглит, читает найденные страницы и выдаёт связный ответ со ссылками на источники. Разница в том, что все данные остаются на вашем железе.

Проект собрал 35 431 звезду на GitHub при 3 902 форках. Написан на TypeScript, распространяется под MIT-лицензией. Последний стабильный релиз — v1.12.2 (апрель 2026). Поддерживает три режима поиска: Speed Mode (быстрый ответ), Balanced Mode (баланс скорости и качества) и Deep Research (многошаговый анализ).

Из коробки работает с Ollama для локальных LLM и с облачными провайдерами — OpenAI, Claude, Gemini, Groq. Можно гибко комбинировать: поиск по интернету делать через SearXNG (встроенная интеграция), а генерацию ответа — через локальную модель. Интерфейс — веб-приложение с тёмной темой, адаптивной вёрсткой и окном для ввода запроса.

Установка: достаточно одной команды Docker:

git clone https://github.com/ItzCrazyKns/Vane.git
cd Vane
cp config.toml.example config.toml  # настроить LLM провайдера
docker compose up -d

Через 2-3 минуты сервис доступен на http://localhost:3000. Для продакшн лучше добавить свой домен и HTTPS через обратный прокси. Минимальные требования — 2 vCPU, 4 GB RAM для работы с локальной моделью 7B.

Khoj — это AI-второй мозг, который ищет по документам, заметкам и интернету

Khoj — это персонализированная AI-система, которую сравнивают со «вторым мозгом». Разница с Perplexica в том, что Khoj не просто поисковик — это полноценный AI-ассистент, который помнит ваши документы, учится на них и может выполнять действия.

Проект набрал 35 278 звёзд на GitHub (2 264 форка). Написан на Python, лицензия AGPL-3.0. Первый коммит был в августе 2021 — проект развивается уже почти 5 лет, что для open-source AI-инструмента редкость. Основные сценарии: поиск по заметкам, чат с документами, создание AI-агентов с кастомными знаниями, автоматические дайджесты и исследования.

Khoj умеет работать с форматами: PDF, Markdown, Org-mode, Word, plain text, изображения (OCR), Notion, веб-страницы. Подключается к любому LLM — локальному через Ollama/LlamaCpp или облачному (GPT, Claude, Gemini, DeepSeek). Доступен из браузера, Obsidian, Emacs, Desktop-приложения, телефона и WhatsApp — это один из самых гибких интерфейсов среди всех инструментов в обзоре.

Установка:

# Через Docker (рекомендуется)
docker run -d --name khoj \
  -p 42110:42110 \
  -v ~/.khoj:/root/.khoj \
  ghcr.io/khoj-ai/khoj:latest

# Через pip
pip install khoj && khoj --anonymous

После запуска Khoj просит указать директории с документами — он автоматически индексирует все файлы и строит векторные эмбеддинги. По данным блога проекта, Khoj показывает отличные результаты на современных бенчмарках ретрива и рассуждений.

Kotaemon — это RAG-интерфейс для чата с документами с готовым UI

Kotaemon — это самый наглядный инструмент в списке. Он не требует кода, не требует конфигурации API — ставится одной командой и даёт готовый интерфейс для загрузки документов и общения с ними через LLM. Проект от Cinnamon, южнокорейской AI-лаборатории.

На GitHub у Kotaemon 25 486 звёзд. Написан на Python, без указания конкретной лицензии в метаданных (по факту открытый код). Основан на Gradio — это значит, что UI выглядит как Hugging Face Spaces, но работает на вашем сервере. Поддерживает локальные модели через Ollama и облачные провайдеры.

Ключевые фишки Kotaemon:

— Визуальный граф документов (отображает связи между загруженными файлами).
— Поддержка мультимодальных документов (изображения, PDF с картинками).
— Режим многошагового поиска (Multi-hop QA) для сложных вопросов.
— Экспорт результатов поиска в Markdown/PDF.
— Работает на Hugging Face Spaces как демо — можно попробовать до установки.

Установка через Docker:

docker pull ghcr.io/cinnamon/kotaemon:latest
docker run -d -p 7860:7860 \
  -v ./kotaemon_data:/app/ktem_app_data \
  ghcr.io/cinnamon/kotaemon:latest

После запуска открывается http://localhost:7860. Можно сразу загружать PDF и задавать вопросы. Минимальные требования: 2 vCPU, 4 GB RAM.

DocsGPT — это приватная AI-платформа для документов, агентов и корпоративного поиска

DocsGPT позиционируется как приватная альтернатива ChatGPT для работы с документами компании. В отличие от простых RAG-интерфейсов, DocsGPT содержит встроенный Agent Builder — можно создавать AI-агентов с кастомными инструментами, подключать внешние API и настраивать поведение.

Проект собрал 17 948 звёзд на GitHub. Лицензия — открытая. Написан на Python с фронтендом на React. Поддерживает все основные форматы документов: PDF, Office, веб-страницы и аудио (транскрибация).

DocsGPT особенно удобен для команд: есть разделение прав доступа, возможность шарить результаты поиска, встроенный анализатор документов с подсветкой ответов в исходном тексте. Документация проекта содержит готовые сценарии для enterprise-внедрения.

Быстрый старт:

git clone https://github.com/arc53/DocsGPT.git
cd DocsGPT
docker compose up

После установки доступен веб-интерфейс на http://localhost:3000. В настройках можно подключить Ollama для полностью локальной работы или оставить облачные модели.

Haystack — это фреймворк для продакшн-RAG с гибкой архитектурой

Haystack от deepset — это не готовое приложение, а фреймворк для построения RAG-пайплайнов. Если предыдущие инструменты — это «поставил и пользуйся», то Haystack — это «напиши код под свою задачу и получишь максимальную гибкость».

На GitHub у Haystack 25 657 звёзд. Написан на Python с интеграциями под все популярные LLM, векторные базы (Pinecone, Qdrant, Weaviate, Milvus) и коннекторы к 50+ источникам данных. Используется в продакшне такими компаниями, как Airbus, SAP и BMW.

Haystack поддерживает агентные пайплайны: несколько LLM-агентов могут обмениваться данными, переиспользовать инструменты и координировать выполнение задач. Это делает его не просто поисковиком, а платформой для построения интеллектуальных систем работы с документами.

Пример простого RAG-пайплайна на Haystack:

from haystack import Pipeline
from haystack.components.retrievers import InMemoryEmbeddingRetriever
from haystack.components.readers import ExtractiveReader
from haystack.document_stores import InMemoryDocumentStore

document_store = InMemoryDocumentStore()
retriever = InMemoryEmbeddingRetriever(document_store)
reader = ExtractiveReader()

pipe = Pipeline()
pipe.add_component("retriever", retriever)
pipe.add_component("reader", reader)
pipe.connect("retriever.documents", "reader.documents")

result = pipe.run({"retriever": {"query": "What is RAG?"}})

Haystack требует знания Python и понимания архитектуры RAG, но даёт полный контроль: от выбора модели эмбеддингов до кастомных компонентов для предобработки документов.

Сравнительная таблица

Параметр	Perplexica	Khoj	Kotaemon	DocsGPT	Haystack
GitHub ★	35,4K	35,2K	25,5K	17,9K	25,7K
Тип	Готовое приложение	AI-ассистент	RAG-UI	AI-платформа	Фреймворк
Язык	TypeScript	Python	Python	Python	Python
Установка	Docker, 2 мин	Docker/pip, 5 мин	Docker, 2 мин	Docker, 5 мин	pip, 10 мин
Поиск в интернете	Да (SearXNG)	Да	Нет	Да	Через коннекторы
Локальные LLM	Ollama	Ollama, LlamaCpp	Ollama	Ollama	Любые
Облачные LLM	GPT, Claude, Gemini	GPT, Claude, Gemini, DeepSeek	GPT, Claude	GPT, Claude, Gemini	50+ провайдеров
Форматы файлов	Веб-страницы	PDF, MD, DOCX, изображения	PDF, изображения	PDF, Office, аудио	Все (кастомные коннекторы)
AI-агенты	Нет	Да	Нет	Да (Agent Builder)	Да (агентные пайплайны)
Лицензия	MIT	AGPL-3.0	Open source	Open source	Apache 2.0
Минимум RAM	4 GB	4 GB	4 GB	4 GB	2 GB (без модели)

Какой инструмент выбрать

Выбор зависит от того, что вам нужно прямо сейчас.

Если нужно за 5 минут получить работающий AI-поисковик — ставьте Perplexica (Vane). Это самый простой путь: клонировал репозиторий, запустил docker compose up, через пару минут уже ищешь с цитированием источников. Для личного использования или небольшой команды — оптимальный вариант.

Если нужен AI-ассистент, который работает с вашими заметками и документами — Khoj. Он не просто ищет, а формирует «второй мозг»: можно задавать вопросы в стиле «что я писал про X в прошлом месяце?» и получать ответ с контекстом. Интеграция с Obsidian и Emacs делает его незаменимым для тех, кто ведёт базу знаний.

Если задача — RAG-система для корпоративного документооборота — DocsGPT. Там есть разделение прав, Agent Builder для кастомных сценариев и поддержка аудио-транскрибации. Для юридических и бухгалтерских отделов, где нужна приватность и контроль доступа.

Если нужно просто загрузить PDF и задавать вопросы — Kotaemon. Минимум настроек, понятный интерфейс, визуальный граф документов. Хорошо подходит для исследовательских задач, когда не хочется писать код.

Если вы разработчик и строите RAG для продакшна — Haystack. Фреймворк даёт полный контроль над каждым этапом: ретрив, ранжирование, генерация. Подходит для highload-систем, где важна каждая миллисекунда задержки.

Все пять инструментов объединяет одно: они бесплатны, работают локально и не отправляют ваши данные в облако. Для старта достаточно VPS на 4 GB RAM за 700—1000 рублей в месяц — и вы получаете корпоративный AI-поиск, который раньше стоил десятки тысяч долларов.