localGPTЛична, отфлаайн чат на документи, използваща местен модели на Language Models на вашия собствена сървър.

4.7 (6)

Прегледано от Daniel Nikulshyn·Актуализирано май 2026 г.

Open Source Self-Hosted RAG Privacy Local LLM Document Q&A Developer Tools

Преглед

localGPT е отворен проект, който ви позволява да поставявате въпроси за свои собствени документи използвайки големи модели на език, с целият процес на обработка, който се случва директно на вашата локална машина. След като запазвате вмъкванията, съхранението на векторите и инферентната работа върху локално хардуерно съоръжение, изчезва задължението да изпращате чувствителни файла към услуги за облаково съхранение от трети страни. Утоображението за документи под формата на текстови файлове или други общи формати, разбива и вмъква съдържанието в локален векторен базов данък, а след това използва избрания Large Language Model, за да генерира отговори, базиращи се на натиснати текстове. Поддеръжката за ускоряване на GPU на NVIDIA, на Apple Silicon и за CPU-only конфигурации му позволява да бъде пригоден за целокупния компютърен регистър. Мненията се съобщават, че е най-добре подхождано за програмиращи стойности, изследователи и потребители, строго грижещи се за сигурността, които искат самоуправляващи система альтернативи на клиънтовия документ Q&A инструменти и са съгласни да се работа с Python и командните интерфейси на линията.

Ключови функции

Генерация, допълнена с извличане от локални файлове
Локална векторна база данни за ембединги
Поддръжка на PDF, текст и офис документи
Настройвани избори на LLM и модели на ембединги
Необязателно ускорение с GPU
Интерфейс от команден ред и базов уеб интерфейс

Цени

Модел: Freemium
Категория: Агенти за изкуствено интелект
Оценка: 4.7 / 5 (6)

Случаи на употреба

Лична запитване без разговаряни в конфиденциални документи

Искате на осетливи договори на репорти или вътрешни файлове изцяло без да данните напуснят вашият компютър, докато все пак получавате базирано ЛМГ отфлаайн отговори.

Отфлаайн помагач на изследовател

Изследователите могат да влезнат PDFs и трудове в локален векторен сървър и да задават въпроси, за да извлязат и да синтезират информация без да се сърдят на хибернетска API.

Самооценяемо знание на база за разработчиките

Разработчиките могат да изградят настраиваща RAG линия на технически файл, избираейки настрояващите ЛМГ и моделей на облекчаеми модели върху своята съвсем своя GPU или CPU сървър.

Мак със местна локална AI протоколи

Краят е на серизер Маковата серия могат да изпълнят чат на документите с УВЕТ на GPU отфлаайн, изследвайки ЛМГ потенциал без членство или външна услуга.

Плюсове и минуси

Плюсове

Извършваця изцяло отфлаайн за силна защита на данните
Отворен код и самохостиран на сървър
Поддеръжка за множество формати на документи
Поддържанка различни локални LLM и облекчаеми модели
Поддържанка за УВЕТ, CPU и Apple Silicon

Минуси

Трябва да се настрои и зависими от сървъра
Представените върху местен сървър могат да дадат различни отфлаайн резултати
Няма добре изработана отслабена UI в бокси върху хоста
Малко местни модели могат да дадат слаби отфлаайн отговори

Отзиви

4.7

Средно от 6 оценки.

Влез, за да оставиш отзив.

Nadia Petrova

Mar 6, 2026

Compared a few options

Evaluated this against two competitors. Where it wins: optional GPU acceleration and supports multiple document formats. Where it lags: smaller local models may give weaker answers. On balance the feature set — especially local vector database for embeddings — justifies the 5 stars for our use case.

Tomáš Novák

Mar 1, 2026

Use it every day

Honestly didn't expect to like it this much. Command-line and basic web interface is exactly what I needed, and supports multiple document formats. I do wish no polished hosted UI out of the box, but I reach for it almost every day now and it just clicks.

Devin Walker

Feb 27, 2026

Compared a few options

Evaluated this against two competitors. Where it wins: retrieval-augmented generation on local files and works with various local LLMs and embeddings. Where it lags: no polished hosted UI out of the box. On balance the feature set — especially command-line and basic web interface — justifies the 5 stars for our use case.

Marcus Bell

Jan 3, 2026

Years in this space

I've evaluated a lot of these over the years. What stands out here is retrieval-augmented generation on local files — handled better than most — and supports multiple document formats. Performance depends on local hardware is my one real gripe. Worth the time if this is your use case.

Aisha Khan

Dec 7, 2025

Use it every day

Honestly didn't expect to like it this much. Optional GPU acceleration is exactly what I needed, and gPU, CPU, and Apple Silicon compatible. but I reach for it almost every day now and it just clicks.

Daniel Schmidt

Jul 26, 2025

Skeptical, then convinced

I went in skeptical — most tools in this space overpromise. It actually delivers on command-line and basic web interface, and supports multiple document formats caught me off guard. Performance depends on local hardware is why this isn't a perfect score, still, I'd recommend giving it a real trial.

Въпроси

What file types does localGPT support for ingestion?

It can process common formats such as PDFs, plain text files, and Microsoft Office documents, automatically splitting and embedding their contents for retrieval‑augmented generation.

Asked by Malik Rasheed · Sep 25, 2025

Is any data sent to external services when I query documents?

No. All document ingestion, embedding, vector storage, and answer generation happen locally, so sensitive files never leave your hardware.

Asked by Piotr Baranowski · Aug 13, 2025

Can I use my own LLM or embedding model with localGPT?

Yes, the tool is configurable; you can plug in any compatible local LLM and choose from various embedding models, allowing you to balance cost, speed, and answer quality.

Asked by Marisol Pena · Jun 27, 2025

What hardware do I need to run localGPT effectively?

localGPT can run on NVIDIA GPUs, Apple Silicon, or CPU‑only machines; GPU acceleration speeds up embedding and inference, but you can still use it on standard laptops with only a CPU, though performance will be slower.

Asked by Liam O’Connor · Jun 21, 2025

Задай въпрос

Алтернативи на Агенти за изкуствено интелект

Zapier's Agents

Агенти за изкуствено интелект

АИ-подобрени агенти, които automatize workflow-ове по 7,000+ свързани приложения

5.0 (6)

Freemium

NexusGPT

Агенти за изкуствено интелект

Платформа без код за създаване и съоръжение на персонализирани АИ агенти за автоматизация на бизнес процеси.

5.0 (6)

Freemium

AgentForge

Агенти за изкуствено интелект

Низковходова рамка за създаване на автономни AI агенти и когнитивни архитектури

5.0 (6)

Freemium

Maps Scraper AI

Агенти за изкуствено интелект

Една АИ-анализирана система, която автоматизира извличането на бизнес данни от Google Maps, разширявайки генерацията на потенциални клиенти и пазарния изследване.

5.0 (6)

Freemium