localGPTPrivatni, offline dokumentski chat pogonjen lokalnim LLM-ima na vašem hardveru.

4.7 (6)

Recenzirao Daniel Nikulshyn·Ažurirano svibanj 2026.

Open Source Self-Hosted RAG Privacy Local LLM Document Q&A Developer Tools

Pregled

localGPT je otvorčni projekt koji vam dozvoljava da postavljate pitanja o vlastitim dokumentima koristeći velike models razine jezika, uz sve obračunavanje koje događa se na vašem lokalnom uređaju. Otvorenim spremištem za embedinge, skladištenjem vektora i lokalnim odrediteljima, smanjuje se potreba slanja osjetljivih datoteka u društvene mreže stranih usluga. Ovaj alat uklanja uobičajena dokumentarna formatiranja, dijeli i umetanja sadržaja u lokalni vektorski bazu podataka te potom koristi odabrani LLM za generiranje zasnovanih odgovora temeljem dohvaćenih poglavlja. Podrže ubrzanje na GPU na NVIDIA-i, Apple Silicon-u kao i na CPU samo instalacijama, tako se čini prilagođen raznim hardverima. Najbolje se podudara sa razvojaocima, istraživačima i korisnicima koji su zainteresirani za očuvanje svoje privatnosti te koji traže samostalnu platformu kao zamjenu u sustavima za pohranu u oblaku koji se temelje na dokumentima i pitanjima na koji odgovaraju. Ovi korisnici su obično samouci u rukovanju Pythonom i komandnim sučeljima.

Ključne značajke

Doprinos na čitanju i generiranju lokalnih datoteča
Baza lokalnih vektora za ugrađene zadršine
Podrška PDF-ima, tekstu i uređivačkim dokumentima
Konfigurirane izbore lokalnih LLM-ima i ugrađenih modela
Ponuda opcije za ubrzanje na grafičku karticu
Izvedba preko pozadinske linije i osnovni web interfejs

Cijene

Model: Freemium
Kategorija: Agenti inteligentni
Ocjena: 4.7 / 5 (6)

Slučajevi uporabe

Privatni Pitanje i Odgovor na Konfidencionalne Dokumente

Pituje za osetljive ugovore, izvještaje ili unutrašnje datoteke potpuno offline, te tako nikad niti jedan podatak ne odlazi van vaše hardvera, ali i ste odgovarajuće dobivate LLM-izvedene odgovore.

Offline Assistant za Naučno Istraživanje

Naučnici mogu ugraditi PDF-e i naučna članka u lokalnu vektorsku bazu i pitati pitanja da bi izvlekli i sintetizirali informacije bez pomoći cloud AP-I-ja.

Samostojni Znanstveni Bazarnik Za Razvojačike

Razvojači mogu izgraditi različitu RAG-pipelinu preko tehničkih članaka i ugraditi prilagođene izbire lokalnih LLM-ima i modela ugrađene zadršine na njihovom grafičkom procesoru ili CPU-u.

Apple Silicon Lokalni AI Radni Toku

Korisnici na M seriji Mac-eva mogu raniti dokumentski chat sa ubrzanjem i lokalno, tjerajući LLM mogućnosti bez potrebe za pretplatu ili pristupom vanjskim uslugama.

Prednosti i nedostaci

Prednosti

Pokreće se u potpunosti offline za jaku zaštitu podataka
Izvorno otvoreno i samostojno možete ga uključiti
Podrška različitim formatima dokumenta
Rabi različite lokalne LLM-e i ugrađene zadršine
Sopodrška računicama GPU-u, CPU-u i Apple Si-ulumu

Nedostaci

Zabranjen je za tehnički postavljanje i ovisnosti
Performanse ovisi o lokalnom hardveru
Brak oblikovnog interfejsa koji podržava hostiranje
Manji lokalni modeli mogu dati slabije odgovore

Recenzije

4.7

Prosjek iz 6 ocjena.

Prijavi se za ostavljanje recenzije.

Nadia Petrova

Mar 6, 2026

Compared a few options

Evaluated this against two competitors. Where it wins: optional GPU acceleration and supports multiple document formats. Where it lags: smaller local models may give weaker answers. On balance the feature set — especially local vector database for embeddings — justifies the 5 stars for our use case.

Tomáš Novák

Mar 1, 2026

Use it every day

Honestly didn't expect to like it this much. Command-line and basic web interface is exactly what I needed, and supports multiple document formats. I do wish no polished hosted UI out of the box, but I reach for it almost every day now and it just clicks.

Devin Walker

Feb 27, 2026

Compared a few options

Evaluated this against two competitors. Where it wins: retrieval-augmented generation on local files and works with various local LLMs and embeddings. Where it lags: no polished hosted UI out of the box. On balance the feature set — especially command-line and basic web interface — justifies the 5 stars for our use case.

Marcus Bell

Jan 3, 2026

Years in this space

I've evaluated a lot of these over the years. What stands out here is retrieval-augmented generation on local files — handled better than most — and supports multiple document formats. Performance depends on local hardware is my one real gripe. Worth the time if this is your use case.

Aisha Khan

Dec 7, 2025

Use it every day

Honestly didn't expect to like it this much. Optional GPU acceleration is exactly what I needed, and gPU, CPU, and Apple Silicon compatible. but I reach for it almost every day now and it just clicks.

Daniel Schmidt

Jul 26, 2025

Skeptical, then convinced

I went in skeptical — most tools in this space overpromise. It actually delivers on command-line and basic web interface, and supports multiple document formats caught me off guard. Performance depends on local hardware is why this isn't a perfect score, still, I'd recommend giving it a real trial.

Pitanja

What file types does localGPT support for ingestion?

It can process common formats such as PDFs, plain text files, and Microsoft Office documents, automatically splitting and embedding their contents for retrieval‑augmented generation.

Asked by Malik Rasheed · Sep 25, 2025

Is any data sent to external services when I query documents?

No. All document ingestion, embedding, vector storage, and answer generation happen locally, so sensitive files never leave your hardware.

Asked by Piotr Baranowski · Aug 13, 2025

Can I use my own LLM or embedding model with localGPT?

Yes, the tool is configurable; you can plug in any compatible local LLM and choose from various embedding models, allowing you to balance cost, speed, and answer quality.

Asked by Marisol Pena · Jun 27, 2025

What hardware do I need to run localGPT effectively?

localGPT can run on NVIDIA GPUs, Apple Silicon, or CPU‑only machines; GPU acceleration speeds up embedding and inference, but you can still use it on standard laptops with only a CPU, though performance will be slower.

Asked by Liam O’Connor · Jun 21, 2025

Postavi pitanje

Alternative za Agenti inteligentni

Zapier's Agents

Agenti inteligentni

AI-podržane agente koje automatisiraju protokole za preko 7 000 povezanih aplikacija

5.0 (6)

Freemium

NexusGPT

Agenti inteligentni

Nekodirani platform za gradnju i upravljanje kustomiziranim agentima sustava umjetne inteligencije za automatizaciju poslovnih protokola.

5.0 (6)

Freemium

AgentForge

Agenti inteligentni

Niska-kodna frameworks za gradnju autonomnih AI agenata i kognitivne arhitekture

5.0 (6)

Freemium

Maps Scraper AI

Agenti inteligentni

Alat koji koristi AI za automatsko izdvajanje podataka o poslovnim aktivnostima iz Google Maps, što poboljsava generiranje novih potencijalnih klijenata i istraživanje tržišta.

5.0 (6)

Freemium