localGPTKendi donanımdaki yerel LLM'ler tarafından yürütülen, özel, offline dosya sohbeti.

4.7 (6)

İnceleyen Daniel Nikulshyn·Güncellendi Mayıs 2026

Open Source Self-Hosted RAG Privacy Local LLM Document Q&A Developer Tools

Genel Bakış

localGPT, kendi yerel makinenizda çalışarak büyük dil modelleri ile kendi belgeleriniz hakkında sorular sormanızı mümkün kılan açık kaynaklı bir proje. Embeddings, vektör depolama ve önbellek işleme, üçüncü taraf bulut hizmetlerine hassas dosyalar göndermek zorunda kalmadan sizin yerel makinende gerçekleşiyor. Oluşturucular, ortak belge formatlarını okuyabilir, içerikleri yerel vektör veritabanına ayırır ve sonra seçilen LLM kullanmak için içeriğü yerleştirmektedir. İçerikleri karşılaştırmak için alınan parçalardan dayanıklı cevaplar oluşturur. Ayrıca, NVIDIA, Apple Silicon ve CPU-only kurulumları desteklemek için GPU hızlandırma destekliyor, bu da bir dizi donanıma adaptiftir. Geliştiriciler, araştırmacılar ve cloud tabanlı belgelerdeki soru-cevap araçlarına karşı kendi barındırılan alternatifini isteyen gizlilik hassas kullanıcılara en uygunudur. Ayrıca Python ve komut satırı ortamlarıyla çalışabilir.

Temel özellikler

Kendi dosyaları üzerinde retrieval-augmented generation
Yerel vektör veritabanı için embedmanlar
PDF, metin ve ofis belgelerini destekleyenler
Ayarlanabilir LLM ve embedman model seçimleri
Seçimel GPU hızlandırma
komut satırı ve temel web arayüzü

Fiyatlar

Model: Freemium
Kategori: AI Agentleri
Puan: 4.7 / 5 (6)

Kullanım senaryoları

Gizli Belgelerde Sorgulama

Sensitif sözleşme, rapor veya iç dosyalar ile tamamen offline sorgulayabilir, veri makinenizden çıkmadan hala zemini sağlayan cevaplar alabilirsiniz.

Offline Araştırma Yardımcısı

Araştırmacılar, PDF'ler ve paperleri yerel vektör depoda tüketir ve kullandıkları soru ve geri bildirimleri, Bulut API'larına güvenmeksizin bilgiyi geri döndürme ve sentezleme için isteklerde bulunabilir.

Kendinize Ev Sahibi Bilgi Bankası Geliştiriciler için

Geliştiriciler, teknik belgeler over bir RAG pipeline ile birlikte seçerek, kendi işlemci veya GPU hızlandırması için favori yerel LLM ve embedman modelleri ile birleştirebilir.

Apple Silikon Yerel AI Akışları

M-series Mac'de kullanıcılar, yerel LLM'ler ile doküman sohbetini GPU hızlandırması ile çalıştırabilir ve abonelikler veya dış hizmetler olmadan keşfe devam edebilir.

Artılar ve eksiler

Artılar

Tamamen offline çalıştığı için veri gizliligi çok basittir.
Açık kaynak ve kendinize ev sahipliği yapılabiliyor
Çok sayıda dosya formatı destekleniyor
Çeşitli yerel LLM'ler ve embedmanlar ile uyum sağlıyor
GPU, CPU ve Apple Silikon uyumlu

Eksiler

Kullanım için teknik bir kurulum ve bağımlılıklar gerekmektedir
Performans yerel donanımın üzerinde závisidir.
Kablosuz UI için henüz profesyonel bir paket yok
Küçük daha lokal modeller, zayıf cevaplar üretiyor

Savaş rekoru

Pantheon’da 1 savaş.

Last battle

#6
AI Agents Showdown — September 27, 2025
Sep 27, 2025 · #6 of 6

İncelemeler

4.7

6 puandan ortalama.

İnceleme bırakmak için giriş yap.

Nadia Petrova

Mar 6, 2026

Compared a few options

Evaluated this against two competitors. Where it wins: optional GPU acceleration and supports multiple document formats. Where it lags: smaller local models may give weaker answers. On balance the feature set — especially local vector database for embeddings — justifies the 5 stars for our use case.

Tomáš Novák

Mar 1, 2026

Use it every day

Honestly didn't expect to like it this much. Command-line and basic web interface is exactly what I needed, and supports multiple document formats. I do wish no polished hosted UI out of the box, but I reach for it almost every day now and it just clicks.

Devin Walker

Feb 27, 2026

Compared a few options

Evaluated this against two competitors. Where it wins: retrieval-augmented generation on local files and works with various local LLMs and embeddings. Where it lags: no polished hosted UI out of the box. On balance the feature set — especially command-line and basic web interface — justifies the 5 stars for our use case.

Marcus Bell

Jan 3, 2026

Years in this space

I've evaluated a lot of these over the years. What stands out here is retrieval-augmented generation on local files — handled better than most — and supports multiple document formats. Performance depends on local hardware is my one real gripe. Worth the time if this is your use case.

Aisha Khan

Dec 7, 2025

Use it every day

Honestly didn't expect to like it this much. Optional GPU acceleration is exactly what I needed, and gPU, CPU, and Apple Silicon compatible. but I reach for it almost every day now and it just clicks.

Daniel Schmidt

Jul 26, 2025

Skeptical, then convinced

I went in skeptical — most tools in this space overpromise. It actually delivers on command-line and basic web interface, and supports multiple document formats caught me off guard. Performance depends on local hardware is why this isn't a perfect score, still, I'd recommend giving it a real trial.

Sorular

What file types does localGPT support for ingestion?

It can process common formats such as PDFs, plain text files, and Microsoft Office documents, automatically splitting and embedding their contents for retrieval‑augmented generation.

Asked by Malik Rasheed · Sep 25, 2025

Is any data sent to external services when I query documents?

No. All document ingestion, embedding, vector storage, and answer generation happen locally, so sensitive files never leave your hardware.

Asked by Piotr Baranowski · Aug 13, 2025

Can I use my own LLM or embedding model with localGPT?

Yes, the tool is configurable; you can plug in any compatible local LLM and choose from various embedding models, allowing you to balance cost, speed, and answer quality.

Asked by Marisol Pena · Jun 27, 2025

What hardware do I need to run localGPT effectively?

localGPT can run on NVIDIA GPUs, Apple Silicon, or CPU‑only machines; GPU acceleration speeds up embedding and inference, but you can still use it on standard laptops with only a CPU, though performance will be slower.

Asked by Liam O’Connor · Jun 21, 2025