OlympHill
Local GPT logo

Local GPTInteligență artificială locală open-source pentru chat privat, offline cu documente folosind modele de tip GPT pe hardware-ul propriu

4.8 (6)
Daniel NikulshynRecenzat de Daniel Nikulshyn·Actualizat mai 2026

Prezentare

Local GPT este un proiect open-source care permit utilizatorilor să vorbească cu documentele lor în întregime pe propria mașină a lor. Prin rularea modelurilor de limbă local, elimina nevoia de a trimite fişierele sensibile către serviciile de cloud ale terților, ceea ce îl face bine adaptat pentru conţinut confidenţial, reglementat sau proprietar. Instrumentul ingestă fișiere cum ar fi PDF-urile, documentele textuale și alte formate comune, construiește embeduri locale și utilizează un.pipeline de generare și reținere pentru a răspunde la întrebări cu referință la materialele de bază. Din cauza faptului că totul rulează offline după configurare, utilizatorii au control total asupra datelor și opțiunilor modelului. Este adresat dezvoltatorilor, cercetătorilor și echipelor care au grijă de confidențialitate și caută un alternațiv configurabil de asistenți de conversație găzduiți pe servere, în cazul în care sunt confortabili cu software-ul self-hosted.

Funcții cheie

  • Ingestie document locală și încorporări
  • Răspunsuri la întrebări augmentate cu recuperare
  • Suport pentru diverse modele de tip GPT deschise
  • Inferență offline, pe dispozitiv
  • Back-end-uri configurabile pentru model și magazin de vectori
  • Interfață de linie de comandă și scriptabilă

Prețuri

Model
Free
Categorie
Altele
Evaluare
4.8 / 5 (6)

Cazuri de utilizare

Revizuirea documentelor legale confidențiale

Cabinetele de avocatură pot discuta cu dosare și contracte privilegiate pe dispozitiv, evitând expunerea în cloud în timp ce primesc răspunsuri cu referințe la documentele sursă.

Asistent de cercetare privat pentru academicieni

Cercetătorii pot ingera PDF-uri de lucrări și note local, apoi le pot interoga prin generare augmentată cu recuperare fără a încărca lucrări nepublicate în servicii terțe.

Bază de cunoștințe pentru industrii reglementate

Echipele din domeniul sănătății sau finanțelor pot construi un sistem de întrebări și răspunsuri document offline pe materiale proprietare, păstrând controlul complet asupra datelor și respectând cerințele stricte de confidențialitate.

Experimentarea dezvoltatorilor cu LLMs locale

Dezvoltatorii pot scripta și personaliza o conductă RAG, înlocuind modele de tip GPT deschise și back-end-uri de magazin de vectori prin CLI pentru a prototipa aplicații AI private.

Pro și contra

Pro

  • Complet local și privat în mod implicit
  • Deschis și personalizabil
  • Funcționează offline după configurarea inițială
  • Suportă mai multe formate de documente
  • Alegere flexibilă a modelelor de bază

Contra

  • Necesită hardware local capabil
  • Configurarea este tehnică pentru cei care nu sunt dezvoltatori
  • Performanța depinde de modelul ales
  • Suport oficial limitat în comparație cu instrumentele comerciale

Record de bătălii

În 1 bătălie din Panteon.

0
locul 1
0
locul 2
1
locul 3

Last battle

Recenzii

4.8

Medie din 6 evaluări.

5
5
4
1
3
0
2
0
1
0

Conectează-te pentru a lăsa o recenzie.

Yuki Mori

Yuki Mori

Mar 27, 2026

Use it every day

Honestly didn't expect to like it this much. Command-line and scriptable interface is exactly what I needed, and works offline after initial setup. but I reach for it almost every day now and it just clicks.

Robert Ainsworth

Robert Ainsworth

Feb 13, 2026

Skeptical, then convinced

I went in skeptical — most tools in this space overpromise. It actually delivers on configurable model and vector store backends, and flexible choice of underlying models caught me off guard. still, I'd recommend giving it a real trial.

Esther Adeyemi

Esther Adeyemi

Feb 7, 2026

Skeptical, then convinced

I went in skeptical — most tools in this space overpromise. It actually delivers on command-line and scriptable interface, and works offline after initial setup caught me off guard. still, I'd recommend giving it a real trial.

WC

Wei Chen

Nov 29, 2025

Years in this space

I've evaluated a lot of these over the years. What stands out here is offline, on-device inference — handled better than most — and fully local and private by default. Worth the time if this is your use case.

Naomi Suzuki

Naomi Suzuki

Aug 25, 2025

Does the job

Pretty happy overall. Configurable model and vector store backends just works and fully local and private by default. Setup is technical for non-developers can be annoying, but no dealbreakers — I'd recommend it to a friend without hesitating.

Aaliyah Johnson

Aaliyah Johnson

Jun 3, 2025

Solid for our team

We rolled this out across the team last quarter and supports multiple document formats. Offline, on-device inference fits neatly into how we already work, and offline, on-device inference removed a step we used to do by hand. but it has held up under daily use.

Întrebări

Care tipuri de fişiere si cazuri de utilizare el sprijină?

Ingestă formate comune ca si fișiere PDF şi documente textuale, construiesc embedding-uri locale si răspunde la întrebări cu referințe printr-o generație suplantată prin preluare. Este conceput pentru un dialog cu documente privat, offline, în conținut confidențial, reglementat sau proprietar.

Asked by Carlos Mendoza · Jan 12, 2026

Ce hardware și abilități tehnice trebuie să aveți pentru a rula el?

Trebuie să aveți un hardware local capabil de a rula modele GPT-style și de a gestiona inserțiile în vector, iar setarea este tehnică—cea mai potrivită pentru dezvoltatori sau cercetători confortabili cu aplicații de uz casnic, instrumente prin linie de comandă și configurarea back-elor de model și vector store.

Asked by Leila Hassan · Jan 7, 2026

Este Local GPT gratuit și ce sunt termenele de licențiere?

Local GPT este un proiect open-source, astfel încât îl puteți descărca și rulați fără nicio taxă de licențiere. Singurele costuri de care trebuie să vă faceţi vinovat sunt ale hardware-ului local necesar pentru rularea modelului și orice timp petrecut la configurare și instalmare.

Asked by Wei Chen · Nov 19, 2025

Pune o întrebare

Alternative la Altele