localGPTMagán, leállított dokumentum-konvenciós beszélgetések a saját hardvereden futó lokális LLM-k segítségével.
Áttekintés
Fő funkciók
- A leállított fájlok feletti kereső- és generáló kombinálása
- Helyi vektor adatbázis a beágyazáshoz
- PDF-k, szövegek és iroda dokumentumok támogatása
- Konfigurálható LLM- és beágyazási modell kiválasztás
- Opciók léteznek a vektoros gyorsításra
- Parancssor és alapvető webes felület
Árazás
- Modell
- Freemium
- Kategória
- AI Ügynökök
- Értékelés
- 4.7 / 5 (6)
Felhasználási esetek
Zárt kapu kérésekre biztonságosan
Lehessen kérdezni bizalmas szerződésekről, beszámolókról vagy belső dokumentumokról leállított módon, teljesen biztosan arra, hogy a leállított információt senki se kapják meg, szemben a leállított LLM generálásában elért gyors válaszokkal.
Leállított kutatói asszisztens
Kutatók PDF-ekkel és cikkekkel tárolhatják be a lokális vektor tárolóba kérdezve a hozzáféréshez szükség van biztosítani a válaszok nélküli információ feldolgozhatóság nélküli nélkül, a külső forrásokra nincs szükség
Saját ágyazott Tudásközpont fejlesztők részére
Fejlesztők tudományos dokumentumokon működő, ágyazott KAP-csapkák létrehozhatnak, melyeket leállított módon választott LLM, beágyazási modellek mossa majd végig.
Leállított, Apple Silicon AI munkafolyamatok
M-sorozatú MacBook rendszereken leállított módon fut az adatbázisok gyorsítása leállított módon, leállított módon végzik a kapcsolatot a LLM-vel.
Előnyök és hátrányok
Előnyök
- Teljesen leállított futtatás adatainak nagyobb biztonságáért
- Nyílt forráskód és leállított telepítés
- Még több dokumentum formátum támogatása
- Lokális LLM-kkel és beágyazással működik
- GPU, CPU és Apple M-alapú rendszerekkel kompatibilis
Hátrányok
- Technikai konfiguráció és függőségek szükségesek
- A teljesítmény a helyi hardveren múlik
- Nincs finomított leállított UI
- Kisebb leállított modellek a gyengebb válaszokat adhatják
Csata rekord
1 csatában a Pantheonban.
Last battle
Értékelések
Átlag 6 értékelésből.
Jelentkezz be értékelés írásához.
Compared a few options
Evaluated this against two competitors. Where it wins: optional GPU acceleration and supports multiple document formats. Where it lags: smaller local models may give weaker answers. On balance the feature set — especially local vector database for embeddings — justifies the 5 stars for our use case.
Use it every day
Honestly didn't expect to like it this much. Command-line and basic web interface is exactly what I needed, and supports multiple document formats. I do wish no polished hosted UI out of the box, but I reach for it almost every day now and it just clicks.
Compared a few options
Evaluated this against two competitors. Where it wins: retrieval-augmented generation on local files and works with various local LLMs and embeddings. Where it lags: no polished hosted UI out of the box. On balance the feature set — especially command-line and basic web interface — justifies the 5 stars for our use case.
Years in this space
I've evaluated a lot of these over the years. What stands out here is retrieval-augmented generation on local files — handled better than most — and supports multiple document formats. Performance depends on local hardware is my one real gripe. Worth the time if this is your use case.
Use it every day
Honestly didn't expect to like it this much. Optional GPU acceleration is exactly what I needed, and gPU, CPU, and Apple Silicon compatible. but I reach for it almost every day now and it just clicks.
Skeptical, then convinced
I went in skeptical — most tools in this space overpromise. It actually delivers on command-line and basic web interface, and supports multiple document formats caught me off guard. Performance depends on local hardware is why this isn't a perfect score, still, I'd recommend giving it a real trial.
Kérdések
Milyen fájlformátumokat támogat a localGPT az ingestionra?
Ezek közé tartoznak a közismert formátumok, például a PDF-k, szöveges fájlok és az Microsoft Office dokumentumok, amelyek automatikusan kiszerelik, belekapcsolják, majd visszakereshetővé alakítják tartalmukat.
Asked by Malik Rasheed · Sep 25, 2025
Amikor dokumentumokat keresünk, akkor bármilyen adat eljuttatódik külső szolgáltatásokhoz?
Nem. Az összes dokumentumbevitel, elhelyezése, vektor tárolás és válaszgenerálás megtörténik lokális szinten, így bizalmas fájlok soha nem távoznak a hardveredről.
Asked by Piotr Baranowski · Aug 13, 2025
Képesek vagyok-e saját LLM-jét vagy feldolgozómodelljeimet használni a localGPT-vel?
Igen, a tool konfigurálható, így bármilyen kompatibilis LLM-t be lehet kapcsolni és választható a számos feldolgozómodell közül, így lehetővé tesszük a költség és a sebesség és a válaszminőség egyensúlyba hozását.
Asked by Marisol Pena · Jun 27, 2025
Mitől függ, hogy hatékonyan működjen a a localGPT?
A localGPT működhet NVIDIA-gyorsító chipen, Apple Silicon-on vagy CPÚ-nak csak készüléken; a gyorsítás sebességalapu számítógépeken gyorsítja a beágyazást és az előrejelzést, viszont még mindig tudja használni a standard laptopokat azzal, hogy csak CPÚ-val rendelkeznek, bár a teljesítmény lassabb lesz
Asked by Liam O’Connor · Jun 21, 2025
Kérdezz
AI Ügynökök alternatívái
Zapier's AgentsAI ÜgynökökAI-vezérlésű ügynökök, amelyek automatizálják a munkafolyamatokat 7000+ összekapcsolt alkalmazásban
NexusGPTAI ÜgynökökKódmentes platforma a kiszámítható, egyedi AI ügynökök felépítéséhez és üzembe helyezéséhez a vállalati folyamatok automatizálásához.
AgentForgeAI ÜgynökökLehetővé teszi a független AI-ügynökök és kognitív architektúrák építését alacsony kódkönyvtárak segítségével
Black Forest LabsAI ÜgynökökPioneerező AI startup, amely a kiváló minőségű kép- és videószimulációs modelljeinek kidolgozásában specialization.
Micro AgentAI ÜgynökökAz AI kódolási ügynök, amely a kódot addig módosítja, amíg az összes teszt nem sikerül
Mogoj AIAI ÜgynökökA mesterséges intelligencia által hajtott folyamatmérnöki optimalizáció és üzleti folyamaton automatizálás
Maps Scraper AIAI ÜgynökökEgy olyan, AI-hajtású eszköz, amely automatikusan kinyeri a vállalati adatokat a Google Mapsből, és segíti a célcsoportok generálását és a piackutatásokat.
ClarosAI ÜgynökökAz automatikus megvásárlási segítő, amely összefoglalja a véleményeket és feltárja a legjobb ajánlatokat.
Trending now
Biology AIOktatási AI eszközökPontos Magyarázatok a Hetedkérdésekkel
Reducto AIAI Ügynökfejlesztési PlatformokDokumentum intelligencia API, amely szövegen, szétválasztja, szöveget felismeri, és strukturált adatokat kímél ki összetett PDF-kből, előadásokból és összehasonlító dokumentumokból.
AdCrierMarketing & ReklámTámogatott válaszok, fizetés per kattintás.
Pixtral 12B 24.09Nagy nyelvi modellNyílt multimodális 12B modell, amely kezeli a szöveget és a képet váltakozva, 128K kontextusablakkal.