LangfusePlatforma za inženjerstvo Otvorene LLM-a, koji nudi preglednost, metrike, evaluacije i upravljanje pozivom za debugiranje i unapređivanje velikih modela jezika.

LangFuse je otvoreni SAD za inženjere LLM-a (veća jezgrenomodel) koji omogućava programerima dizajniranje, provjeru pogrešaka i poboljšanje agenata i aplikacija za AI. On pruža kompletni set alata za nadzor, metrici, procijene i upravljanje stavkima, što omogućava timovima suradnju i stalno poboljšanje kvalitete, cijene i latentnosti njihovih AI proizvoda. Langfuse podržava cjelokupni krug LLM-inženjerskog rada, od prototipa do proizvodnje, integracijom nadzora, upravljanja stavkama, procjena, eksperimenata i ljudske anotacije u jedan krajolik rada. Platforma nudi značajke kao što je hijerarhijska praćenja koja snima svaki LLM poziv, iniciranje oruđa i korak upravljanja podacima, te omogućava filtriranje po korisniku, sesiji, troškovima, latenciji ili kustom podacima. Ona također podržava različite metode evaluacije, uključujući i LLM kao sudija, heurističke funkcije i čovjekove provjere. Pored toga, Langfuse pruža sustav za upravljanjem predlošcima sa jednostrukim razmjenama i rušenja implementacija, igralište za testiranje predloška te alate za određivanje i uporedni sustav za eksperimente. Langfuse radi s bilo kojim jezikom i okruženjem koje podržava OTel instrumentaciju i ima preko 100 integracija s popularnim okruženjima za agentove, pružateljima modela i drugim alatima. To je otvorena platforma s licencom MIT, što omogućava korisnicima samostalno hostanje na velikom škalu i sudjelovanje u zajednici. Langfuse koriste preko 100.000 inženjera i 19 kompanija koja se nalazi među 50 najbogatijih iz Fortunea, a razlučuje preko 10 milijarda obavijesti mjesecno.