LangfusePlatforma LLM inženiringa z odprtokodno, ki ponuja opazovanje, metrike, ocenjevanje in upravljanje s prompti za odpravljanje napak in izboljšanje aplikacij z velikimi jezikovnimi modeli.

Langfuse je odprtokodna platforma za inženiring LLM (Large Language Model), zasnovana za pomoč razvijalcem pri gradnji, odpravljanju napak in izboljševanju AI agentov ter aplikacij. Omogoča celovit nabor orodij za observability, metrics, evaluations, prompt management, kar ekipam omogoča sodelovanje in stalno izboljševanje kakovosti, stroškov in latence njihovih AI izdelkov. Langfuse podpira celoten LLM inženiring loop, od prototipa do produkcije, tako da integrira observability, prompt management, evaluations, experiments in human annotation v enoten workflow. Platforma ponuja funkcije, kot je hierarhično sledenje, ki zajema vsak klic LLM, klic orodja in korak iskanja ter omogoča filtriranje po uporabniku, seji, stroških, zamudah ali po meri prilagojenih metapodatkih. Podpira tudi različne metode ocenjevanja, vključno z LLM-jem kot sodnikom, heurističnimi funkcijami in pregledom z ljudmi. Poleg tega Langfuse nudi sistem za upravljanje promptov z enkliknim izvajanjem in povrnjenjem, igrišče za testiranje promptov ter orodja za določanje in primerjavo eksperimentov. Langfuse deluje z vsakim jezikom in okvirom, ki podpira OTel instrumentacijo, in ima več kot 100 integracij z priljubljenimi agentskimi okviri, ponudniki modelov ter drugimi orodji. Gre za odprto platformo z MIT licenco, ki uporabnikom omogoča samostojno gostovanje v velikem obsegu in prispevanje k skupnosti. Langfuse uporabljajo več kot 100 000 inženirjev in 19 podjetij iz Fortune 50, ki obdelujejo več kot 10 milijard opažanj na mesec.