LangfuseEn åpen kildekode LLM‑teknisk plattform som tilbyr observabilitet, metrikker, evalueringer og prompt‑håndtering for å feilsøke og forbedre applikasjoner med store språkmodeller

Langfuse er en open‑source LLM (Large Language Model) engineeringplattform som er utviklet for å hjelpe utviklere med å bygge, feilsøke og forbedre AI‑agenter og applikasjoner. Den tilbyr et omfattende sett med verktøy for observabilitet, målinger, evalueringer og prompt‑håndtering, slik at team kan samarbeide og kontinuerlig forbedre kvaliteten, kostnadene og latensen til sine AI‑produkter. Langfuse støtter hele LLM‑engineeringløkken, fra prototype til produksjon, ved å integrere observabilitet, prompt‑håndtering, evalueringer, eksperimenter og menneskelig annotering i en enkelt arbeidsflyt. Plattformen tilbyr funksjoner som hierarkisk sporing, som fanger hvert LLM-kall, verktøyinvokasjon og hentetilgang, og gjør det mulig å filtrere etter bruker, sesjon, kostnad, latens eller tilpasset metadata. Den støtter også ulike evalueringsmetoder, inkludert LLM-as-a-judge, heuristiske funksjoner og manuell gjennomgang. I tillegg tilbyr Langfuse et prompt‑håndteringssystem med ett‑klikks distribusjon og tilbakesettelse, et playground for testing av prompts, samt verktøy for definisjon og sammenligning av eksperimenter. Langfuse fungerer med alle språk og rammeverk som støtter OTel-instrumentasjon og har over 100 integrasjoner med populære agentrammeverk, modellleverandører og andre verktøy. Det er en åpen plattform med MIT‑lisens, som gjør det mulig for brukere å selv‑hoste i stor skala og bidra til fellesskapet. Langfuse brukes av mer enn 100 000 ingeniører og 19 av Fortune 50‑selskapene, og håndterer over 10 milliarder observasjoner per måned.