LangfuseKasutamatud kogu linguväline mallide engineering platvormi.

Langfuse on avatud lähtekoodiga LLM (suure keelemudeli) insenertehnoloogia platvorm, mis on loodud selleks, et aidata arendajatel luua, siluda ja täiustada AI agente ja rakendusi. See pakub terviklikku tööriistade komplekti vaatlemiseks, mõõdikute, hindamiste ja viipade haldamiseks, võimaldades meeskondadel koostööd teha ja pidevalt parandada oma AI toodete kvaliteeti, hinda ja latentsust. Langfuse toetab kogu LLM insenertehnoloogia tsüklit, alates prototüübist kuni tootmiseni, integreerides vaatlemise, viipade haldamise, hindamised, eksperimendid ja inimese annotatsiooni ühte töövoogu. Platvorm pakub selliseid funktsioone nagu hierarhiline jälgimine, mis jäädvustab iga LLM-kõne, tööriista kutsumise ja andmete hankimise sammu ning võimaldab filtreerida kasutaja, seanss, makse, latentsus või kohandatud metaandmete järgi. See toetab ka erinevaid hindamismeetodeid, sealhulgas LLM-i kui kohtuniku, heuristilisi funktsioone ja inimeste ülevaadet. Lisaks pakub Langfuse viipade haldussüsteemi ühe klõpsuga juurutuste ja tagasivõtmistega, viipade testimise mänguvälja ning katsete määratlemise ja võrdlemise tööriistu. Langfuse töötab koos igakeelse ja raamistikuga, mis toetab OTel instrumentatsiooni ning on integreeritud enam kui 100 populaarse agendi raamistikuga, mudelite pakkujate ja teiste tööriistadega. See on avatud platvorm, millel on MIT litsents, võimaldades kasutajatel seda suurel skaalal ise hostida ja kaasa aidata kogukonnale. Langfuse'i kasutab üle 100 000 inseneri ja 19 Fortune 50 ettevõtet, käsitledes üle 10 miljardi vaatluse kuus.