LangfuseAvoin lähtökohta LLM-insinöörijärjestelmän tarjoamassa havaittavuudessa, metreissä, arvioinnissa, arvioinnissa sekä pyyntöhallinnassa suurten kieliopinmallien korjaamiseen ja parantamiseen...

Langfuse on avoimen lähdekoodin LLM-tähdentäjä-ohjelmisto, jonka tarkoituksena on auttaa ohjelmistoalan asiantuntijoita rakentamaan, bugaaessa ja parantamaan AI-koneita ja sovelluksia. Sillä on kattava kokoelma työkaluja havainnollistamiselle, mitatieille, arvioinnille ja kysymykseen liittyvän hallinnoinnelle, jolla joukkueet voivat yhteistyössä jatkuvasti parantaa laatuunsa, kustannuksiin ja latenssiin liittyvää laatua niiden AI-tuotteita. Langfuse tukee koko LLM-tekniikkaa kehittävää kiertokulkua, mallista tuotantoon, yhdistämällä havainnollistamisen, kysymyksen hallinnoinnin arvioinnin, kokeilun ja ihmisnäytön yhdeksi työvaiheeksi. Alustaan tarjoaa ominaisuuksia, kuten hierarkkisten tukijoiden ominaisuudet, jotka tallentavat kaikki LLM-kutsut, työkalujen kutsut ja hakuaskeleet, ja tarjoavat suodattamisen käyttäjän, käyttökokemuksen, kustannusten, latencyn sekä käyttäjän luomien yksilöllisten metatietojen perusteella. Se tukee myös erilaisia arviointimenetelmiä, kuten LLM -tuomarina, heurististen funktioiden käyttämistä ja humanitista tarkastusta. Alustaan tarjoaa myös toiminnallisen kysymyshallinnonalan järjestelmän yhden klikin käyttöön ja palautuksiin, koealueen toimintoja testattavalle kysymykselle sekä kokeiden määrittely- ja vertailuvälineitä. Langfuse toimii mistä tahansa kielessä ja ohjelmistokehyksessä, joka tukee OTel-instrumentointia ja sisältää yli 100 yhteensopivuutta suosituissa agentti-ohjelmistokehyksissä, mallin tarjoajissa ja muissa työkaluissa. Se on avoin alusta, jossa käytetään MIT-lisenssiä, siten että käyttäjät voivat hostata sen mittakaavalla ja osallistua yhteisöön. Langfusea käyttävät yli 100 000 insinööriä ja 19 Fortune 50 -yhtiötä, hoitava yli 10 miljardia havaintoa kuukaudessa.