LangfuseОтворено-източна платформа за инженерство на LLM с предназначение за наблюдение, метрични данни, оценки и управление на предизвикателствата, предназначена за отслежване и усилване на едрите модела на езика за програмиране.

Langfuse e opensource платформа за инженерство на големи езикови модели (LLM), проектирана да помага сътрудниците да създават, отбелязват и усилват агенти и приложения на Интелектуална Механика. Платформата предлага обхватен набор от инструменти за наблюдение, метрични показатели, оценки, и управление на питања, което позволява на сътрудничеството и непрекъснатото усилване на качеството, стойността и задържаността на техния Интелектуален Механичен продукт. Langfuse подкрепя цялото кръгово движение на Инженерство на големи езикови модели, от прототип до производство, включвайки наблюдение, управление на питања, оценки, експерименти, и човешка анотация в единен поток за сътрудничество. Платформата предлага функции като иерархическо следене, което записва всички извиквания на модела LLM, програмиране на инструменти и извличане на данни, и осъществява филтриране по потребител, сесия, затрат, латентност или персонализирана мета дана. Тя също така поддържа различни методи за оценка, включващи LLM-ка като съдия, хевастични функции и човешки анализ. Също така Лангфюз предлага системата за управление на източника с еднократно разширяване и предотвратяване, терейни за тестваща източника и инструменти за дефиниране на експеримент и сравнение на тях. Langfuse работи с всяка езिक и фреймворк, който поддържа OTel инструментация и има над 100 интеграции с популярни агенти на фреймворк, provider на модерlator и други инструменти. То е Отворена платформа с лиценза на MIT, позволяваща потребители да самосъхествуват масовите размери и да сътрудничат в общността. Langfuse се използва от над 100,000 инженери и 19 от най-славните 50 компании в списъка на Fortune, разполагащи над 10 милиарда наблюдения на месец.