Langfuseפלטפורמת הנדסת LLM בקוד פתוח המציעה מעקב, מדדים, הערכות וניהול קלטים לשיפור ופתרון בעיות ביישומי מודלי שפה גדולים

Langfuse הוא פלטפורמת הנדסת LLM קוד פתוח המיועדת לעזור למפתחים לבנות, לאבחן ולשפר סוכני AI ויישומים. היא מספקת סט כולל של כלים לתצפית, מדדים, הערכות וניהול פרומפטים, המאפשרת לצוותים לשתף פעולה ולשפר באופן רציף את האיכות, העלות וה‑latency של מוצרי ה‑AI שלהם. Langfuse תומכת בכל מחזור ההנדסה של LLM, מה‑prototype עד ה‑production, על‑ידי אינטגרציה של תצפית, ניהול פרומפטים, הערכות, ניסויים והערות אנושיות בעבודה אחת. הפלטפורמה מציעה תכונות כגון מעקב היררכי, הקולט כל קריאת LLM, קריאה לכלי ושלב אחזור, ומאפשרת סינון לפי משתמש, מושב, עלות, זמן השהייה או מטה‑נתונים מותאמים. היא תומכת גם במגוון שיטות הערכה, כולל LLM-as-a-judge, פונקציות היוריסטיות וביקורת אנושית. בנוסף, Langfuse מספקת מערכת ניהול פרומפטים עם פריסות בלחיצה אחת ושחזורים, playground לבדיקת פרומפטים, וכלים להגדרת ניסויים והשוואתם. Langfuse עובדת עם כל שפה ומסגרת תכנות שתומכת בכלי המדידה של OTel ויש לה יותר מ‑100 אינטגרציות עם מסגרות סוכן פופולריות, ספקי מודלים וכלים נוספים. זוהי פלטפורמה פתוחה ברישיון MIT, המאפשרת למשתמשים לארח בעצמם ברמת סקאלות ולתרום לקהילה. יותר מ‑100,000 מהנדסים ו‑19 מחברות Fortune 50 משתמשים ב‑Langfuse, והיא מעבדת יותר מ‑10 מיליארד תצפיות לחודש.