MarvinOtwarte źródło frameworka do budowania niezawodnych, skalowalnych interfejsów języka naturalnego.

Marvin to otwarta ramka inżynierii AI, która pomaga developerom tworzyć naturalnie jąkałące interfejsy, które są niezawodne, skalowalne i zaufane. Oferece strukturyzowany sposób montowania szablonów, łańcuchów danych oraz pętli oceny, redukując niestałego kod wględów, który często otacza duże modele języka (LLM). Ten framework ma na celu wspierać zespoły inżynieryjne budujące produkcyjne chatbota, asystentów wirtualnych, czy też każde aplikację oczyszczoną modelu językowego. Pozwalając na eksponowanie modułowej architektury, Marvin pozwala zespołom wdrażać standardy konstrukcji poleceń, wersjonowania oraz monitorowania, nie trzymając ich w uziemieniu u jednego dostawcy. Marvin dostarcza zestaw skomponowanych, przytaczanych komponentów: gotowych szablonów promtów, zarządzanie danymi, automatycznie tworzone zestawy oceny oraz pulpity obserwacyjne. Te komponenty można połączyć by stworzyć w pełni skomponowane strumienie, które pobierają dane wejściowe użytkownika, wywołują LLM (poprzez dowolny dostępny dostawca), a następnie zapisują odpowiedzi na dalszą analizę. Framework zawiera również narzędzia do wykrywania zniekształceń, śledzenia opóźnień oraz odtwarzania wersji modelu, co jest niezbędne do zaufanych wdrożeń. Z powodu faktu, że Marvin jest rozwojem zainspirowanym społecznością, korzysta on ze ścisłych procedur rozwoju i rozszerzalności, ale oznacza to również, że ekosystem wciąż rozwija się. Użytkownicy mogą być zmuszeni do napisania adaptatorów użytkowych dla specjalistycznych źródeł danych lub zintegrowania z wewnętrznym narzędziem. Dokumentacja stale sie ulepsza, jednak drużyny bez silnych zasobów inżynieryjnych mogą stwierdzić, że początkowe działania konfiguracyjne są wyższe niż przy dostępnych automatycznie systemach SaaS.