LLMStackВідкритий-source платформа для створення агентів AI та застосунків з індивідуальною данними, підтримується різноманітними провайдерами LLM.

LLMStack — відкрита платформа, розроблена для забезпечення швидкої реалізації агентів AI, потокових процесів та додатків. Її головна мета — дозволити користувачам інтегрувати свою власну інформацію з великими мовними моделями для створення спеціалізованих генеративних рішень AI. Платформа звертається до виклику безпечного та ефективного зв'язку підприємств або особистих даних з потужними моделями штучного інтелекту. Воно створено для розробників та команд, які бажають використовувати генеративний штучний інтелект без початку роботи зі ніщо, надаючи структуроване середовище для розробки та розгортання AI-подібних інструментів через API, використовуючи SaaS. У своїй основі LLMStack забезпечує широкий вибір провайдерів великих моделей LLM, зокрема моделі OpenAI, Cohere, Stability AI та Hugging Face, що дозволяє користувачам вибирати власний підкласовий інтелектуальний двигун. Критичною можливістю є «Здоба панелі модель», яка дозволяє створювати декілька моделей або кроків у застосунку інтелектуальної системи. В області інтеграції даних LLMStack забезпечує широке підтримку імпорту та підключення різних джерел даних. Це стосується звичайних форматів, як-от веб-сторінок, карт сторінок, файлів PDF, аудіо файлів та презентацій PPT, а також інтеграції зі службами Google Drive та Notion. Цю багатогранну здатність інтеграції даних важливо для побудови застосунків на основі відтворення доповненої генерації (RAG), які можуть надавати контекстно відповідні відповіді на основі певної інформації користувача. Побудувавши свої застосунки, LLMStack також підкреслює колаборативний розвиток та розгортання. Вона дозволяє декільком користувачам змінювати та будувати застосунки спільно за допомогою ролей переглядача та співавтора. Витворені застосунки можна розміщувати публічно чи обмежувати окремими осіб за допомогою розрідженої системи дозволів. Хоча вона надається здебільшого як відкрита ліцензія для самостійного розгортання, платформа також вказує на наявність "облакової пропозиції" для тих, хто бажає мати керований сервіс.