AI Infrastructure & MLOps Двубой — 22 юни 2024 г.

Foundry е платформа за развитие, фокусирана върху AI агенти, които работят по цялата Интернет. Дава на създаците инфраструктура, с която да дизайнират агенти, да ги тестират срещу реални или симулирани задачи по браузиране, и да правят етапи на поведението им чрез структурирани оценки. На няколко степени над строителството, приоритетът на Foundry е в обучителния и тестовия цикъл. Разработчиците могат да оценяват изпълнителната ефективност, да отпечатват случаи на неуспех, и да довършат модели или изпратки, за да подобрят надеждността при задачи като навигация, попълване на форма, извличане на данни и многостъпни работни процеси. Инструментът е насочен към тимове, които изпращат производствени клас браузър агенти, които нуждаят се от повторяеми оценявания, визуализация на дебъгване и непрекъсвато подобряване, а не единични команди.

• Умна среда за създаване на агенти
• Автоматично тестиране на задачи на брожене
• Трейнингови потоци и прецизиране
• Оценка на извършителност и оценка
• Дебъгване и инспекция на следите
• Уреди за повторенство и подобряване

operators.dev е платформа, която упроща създаването и разпространението на артифактите на AI. Обслужва разработчици и екипи, които искат да преминат бързо от концепция до функциониращ артифакт без да се борят с нискосмисловата оркестрация или честотните кодове на инфраструктурата. Сервيسът се фокусира в улесняването на обичайни задачи за създаване на агенти, като определение на поведенията, свързване на уреди и източници на данни и поставянето им в производствени средовиания. Чрез абстрахиране на значителен процент на поддържащата сложност, той има за цел да прави разработката на агенти достъпна за по широк кръг от създатели. Това прави чрез оператори.dev много полезно решение за разработване на прототипи, вътрешна автоматизация и разпространение на пригодно за работа в производство агенти с по-малко техническо натоварване.

• Графична интерфейс за създаване на агенти
• Ухилен струйопакетен модел за разпространение
• Поддръжка на инструменти и интеграции
• Премахнати елементи предвиждане със създаването
• Подходещ за прототипиране и произвеждане
• Работният процес за разработчици

AgentОС е платформа за развитие, предназначена за създаване на мрежи от специализирани агенти за умни системи, които сътрудничат за завършване на многоетапни програми за извършване. Наместо да се събират върху една обща, многонасяща умна модел, командиите могат да създадат фокусирани агенти, които да управляват определен рол и да координират чрез общ runtime. Платформата подчертава бързината на итерация, давайки на развитието инструменти за определение на поведението на агентите, за свързване на външни източници на данни и за управление на информацията, която агентите пренасят помежду си. Целта е да задоволи инженерите и екипите за продукти, които искат да включат функции с агент на доставката, без да трябва да създават инфраструктура за оркестражиране отначало.

• Създаване на спеціализирани агенти
• Изпълнение на мултиагентна съоркестриране
• Предоставяне на интерагентна комуникация
• Обединяване със съществуващи инструменти и данни
• Дизайн и управление на обслужване
• Ориентиран към разработвателите инструменти

BaseAI е framework за развитието на сървърлъс AI агенти, наречени трубы, които могат да бъдат оборудвани с памет, инструменти и достъп до множество речеви модели. Работата му се основава на локален принцип, като допускате разработчиците да създават, тестват и итерират агенти директно от своя кодов база преди разпределяне. Фреймвъркът поддържа retrieval-augmented генерация чрез вградени примитиви за съхранение, интегрира с популярните провайдери на LLM и използва TypeScript SDK за влагане на агенти в уеб и бекенд приложения. Конfigurатионата живее в кода, така че вързирането и сътрудничеството стават просто. BaseAI насочва към отборите, които искат мекотата на отвореността на стека без да управляват сложна инфраструктура на агенти, докато все още могат да разширят функционалността чрез настраити инструменти и интеграции.

• Рийки за безсерверни AGI агенти
• Памет за RAG програми за флоу
• Поддръжка за възникване на инструменти
• Тайпскрипт SDK
• Потвяряване на полета на LLM за повече
• Config-as-code setup

Фала е децентрален облаков платформ, който изпълнява AI задачи в доверени изпълненияни окръжения (TEE), предоставяйки на разработчиците гаранции за достоверност на поверителността както за кода, така и за данните. Аналогично, то дава възможност на екипите да deploy-ват модели, агенти и приложения, в които въпросните входни данни, изходни данни и тежести ще остават защитени от инфраструктурата на сървърите. Платформата поддържа частична инферираща функционалност за популярни отворени модели, съкръглени контейнери за налични товари, както и на-чейн атащментни записи, които доказват, че изчисленията са се състояли според очакваното. Това го прави подходящ за чувствителни случая на използване, като здравно състояние на данните, финансови анализи, самостоятелни агенти, обработващи ключове, и услуги на AI, които изискват доверие с аудируеми улики.

• Konfидиенциална GPU и CPU изчисление
• Лични точки за извличане на данни от модела LLM
• Ремотна потвърждаване и генериране на доказателства
• Предихраняеми Докер-базирани изчислвания
• Интеграция с Web3 и агенти на лента-1
• Плати за използване – децентрализиран хостинг

Simple Phones предоставя AI-софтуерни гласови агенти, които обработват вхождащи и изходящи бизнес телефонни разговори. Сервисът форсира пропуснати или всички телефонни повиквания към custom AI агент, който може да отговаря на въпроси, да записва данни за лидове, да създава термини и да преизпраща незабележителни телефонни повиквания на човек, когато е нужда от това. Презареждате агента, описвайки компанията си, услугите и често задавани въпроси, след което получавате нов телефонен номер или форвардирате съществуващия. Всяка честителност се регистрира с транскрипт, сумаризирано съдържание и запис, което го прави лесно за преглед на взаимодействиите и допълнителна оптимизация на агента с време. Този продукт е насочен към малки компании, агенции и доставчици на услуги, които имат трудност да се справят с обемите телефонни свързвания.

• АИ гласов агент за входящи обаждания
• Възможност за настройка на персонализирани агентски скрипти за телефона
• Протоколи, записи и оцветуващи за обажданията
• Безплатна поддръжка за настройка на запишване и отговор на обаждания.
• Човешка ръчна хендовър и рутване.
• Постоянен процес на коригиране и настройване на агента на база на предишните обаждания.

ГаияХуб АИ е платформа за безкодово програмиране, предназначена да помогне потребителите да създават и стартират приложения с използване на артификална интелигентност без писането на код. Тя цели предприемачи, тимове за продукти и непрофесионали, които искат да превратят идеите си в реализирани уреди с AI в кратък срок. Платформата combina dragging-and-drop building блокове с пред конфигурирани AI модели, които позволяват на потребителите да проектират протоколи, свържат източници на данни, и публикуват приложения директно от интерфейса. Това улеснява процеса за преход от концепция до изпълним продукт. ГаияХаб АИ се оказва особено полезен за бързо прототипиране, вътрешна автоматизация и малки отбори, които трябва да изпратят AI функции без да ангажират спеціализирани разработчици.

• No-code визуален конструктор за приложения
• Предварито интегрирани AI модели
• Еднократно излизане
• Уреди за workflow и автоматизация
• Кonnektori за различни източници на данни
• Набори за общи случаи на използване