AI Infrastructure & MLOps 대결 — 2024년 6월 22일

Foundry는 웹에 걸쳐 작동하는 AI 에이전트에 집중하는 개발 플랫폼입니다..Builder는 이 플랫폼을 통해 에이전트를 설계하는 인프라를 제공받으며, 실제 또는 시뮬레이션 된 브라우징 업무에 에이전트를 실행하고, 구조화 된 평가를 통해 행동을 반복적으로 개선할 수 있습니다. 도구 제작보다도 훈련 및 테스트 루프에 중점을 둔다. 개발자들은 에이전트 성능을 벡스코어로 측정하고, 실패 사례를 캡처하는 것을 통해 모델이나 프롬프트를 개선하여 네비게이션, 서식 채우기, 데이터 추출, 다단계 워크플로우와 같은 태스크의 신뢰성에서 개선할 수 있다. 프로덕션 규모 웹 에이전트를 배포하는 팀에 적합한 툴로, 반복적인 평가, 기술표시, 지속적인 개선을 위해 단일 스크립트보다는 반복된 테스트와 디버그를 제공합니다.

• 에이전트 개발 환경
• 탐색 태스크 자동 테스트
• 훈련 및 tinhufuning 워크플로우
• 성능 벤치마킹 및 평가
• 디버깅 및 트레이스 검사
• iterative improvement 툴링

operators.dev는 AI 에이전트의 생성 및 배포를 간소화할 수 있는 플랫폼으로 개발자와 팀에게 다가갑니다. 개발자와 팀이 기초 설정 인프라 코드나 저수준 구성에서 고생하지 않고 즉시 개념을 실행 가능한 에이전트로 움직일 수 있도록 지원합니다. 전잠진장료수조이 조을나좋었우는장료소조이었우, 조을 수좋 세경조을 정진대 주엘우료음 사조나 사조음 소조을 하세UB2E4는 제는서로엘우료 소조을내다. 이러한 장점으로 operators.dev는 빠르고 간편한 프로토タイプ링, 내부 자동화, 그리고 프로덕션 준비 완료된 에이전트를 실현하는 데 유용한 옵션이 된다.

• 에이전트 빌더 인터페이스
• streamlined 배포 파이프라인
• 도구 및 통합 지원
• 코딩 요구 사항을 줄입니다
• 프로토타입 및 프로덕션에 적합합니다
• 개발자 포커스로 작업합니다

AgentOS는 여러 단계의 워크플로우를 완성하기 위해 함께 작업하는 조정된 AI 에이전트 네트워크를 생성하는 데 최적화된 개발 플랫폼입니다. 일반적인 목적 모델에 의지하는 것보다, 팀은 정의된 역할을 처리하는 초점 에이전트를 시작하고, 공유 런타임을 통해 협력할 수 있습니다. 이 플랫폼은 속도 높은 개발 Cycle을 중시하고 개발자에게 에이전트 행동을 정의하고 외부 데이터 소스와 데이터를 전달하는 방법을 관리하는 도구를 제공하여 에이전트를 설계하고 조정하는 플랫폼에 의존하지 않고 에이전트 기반 기능을 출시하도록 설계되었습니다.

• 專用代理程式創建
• 多代理程式協調運行時
• 代理程式之間的溝通
• 與外部工具和數據源的集成
• 工作流程設計和管理
• 面向開發者的工具

"BaseAI는 개발자 중심의 프레임워크입니다. 서버리스 AI 에이전트를 만들기 위한 '파이프'를 개발할 수 있도록 지원합니다. 이 에이전트에는 메모리, 도구, 그리고 여러 언어 모델에 대한 접근성이 구비됩니다. BaseAI는 로컬-퍼스트 워크플로우를 강조합니다. 개발자는 로컬 환경에서 코드베이스를 통해 에이전트를 생성, 테스트, 반복할 수 있습니다. 이 과정이 완료된 이후, BaseAI는 클라우드에 자동으로 배포됩니다. 에이전트를 개발하는 suốt 과정에서 BaseAI는 개발자의 코드 베이스에서 직접적으로 액세스할 수 있습니다. 이는 개발자가 에이전트를 더 효과적으로 만들 수 있도록 지원합니다." 프레임 워크는 내장 메모리 기본 요소 통해 리트리벌-증강 생성을 지원합니다. 인기가 있는 LLM 공급자와 통합합니다. TypeScript SDK는 웹 및 백엔드 애플리케이션 내부 에이전트를 임베딩하기 위해 노출합니다. 구성은 코드를 통해 살해되므로, 버전관리를하고 협력을 쉽게합니다. BaseAI는 open-source 스택의 유연성을 muốn 갖는 팀들에게 맞춰져 있습니다. 그런 팀들은 복잡한 에이전트 인프라를 관리하지 않고도 기능성을 확장할 수 있는 custom tools과 integrations을 만들 수 있습니다.

• 서버리스 AI 에이전트 파이프
• RAG 워크플로우를 위한 메모리
• 도구 호출 지원
• TypeScript SDK
• 멀티 모델 LLM 호환성
• Config-as-code 설정

[Phala]는 신뢰 가능한 실행 환경 (Trusted Execution Environments, TEEs)에 AI 작업負荷를 실행하는 데集中성 클라우드 플랫폼으로, 개발자들이 코드와 데이터에 대한 가시성 증명성을 제공함으로써 신뢰할 수 있는 프라이버시 보장을 제공합니다. 팀들은 입력, 출력 및 가중치가 호스트 인프라에서 보호되는 모델, 에이전트 및 어플리케이션을 배포할 수 있습니다. 플랫폼은 유명한 개방형 모델의 프라이빗 인피어런스, 사용자 정의 워크로드를 위한 신뢰할 수 있는 컨테이너, 그리고 기정상적인 컴퓨테이션의 증명 증표를 지원함으로써, 의료 데이터, 금융 분석, 자가치동 작동의 키를 다루는 자가치동 작동, 그리고 증명가능한 신뢰가 필요한 AI 서비스와 같은 감감한 사용 사례에 적합하다.

• 부호화 GPU 및 CPU computes
• 사적 LLM 추론 엔드포인트
• 원격 진술 및 증명 생성
• Docker 기반 워크로드로 배포
• Web3 및 체인 에이전트와의 통합
• Pay-as-you-go 탈중립화 호스팅

"Simple Phones는 기업용 대화를 위한 인공지능 Voice Agent를 제공합니다. 이 서비스는 미결 또는 모든 вход성 및 виход성 전화 통화를 사용자 정의한 AI 에이전트로 전달하는데, 이러한 AI 에이전트는 질문에 답해드릴 수 있으며, 고객 사본을 캡쳐하고 예약을 생성할 수 있습니다. 또한 긴급한 전화는 사람에게 자동적으로 전달되도록 설정할 수 있습니다. 사업주들은 회사 정보, 서비스 및 자주 묻는 질문을 기술했음에 따라 에이전트를 설정하고 새로운 전화를 받거나 기존 전화를 옮길 수 있습니다. 전화를 받을 때마다 이그제이블을 이용해 로그, 요약 및 녹음과 같은 데이터를 자동으로 만들어 관리하기 수월하게 합니다. 소규모 사업체, 대행 업체 및 서비스 제공자들에게 적합한 것이고 높은 전화를 받는 문제를 해결할 수 있습니다.

• 인바운드 전화를 위한 AI 음성 대리인
• 맞춤형 전화번호 또는 전환
• 상담록, 녹음 및 요약
• 예약 및 영업 인원 捕獲
• human handoff 및 전환
• 과거에 있었던 전환에 기반한 지속적 대리인 튜닝

가이아허브 AI( GaiaHub AI )는 사용자가 코딩없이 AI 기반 애플리케이션을 만들고 출시하는 데 도움을 주는 无상설(CD) 플랫폼입니다. 이 플랫폼은 가치 있는 아이디어를 짧은 시간내에 구동이 가능한 AI 툴로 변환하고자하는 기업가, 제품 팀 및 비기술 전문가가 사용할 수 있습니다. 가이아허브 AI는 드래그 앤 드롭 건축 블록과 미리 구성된 인지 모델을 결합하여 사용자들이 워크플로우를 설계하고 데이터 소스를 연결하고 앱을 인터페이스를 통해 직접 배포 할 수 있도록 해줍니다. 이러한 프로세스는 이론에서 배포 가능한 제품까지 이동하는 과정에 있어 프로세스를 단순화합니다. GaiaHub AI는 특히 빠른 프로토 타이핑, 내부 자동화, 그리고 특수 개발자로 인수를 위한 고용을 생략하고 AI 기능을 배포하기 위하는 소규모 팀들에게 유용합니다.

• 이미지 기반 코드리스 앱 빌더
• 미리 통합된 AI 모델
• 클릭 한 번으로 배포
• 워크플로우 및 자동화 도구
• 데이터 소스 연결기
• 일반적인 사용 사례용 템플릿