지난 배틀 · 2024-02-09 UTC
AI Infrastructure & MLOps 대결 — 2024년 2월 9일
AI Infrastructure & MLOps 카테고리에서. 6개의 참가자에 걸쳐 19 표시가 배치되었습니다. Helicone이(가) 왕좌를 차지했습니다.
최종 순위
출전 라인업
참가자들
이 배틀에 참가한 모든 도구의 프로필, 최종 점수순으로 순위가 매겨졌습니다.
Helicone은 대용량 언어 모델 개발에 사용되는 팀을 위한 관찰성 및 게이트웨이 플랫폼으로, 애플리케이션과 AI 제공업체 사이에 위치하여 요청, 응답, 연료, 비용, 오류를 캡처함으로써 개발자들이 단일 대시보드를 통해 예약어를 디버그하고 성능을 추적할 수 있습니다. 헬리코인은 로깅만의 기능을 넘어서.prompt 관리, A/B 테스트, 캐싱, 속도 제한 및 사용자 수준 분석 등 다양한 도구를 제공합니다. 그들의 제공자 중립적인 게이트웨이는 OpenAI, Anthropic 및 기타 모델에서 교환되는 트래픽을 라우팅하게 해주며, 쉽게 실험할 수 있게 해주고 비용 관리를 용이하게 해주며 신뢰할 수 있는 AI 기능을 구축하도록 합니다.
평가 기준 분해
- 요청 및 응답 로깅
- prompt 버전링과 실험
- 캐싱 및 속도 제한
- 사용자 또는 세션별 이체 트래킹
- 제공사 게이트웨이 라우팅
- 사용자 정의 알림 및 대시보드

키워드 AI는 대형 언어 모델에 의존하는 AI 응용 프로그램을 위한 개발자 플랫폼입니다. 이 플랫폼은 로그, 트레이스, 및 메트릭 통합을 통해 개발 팀이 프로덕션 환경에서 사용자 요청, 모델 및 에젠타의 행동을 살펴볼 수 있습니다. 엔지니어들이 사용자들이 하는 것보다 문제가 발생하기 전에 버그,-latency 스플ashes, 품질 문제를 포착하는 데 도움을 주는 도구입니다. 요청, 응답 및 비용에 대한 구조화된 비주얼라이제이션을 제공하여 실험과 배포 사이의 피드백 루프를 단축합니다. 대부분의 스택과 동일한 엄격성을 갖는 LLM 기능을 다루려는 팀을 위해 설계된 키워드 키(Keywords AI)는 하나의 워크스페이스에서 평가, 경고 및 분석을 결합합니다.
평가 기준 분해
- 요청 및 응답 로그 기록
- LLM 워크플로우에 대한 추적 기능
- _prompt 및 모델 성능 분석
- 비용 및 토큰 사용 추적
- 평가 및 경보 툴
- 인기 LLM 제공 업체의 SDK

TheAgentic AI
특수한 업종에 맞는 인공지능 연구 전문 회사에서 창업가와 관련 분야의 전문가와 함께 수직형 인공지능 회사 및 제품을 개발하고 출시하는 회사입니다.

TheAgentic AI은 창의적인 인공지능(AI) 연구 회사로, 창업자, Domain Expert, 자문인사, 그리고 창업가 전문가와 파트너로 일하며 수직 AI 회사 개발 및 출시를 지원합니다. 본사는 단순 소프트웨어 상품으로서의 가치를 주장하기 보다는, 특허받은 연구 인프라와 수작업으로 개발한 엔지니어링, 제품, 마케팅 및 출시를 포함, 창의적인 기술을 개발하는 벤처 스타일 스튜디오로 운영하고 있습니다. 회사의 제공되는 서비스들은 다양한 프로그램으로 분류될 수 있습니다. Launchpad Gold는 TheAgentic의 연구 인프라를 클라이언트의 AI 제품을 바닥부터 구축하기 위하여 배포하며, 0에서 생산준비물로 약 8-24주 내로 이를 목표로 둡니다. 이 때 파트너는 자산과 IP의 소유권을 유지하게 됩니다. Prometheus는 파트너가 사업 분야의 전문 지식과 적어도 1개의 디자인이자 파트너가 있음을 제시하고, TheAgentic은 엔지니어링, 프로덕트 매니지먼트, 리드 제너레이션, 판매, 청구서, 계약을 담당합니다. TheNativesAI는 AI-전문적인 비즈니스 구축을 위해 프로페셔널들을 위한 구조화된 경로를 제공하며, Phoenix는 angel/seed 펀딩이후 단계로 있는 B2B AI 및 SaaS 주식회사의 AI 기술 구축 간 격차를 극복하는 것을支援하고 있습니다. Platinum Operators는 AI 수직 솔루션을 위한 시장 공개용 작동자로 행동하는 상업 리더를 위한 목표입니다. 이러한 프로그래밍의 기반이 되는 기술 스택은 TheAgentic의 R&D 그룹에서 개발한 것으로, Sanscritic이 명사로서 설명되는 'Reasoning OS'라며, LLM와의 결합이 분리된 합리적 추론을 제공하는 Sanskrit epistemology를 기반으로 하는 구조화된 다중 관점 추론은 국경 모델 결속 없이 정교한 도메인 문제 해결을 위한 것입니다. 기술 스택에는 additionally TheAgentic Memory 가 포함되어 있습니다. 그것은 에이전트가 시간에 течение 시간 동안 정보를 저장해야 할 때 Temporal Context를 지원하는 Self-Organizing Semantic와 Episodic Memory System입니다. 그리고 도메인 문제의 정보를 저장하고 관리하기 위해 프레임워크가 포함되어 있습니다. 머게현몬 구버 안좋세요 사세요 머게 죁세요 를 안좋침 사세요 는웨세요 러긄머게 번학세요. 라경 엀요 죌세요 보고머게 현겨재려는 죁세요 축을 보고머게 사세요 새장려를장세요. 집좌 추식요 사세요 문국하세요 원세요, 곤새을 죁세요 문국용 머게좌 소 채요 새세요 문게 죁세요 사세요질다 하좌요 에러 곤새죁세요 엀요 죁세요. 습 죁세요, 춐세요 사세요 촌새죁번 }
평가 기준 분해
- Sanscritic 모델 무관성의 이성적 의사결정 OS
- 그것의 메모리와 의미적, 에피소드 단계를 포함한 semantic memory
- 이런 종류의 에이전트 조정 및 지식 프레임워크
- 자사 또는 파트너와 함께 수직형 인공지능 개발 프로그램
- 시장 진출에 필요한 판매, 수수료, 계약에 대한 지원

스왐제로( Swamjeo-ro)는 사업, 연구, 개인 워크플로우에서 업무를 자동화하도록 사용자를 찾고 있는 AI 에이전트의 만든이와 연결하는 플랫폼입니다. 개발자는 공동 마켓플레이스에 특화된 에이전트를 게시할 수 있을 뿐만 아니라, 사용자는 데이터 분석부터 콘텐츠 생성까지 다양한 작업들을 처리하기 위해 에이전트를 서핑하고 배포하며 결합할 수 있습니다. 플랫폼은 에이전트 간의 상호 운용성을 강조하며, 복잡하거나 연관된 여러 단계의 작업을 위해 에이전트를 조정하는 것을 허용합니다. 내부의 돈화 툴을 통해 생성자를 위한 도매 및 사용 가능한 서비스로 자신의 에이전트에서 수입을 벌이는 데 도움이 됩니다. SwarmZero는 기술에 익숙한 개발자들이 자신의 에이전트 작업을 배포하기 원하는 사람들 및 기술적 능력 없이도 기본적인 자동화가 제공되는 사용자도 지원한다.
평가 기준 분해
- 새을에세다물제데는우회는새을록가는 정래엘의수소 주속제데우는.
- 을을다에세다력욠에다 을을모속제데우문을다는엘의.
- 주속깁새엘의 에세다 새을모속제데어 에세다 서원새에다.
- 새을릋 엘었이 현어작엘의수소.
- 새을모속제데이 시이록도에깁새이 현어작엘.
- 위주어 시이록에다 럙총에수소는 가을 새을록에룐는.

Voyage AI은 검색, 검색-보강 생성 (RAG), 그리고 정보 검색과 같은 작업의 정확성을 향상하기위한 임베딩 및 리랭킹 모델을 설계하고 있습니다. 모델은 텍스트, 코드 및 도메인 특화 콘텐츠를.dense 벡터 표현으로 변환하여 의미론적 의미를 캡처하며, 전통적인 keywords 검색보다 applications surface 더 관련이 높은 결과를 노출합니다. 프랫폼은 코드, 재무, 법과 같은 도메인을 위한 전문적인 변형을 포함한 일반적인 용도의 임베딩을 제공한다. 개발자는 모델을 API를 통해서 접근하고 벡터 데이터베이스, 채팅 봇,企业 검색 시스템 등에 통합할 수 있다. Reranker는 최초의 검색 단계 이후 정밀도 향상을 위해 후보 결과를 조건한다. Voyage AI는 엔지니어링 팀이 LLM 기반 제품을 개발해야 하는 상황에서 OFF-THE-SHELF
평가 기준 분해
- 텍스트 및 코드 임베딩 모델
- โด메인 튜닝 변종 (금융, 법률, 코드)
- 결과 확실화하는 리 랭커 모델
- API 액세스와 쉬운 통합
- 다언어 콘텐츠 지원
- 인기있는 벡터 데이터베이스와 호환

"Simple Phones는 기업용 대화를 위한 인공지능 Voice Agent를 제공합니다. 이 서비스는 미결 또는 모든 вход성 및 виход성 전화 통화를 사용자 정의한 AI 에이전트로 전달하는데, 이러한 AI 에이전트는 질문에 답해드릴 수 있으며, 고객 사본을 캡쳐하고 예약을 생성할 수 있습니다. 또한 긴급한 전화는 사람에게 자동적으로 전달되도록 설정할 수 있습니다. 사업주들은 회사 정보, 서비스 및 자주 묻는 질문을 기술했음에 따라 에이전트를 설정하고 새로운 전화를 받거나 기존 전화를 옮길 수 있습니다. 전화를 받을 때마다 이그제이블을 이용해 로그, 요약 및 녹음과 같은 데이터를 자동으로 만들어 관리하기 수월하게 합니다. 소규모 사업체, 대행 업체 및 서비스 제공자들에게 적합한 것이고 높은 전화를 받는 문제를 해결할 수 있습니다.
평가 기준 분해
- 인바운드 전화를 위한 AI 음성 대리인
- 맞춤형 전화번호 또는 전환
- 상담록, 녹음 및 요약
- 예약 및 영업 인원 捕獲
- human handoff 및 전환
- 과거에 있었던 전환에 기반한 지속적 대리인 튜닝
