#LLM Inference
3 tools tagged “LLM Inference”
Groq Model Suite
Groq Model Suite - Compatibilă cu perechea de modele de preluare de token masuțe și rezolvare predictivă a cerințelor sau apelurile modele RAG și fluxurilor de analiză și combinații pentru corespondență pentru conversații și primescă întrebări prin abonament API compatibil cu OpenAI pentru interogare și prelucrarea de rezurci (p.ex., combinații pentru RAG) și evaluarea clasurilor de model pentru cetățenii și asistența pentru token. Actualizați funcționalitatea de întrebare și răspunsuri și fluxu
Phala
Calcul AI confidențial și inferență privată de model alimentate de medii de execuție de încredere.
Cerebras AI Agent
Agent AI de înaltă performanță construit pentru sarcini de lucru la scară largă și intensive din punct de vedere computațional.