312 B
312 B
Model System
目标
统一管理:
- LLM
- Embedding
- Reranker
- Vision
- Speech-to-Text
- Text-to-Speech
Model Gateway
Agent Runtime 不直接绑定单一模型供应商。
统一抽象:
Provider -> Model -> Capability -> Request -> Response
支持 OpenAI SDK、LiteLLM 及本地模型。