Files
2026-09-22 10:58:39 +08:00

312 B

Model System

目标

统一管理:

  • LLM
  • Embedding
  • Reranker
  • Vision
  • Speech-to-Text
  • Text-to-Speech

Model Gateway

Agent Runtime 不直接绑定单一模型供应商。

统一抽象:

Provider -> Model -> Capability -> Request -> Response

支持 OpenAI SDK、LiteLLM 及本地模型。