标签:自托管
共 4 篇文章。
-
LiteLLM 自部署 LLM 网关完整指南
用 LiteLLM 在国内自部署一个可用于多团队/多项目的 LLM 网关,含 Docker 部署、路由、限频、用量统计、Key 管理。
-
LLM 可观测性实战:Langfuse 自部署完整指南
用 Langfuse 在国内自部署 LLM 应用可观测性平台:tracing、用量、成本、调试、用户反馈一站搞定,含 Docker 部署与接入示例。
-
自部署 Ollama vs 走 API 中转:怎么选
用 Ollama 在本地跑 LLM 与通过 API 中转调云端模型的全面对比:成本、质量、隐私、维护、性能、典型场景。
-
Open WebUI 自托管聊天界面国内接入教程
Open WebUI 自托管 LLM 前端在国内通过中转的接入方法,含 Docker 部署、模型管理、RAG、用户体系完整配置。