私有化部署:AI 模型选型指南
私有化部署
场景概述
本页聚焦 私有化部署 场景,介绍该场景的核心需求、推荐模型以及评估标准。
选型标准
- SOC2/HIPAA/GDPR 合规
- 开源权重许可
评估标准
- SOC2/HIPAA/GDPR 合规
- 开源权重许可
最佳实践
- 提供系统提示以建立上下文
- 监控 token 用量与成本
推荐模型
参见本场景下的推荐模型列表(路径:/zh/use-cases/on-premise-hosting/)。
本页聚焦 私有化部署 场景,介绍该场景的核心需求、推荐模型以及评估标准。
参见本场景下的推荐模型列表(路径:/zh/use-cases/on-premise-hosting/)。