服务内容
Services
覆盖模型调用、模型定制与应用建设等关键环节。
模型推理服务
提供主流开源大模型的标准化调用接口,免除部署与运维工作,支持按调用量或专属实例计费。
领域模型微调
基于客户的行业数据进行模型微调,提升模型对专业术语与业务规范的理解能力,提供数据整理、模型训练与效果评测全流程服务。
私有化部署
将模型服务部署于客户自有机房或专属集群,数据全程不出客户环境,满足高等级安全与合规要求。
知识库与智能体
将内部文档、制度规范与业务数据接入大模型,构建智能问答与业务智能体应用。
支持模型
Supported Models
持续跟进开源社区技术进展,根据业务场景推荐适配的模型及规格。具体可部署模型以技术评估结果为准。
通用对话
DeepSeek通义千问 Qwen智谱 GLMLlama
代码与推理
DeepSeek 推理系列Qwen Coder
多模态
视觉理解文档解析语音识别
向量与检索
文本向量模型重排序模型
私有化部署
Private Deployment
面向数据安全要求较高的政务、医疗及科研场景,提供完整的私有化部署方案。
- 支持部署于客户机房或我方专属集群
- 支持内网及离线环境部署
- 提供分级权限管理与调用日志审计
- 交付后提供模型升级与运维服务
业务系统
办公系统业务平台科研平台
应用层
知识库问答智能体API 网关
模型层
基础模型微调模型向量模型
算力层
客户机房专属集群
实施流程
Implementation
- 需求调研明确业务目标与效果评估标准
- 模型选型基于真实样本开展模型对比评测
- 训练部署完成模型微调、部署及系统对接
- 运营优化持续监测运行效果并迭代优化
常见问题
FAQ
如何在开源模型与闭源模型之间进行选择?
对于需要私有化部署、数据不可外传的场景,开源模型是主要选择。我们将基于客户的真实业务样本开展对比评测,并据此提出选型建议。
模型微调需要准备多少数据?
所需数据量取决于具体任务类型。一般而言,数百至数千条高质量样本即可取得较明显的效果,我们可协助客户完成数据整理与清洗。
私有化部署对硬件有何要求?
硬件需求取决于模型规模与并发量。我们将在需求评估后提供硬件配置建议,客户也可直接使用我方专属集群。
对外提供大模型服务是否需要备案?
根据《生成式人工智能服务管理暂行办法》,面向境内公众提供生成式人工智能服务,应依法履行备案等相关义务;仅限内部使用的场景,相关要求有所不同。我们将在方案阶段协助客户进行评估。
大模型应用评估
欢迎结合具体业务场景与我们沟通,我们将为您提供应用可行性评估。