满血版DeepSeek服务系统方案
2025年2月21日天云融创软件重磅发布满血DeepSeek服务系统,为企业提供开箱即用的全栈式解决方案,利用开源大模型为客户提供高性能模型服务。
天云“满血DeepSeek”服务系统包含离线部署的DeepSeek 671B开源模型,用户自服务注册和系统用户管理,用户token使用的计量和计费等功能,是一个完整提供多用户使用,并具备模型运营能力(MaaS)的大模型服务系统。
天云“满血DeepSeek”服务系统具有以下亮点和能力:
-
自动部署DeepSeek R1或V3 671B模型,也支持在较小环境下使用DeepSeek 671B量化版(更适用于国产GPU),或更小环境中使用DeepSeek 32B。
-
支持英伟达GPU,也可定制支持国产GPU
-
用户可直接注册,使用微信扫码、短信等方式验证。注册后可以登录使用,系统统计用户使用的Token数,并可按Token数计费
-
系统管理员可以通过门户监控、管理用户、token使用和费用
对于企业私有部署,系统提供了多用户的服务能力。每个用户具有自己的空间。企业负责人可以通过各用户使用token的数量掌握用户使用模型的情况。
对于运营商而言,该系统可以提供MaaS(模型即服务),利用系统的用户管理和计费系统使DeepSeek满血版模型上线并提供运营服务。也可将该系统集成到已有的云平台中,提升云平台的能力。
- 2022-03-22
- 2022-03-22
- 2022-03-22
- 2022-03-22
- 2022-03-18
- 2022-03-18