满血版DeepSeek服务系统方案

2025年2月21日天云融创软件重磅发布满血DeepSeek服务系统,为企业提供开箱即用的全栈式解决方案,利用开源大模型为客户提供高性能模型服务。

 

天云“满血DeepSeek”服务系统包含离线部署的DeepSeek 671B开源模型,用户自服务注册和系统用户管理,用户token使用的计量和计费等功能,是一个完整提供多用户使用,并具备模型运营能力(MaaS)的大模型服务系统。

天云“满血DeepSeek”服务系统具有以下亮点和能力:

  • 自动部署DeepSeek R1或V3 671B模型,也支持在较小环境下使用DeepSeek 671B量化版(更适用于国产GPU),或更小环境中使用DeepSeek 32B。

  • 支持英伟达GPU,也可定制支持国产GPU

  • 用户可直接注册,使用微信扫码、短信等方式验证。注册后可以登录使用,系统统计用户使用的Token数,并可按Token数计费

  • 系统管理员可以通过门户监控、管理用户、token使用和费用

对于企业私有部署,系统提供了多用户的服务能力。每个用户具有自己的空间。企业负责人可以通过各用户使用token的数量掌握用户使用模型的情况。

对于运营商而言,该系统可以提供MaaS(模型即服务),利用系统的用户管理和计费系统使DeepSeek满血版模型上线并提供运营服务。也可将该系统集成到已有的云平台中,提升云平台的能力。

推荐阅读 

在线咨询 MESSAGE

姓名 *

电话 *

邮箱 *

咨询意向 *

公司名称

所属行业

需求概述 *