中国自动化学会专家咨询工作委员会指定宣传媒体
文摘详情
gkongbbs

DeepSeek/Qwen-AI大模型国产显卡信创GPU服务器

http://www.gkong.com 2025-09-19 16:45 上海智算行云科技有限公司

DeepSeek/Qwen通义千问-AI大模型国产显卡信创GPU一体机集服务器、AI管理系统、gao效能基础模型、全流程AI工具链于一体的开箱即用的AI解决方案。适用于科研院所、教育、企业等用户,有一定私域专有知识,希望快速构建AI能力赋能文字处理、数据分析、科学研究等繁重业务,专为云端AI训练和推理设计,主要面向AI大规模深度学习场景。

      通过持续的架构创新和工艺迭代,已覆盖从训练到推理、从边缘到云端的产品矩阵,其国产化率的提升和生态体系的完善,为AI算力自主可控提供重要支撑。

      适用于智慧城市、智慧yi疗、天文探索、石油勘探、预测天气、自动驾驶等需要大AI算力的领域,有一定私域专有知识应用于深度学习模型开发和训练,可以更快的进行视频、图像、语音、文字的AI模型训练和科学研究。

DeepSeek/Qwen-AI大模型国产显卡信创GPU服务器产品优势:

  1. 适配DeepSeek、Qwen通义千问、Llama等主流开源大模型;能够支持国内外主流软硬件生态和各种深度学习框架、算法模型和加速库。
  2. 兼容CUDA生态,支持市场主流生态,生态应用迁移迅速;支持FP32、FP16、INT8等多精度推理混合计算。
  3. 私有数据不出域,在保障数据安全的同时构建业务智能体,解决敏感数据无法上云的痛点;
  4. 支持DeepSeek全系列满血版模型的训练推理,显著提升性能并降低部署成本。

DeepSeek/Qwen-AI大模型国产显卡信创GPU服务器配置:

旗舰版:DeepSeek- 671B 满血版/Qwen、Llama等

处理器:2*海光7390/7490

国产GPU显卡:64G*8

内存:64GB*16

硬盘:480G SSD *4+3.84T NVMe*4

网络:配置RDMA网卡或IB网卡

•支持满血版671B模型及蒸馏模型(需部署两台)

•大并发、性能强

•可灵活扩展,支持大型企业规模化应用

高配版:DeepSeek- 70B/Qwen、Llama等

处理器:2*海光7380/7480

国产GPU显卡:32G*8

内存:64GB*16

硬盘:480G SSD *2+3.84T NVMe*2

网络:以太网/RDMA网卡

•支持精度FP16的70B模型及蒸馏模型

•低成本、私有化部署

•满足客户体验、小规模使用需求

标准版:DeepSeek- 32B/Qwen、Llama等

处理器:2*海光7380/7480

国产GPU显卡:32G*4

内存:32GB*8

硬盘:480G SSD*2+3.84T NVMe*2

网络:以太网

边缘版:DeepSeek-14B/Qwen、Llama等

处理器:X86处理器

国产GPU显卡:32G*2

内存:32GB*4 DDR4

硬盘:按需

网络:以太网

• 支持中小参数蒸馏模型

• 低门槛上车,轻量化应用

  • 低噪音、可在政务、教育等办公环境部署

软件环境:

• 推理框架:VLLm

• 操作系统:Ubuntu、国产系统

版权所有 工控网 Copyright©2025 Gkong.com, All Rights Reserved