|
DeepSeek-AI大模型信創(chuàng)一體機（國產GPU）集高端服務器、AI管理系統(tǒng)、高效能基礎模型、全流程AI工具鏈于一體的開箱即用的AI解決方案。適用于科研院所、教育、政府、企業(yè)等用戶，有一定私域專有知識，希望快速構建AI能力賦能文字處理、數據分析、科學研究等繁重業(yè)務。
DeepSeek-AI大模型信創(chuàng)一體機服務器（國產GPU）產品優(yōu)勢：
- 適配DeepSeek、Qwen、Llama等主流開源大模型；能夠支持國內外主流軟硬件生態(tài)和各種深度學習框架、算法模型和加速庫。
- 兼容CUDA生態(tài)，支持市場主流生態(tài)，生態(tài)應用遷移迅速；支持FP32、FP16、INT8等多精度推理混合計算。
- 私有數據不出域，在保障數據安全的同時構建業(yè)務智能體，解決敏感數據無法上云的痛點；
- 支持DeepSeek全系列滿血版模型的訓練推理，顯著提升性能并降低部署成本。
DeepSeek-AI大模型信創(chuàng)一體機服務器（國產GPU）配置：
|
版本
|
AI大模型
|
硬件配置
|
應用環(huán)境
|
|
旗艦版
|
DeepSeek- 671B 滿血版
/Qwen、Llama等
|
CPU：4x 32核X86/C86處理器
GPU：顯存64G*16
內存：64GB*32 DDR4
硬盤：480G SSD *4+3.84T NVMe*4
網絡：配置RDMA網卡或IB網卡
|
•支持滿血版671B模型及蒸餾模型
•大并發(fā)、性能強
•可靈活擴展，支持大型企業(yè)規(guī)模化應用
|
|
高配版
|
DeepSeek- 70B
/Qwen、Llama等
|
CPU：2x 32核X86/C86處理器
GPU：顯存32G*8
內存：64GB*16 DDR4
硬盤：480G SSD *2+3.84T NVMe*2
網絡：以太網/RDMA網卡
|
•支持精度FP16的70B模型及蒸餾模型
•低成本、私有化部署
•滿足客戶體驗、小規(guī)模使用需求
|
|
標準版
|
DeepSeek- 32B
/Qwen、Llama等
|
CPU：2x 32核X86/C86處理器
GPU：顯存32G*4
內存：32GB*16 DDR4
硬盤：480G SSD*2+3.84T NVMe*2
網絡：以太網
|
•支持精度FP16的32B模型及蒸餾模型
•高性價比
•支持中小企業(yè)各類AI應用需求
|
|
邊緣版
|
DeepSeek-14B
/Qwen、Llama等
|
CPU：X86處理器
GPU：顯存32G*2
內存：32GB*4 DDR4
硬盤：按需
網絡：以太網
|
• 支持中小參數蒸餾模型
• 低門檻上車，輕量化應用
• 低噪音、可在政務、教育等辦公環(huán)境部署
|
|
軟件環(huán)境
|
推理框架：VLLm
操作系統(tǒng)：Ubuntu、國產系統(tǒng)
|
|
