南京邮电大学计算机学院多路A100服务器及软件采购

采购需求概况

一台高性能智算服务器，含3块高性能计算卡（GPU） （1）x2 CPU 不低于 Intel(R) Xeon(R) Gold 6139M CPU @ 2.30GHz （2）x6 内存 不低于32GB DDR4 RECC （3） x1 硬盘 不低于SSD 240GB SATA 2.5" （4） x1 硬盘 不低于 HDD 2T SATA 企业级 3.5" 7200 RPM ★（5） x3 GPU 单卡显存≥40G，FP64性能≥9.7TFLOPS （6） x1 电源 2000W (1+1) （7） x2 网络 1Gb/s 板载RJ45口 （8） x1 ipmi 管理口 软件：大模型中间件软件 功能 功能描述 （9）语言大模型 支持三到七百亿级别的开源大模型（包含但不限于：Qwen2.5-32B-Instruct，Qwen2.5-72B-Instruct，QwQ-32B-Preview，Yi-1.5-34B-Chat，Meta-Llama-3.1-70B-Instruct等），另外支持各种外部商用大模型服务，并承诺能够根据用户需求定制。 （10）多模态大模型 支持百亿级别的开源大模型（包含但不限于：Qwen2-VL-72B-Instruct,Meta-Llama-3.2-11B-Vision-Instruct，cogvlm2-llama3-chinese-chat-19B等），并承诺能够根据用户需求定制。 （11）扩散模型 支持stable-diffusion类模型，并承诺能够根据用户需求定制。 （12）知识库 支持，无数量限制 （13）知识图谱 支持，无数量限制 （14）问答库 支持 （15）API调用 支持，无KEY数量限制 （16）模型微调 支持 （17）数字人模型 支持，提供定制数字人，支持数字人交互 测量软件 （18）软件系统。（计划采购五台）

同采购单位近期项目