自定义 : 功能及技术指标详细技术参数▲品牌要求国产非OEM品牌，包括但不限于以下功能，保留测试权利。√软件预集成一体机软件需采用模块化架构，预装以下组件：-国产化操作系统或Linux发行版（Ubuntu）；-推理引擎VLLM或SGLang；-DeepSeek-R1-Distill-Llama70B BF16蒸馏模型；-DeepSeek-R1-Distill-Qwen32B BF16蒸馏模型；-OpenWebUI交互界面（支持API调用与对话测试）；以上组件出厂前完成系统调优、驱动适配及软件集成，用户上电后无需手动配置即可启动模型推理服务。支持多模型预留多模型并行推理接口，支持未来扩展至LLAMA、QWEN、百川、ChatGLM等主流开源模型，会根据业界的热点和市场需求，持续增加市场大模型的支持范围。支持多CPU支持Intel、AMD及国产化等多平台CPU√支持多GPU兼容异构算力，向上屏蔽差异，提供统一接口。不仅需支持英伟达的主流GPU卡，还需要支持多个国产厂商的GPU卡，满足国产化的市场需求。（提供功能截图）支持量化模型支持经过量化（awq、gptq）压缩的轻量化模型的推理，可提升推理速度并显著降低模型的部署成本。API开放北向API全面开放，可快速构建上层应用。√便捷运维管理管理界面需集成以下功能且操作步骤≤3次点击：-支持系统语言切换为中文/英文/日文/韩文/西班牙语/法语/德语等常见语言；-系统支持主题更换；-系统支持多模型对比对话测试；-支持文件上传。√配置要求配置满足本项目的License，配置搭载软件的配套硬件：CPU：实配两颗处理器，Intel单CPU 32核，2.1GHz主频及以上； GPU：≥4*显存48GB NVIDIA GPU卡内存：384GB及以上系统盘：960GB（RAID后容量）及以上数据盘：7.68TB（RAID后容量）及以上防火墙模块√接口要求至少配置8个千兆电口，2个Combo口（含1个管理口），2个Bypass电口，1个Console口，2个USB接口（提供设备照片）。√性能要求应用层吞吐量≥1Gbps，网络层吞吐量≥4Gbps，最大并发连接数≥100万，每秒新建连接数≥1.8万。SSL VPN并发用户不低于650；IPSec VPN隧道数不少于750；部署模式实现路由模式、透明（网桥）模式、混合模式。√可靠性支持BFD和NQA网络协议，支持基于接口状态和路由状态等多种类型的探测机制来及时触发链路切换