神雲科技于 SC26 展出全栈基础设施,扩展代理式 AI 应用

内容头部广告位(手机)

芝加哥2026年11月17日 PRNewswire -- 全球高性能服务器解决方案领导者神达控股股份有限公司(股票代码:3706)子公司神雲科技(MiTAC Computing Technology Corp.),今日在 SC26 展会上揭晓其全方位的 AI 基础设施生态系统。神雲科技位于 4615 号展台,以“全栈基础设施,扩展AI代理式应用(Scaling Agentic AI. Built on Full-Stack Infrastructure)”为主题,展示全栈创新技术如何克服企业在部署 AI 时面临的算力、散热与数据传输瓶颈。随着代理式 AI 带动推理工作负载呈指数级暴增,扩展基础设施所需的已不仅是单纯的 GPU 算力。通过与 AMD、Canonical、DDN、Intel、NVIDIA 及 Rafay 等合作伙伴的战略合作,神雲科技提供具备高度可扩展性的 AI 工厂(AI Factory)架构,完美结合高密度液冷、解耦推理(Disaggregated Inference)以及端到端(End-to-End)的资源调度管理。

神雲科技于 SC26 展出全栈基础设施 扩展代理式 AI 应用
神雲科技于 SC26 展出全栈基础设施 扩展代理式 AI 应用

“扩展代理式 AI 需要的是具备凝聚力的基础设施,而非零散的系统,”神雲科技总经理黄承德(Rick Hwang)表示。“神雲科技提供全栈基础设施解决方案,助力实现可持续发展的 AI 工厂。”

开创解耦 AI 推理引擎 (Disaggregated AI Inference Engine)

神雲科技与 Skymizer 携手合作,共同打造一款创新的推理架构。该架构将高度消耗算力的“Prefill(预填充)”阶段交由 GPU 处理,并将高度消耗内存的“Decode(解码)”阶段分配给 Skymizer 的 HTX301 加速卡。此架构旨在让企业能针对不同阶段的工作负载进行精准的资源配置,同时确保模型推理能维持在本地部署(On-premises)运行。

此提案配置结合了两大服务器平台:

  • Prefill 阶段:采用 8U风冷规格的 MiTAC G8825Z5,搭载 AMD EPYC™ 9575F 或 9755 处理器与 AMD Instinct™ MI350X GPU,专责处理 Prefill 计算,并通过高速网络将产生的 Key-Value (KV) Cache 传输至 Decode 服务器。
  • Decode 阶段:采用 4U风冷规格的 MiTAC G4520G6,搭载 Intel® Xeon® 6 处理器,并配置 8 张 Skymizer HTX301-4S 加速卡。每张卡具备 256 GB 内存,通过 8 组 PCIe 插槽提供高达 2 TB 的聚合加速器内存空间。

通过上述协作,MiTAC G4520G6 Decode 服务器旨在本地环境中运行如 Kimi K3(具备 2.8 万亿参数的大型语言模型)这类超大型模型,进而驱动复杂且具备深度推理(Deep-reasoning)能力的代理式 AI 工作负载。欢迎访问活动专页以了解更多信息。

统筹全栈软件生态系统

具备可扩展性的 AI 工厂需要极具凝聚力的软件生态系统。在基础安全性方面,Canonical Ubuntu 提供经过认证的操作系统层,确保无缝部署与企业级的稳定性。整合 DDN Infinia解决方案,确保海量数据流能以超低 IO 延迟进行处理,避免加速器陷入无数据可算的闲置窘境。在此基础上,神雲与 Rafay 合作,赋能企业具备动态的 GPU 即服务(GPUaaS)调度能力,在分布式工作负载中高效分配 GPU 资源,消除闲置算力并将投资回报率(ROI)最大化。而将整个生态系统紧密结合的,是神雲科技自主研发的 MiCoreView™ 软件,这是一款全方位的 POD 管理解决方案,可提供深度的遥测与监控数据(Telemetry),并为整个数据中心带来统一的可视化监控能力。

通过机柜级创新展示多元化 AI 基础设施

奠基于 AMD 董事长兼首席执行官苏姿丰博士(Dr. Lisa Su)上个月在 OCP 全球峰会上宣布的愿景,神雲科技正与 AMD 合作开发 Helion 代理式 AI 机柜(Helion Agentic AI Rack)。这款专为下一代机柜级代理式架构打造、即将推出的 ORv3 44OU Helion 解决方案,将能在开源软件栈中扩展至高达 32,768 个 AMD Zen 6 CPU 核心,赋能超大规模(Hyperscale)数据中心与企业环境智能地分配复杂工作负载,并将每瓦 Agent 算力效率(Agents-per-watt efficiency)推向极致。

在 SC26 展会现场,神雲科技也同步展示三款专为现代工作负载打造的机柜级创新产品:

  • 52U 高密度 AI 液冷机柜:整合 12 台 MiTAC G4826Z5 服务器与 96 颗 AMD Instinct™ MI355X GPU,此解决方案的 GPU 密度较传统部署方式高出 50%。
  • 先进液冷机柜:神雲科技与 ZutaCore 合作展示了一项概念验证(PoC),将 G4826Z5 服务器导入无水两相直接液冷(Waterless Two-Phase DLC)技术。利用冷却液在芯片表面直接气化的特性,可支持超过 4,000W 的热设计功耗(TDP)与大于 250Wcm 的热通量(Heat flux),实现低至 1.03 的年化局部 PUE(pPUE)。
  • 高性能存储机柜:专为在无 IO 瓶颈下供应 Agentic AI 数据所设计,神雲科技的存储机柜搭载 DDN Infinia 智能 AI 数据平台,采用 7 台 1U 规格的 GC68C-B8056 存储服务器,能为连续不断的数据流提供超高吞吐量与低延迟性能。

以全面的服务器平台扩展基础设施

除了机柜级架构外,神雲科技还提供全面的服务器平台,满足企业定制化的部署需求:

AI 服务器

  • G4827Z6:4U 模块化企业级 AI 服务器,采用 NVIDIA MGX 架构与 AMD EPYC™ 9006 SP7 处理器。可完美搭配 NVIDIA RTX PRO 4500 与 6000 Blackwell Server Edition GPU,应对多元的推理工作负载。
  • G2610Z6:紧凑型 2U 边缘 GPU 服务器,搭载 AMD EPYC™ 9006 SP8 处理器。能与 NVIDIA RTX PRO 4500 及 6000 Blackwell Server Edition GPU 无缝整合,将强大的 AI 算力推向边缘端。
  • TN85-B8261:双路平台,支持 AMD Instinct™ MI350P PCIe 加速卡,能为特定应用提供极致高效的 AI 加速。

企业级服务器

  • R1917GC:作为边缘数据中心的调度大脑,这款 1U 管理服务器无须内置 GPU,即能通过 NVIDIA Vera 与 NVIDIA Grace CPU 来协调复杂的集群计算。
  • R1610Z6:在高密度的 1U 机箱内搭载 AMD EPYC™ 9006 SP8 处理器,为云原生(Cloud-native)工作负载提供毫不妥协的单路性能。

多节点服务器

  • M2810Z6:2U2N 多节点服务器,搭载 AMD EPYC™ 9006 SP7 处理器,专为软件定义超融合基础设施(HCI)优化计算密度。
  • C2611Z6:专为 OCP ORv3 机柜设计的液冷多节点服务器,搭载 AMD EPYC™ 9006 SP8 处理器。在小巧的 2OU 尺寸中整合了四个计算节点,每节点支持 16 组 DDR5-8000 RDIMM 插槽与 OCP 3.0 扩展,是高密度液冷基础设施的理想选择。

欢迎与会者于 11 月 17 日至 19 日期间,莅临美国芝加哥 McCormick Place 会展中心 4615 号神雲科技展台参观。了解更多:

关于神雲科技股份有限公司

神雲科技股份有限公司(MiTAC Computing Technology Corp.)为神达控股集团(MiTAC Holdings)旗下子公司,凭借自 1990 年代以来的深厚行业经验,提供多元、高能效的服务器解决方案。神雲科技专注于人工智能(AI)、高性能计算(HPC)、云计算及边缘计算,采用严谨的工程标准,确保从准系统(Barebone)、整机系统、机架到集群层级,皆能达到无与伦比的品质,充分发挥卓越性能与系统集成优势;这项对品质的承诺,使神雲科技在业界独树一帜。

神雲科技拥有全球化布局与端到端的服务能力,涵盖研发、制造到全球技术支持,为超大规模数据中心、HPC 及 AI 应用,提供灵活且量身定制的解决方案,确保最佳性能与高扩展性,满足企业多元化的需求。凭借 AI 及液冷技术的最新发展,神雲科技品牌整合了 Intel DSG 与 TYAN 等服务器产品线发挥协同效应,致力于打造兼具创新、高效与可靠的服务器技术与软硬件解决方案,助力企业迎接未来挑战。

更多信息请访问神雲科技官网https:www.mitaccomputing.com

AMD、AMD 商标、EPYC™、AMD Instinct™ 及其组合,均为 Advanced Micro Devices, Inc. 的商标。

内容底部广告位(手机)