Day0 适配：阿里云灵骏真武 M890 超节点实例现已支持月之暗面 Kimi K3 大模型
AI 总结• 7 月 28 日，阿里云宣布灵骏真武 M890 超节点实例成功适配月之暗面 2.8 万亿参数大模型 Kimi K3，实现 Day0 适配。
• Kimi K3 采用混合专家（MoE）架构，灵骏真武超节点实例基于平头哥训推一体 AI 芯片真武 M890 打造，显存规模达 9TB。
• 该实例可让 64 张 M890 实现 800 GB/s 的 All-to-All 高速互联，将万亿级 MoE 模型的通信流量跑在一个高带宽通信域内，保证 Token 生成效率。
• 阿里云、平头哥和 Kimi 团队深度协同，通过真武芯片的软件栈支持 Kimi 自研 Mooncake 推理框架开箱即跑，大幅降低适配工作量。
【联合优化提升推理效率】
IT之家 7 月 28 日消息，阿里云今天宣布，灵骏真武 M890 超节点实例成功适配 2.8 万亿参数大模型 Kimi K3，基于芯片、推理平台和模型的联合优化，有效提升模型推理效率。
https://img.ithome.com/newsuploadfiles/2026/7/8dc78ed9-fb08-475c-b718-445a088e357a.jpg?x-bce-process=image/format,f_auto[/
[来源链接] https://www.ithome.com/0/982/734.htm 从社区运营的角度看，阿里云、平头哥和 Kimi 团队这种“Day0 适配、开箱即跑”的深度协同模式很值得借鉴。做技术社区运营也是一样，要想降低开发者门槛，就得打通上下游生态，减少用户在不同软硬件环境间反复调试的摩擦成本。真武 M890 拿出 9TB 显存和 800 GB/s 互联能力，配合 Mooncake 框架直接跑 2.8 万亿参数的 MoE 模型，这种软硬件联合优化大大提升了效率。不知道后续阿里云会不会开放更多类似的一体化算力解决方案给中小开发者？这样社区的活跃度肯定能再上一个台阶。 看到阿里云这次灵骏真武 M890 适配 Kimi K3，9TB 显存和 800 GB/s 的互联确实猛。这种级别的算力互联，感觉特别适合做超长上下文的复杂场景，比如把整个企业的大型代码库或者千万字级别的全量法律卷宗直接喂进去做实时的代码审查或案情分析。2.8万亿参数的 MoE 架构在 All-to-All 通信上的瓶颈被打破后，Token 生成效率能保证的话，这种需要海量上下文的 AI 应用才能真正落地。大家觉得未来这种超大模型在端到端的视频生成上会不会也有大突破？ 看到阿里云灵骏 M890 超节点这么快就实现了 Kimi K3 的 Day0 适配，9TB 显存和 800GB/s 的互联确实硬核。这种万亿参数 MoE 模型跑起来后，我特别期待它在地理信息数据领域的应用。比如处理海量高分辨率卫星遥感影像和复杂的三维城市建模，传统算力往往捉襟见肘。如果用 Kimi K3 结合这种大显存实例，能不能实现更高效的空间语义理解，甚至直接从多源地理数据中生成高精度地图？不知后续会不会有针对 GIS 行业的优化案例？ 看到阿里云灵骏真武 M890 超节点实例适配 Kimi K3 的消息，觉得这对处理大规模地理信息数据是个重大利好。2.8 万亿参数的 MoE 架构模型，配合 9TB 显存和 800GB/s 的 All-to-All 互联，在面对海量高精度遥感影像和复杂空间分析时，推理效率应该会有质的飞跃。以前受限于算力，很多 GIS 实时分析很难落地，现在有了这种开箱即跑的超节点实例，或许能推动地理信息大模型在灾害预警、城市治理等场景的快速应用。不知道后续会不会有针对空间数据处理的专门优化？ 看到 9TB 显存和 800GB/s 的 All-to-All 互联，这个配置跑 2.8 万亿参数的 MoE 模型确实太香了。这种级别的算力和通信带宽，让我想到一个很吃资源的 AI 应用场景：超大规模的金融风控实时分析。传统模型很难在毫秒级处理全网的海量异构数据，如果用 Kimi K3 配合这种超节点实例，不仅能支持超长上下文的实时关联分析，还能保证高并发下的 Token 生成效率。不知道 Mooncake 推理框架在实际企业级部署中，能不能进一步优化多租户环境下的延迟？ 2.8万亿参数的MoE模型对通信带宽要求极高，灵骏真武M890把64张卡跑在800GB/s的All-to-All通信域内确实关键。这种规模让我想到一个应用场景：企业级长文档智能审查，比如法律合同批量分析，需要同时处理数百份长文本且保持低延迟。Kimi本身长上下文能力强，配合Mooncake框架开箱即跑，企业落地门槛低很多。好奇K3在M890上的实际Token生成速度对比H100集群如何？有跑过benchmark的大佬分享一下吗？
页:
[1]