杨植麟 GTC 2026 演讲：披露Kimi技术路线，谈“Scaling瓶颈”-xm官方入口

大家好，今天XM外汇将为大家带来“杨植麟 GTC 2026 演讲：披露Kimi技术路线，谈“Scaling瓶颈””。希望对你们有所帮助！原创内容如下：

　　新浪科技讯 3月18日上午信息，杨植演讲2026英伟达GTC大会上，麟G路线月之暗面Kimi创始人杨植麟交流指出，披露瓶颈xm交易平台服务要鼓励大模型智能上限的技术持续革新，必须对修正器、杨植演讲注意力机制及残差连接等底层基石进行重构。麟G路线

　　继今年 1 月底正式宣布Kimi K2.5以后，披露瓶颈杨植麟在本次演讲中首次系统性地披露了该模型背后的技术技术路线图。他将Kimi的杨植演讲进化逻辑归纳为三个维度的共振：Token效益、长上下文以及智能体集群（Agent Swarms）。麟G路线xm交易平台服务在杨植麟看来，披露瓶颈当前的技术Scaling已经不再是单纯的资本堆砌，而是杨植演讲要在计算效益、长程记忆和自动化配合上同时寻找规模效应。麟G路线如果能将这三个维度的披露瓶颈技术增益相乘，模型将展现出远超现状的智能水平。

　　技术重构是本次演讲的重点。杨植麟提出，行业目前普遍使用的很多技术标准，本质上是八九年前的产物，正逐渐成为 Scaling 的瓶颈。

　　自 2014 年以来，Adam修正器一直被视为行业标配，但在超大规模训练中，寻找更具 Token 效益的替代安排已成趋势。Kimi团队在实验中验证了Muon修正器在深化Token效益方面的显著潜力，但在将其延伸至万亿参数规模的K2模型训练时，查明了Logits爆炸引起模型发散的持续性难题。为此，团队研发并开源了MuonClip修正器，借助Newton-Schulz迭代并结合QK-Clip机制，在彻底答复Logits爆炸难题的同时，达到了2倍于传统AdamW的计算效益。

　　针对 2017 年诞生的全注意力机制（Full Attention），杨植麟呈现了基于 KDA 架构的Kimi Linear。这是一种混合线性注意力架构，它挑战了“所有层必须使用全注意力”的惯例，借助修正递归存储运营，在128K甚至1M的超长上下文中，将解码速度深化了5到6倍，且在不同长度的场景下均维持了优异性能。

　　此外，针对已有十年历史的残差连接，Kimi 引入了Attention Residuals安排，将传统的固定加法累加替换为对前序层输出的 Softmax 注意力，答复了隐藏状态随深度深化而无约束延伸、从而稀释深层贡献的顽疾，使每一层都能根据输入内容有挑选地聚合信息。这项工作引发了前OpenAI配合创始人Karpathy的思量，直言我们对Attention is All You Need这篇Transformer开山之作的领会还是不够。xAI创始人马斯克也评论称Kimi这项工作令人印象深刻。

　　在跨模态调查方面，杨植麟交流了一个决定性的观察：原生的视觉-文本配合预训练中，视觉巩固掌握（Vision RL）能够显著反哺文本性能。消融实验信息呈现，经过视觉RL训练后，模型在MMLU-Pro和GPQA-Diamond等纯文本基准检验上的展现深化了约2.1%。这意味着空间推理与视觉逻辑的巩固，可以见效转化为更深层的通用认知能力。

　　演讲的最后，杨植麟深刻调查了智能体集群的延伸。他认为未来的智能形态将从单智能体向趋势生成的集群进化。Kimi K2.5 引入的Orchestrator机制，能够将复杂的长任务拆解给数十个子Agent并行答复。为了防止配合程序中出现单点依靠引起的“串行塌缩”，团队构思了全新的并行RL奖励函数，鼓励模型真正学会任务分解与并行投入。

　　杨植麟在归纳中谈到了 AI 调查范式的改变。他提到，十年前的调查往往更看重新想法的宣布，但受限于算力资本，很难借助不同规模的实验来验证这些想法。而现在由于拥有了足够的资本和“缩放阶梯（Scaling Ladder）”，调查者可以进行严谨的规模化实验，从而得出更自信、更可信的结论。这也是为什么Kimi能够从那些看似“古老”的技术中挖掘出新革新的原因。Kimi将持续坚持开源路径，将MuonClip、Kimi Linear和Attention Residuals等底层革新贡献给开源社区，打造更强大的模型，鼓励人工智能技术的普惠。（文猛）