首页经济看点腾讯混元推出Stem稀疏注意力算法首字延迟降低3.6倍

腾讯混元推出Stem稀疏注意力算法首字延迟降低3.6倍

2026-06-06 0

【腾讯混元提出Stem稀疏注意力算法首字延迟降低3.6倍】财联社6月5日电，腾讯混元宣布提出Stem稀疏注意力算法，已被机器学习顶会ICML-26收录。根据Stem算法×HPC算子的全栈加速方案，算法层面，Stem通过Token位置衰减（TPD）和输出感知度量（OAM）实现25%预算下的近无损精度；算子层面，HPC开源的Stem+BSA算子将稀疏收益转化为真实硬件加速，128K上下文下首字延迟降低3.7倍。

腾讯混元提出Stem稀疏注意力算法首字延迟降低3.6倍

郑重声明：本站发布内容宗旨在传播更多信息，仅提供查阅，与本站立场无关，不拥有所有权，不承担相关法律责任。不具有任何效益，仅供参考。如果需要专业知识建议，请咨询相关专业人士。如有侵权请联系邮箱。一经查实，立即删除！

喜欢(0)

WWDC前夕！苹果批准首个iMessage AI智能体发短信就能控制家居和回邮件

美企苦高价AI久矣?DeepSeek登顶趋势榜第一

腾讯混元推出Stem稀疏注意力算法 首字延迟降低3.6倍

腾讯混元推出Stem稀疏注意力算法首字延迟降低3.6倍