RTX 30系AI算力被锁 开源解锁实测翻倍|出海闲聊
出海闲聊 · 帖子

RTX 30系AI算力被锁 开源解锁实测翻倍

RTX 30系AI算力被锁 开源解锁实测翻倍
最近圈子里在传一件事:部分 RTX 30 系显卡的 Tensor Core 在特定矩阵运算上存在人为限速,有开发者找到了软件绕过的方法,还开了两个开源项目,Linux 和 Windows 各一个。我第一反应是这会不会又是超频那套玄学,仔细看了下并不是,它没加计算单元也没拉频率,只是把某些计算路径的吞吐限制解开了。

受影响的主要是 Ampere 架构的 GA102、GA104 核心,也就是 RTX 3090、3080、3070 这些卡。社区里已经有不少实测数据:RTX 3090 Ti 的 BF16 提升约 80%、TF32 约 94%;RTX 3090 从 75 TFLOPS 拉到 135 TFLOPS;RTX 3080 Ti 的 BF16 和 TF32 分别提升 67% 和 73%;RTX 3080 10GB 的 FP16/BF16 提升在 69% 到 74% 之间。更让我意外的是 RTX 4090 和实验性的 4070 Ti SUPER 也有解锁方案,FP16 到 FP32 的累加吞吐从 165.6 TF/s 直接到 331.6 TF/s,基本翻倍。这意味着限制可能不只在老卡上,Ada 架构也有类似情况,只是之前没人往这个方向深挖。对跑本地大模型的人来说,这个意义不小。如果你用的推理引擎恰好走的是被限制的那条计算路径,解锁后性能提升是实打实的,而且不涉及超频,硬件损坏风险按开发者说法很低。但也要泼点冷水:这不是万能加速,游戏帧率不会变,模型如果没用到这些运算路径也感受不到差别,别指望所有场景都翻倍。我的判断是,这事短期看是玩家的福利,长期看会逼着英伟达给个说法。显卡明明有能力算得更快却被软件锁住,不管是产品分层还是别的考虑,用户心里都会有疙瘩。建议有兴趣的先在测试环境跑一遍,确认稳定性和散热余量再上生产,别一上来就把主力推理机给改了。
6

评论

登录后即可发表评论

参与讨论,和出海同行交流想法与经验

还没有评论,来抢沙发吧

说说你的看法,第一条评论最显眼