• 邮件反馈
  • 支持 TK
  • 那年今日
  • 微博

    • 看看最新
    • 那年今日
    • 随便看看
    • 过去一年
  • 文章

    • 皮相专栏
    • 百度空间
    • 焦点博客
  • 探索

    • TK猴子

  • 支持
下个页面那年今日

点右侧微博标记去微博订阅真爱粉群👉

加入tk真爱粉群
tombkeeper
2026-10-25 09:49
回复@Jalon33:这个压轴题难度确实比较大,我可以理解你以及很多人的困惑。降低一点难度:微博正文 //@Jalon33:这不明显在开玩笑吗?有必要这么煞有介事吗。破产姐妹里面不也是经常开玩笑说让gay做头发更好//@tombkeeper:今天的盲猜关注列表活动开始啦!//@金闪闪的吉野家美食:异性恋就不要谈审美了//@喵猿:还是相信老婆的吧[笑cry][笑cry][笑cry]
tombkeeper
2026-10-24 12:34被tk转发3次
我能相信 AI 的审美吗? ​​​

图片描述 by gemini-3-flash-preview

详情
tombkeeper
2026-10-24 23:53
RTX 40 系列显卡也可以解锁了:github.com/JustAResearcher/gpu-unlock-ada
tombkeeper
2026-10-24 22:07被tk转发2次
2020 年底,英伟达先后发布了用于游戏的 RTX 30 系列显卡和用于专业计算的
 RTX A6000。

很快有人注意到,虽然 RTX 30 系列和 RTX A6000 的核心都是 GA102 芯片,但相对于 RTX A6000,RTX 30 系列的混合精度模式的峰值吞吐被砍掉了一半。

英伟达的 GA102 架构技术白皮书里明确指出:RTX 3090 在 FP16 输入下,累加精度从 FP16 改为 FP32 时,稠密 Tensor Core 峰值吞吐从 142 TFLOPS 降为 71 TFLOPS,稀疏计算的对应吞吐也从 284 降为 142 TFLOPS。但是 RTX A6000 在这两种模式下都是 154.8 TFLOPS,保持不变。

混合精度模式常用于 AI 训练和推理中的矩阵乘法、全连接层和卷积,但对游戏性能影响较小。所以英伟达对 RTX 30 系列砍上一刀,确保游戏卡只用来打游戏,也是可以理解的。

之后有人对比分析了 RTX A6000 和 RTX 30 系列显卡,发现对混合精度模式的限制是通过熔丝 FUSE_SS_FMLA32 实现的,设为 1 就会限制,设为 0 就不限制。

你们还记得几个月前我在《用缓冲区溢出漏洞把矿卡变成 A100》(微博正文)中提到的矿卡 CMP 17HX 吗?那也是这样被限制的。

于是,硬件社区基于之前对 CMP 17HX 的破解研究,终于也实现了对 RTX 30 系列卡的性能解锁:github.com/Zagitta/gpu-unlock。这个项目同样使用 SEC2 Booter 签名 DMA 溢出漏洞,把 RTX 30 系列显卡的混合精度的吞吐性能恢复到了全速。

在对 RTX 3090 Ti 的性能测试中,解锁前后都采用 450W 功耗上限,做大矩阵乘法并使用 FP32 累加:BF16 输入的算力从 87.50 提高到 157.41 TFLOPS,增加约 80%;TF32 从 42.58 提高到 82.61 TFLOPS,增加约 94%;FP16 也增加了约 35%。

考虑到本来 RTX 3090 就能改成 48G,现在又解锁了性能,就很接近 RTX A6000了。

不过,对于模型推理来说,单并发解码性能的瓶颈是显存的速度,所以 RTX 30 系列显卡即使解锁了性能,在单并发下解码的 tok/s 能也没太大变化,但预填充和多并发的总吞吐则能有约 30% 的提升。

------
RTX 40 系列显卡解锁:github.com/JustAResearcher/gpu-unlock-ada
RTX 20 系列显卡解锁:github.com/KohakuBlueleaf/KohakUnlock

图片描述 by gemini-3-flash-preview

详情
tombkeeper
2026-10-24 22:07被tk转发2次
2020 年底,英伟达先后发布了用于游戏的 RTX 30 系列显卡和用于专业计算的
 RTX A6000。

很快有人注意到,虽然 RTX 30 系列和 RTX A6000 的核心都是 GA102 芯片,但相对于 RTX A6000,RTX 30 系列的混合精度模式的峰值吞吐被砍掉了一半。

英伟达的 GA102 架构技术白皮书里明确指出:RTX 3090 在 FP16 输入下,累加精度从 FP16 改为 FP32 时,稠密 Tensor Core 峰值吞吐从 142 TFLOPS 降为 71 TFLOPS,稀疏计算的对应吞吐也从 284 降为 142 TFLOPS。但是 RTX A6000 在这两种模式下都是 154.8 TFLOPS,保持不变。

混合精度模式常用于 AI 训练和推理中的矩阵乘法、全连接层和卷积,但对游戏性能影响较小。所以英伟达对 RTX 30 系列砍上一刀,确保游戏卡只用来打游戏,也是可以理解的。

之后有人对比分析了 RTX A6000 和 RTX 30 系列显卡,发现对混合精度模式的限制是通过熔丝 FUSE_SS_FMLA32 实现的,设为 1 就会限制,设为 0 就不限制。

你们还记得几个月前我在《用缓冲区溢出漏洞把矿卡变成 A100》(微博正文)中提到的矿卡 CMP 17HX 吗?那也是这样被限制的。

于是,硬件社区基于之前对 CMP 17HX 的破解研究,终于也实现了对 RTX 30 系列卡的性能解锁:github.com/Zagitta/gpu-unlock。这个项目同样使用 SEC2 Booter 签名 DMA 溢出漏洞,把 RTX 30 系列显卡的混合精度的吞吐性能恢复到了全速。

在对 RTX 3090 Ti 的性能测试中,解锁前后都采用 450W 功耗上限,做大矩阵乘法并使用 FP32 累加:BF16 输入的算力从 87.50 提高到 157.41 TFLOPS,增加约 80%;TF32 从 42.58 提高到 82.61 TFLOPS,增加约 94%;FP16 也增加了约 35%。

考虑到本来 RTX 3090 就能改成 48G,现在又解锁了性能,就很接近 RTX A6000了。

不过,对于模型推理来说,单并发解码性能的瓶颈是显存的速度,所以 RTX 30 系列显卡即使解锁了性能,在单并发下解码的 tok/s 能也没太大变化,但预填充和多并发的总吞吐则能有约 30% 的提升。

------
RTX 40 系列显卡解锁:github.com/JustAResearcher/gpu-unlock-ada
RTX 20 系列显卡解锁:github.com/KohakuBlueleaf/KohakUnlock

图片描述 by gemini-3-flash-preview

详情
tombkeeper
2026-10-24 19:26
世界上应该是没有鬼的。要不然乔布斯的鬼会缠住每一台 iPhone Duo。 ​​​
详情
tombkeeper
2026-10-24 17:37
今天是 1024 程序员节,但感觉气氛大不如往年。

可能是因为世道变了…… ​​​

图片描述 by gemini-3-flash-preview

详情
1...1314151617...6754