开源项目GPU Unlock让RTX 30系显卡AI吞吐提升近60% 可以本地运行量化模型
2026年10月26日 12:00硬件设备, 科技资讯01.39K 2026-10-26 04:0:0 Author: www.landian.news(查看原文) 阅读量:7 收藏

2026年10月26日 12:00硬件设备, 科技资讯01.39K

#开源项目 GPU Unlock 项目:可以让 RTX 30 系显卡 AI 吞吐提升近 60%,结果后本地运行量化模型性能明显提升。使用 RTX 3090 Ti 进行 8192³ 稠密矩阵乘法测试,测试结果如下:FP16 性能从 87.46 提升到 118.39;BF16 从 87.50 提升到 157.41;TF32 从 42.58 提升到 82.61 TFLOPS。项目适用于 RTX 3090、支持部分 3080/3070/3060 显卡。查看全文:https://ourl.co/127672

开发者 @Zagitta 日前发布开源项目 GPU Unlock,该项目可以释放部分英伟达安培架构显卡的算力。项目通过 Linux 内核模块在英伟达驱动接管显卡前调整硬件速度选择器,让特定 FP16/BF16 运算的指令发射速率翻倍。

开源项目GPU Unlock让RTX 30系显卡AI吞吐提升近60% 可以本地运行量化模型

GPU Unlock 面向 GA102/103/104/106 芯片,覆盖 RTX 3090、部分 RTX 3080/3070 以及 RTX 3060 显卡。项目提高的是 FP16 或 BF16 输入、FP32 累加的 FMA 运算指令发射速率,目标是达到专业卡的水平。

项目把内核模块和固件操作放在启动阶段,在英伟达驱动加载前修改 GPU 速度选择器并执行功能级复位,之后由未修改的英伟达驱动正常接管显卡。项目本身不修改驱动程序、不永久刷新显卡 VBIOS、启用需要配置 Linux 内核启动参数。

项目以功耗上限 450W 的 RTX 3090 Ti 显卡进行 8192³ 稠密矩阵乘法测试,采用五次测试的中位数。其中 FP16 性能从 87.46 提升到 118.39 TFLOPS,性能增加 35%;BF16 从 87.50 提升到 157.41 TFLOPS,性能增加 80%;TF32 从 42.58 提升到 82.61 TFLOPS,性能增加 94%。

有 RTX 3090 Ti 用户在 ComfyUI 中测试图像和视频生成,其中 MOSS-Image SFT、Qwen-Image 2.1 Turbo 和 Z-Image Turbo 的 BF16 吞吐量分别提升 58.6%、57.2% 和 56.1%,MOSS 的 INT8 测试只提升 0.3%。

GPU Unlock 所说的性能翻倍主要针对特定 Tensor Core 指令发射速率,矩阵乘法基准和部分 BF16 图像生成受益比较明显,但 INT8 任务、受显存带宽限制的 LLM 解码等场景性能提升有限。

即便显卡型号在支持列表内,具体提升也会随芯片、功耗上限和工作负载存在区别,例如在测试中 RTX 3080 Ti 20GB 版完成解锁后,BF16 仍然维持原来的速率,并没有显著提升。

访问项目:https://github.com/Zagitta/gpu-unlock/blob/main/README.md

热门推荐仅需99元/年,硅谷CN2GIA服务器,另有3年版仅需528元,限量销售,售完即止

  • 任天堂Switch 2出现首个公开软件越狱 可运行自制软件/修改游戏/备份存档等

  • 日本游戏公司卡普空确认数据库泄露 涉及全球1177万条用户记录 包括各种敏感信息

  • 趋势科技不慎将多个未修复的Linux Kernel漏洞公开 疑似发邮件时出现操作失误

  • 浏览器公司宣布Arc浏览器将在2026年12月22日正式关停 用户需将数据迁移到其他浏览器

  • 这家印度草台公司宣布退出CA业务 此前8张中级证书被系统和浏览器行业集体封锁

  • 谷歌浏览器现在会监视你的剪切板 发现你复制可疑内容时会弹出提醒


文章来源: https://www.landian.news/archives/127672.html
如有侵权请联系:admin#unsafe.sh