模型与研究 / 海外
GPU Unlock 的 AI 负载测试引关注:张量吞吐提升不等于全面加速
今日报道梳理 GPU Unlock 在 RTX 30 系列上的测试:部分矩阵和图像生成负载受益明显,但语言模型生成速度未必同步提高。项目仍属实验性方案。
今日报道关注什么
IT之家今天整理了 GPU Unlock 的计算与实际 AI 负载测试。项目本身此前已经公开,此处收录的是性能分析,不是今日新发布的软件。仓库说明其 Linux 内核模块在原版 NVIDIA 驱动接管显卡之前工作,针对部分安培 GPU 的 FP16、BF16 运算及 FP32 累加路径调整指令发射速率。它不需要随每次驱动升级重新修改驱动文件,但兼容性和结果仍受具体硬件影响。
如何理解性能数字
官方仓库列出的 RTX 3090 Ti 测试在四百五十瓦功耗上限和指定矩阵规模下,BF16 吞吐从约 87.5 提升至 157.4 TFLOPS。今日报道同时提到社区图像生成测试和语言模型预填充收益,但也指出生成阶段可能几乎不变。原因在于不同任务受计算、内存等不同因素限制,不能把矩阵吞吐提升直接换算成所有应用提速。项目仍需逐卡验证;这些结果也不能证明游戏帧率会提高。