KTransformers 项目更新带来重大突破 ， 支持在 24G 显存（ 4090D ） 的设备上本地运行 DeepSeek- R1 、 V3 的 671B 满血版。 其预处理速度最高可达 286 tokens/s ，推理生成速度最高能达 到 14 tokens/s 。 甚至有开发者借助这一优化技术 ，在 3090 显卡和 200GB 内存的配置下 ，使 Q2_K_XL 模型的推理速度达到 9