DeepSeek大模型赋能高校教学和科研2025高校和科研院所在探索一些新方法。 比如 , 先将开 源模型蒸馏 ,获得更小参数的模型 ,来降低算力需求 4.4 本地部署大模型方 案 高校本地部署大模型面临的问题: n 2025 年 2 月 10 日 ,清华大学 AI 团队发布 KTransformers 开源项目迎来重大更新 ,成功打破大模型推 理算 力门槛。 此前 ,拥有 671B 参数的 MoE 架构大模型 DeepSeek-R1 在推理时困难重重。 内存的配置下 ,使 Q2_K_XL 模型的推理速度达到 9.1 tokens/s , 实现了千亿级模型的 “家庭化” 运行 传统方案: 8 卡 A100 服务器成本超百万元 ,按需计费每小时数千元 清华方案: 单卡 RTX 4090 方案 ,整机成本约 2 万元 ,功耗 80W 4.4 本地部署大模型方 案 5.1 AIGC 概述 5.2 文本类 AIGC 应用实践 5.3 图片类 AIGC 应用实践 ,根据文字自动生成高质量的视频 , 并自带配音配乐 □ 使用鬼手剪辑生成视频解说 □使用腾讯智影生成数字人播报视频(用于制作教学视 频) Vidu 生数科技联合清华大学发布 , 是中 国首个长时长、 高一致性、 高动态 性视频大模型 , 支持一键生成 16 秒 高清视频 ,性能对标国际顶尖水 平。 即梦 AI 即梦 A I 是字节跳动旗下剪映团队开10 积分 | 123 页 | 15.88 MB | 6 月前3
共 1 条
- 1
