DeepSeek-R1 \ Kimi 1.5 及 类强推理模型开发解读 北大对齐小组 陈博远 北京大学2022级“通班” 主要研究方向：大语言模型对齐与可扩展监督 https://cby-pku.github.io/ https://pair-lab.com/ 2 Outline ➢ DeepSeek-R1 开创RL加持下强推理慢思考范式新边界 ➢ DeepSeek-R1 Zero 推理范式的涌现 ➢ DeepSeek-R1 社会及经济效益 ➢ 技术对比探讨 ➢ STaR-based Methods vs. RL-based Methods 强推理路径对比 (DS-R1 \ Kimi-1.5 \ o-series) ➢ 蒸馏 vs. 强化学习驱动：国内外现有各家技术路线对比分析及Takeaways ➢ PRM & MCTS 的作用 ➢ 从文本模态到多模态 ➢ 其他讨论：Over-Thinking ➢高效创新：在有限算力资源支持下，算法创新模式，突破了算力的“卡脖子”限制 28 技术对比讨论：Kimi K1.5 Moonshot Kimi K1.5 Main Result Kimi K1.5 Long2Short Result K1.5 专注于用长文本CoT 解决推理时Scaling问题 ➢ 利用 RL 探索：Kimi k1.5 的核心思想是利用强化学习，让模型通过试错（探索）来学习解决问题的能 力，而不是仅仅依赖于静态数据集。

17%� �研��������EqualOcean�� 2.2.3��������������� ���� ���� 2024�12��������45�������1.564�����务1.5���������������2820MWh�����690.2MW���648���� ���������88.35MW���591.27MWh����� 2023�7������������2 45���������1.564 �����务1.5����� 35�������� 1. ��2820MWh���� ��690.2MW���� 2. 648�����10��� ���� 3. ��88.35MW���� 591.27MWh������ 2023�7��������� ��������够���2.8 ���� 1. �务��������� 1.5���������� 757MW/3GWh������ ������������� �� ���千 ����千 �� �� ��� �� �� ��� �����C� 2� 1.5� 2� 2� 2.5� 3� 3� 2� �����A� 2� 2.5� 2� 2� 2.5� 2� 2� 2� �����G� 3� 1.5� 2� 2� 3� 2� 3� 3� �����E� 3� 2� 2� 2.5� 2.5� 3� 3� 2� 0 1

DeepSeek 近期：各行业开始研究部署... 1.DeepSeek简介 16 DeepSeek是谁？咱们通俗说一说...... 基于 Llama 、 Qwen 六个密集模型 （1.5b、7b、8b、 14b、32b、70b） 大师 徒弟 蒸馏版 训练 DeepSeek- R1- Zero DeepSeek- R1 蒸馏 满血版 DeepSeek-V3 671b 基于ollama的本地run（macos或者linux） v 安装ollama的包 – pip install ollama v 基于ollama运行DeepSeek – 运行1.5b模型 • ollama run deepseek-r1:1.5b – 运行7b模型 • ollama run deepseek-r1:7b – 运行8b模型 • ollama run deepseek-r1:8b • 学习辅助工具、数据分析助手、论文摘要生成等任务，可以基于deepseek 搭建和部署本地的小模型环境。 模型版本 显存VRAM （GPU） 内存RAM （CPU） 本地存储 运行机器 R1-1.5b 4GB+ 8GB+ 5GB 个人普通机 R1-7b 12GB+ 16GB+ 10GB 个人普通机 R1-8b 16GB+ 32GB+ 15GB 个人普通机 R1-14b 24GB+ 64GB+

73.40 12,950 12.0 8.1 8.9 1.5 1.4 1.3 2.0 1.3 1.4 -0.8% 12.0 8.0 7.6 1.7 1.6 1.5 0.9 0.9 0.8 -23.7% 20 HK Equity 商汤科技 13.5 0.8 0.7 0.6 1.7 1.5 1.5 4.6% 603296 CH Equity 华勤技术 57.19 581

73.40 12,950 12.0 8.1 8.9 1.5 1.4 1.3 2.0 1.3 1.4 -0.8% 12.0 8.0 7.6 1.7 1.6 1.5 0.9 0.9 0.8 -23.7% 20 HK Equity 商汤科技 13.5 0.8 0.7 0.6 1.7 1.5 1.5 4.6% 603296 CH Equity 华勤技术 57.19 581

全国城市道路网密度稳定增长，新增两座城市达标8公里/平方公里 截至2024年第四季度，全国36个主要城市平均道路网密度为6.6km/km2 ，相较上年度6.5km/km2指标值总 体增长1.5%，主要城市总体路网密度持续增长。继深圳、厦门、成都之后，杭州和福州两城市达到8km/km² 的标 准，达标城市总数量提升至5个，占比14%。达到7.0km/km2以上的城市达到15个，占比达42%。城市总体道路网密 沈阳 5.1 0.0% 厦门 8.8 0.0% 福州 8.0 1.3% 南宁 7.9 1.3% 合肥 7.9 3.9% 宁波 7.2 1.4% 南昌 7.0 1.4% 贵阳 6.6 1.5% 太原 6.2 1.6% 石家庄 5.9 1.7% 长春 5.9 3.5% 乌鲁木齐 3.8 2.7% 海口 6.4 1.6% 西宁 5.8 0.0% 呼和浩特 5.2 0.0% 银川 3 武汉市 3.3% 1.6% 3.2% 1.5% 4.5% 14.2% 4 重庆市 3.0% 2.9% 4.2% 2.7% 1.3% 14.1% 5 海口市 3.6% 3.4% 3.3% 1.6% 1.6% 13.6% 6 杭州市 1.4% 1.4% 4.1% 2.6% 3.8% 13.4% 7 南昌市 4.8% 1.5% 3.0% 1.5% 1.4% 12.3% 8 西安市 1.8%

射频端：需求增加、技术升级、集成度提升 1.2 摄像头：5G智能化时代最核心传感器，持续升级 1.3 面板：柔性OLED趋势不改，大尺寸LCD静待行业价格拐点 1.4 设备和材料：国产替代加速进行 1.5 AI：安防、汽车和IoT将是率先爆发的三个场景 2 安防行业：需求逐渐回暖、AI加速、海外拓展 2.1 智能汽车：5G+AI促进无人驾驶加速落地 2.2 IoT：技术逐渐突破，巨头加速布局 1.2 射频端：需求增加、技术升级、集成度提升 1.3 摄像头：5G智能化时代最核心传感器，持续升级 1.4 面板：柔性OLED趋势不改，大尺寸LCD静待行业价格拐点 1.5 设备和材料：国产替代加速进行 7 从4G换机周期看5G：国内4G换机周期效应明显 -60% -40% -20% 0% 20% 40% 60% 80% 0% 10% 20% 1.2 射频端：需求增加、技术升级、集成度提升 1.3 摄像头：5G智能化时代最核心传感器，持续升级 1.4 面板：柔性OLED趋势不改，大尺寸LCD静待行业价格拐点 1.5 设备和材料：国产替代加速进行 12 5G对终端射频器件影响：需求增加、技术升级、集成度提升 新频段 • 滤波器需求倍增 • 频谱重新划分增加射频前端复杂性 高频率 • BAW将成为滤波器主流

资料来源：联合国环境规划署《2024年排放差距报告》 ◼ 不论是控制升温1.5℃还是2℃，2030年和2035年碳 排放与巴黎协定目标差距仍然存在。 将变暖限制在2°C以内： • 2030年的年碳排放量需要减少14亿吨CO2e，低于 当前无条件NDCs（国家自主贡献）声明 • 2035年的年碳排放量需要减少14亿吨CO2e 将变暖限制在1.5°C以内： • 2030年的年碳排放量需要减少18亿吨CO2e 2e • 2035年的年碳排放量需要减少29亿吨CO2e 为实现巴黎协定的2℃和1.5℃温控目标，2035年全 球温室气体排放需较2019年水平分别减少 37% 和 57% 。 01 严峻的减碳压力 • • 01 02 03 04 • • • 01 严峻的减碳压力 • • 01 严峻的减碳压力 • • • • • ◼ ◼ 01 严峻的减碳压力 • • 资料来源：《极兔速递环球有限公司2024年度报告》 2024 12 3,800 4,700 1:2.4 2023 2023 15% 4,401 1.5 LNG ➢ LNG 2024 12 1,327 LNG LNG 26% ➢ LNG 106 2024 B5 06 绿色实践案例 • •

40 高技术制造业占规模以上工业增加值比重（%） 装备制造业占规模以上工业增加值比重（%） 0.44 0.81 1.06 2.04 3.45 4.45 0.0 0.5 1.0 1.5 2.0 2.5 3.0 3.5 4.0 4.5 5.0 0.00 0.20 0.40 0.60 0.80 1.00 1.20 2021 2022 2023 “新三样”产品出口额（万亿元） 先进制造业集群实力显著增强。 重点产品和关键核心技术取得新突破。企业 创新主体地位不断提高。产业科技创新平台 布局进一步优化。 1.1 1.5 2.1 8.2 9.3 8.3 7.6 7.8 8 8.2 8.4 8.6 8.8 9 9.2 9.4 0 0.5 1 1.5 2 2.5 “十二五”末 “十三五”末 2023 图表标题 规模以上工业企业R&D经费（万亿元） 规模以上工业企业R&D经费增长率（%）

提出“二氧化碳排放力争2030年前达到峰值，努力争取2060年 前实现碳中和”（以下简称“3060”双碳目标），为世界碳减 排注入新的活力。目前中国的碳排放主要来自五大部门，并在 过去的几十年中向低碳模式转型，但距离达成1.5℃的温控目标 仍有差距，尤其是中国还面临着碳排基数高、碳达峰强度大、 碳中和时间短、全球碳中和对产业格局影响大等挑战。尽管如 此，但因为“3060”双碳目标落地有策，政府、企业及社会各 界齐心协力 动向世界提出减排承诺。 《巴黎协定》第一次正式地将“把全球平均气温增幅控制在 低于2℃的水平，并向1.5℃温控目标努力，以降低气候变化风险 设定为全世界减缓气候变化工作的目标”。这是一项跨越国界的 长期合作，也标志着人类向低碳世界转型。 四、碳中和：零碳和控温目标 《巴黎协定》中1.5℃的温控目标需要全世界在30年左右的 时间内，将温室气体排放量从现在约400亿吨净二氧化碳当量于 20 2050年与碳中和的目标相差甚远。这就要求缔约方在原定基础上 制订更大力度的温室气体减排计划，世界各国在气候治理这一议 题上还有很长的路要走。 图1-1 《巴黎协定》中的自主减排承诺和《巴黎协定》2℃、1.5℃路径之间的关系 注：在将全球变暖限制在1.5℃的路径中，非二氧化碳强迫 排放量也将减少50%以上。 1.假设从2018年开始，净二氧化碳当量以与《联合国环境规 划署2019年排放差距报告》中的当前政策情景相同的速度增长到