售数据、季节性变化、市场趋势等因素，预测库存 需求、实时监控库存水平、自动调整补货策略、精准 管理库存品类、优化库存地域布局等，提高库存周 转率，降低库存成本。AI 聊天机器人可以随时了解 ERP 库存系统、跟踪订单和其他更新。 • 物流配送与运输管理：机器人在深度学习算法和 3D 相机的加持下，可以识别被配送货物的形状、尺寸和 条形码，自动分拣和归类，提高仓库分拣效率和准确 性。利用大数据分析和机器学习优化配送路线，实时 面，帮 助锂电制造企业缩短开发周期，提升检测效率，控制成本投入。 1.4.2 消费电子行业 1.4.3 新能源锂电行业 精准高效 的缺陷 检测 锂电池 质量检测 加速产品 的更新 换代 智能化 功能增强 消费电子产品对品质要求极高，过检指标和漏检指标严格，且产线速度快。很多产品缺陷种类复杂、缺陷细小、区 分度低，传统的人工检测和机器视觉方案，检出率低，速度慢， 漏杀情况，实现缺陷检测无人化，降低人力成本。 消费电子产品的特征之一是快速更新迭代，快速上市新产品意味着抢占市场先机。 在新产品的设计生产方面，基于 AI 的市场需求预测模型能快速分析消费者需求趋势，辅助设计/生产软件能基于历 史数据和现有数据加速新产品设计，优化生产管理流程，快速上市新产品。 更加个性化、智能化、功能强大的手机、PC 等消费电子产品，是驱动消费电子产品更新换代和市场复苏的关键 因素。 消费电子产品

中通过策略选择动作（action），基于 环境状态选择一个可能的策略路径。 ➢STaR 中，通过计算目标函数，模型对整个数据集的预测结果进行评估，并且只根据预测正确的样 本更新模型。 ➢STaR 在同一批数据上进行多次梯度更新，这类似于某些策略梯度算法中的策略，即通过多次调整 同一批数据来稳定学习过程。 [1] STaR: Bootstrapping Reasoning With Reasoning o1数学任务相当的水平 ➢ 一个作为策略模型Policy Model, 另一个模型训练成为基于偏好的过程奖励模型（PPM），二者配合进行 MCTS 产生分步验证的高质量推理数据，四轮自我迭代提升，不断更新数据而后微调模型 ➢ 虽然即便经过MCTS模拟后，Q值依然无法做到对每个推理步骤进行精准评分，但是它们能够有效识别出哪 些步骤是正确的（正向步骤），哪些步骤是无关或错误的（负向步骤）,可以用 ranking 06144 未来技术方向展望: 强推理模型监管和保证 – 语言模型抗拒对齐 从胡克定律到大模型的弹性（而抗拒对齐） 大模型存在弹性：模型在预训练阶段经过大数据、 大更新产生了具备通用能力的稳定分布𝒑𝜽，而经 过对齐阶段的“小数据、小更新”表现出由对齐分 布𝒑𝜽’回弹到预训练分布𝒑𝜽倾向，从而抗拒对齐; 胡克定律：在弹性限度内，弹簧弹力𝑭和 长度变化量𝒙成线性关系，即：𝑭 = −𝒌𝒙，

模型能够理解不同类型的任务并提供符合预期的回答 。 指令 - 响应 （ Instruction - Response ） 数据集用于训练模型理解任务指令并生成符合预期的响应 时效性问题 对知识更新频繁的领域 ，微调后的模型可能很快会过时 ， 需要不断重新训练 在微调完成后 ， 部分高级模型还会使用强化学习进行优化。 例如 ， ChatGPT 和 Claude 使用 人类 反馈 ，获得更小参数的模型 ，来降低算力需求 4.4 本地部署大模型方 案 高校本地部署大模型面临的问题： n 2025 年 2 月 10 日 ，清华大学 AI 团队发布 KTransformers 开源项目迎来重大更新 ，成功打破大模型推 理算 力门槛。 此前 ，拥有 671B 参数的 MoE 架构大模型 DeepSeek-R1 在推理时困难重重。 推理服务 器常因高 负荷宕机 ， 专属版云服务器按 GPU 小时计费的高昂成本让中小团队无力承担 ， 而市面上的 “本地部署” 方案多为参数量大幅缩水的蒸馏版 ，在本地小规模硬件上运行满血版 DeepSeek-R1 被认 为几乎不可能 n 此次 KTransformers 项目更新带来重大突破 ， 支持在 24G 显存（ 4090D ） 的设备上本地运行 DeepSeek- R1 、 V3 的 671B 满血版。 其预处理速度最高可达 286 tokens/s ，推理生成速度最高能达

DeepSeek R1 API 接入：在 AnythingLLM 工作区右侧点击设置 ，选择聊天设置 ，更改 LLM 模型为 DeepSeek ，输入 API Key 并选择 DeepSeek R1 模型 ，点击更新工作区即可。 • 搭建本地知识库 • 在 AnythingLLM 左侧工作区找到上传按钮 ，选中要上传的文档 ，点击移动到工作区 ，再点击“ Save and Embed” ，对文档进行切分和词向量化。

DAO（去中心化自治组织）： 通过智能合约+AI 协作平台，万人团队实现零管理成本运作 ⚫ 人机混合团队： AI 成员拥有独立数字身份，参与绩效考核与利润分配 ③终身学习范式 ⚫ 技能更新周期：从 5 年缩短至 3 个月 ⚫ 学习方式： 脑机接口+AI 知识直输，1 小时掌握外语听说能力 技术普惠实证： -深圳外卖小哥用 DeepSeek 开发接单优化系统，月收入提升

Distribution 关键 发现 ① 细粒度的计算通信并行 • 将 PP stage 拆分为更细的模块 ，提升模块交替编排的灵活度 • 参考 ZeroBubble ，反向传递中的权重更新和梯度传递独立操作 • 经过细粒度的拆分和编排之后 ，计算流和通信流的 barrier 刚好可以重叠 ② 双向管道调度减少 PP 中的气泡 • 1F1B 中每个 batch 拆分为 1