，用于测试模型的视觉推理能力，并且可以 无限生成训练样本。 ➢ 文本渲染数据 是通过将文本内容转换为视觉格式创建的，使模型能够在不同模态下保持一致的文本处理能力。 通过将文本文档、代码片段和结构化数据转换为图像，确保模型无论接收的是纯文本输入还是截图或照片中的 文本，都能提供一致的响应。这也有助于增强模型在处理文本密集型图像（如截图、表格、公式等）时的能力。 ➢ Long2Short 方法 PRM 没有被使用 (Reward Hacking 的考虑) ➢ MCTS 是一种 Structure, A* 也是 Structure, 人为加入 Inductive Bias 强求LLM按照结构化先验进 行思考可能会限制模型的能力； ➢ PRM 容易被 Reward Hacking, 且 绝对值 Value 很难准确 ➢ Kimi K1.5 更多是从 In-Context RL 的角度 相比于利用MCTS造数据，直接将MCTS 应用于模型的训练 可能会限制模型的思考过程？ ➢ MCTS 是一种 Structure, A* 也是 Structure, 人为加入 Inductive Bias 强求LLM按照人为的结构化先验进行思 考可能会限制模型的能力； ➢ 不通过额外的Structure, 模型自身是否可以学会思考： ➢ Algorithm Distillation: 将RL的 Training History

（ Reward ）。 DeepSeek ： 技术创新—推理模型 | RL DeepSeek 应用场 景 DeepSeek 的能力层级 • 1. 基础能力层 多模态数据融合与结构化理解 ，包括跨模态语义对齐（文本、 图像、 音频、 视频、 代 码、传感器数据统一语义） 和动态数据治理（解决数据缺失、 噪音干扰、 概念飘逸等） ， 支持 200 多 种数据格式自动解析。

不需要模型重新训练或微调。 • 训练时优化，这是一套在例如 PyTorch* 和 TensorFlow* 2.x 这样的深度学习框架内进行训练时模型优化的高级方法，支 持诸如量化感知训练、结构化和非结构化剪枝等方法。 • 权重压缩，这是是一种用于减少 AI 大模型大小并加速推理的方法。 模型部署 使用 OpenVINO™ 运行模型以来 OpenVINO™ 运行时，一组带有 C 和 Python