事件不断发生、发展的态势，针对具体问题情境作 出决策时，系统通常以数据统计分析、智能计算模 型算法等形式提供辅助决策功能，对于决策者来说， 这些远不足以应对其可能面临的复杂多变灾难环境 下的决策需求，即解决复杂问题的能力。 从决策问题的本质来分，常规决策面临的是问 题空间明确的结构化问题，临机决策则是模糊不清 的非结构化（或半结构化）问题 [20]。如图 3所示，问题 空间明确的常规决策是理性分析的过程，即：分析评 估备选方案并确定最优方案。系统可以提供更精确 从认知智能层次来看，当前系统思维能力不足， 缺乏解决复杂问题的能力。下一步系统智能化发展方 向是认知智能的加强，即系统具有类似于人的逻辑思 维和高级认知能力，能够处理和解释复杂信息，通过 思维能力获得事物本质特征与发展规律更深入的认 识，从而具有能够适应新环境并解决复杂问题的能力。 按照过去信息化建设经验，提升系统智能化水 平有两条路径：1）依靠对智能化应急装备设施的不 断更新换代；2）引入更多更强大的模型和算法对数 化依赖于模型的自监督学习机制通过对海量数据训 练完成，相较于结构化的知识被动获取，大模型对 应急知识的获取不再是信息搜索，而更接近于学习 的本质，是理解、消化、吸收至海量的模型参数中。 所以，模型的自主学习能够不局限于已有的认知结 构，主动捕捉到未曾发现的有关风险以及各类突发 事件的更本质规律，启发新的思路。 应急知识分布于模型的海量参数中，这种统一 的数值表示形式，使得来自不同学科、不同领域、不 同类型的知识在同一个数值向量空间进行分析成为

人工智能拥有了从无到有的学习能力，从基于规则的 专 家系统转向了自我学习与适应的智能体系。 1997 年深蓝战胜人类国际象棋冠军 这一阶段的人工智能主要依赖于预先设定的规则和 逻辑推理，强调专用算法设计实现特定任务。 新范式的本质：替代了人类专家的角色，把人从开发链条中移出 24/30 口重要意义：人的智力和工作时长，与芯片算力和运算时长之间建立了转换关系 ! Al 智 力 工业 4.0 人、机、物 互联互通 将人类带入分工明 确、大批量生产的 流水线模式和“电 热力 工业 1.0 创造了机器工 厂的“蒸汽时 代 ” 1970 年代 初 20 世纪 初 18 世纪 末 能楼 字 新范式的本质：替代了人类专家的角色，把人从开发链条中移出 25/30 口 未 来 Al 计算速度将更快、成本更低 口未来算法的能力将会更大，智能程度将会更高 2024 年 11 月 27 日，王坚《无尽的计算： 这一点——期间每 token 的价格下降了约 150 倍。摩尔定律曾以每 18 个 月翻倍的速 度改变世界；而人工智能成本下降的速度，比这还要快得不可思议。 3. 智能水平的线性提升，其社会经济价值的增长本质上是超指数级的。由此推断，我们认 为在可预见的未来，没有理由停止对人工智能进行指数级增长的投资。 OpenA I 宣告 通用人工智能 (AGI) 时代临近 (2025 年 2 月 10 日

无法在复杂的思维链中保持一致性 推理过程和答案不一致 Yann LeCun 的批判观点： 对纯粹扩大规模方法的根本质疑 Mehrdad Farajtabar ： "LLM 本质上是统计模式匹配工具，而非真正的 推 理系统 " 、 " 下一个词预测框架不足以产生真正的理解 " Yann LeCun ： 自回归大型语言模型没有前途

对 • 句向量编码器的结构： Bi-LSTM + max-pooling • 向量搜索使用 Faiss 句向量编码器和向量搜索 [Conneau 2017] • 问答的本质是找到和用户问题语义匹配的知识点 • 基于分类模型的问答系统效果好，但需要较多的训练数据， 且重新训练的成本较高 • 基于检索和排序的问答系统能较好的弥补以上问题，但仍 然

生成式语言模型在生成文本或者回答问题时，产生与事实不符或者逻辑 错误的内容，即“一本正经地胡说八道”  示例1：一篇根本不存在的参考文献（右图） n 大模型幻觉产生的原因  目前的大模型结构和训练机制：基于概率的生成模型，本质上没有理解 自己所学习的内容  缺乏对真实世界的有效建模方式和全息感知能力  训练数据的局限性：数据质量、重要数据的缺失、不同类型数据的比例 n 如何应对（用户角度）  建议1：建立“

证项目初 期的端到端效果；未来将组建专业的运营团队，在应用推广初期对大模型的结果进行审核 与校正，保证质量和业务使用体验。三是目前一些大模型应用仍是以大模型为路由，通过 链式调用工具完成任务，本质仍是对流程建模，无法带来业务深刻变革和价值释放。未来 ��� ��� 将围绕数字劳动力Agent，拟定具备通用性、泛化性和鲁棒性的Agent框架，将数字劳动力 应用嵌入业务流程。 图15 大 幅缩短，平均开发工作量减少了90%，显著提升了研发效率与需求响应速度。 在代码大模型的应用场景，公司经过三轮细致的模型调优实践，深入验证了大型模型 在提升研发效能方面的潜力。通过不断优化样本质量，调整语料构建及训练策略，模型在 验证集上的预测性能相较于调优前提升了约2.4倍，在由大模型生成的代码中，可用的代 码比例高达70%以上。模型调优工作完成后，公司制定了包括调用率、上屏率、采纳率、大 键环节发挥决定性作用。大模型将提供更为智能、高效的决策支持，推动保险行业向更加 智能化、精准化的方向发展。 ��� 多模态大模型正逐步向更高级的“世界模型”演进，这一趋势预示着其在各行业的应 用将加速落地。多模态技术的本质是模拟人类世界的复杂性，涵盖从文本、图像、视频（包 括2D和3D），到声音、光线、电信号，甚至分子和原子等多种形式。这种技术的不断进步不 仅在生成和迁移跨模态内容方面展现出巨大潜力，还在理解和模拟物理世界规律方面取

生成式大模型在医疗场景中的应用更加精准和有效， 确保最终可以提供高质量的医疗决策支持。 7. 风险评估与管理 在 AI 生成式大模型的医疗场景应用中，风险评估与管理是确 保技术安全有效施行的重要环节。医疗行业本质上涉及患者生命和 健康，因而对其技术应用的可靠性与安全性要求极高。AI 技术在数 据处理、诊断支持、治疗方案生成等多方面表现出的优势同样伴随 着潜在风险。以下对风险进行系统分析并提出相应的管理策略。