合规遵循：严格遵循法规和国标，对训练数据执行信息化筛选与过滤，并通过技 术手段构建围栏防护，防止模型被滥用或生成违法不良信息。 ● 安全可靠：全面落实国标要求，执行体系化安全评测；依托红蓝对抗持续提升模 型鲁棒性，确保模型在面对恶意攻击时大模型能够保持正常运行并输出可靠结果。 ● 伦理向善：通过安全训练实现价值观对齐，并在生成内容中主动开展正向引导， 在开放可控的环境中助力生产力提升与价值创造。 ● 风险现状及能力构建 1.1 主要风险挑战 大模型在多模态理解、逻辑推理、多模态生成等方面的能力持续增强，推动其在千行 百业中得到广泛而深入的应用。然而，随着大模型能力的提升，内容合规性、准确性 和算法鲁棒性等安全性风险挑战也逐渐显现，影响其在应用场景下的可信度与可控性。 在效率层面，大模型参数规模越来越大，导致其对计算资源的需求显著上升。这不仅 增加了训练与推理的成本，也限制了其在边缘设备等场景中的部署可行性。 好数据训练而成，用于对每个回复的质量进行打分并计算每个得分相比平均分的优势 值。通过奖励模型，GRPO 让模型聚焦于质量得分更好的回复，从而学会此类指令的 最优回复。GRPO 通过提高最优解的采样概率，提升了模型准确性和鲁棒性。需要指 DPO 安全训练 57 56 ALIBABA CLOUD MODEL STUDIO SECURITY WHITE PAPER 安全 可信的 MaaS 阿里云百炼 安全白皮书

数据的实时分析，减少对云端 的依赖。 数据隐私与安全 模型漂移与鲁棒性 伦理与偏见 ◼ 数据隐私与安全：金融行业涉及大量敏感数据，包括客户的个人信息、交易记录、信用历史等。 随着《通用数据保护条例》等隐私保护法规的出台，金融机构在使用AI技术时必须严格遵守相 关规定，确保数据的合法收集、处理和保护。 ◼ 模型漂移与鲁棒性：传统AI模型往往基于历史数据进行训练，当市场发生突变时，模型性能可 可 能会显著下降，即出现模型漂移现象。同时金融决策往往涉及高风险和高价值，因此AI模型需 具备高度的鲁棒性，以应对各种不确定性和异常情况。 ◼ 伦理与偏见：AI模型依赖历史数据训练，若数据存偏见（如性别、种族），模型可能延续并放 大偏见，导致金融决策不公平，如信贷、保险等领域对特定群体歧视。 21 www.leadleo.com 400-072-5588 中国：人工智能系列 白皮书｜2025/05

70%训练集、15%验证集和 15%测试集。具体划分比例可根据数据规模与场景需求进行调整。 训练集用于模型的参数学习，验证集用于调优模型超参数与防止过 拟合，测试集则用于评估模型的最终性能。 为了提高模型的鲁棒性与泛化能力，数据增强技术可以应用于 训练数据集的构建。例如，通过对医学影像数据进行旋转、缩放、 裁剪等操作，生成更多的训练样本；对于文本数据，可以通过同义 词替换、句子重组等方式增加数据的多样性。此外，基于领域专家 不显著降低模型 性能的前提下，减少计算资源和存储空间的消耗。特别是在医疗健 康领域，模型的计算效率直接影响到实时诊断和决策的效率，因此 优化计算资源的使用至关重要。 此外，模型的迭代还应对其鲁棒性进行持续提升。通过引入多 样化的数据集和对抗训练技术，可以有效增强模型在面对异常数据 或攻击时的稳定性。例如，在医学影像分析中，模型应能够处理不 同设备、不同拍摄条件下产生的影像数据，确保其在不同场景下的 入现有的医疗工作流程中，减少对医务人员操作的干扰，提升整体 工作效率。  实时数据反馈：定期收集临床诊疗数据、患者反馈及医疗设备 输出数据。  性能优化：引入剪枝、量化等技术，提升计算资源效率。  鲁棒性提升：通过多样化的数据集和对抗训练技术，增强模型 稳定性。  评估机制：建立涵盖准确性、召回率、响应时间等多维度的评 估体系。  系统兼容性：通过无缝集成和 API 接口标准化，确保模型顺利

计建模与样本生成技术改善数据质量：针对 缺失值问题，可依据数据分布（如高斯假设） 进行参数估计并采用概率插补；面对类别不 平衡，可利用过采样或线性插值在特征空间 内扩充少数类样本，从而增强模型鲁棒性。 损失函数设计中，正则化方法（如 L1 正则 化促进稀疏性、L2 正则化限制参数幅度）起 到控制模型复杂度和防止过拟合的作用，此 外还可依据神经网络诱导的新型函数空间设 计专门的正则项。优化算法和数值算法分析 这些方法在运行过程中，还可以巧妙结合概 率统计方法，以应对训练过程中的噪声、数 据分布偏差及其他不确定性因素。此外，遗 传算法和粒子群优化等启发式算法在解决某 些高维非凸问题时展现了较好的鲁棒性，贝 叶斯优化则成功应用于深度学习中的模型超 参数调优、机器学习算法的自动化调参，以 及强化学习中的策略优化等场景。理论方面， 对于凸优化问题，大多数梯度类算法能够收 敛到全局最优；而对于机器学习中更常见的 诺贝尔物理学奖和化学奖都授予了与人工智 能研究相关的科学家，以表彰他们在人工智 能推动多领域基础学科研究中取得的突破性 进展。人工智能的发展也依赖非线性科学和 复杂性研究，来破解数据、算力需求及模型 可解释性、收敛性、鲁棒性等难题，优化核 心算法和架构，推动通用人工智能的变革。 非线性科学和复杂性研究的发展将极大程度 地反哺人工智能，推动下一代人工智能发展， 即“复杂系统借力人工智能，人工智能面向 复杂系统”。

本，实现了对整个 建设过程的持续优化。 尽管工程智能在验证与建设阶段的应用已取得一定成效，但其规模化落地仍 面临多重挑战。一方面，施工现场环境复杂多变，工程智能系统必须具备较强的 泛化能力和鲁棒性，以应对光照变化、遮挡、噪声等现实干扰。另一方面，工程 智能模型应用在工程领域的分析决策中，须具备专业性、可靠性，尤其在涉及结 构安全与法律责任的关键决策中，更是至关重要。这两方面的突破，将进一步推 于 历史数据的测试中可能表现出超过 95%的准确率，但在面对真实飞行环境中未曾 见过的新型或复合型故障模式（如特定航线的特殊腐蚀、或极端天气引发的材料 疲劳）时，其预测精度会显著下降。 二是鲁棒性与抗干扰能力薄弱。工程环境中存在大量不可控因素（如突发极 工程智能白皮书 AI for Engineering White Paper ©同济大学工程智能研究院版权所有。如需引用，请注明出处。 变化的工程场景 易出现决策偏差，甚至失效。因此，构建工程智能体持续演进技术，使智能体能 够在全生命周期中不断学习新经验、适应新变化，对于保障工程智能体长期有效 发挥作用、提升工程系统的适应性与鲁棒性具有重要意义。​ 工程智能体持续演进技术面临多项关键问题。一是智能体演进的效率问题， 工程场景中可供利用智能算力资源往往较为有限，且常要求智能体全时在线和实 时响应，智能体需在保持响应的同时完成学习，如何避免学习过程对实时服务的

兆瓦，整个数据中心的用电量正逼近吉瓦级别，如何在这种情况下，实现 高效稳定的供电，已成为业界面临的重大技术挑战。为了应对这些挑战，必须依托能够处理复杂功率转换过程的 先进半导体解决方案，同时不断提升能效、功率密度、鲁棒性与总拥有成本表现。 英飞凌正以系统化视角应对这一系列挑战，提供“从电网到核心”的完整系统解决方案。正如本白皮书所述，AI 数据中心的架构即将在未来几年迎来深刻变革。这场变革的驱动力在于：为了满足处理器不断增长的功耗需求——

具备较强的分析、调查和问题解 决能力。 能够与AI、安全和政策团队协 作。 熟悉AI系统的红队测试和渗透测 试。 持续学习人工智能、安全和监 管趋势。 关键技能 AI的目标区域 提示词注入防御 对抗鲁棒性 数据泄露防护 红队测试自动化 隐私合规 模型评估 威胁情报集成 安全护栏开发 受AI影响的技能 提示词工程 对抗性测试 数据隐私 红队测试 模型评估 威胁情报 策略制定 设计、实现并测试新型AI/BL算 法及模型架构。 优化算法的速度，可扩展性和生 产效率。 参与研究原型开发工作，并推动 其转化为实际可用的生产代码。 进行超参数调优和算法配置实 验。 开发模型可解释性、公平性和 鲁棒性相关方法。 参照行业标准及数据集对算法进 行基准测试。 与跨职能团队协作，明确需 求。 调查并解决模型局限性和故障案 例。 记录算法逻辑、参数和评估结 果。 持续跟踪最新的AI研究成果和新 兴算法。 型准确率，并优化计算性能。他们的工作涵盖神经网络架构、算法流程 优化、可解释性方法，以及针对分类、预测和强化学习等任务的专用算 法。随着各组织不断拓展人工智能的边界，算法工程师在推动创新方面 发挥着关键作用，确保模型具备鲁棒性，符合伦理规范，并能够从实验 阶段顺利扩展至实际部署应用。 工 作 岗 位 ⸺ A I 算 法 工 程 师 1 / 2 AI 影响程度 转型潜力 AI算法工程师这一岗位处于技术转型的核

考。通过对多学科技术的综合运用，我们实现了对故障过程中微秒至秒级动态响应的完整覆盖。相关实践已验 证，即使在多电源、100% 电力电子化的高压发输电系统中，实现安全可靠的故障穿越是可行的。这些能力可 帮助客户显著提升系统鲁棒性和供电连续性，有效减少因电压问题导致的非计划停机和设备损坏，支撑矿山在 恶劣工况下的连续生产，降低运营风险与经济损失。 挑战 挑战 必要性 必要性 解决方案 解决方案 16 17 （4）抗变压器投切冲击技术

Average将节点特征压缩为单个向 量，在此也可以使用Attention或者全连接等方式来处理，因为节点信息诸如职业/技能等，并没 有前后序列相关的信息，所以使用Attention这种无序的信息抽取方式会比全连接更具鲁棒性。院 长的实验结果显示，Attention结构并没有比Global Average取得更佳的结果，因此最终还是选 择了更为简单的Global Average结构。 工作经历抽象为向量序 03 个性化职能预测 82 | 第七部分 △e 成科技 AI 中台能力建设 最后在将整个序列信息转为向量t之后，直接拼接基本信息，经过两层全连接输出预测的职能，此 为主任务。为了提高模型鲁棒性，我们将前面每个节点的输出(如上图t1)同样的跟基本信息拼接， 并预测下一份职能，此为副任务。只预测最后一个职能，会失去一些职能转换的多样性，而副任 务可以很好地解决这个问题，并且能让模型更好

中国特种设备研究院正高级工程师 杨秦敏 浙江大学控制科学与工程学院教授 周伟华 浙江大学数据分析和管理国际研究中心主任 编写小组（排名不分先后）： 宁海元、赵倩、李强、李宋、朱悦凯、李耀辉、沈鲁栋、黄佳河、吴敏江、刘永贵、吴玉鑫、杨嘉欣、 韩帅、孟详钧、陈威辰、王学莹、张斯洋、童涛、徐照松、肖莉、相里佳豪、雷强等。 指导老师序 易知微主持编写的这本《数字孪生世界白皮书》为数字化改革和区域经济发展提供了 度超过 98%。在智能 交通领域，神经网络可预测交通流量与拥堵趋势，优化信号灯控制策略。此外，卷积神经 网络（CNN）用于三维重建，提升数字孪生模型的细节精度。 多模型协同，提升数字孪生系统的鲁棒性。 实际应用中，单一模型往往难以覆盖所有场景。例如，数字孪生车间常结合回归模型 （预测能耗）、决策树（分类故障类型）和神经网络（动态仿真）构建混合模型，实现生 产全流程优化。通过多模型融合， 数字孪生世界企业联盟 DTWEA 数字孪生世界白皮书(2025) 59 分布式流域水文模型通过精细化空间表达与物理机制驱动，为应对气候变化下的水安 全问题提供了科学工具。未来需进一步突破计算瓶颈、增强模型鲁棒性，并拓展在智慧水 务与生态修复中的应用场景。 2）实时数据更新与渲染技术 分布式流域的数据量极其庞大，这源于每个河流段落都需要进行详细的数值计算，以 反映其独特的水文特性。在这样的背景下，