为防范核风险而创造的超级监控系统 ，是否可能成为新形态的技术霸权？ u 当 AI 替代人类判断 ， 监管者会否沦为算法的 “执行器官”？ 工具理性与价值理性的永恒张力 n 汉斯 · 约纳斯的责任伦理 • AI 的 “概率思维”与责任伦理的 “绝对命令”存在根本冲突。 当算法计算出 “可 接受风险”（如 0.01% 的泄漏概率） ， 人类是否有权为后代做此选择？ • 认知偏差的安全幻觉。 当 AI 能预测 99 （ RegTech ） 应用 - 建立 AI 监管案例库 - 与 NRC 、 ONR 合作制 定 AI 监管原则 - 发布《核领域 AI 伦理指 南》（ 2024 年） - 数据格式不兼容 - 伦理框架全球化挑 战 美国 - 《在核应用中开发人工智能系统 的考虑因素》（ 2024 年 9 月， NRC 联合英加发布） - 《先进核能法案》（ 非能动安全系统设计 - 采用 “风险分级 ” 监管模式 ，要求第 三方评估 AI 安全 案例 - 主导欧盟 AI 伦理 框架 - 与中国合作 AP1000 、 EPR 监管 经验交流 - 平衡技术创 新与伦理争议 - 推动欧盟统 一监管标准 韩国 - 《第四次工业革命战略》 （ 2018 年） - 《核电站专用

创造新职业 • 提示词工程师、大模型数据工程师、大模型应用开发工程师、 AI 架构师等 • AIGC 设计师、 AI 产品经理、 AI 游戏策划、 AI 安全专家、 AI 伦理与法规专家 n 从组织结构和工作流程角度来看，人数很少的公司可能做出影响世界的产品 1. 从人机协作（ AI 作为 Copilot ） 2. Agent 数字员工和人类员工共同工作 学术前沿 | 独立科研 | 行业引领 n AI+ 学科 各学科（非人工智能专业）与人工智能的深度融合的课程 n AI 通识教育 面向院校所有学生、教师和教职工 基础概念 | 技术认知 | 伦理思考 | 社会影响 | 应用场景 | 未来趋势 n 培养什么人 1. 思维能力：批判思维、独立思维、逻辑思维 2. 学习能力：终身学习，善用 AI 3. 热爱人类 n 如何培养人 1 数据驱动的教学决策和协作教学支持 3. AI 赋能评价 • 基于生成式 AI 的多元评价系统 • 数据驱动决策 n 挑战和风险 1. 法律、隐私与信息安全 2. 伦理与学术诚信 3. 教育质量与学生发展 4. 教师角色与职业转型 5. 教育公平与数字鸿沟 6. 组织转型与系统适应 02 对 AI 教育的思考： AI 如何赋能教 育 30

加强技术突破和伦理规范建设 ，推动智能体的规范化发展 美国在高科技行业推广应用 ，以市场驱动推动研发和产业落地 • 智能体的研发和产业化保持领先地位 ，尤其在自然语言处理、深度学习与大规模模型应用方面不断突破 • 科技巨头如谷歌、亚马逊、微软等推出了大量创新型智能体应用 ，包括语音助手、聊天机器人等 ，提高用户 的体验感 ，推动科技提升服务体验 欧盟强调伦理与法律框架 欧盟强调伦理与法律框架 ，推动在公共服务等领域应用 • 强调智能体的伦理与法律框架 ，设立多重监管机构和伦理研究工作组， 2021 年推出的《人工智能法案》是全 球首个综合性人工智能法规 • 重视智能政务、 自动化公共安全监控和智慧城市管理 ，推动智能体在环境监测、气候变化应对及能源管理等 领域的应用 ID CCID CCID CC ID CCID CCID CC CCID 动驾驶、智能制造、智慧城市等行业 的深度 融合。 加强政策支持与保障 ，构 建 长效发展机制 • 政府应加大政策引导和资金扶持力度 ，推动 技术成果转化与产业化。要加强行业监管 ， 建立完善的安全、伦理和合规体系 ，确保 智 能体技术在合规框架内健康发展。要注 重人 才培养和引进 ，提升人才储备。 ID CCID CCID CC ID CCID CCID CC 依托标准推进典型应用推广，

应监管变化，提升合规管理效率。 伦理风险识别 利用大模型对 AI 应用场景进行全面 的伦理风险评估，识别可能存在的 偏见、歧视或隐私泄露等问题，确 保 AI 技术在银行应用中的公平性和 安全性。 AI 伦理风险评估与应对措施 数据隐私保护 通过大模型构建的数据脱敏和加密 技术，确保客户信息在 AI 模型训练 和应用过程中得到充分保护，符合 《个人信息保护法》等法律法规要 求。 伦理审查机制 建立 建立 AI 伦理审查委员会，对 AI 应 用项目进行定期审查，制定应对措 施，确保 AI 技术在银行数字化转型 中符合社会伦理和道德标准。 自动化合规管理 利用大模型技术，将银行内部数据与监管要求 的数据标准进行对齐，确保数据格式、内容和 报送流程符合监管科技（ RegTech ）的最新要 求。 监管数据标准化 智能合规分析 通过大模型对海量监管政策进行智能分析，提 取关键合规要求，并自动生成合规检查清单，

基于链式思维，逐步推理问题的每个步骤来得到答案 模型性能 响应速度快，适合即时任务 响应速度慢，适合复杂任务 决策能力 依赖预设算法和规则进行决策 能够自主分析情况，实时作出决策 伦理问题 作为受控工具，几乎没有伦理问题 引发自主性和控制问题的伦理讨论 优势领域 函数调用、信息抽取、文本生成、创意写作、多轮对话、复杂角色扮演、打标、开放性问题，多样性高的 任务 数学推导、逻辑分析、代码生成、复杂问题拆解，逻辑密度高的任务 落地 ，仍存在三大挑战 ， 即场景、性能、信任尚未形成有效闭环。场景闭环方面 ， 仍存在断层、碎片和割裂的问题；性能闭环方面 ，仍存在算力、 时延和功耗的问题；信任闭 环 方面 ，仍存在幻觉、 隐私和伦理的问题。 “ 三个打破” 旨在消除数据、服务和设备之间的孤岛效应。打破数据孤岛 ，要在确保数据隐私 安全的前提下 ，实现数据共享训练 ，释放数据的潜在价值。打破服务孤岛 ，需建立开放的 API ，提升系统的整体性能；算网协同强化计算效率 ，为用户 带 来极致的体验。 “ 三个共同”强调模型算法、 隐私保护、标准共建以及 AI 伦理和行业共治等方面的共同行动。 通过技术共享与协作 ，推动模型算法的持续创新；加强隐私保护和标准共建 ，确保 AI 应用的 合 规性和安全性；共同探讨和制定 AI 伦理准则 ，实现行业的健康可持续发展。 未来趋势展望 荣耀 MWC 上海演讲《 AI 竞争焦点正从「模型」转向「落

。 RN-OCO 提示语框架应用实例 学术 伦理 在使用 AI 辅助孩子学习时 ，要 确保不违反学术诚信原则，如 不抄袭 AI 生成的内容 。 新闻 伦理 如果 AI 用于获取新闻或信息 ， 要教育孩子辨别信息的真伪， 培养他们的媒体素养 。 A I 伦 理规 范 了解并遵守使用 AI 的伦理规范， 如保护个人隐私，尊重知识产 家长们必须向孩子清晰地传达个人隐 私 的概念 ， 明确界定哪些行为是不可逾越的法律红 线 。 4 . 技术监督： 家长应为孩子使用的电子设备设置合 理 的 A I 工具使用权限 ， DeepSeek 在伦理上的挑战与家庭教育中的引 导 AI 家 庭 教 育 校园欺凌对于青少年而言有时发生 。家长在这一 过程 中扮演着至关重要的角色 。家长可以利用 AI 思考策略 第二步：获得 AI 提供的实际的应对策略 别能力，成为他们心中的价值观灯塔 。 当孩子使用 AI 生成内容后，家长应及 时与孩子展开讨论， 引导他们思考这 些内容是否健康积极。 DeepSeek 伦理问题频发， 家长如何为孩子筑牢防线？ 当孩子阅读一篇 A I 生成的文章或观看视 频时，家长可以问：“你觉得这里面传达 的观点对吗？为什么？ ” 家长可以引导孩子学 习一些简单的心理调

算法优化：通过模型压缩和量化技术，降低大模型的计算资源需求。 ■ 具身智能的未来发展 □ 面临的挑战——伦理与道德方面 具身智能的责任界定 ( 如机器人伤人时的责任归属 ) 仍是未解之题，现有法律框架可能无法完全应 对 这些新问题。 在家庭护理等场景中，还涉及伦理道德挑战，例 Φ 如何让机器人的行为既满足需求又不违背伦理准则。 ■ 具身智能的未来发展 □ 面临的挑战——安全与隐 私 方面 > 需要制定相关规范，确保具身智能系统的安全性。

风险、制定差异化承保策略；另一方面，算法偏见可能引发承保公平性争议，数据隐私保护漏洞亦带来合规风险。此外，区块链与 AI 的技术融合，通过分布式存 储与 加密机制增强数据安全性与透明度，但保险公司仍需构建完善的 AI 伦理框架与数据安全治理体系，在技术创新与合规要求间建立平衡，确保风险防控能力提升 与合规 管理要求的协同推进。 AI 在保险风控与合规领域的应用呈现“双面性” 数据隐私保护漏洞：保险业务 涉及海量用户敏感信息， 数据泄露、滥用问题。 监管滞后性困境： AI 技术在 保险风控合规领域应用创新 速 度快，监管规则、标准难 以及 时跟上。 构建 AI 伦理框架与数 据安全机制 保险公司需要建立更完善的 AI 伦理框架与数据安全机制， 以确保技术应用的合规性与 公平性 ，应对 AI 带来的新挑 战。 多维度综合风险评估 与传统依赖单一数据源和简单

人类多元智能 肢体 动觉 语言 智能 逻辑 数理 人际 关系 攻防对抗 幻觉问题 隐私保护 新一代人工智能面临的挑战 可解释性 多模态 价值对齐 人工智能 面临的挑战 合规伦理 算法共振 郑小林，浙江大学人工智能研究 攻击目标：风控模型 攻击手段：伪装成合作商户批量调用 API ，逆向工程 模型规则 恶意商户的 Prompt 构造： # 通过虚构交易组合探测模型阈值 2023 年 12 月 9 日 ， 欧盟委员会、欧洲议会和欧 盟理事会就《人工智能法 案》达成临时协议。 如何让大模型的能力和行为跟人类的价值、真实 意图和伦理原则相一致 ，确保人类与人工智能 协 作过程中的安全与信任。这个问题被称为“价 值 对齐”或“人机对齐”（ value alignment ， 或 AI alignment ） 面临挑战 4 ：价值对

芯片上，数据样本和模型结构被切分到多张卡或者节点上，卡间或节点间不仅有训练数据通信，还有模型 梯度 的频繁传递，对智算中心的网络互联提出新的要求，建议关注宝信软件。 • 风险提示：宏观经济波动、下游需求不及预期、 A I 伦理风险等。 请务必阅读正文之后的免责声明及其项下所有内容 摘要 目录 01 智算 中心： 从集群走 向超级池 化 02 网络互联： 节点 内外多方案并 存 03 而导致整体行业增长不及预期。 第二 ，下游需求不及预期。若下游数字化需求不及预期 ，相关的数字化投入增长或慢于预期 ，致使行业增长不及预期。 第三 ， A I 伦理风险。 A I 可能会生产违反道德、常规、法律等内容。 请务必阅读正文之后的免责声明及其项下所有内容 风险提示 分析师承诺 作者保证报告所采用的数据均来自合规渠道；分析逻辑基于作者的职业理解