出版单位 / 组织名称： 发布日期： 医疗健康大模型 伦理与安全白皮 书 上海交通大学 复旦大学 上海交通大学医学院附属瑞金医院 蚂蚁集团 2025 年 7 月 18 日 Ab 医疗健康大模型伦理与安全白皮书 健 天津医科大学 王 玥 西安交通大学俞 凯 上海交通大学 张新庆 北 京协和医学院张海洪 北 京大学医学部 张洳源 上 海交通大学 医疗健康大模型伦理与安全白皮书 全 面 剖 析 医 疗 健 康 大 模 型 应 用 的 各 方 面 情 况 ， 包 括 技 术 分 析 、 伦理法律评测、模型评测及提升措施等， 为其安全、有效、合规应用提供指导， 促进医疗行业智能化发展， 保障患者权益与医疗质量 。《 医疗健康大模型应用 伦理与安全白皮书 》 围绕医疗健康大模型展开多方面探 讨， 对推动其在医疗 领域的合理应用意义重大。 本白皮书主要内容主要包含

工智能 知识、应用伦理原则和支持其职业发展的策略。 教学方法，以及专业学习中的AI应用。这些能力被划分为三个进 阶层次：获取、深化和创造。 The AI能力框架针对这一缺口，通过定义教师在AI时 代必须掌握的知识、技能和价值观来解决这一问题。 该框架基于保护教师权益、增强人类自主性和推动可 持续性的原则进行开发，并详细列出了五个维度下的 15项能力：以人为中心的心态、AI伦理、AI基础与应 用。 深远的影 响，特别是在教师的角色以及他们所需的能力方面。教育中使 用AI引发了关于教师自主权和其判断如何及何时恰当地使用这 项技术的能力的基本问题。 教师迫切需要被赋能以更好地理解人工智能的技术、伦理和 教育学维度。然而，截至2022年，仅有七个国家制定了针对 教师的人工智能能力框架或专业发展计划。 该出版物以教科文组织以前在该领域的工作为基础 ， 如 教师、人工智能和教育的信 通技术能力框架 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 23 3.2. 2 方面 2 ： 人工智能的伦理 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

为防范核风险而创造的超级监控系统 ，是否可能成为新形态的技术霸权？ u 当 AI 替代人类判断 ， 监管者会否沦为算法的 “执行器官”？ 工具理性与价值理性的永恒张力 n 汉斯 · 约纳斯的责任伦理 • AI 的 “概率思维”与责任伦理的 “绝对命令”存在根本冲突。 当算法计算出 “可 接受风险”（如 0.01% 的泄漏概率） ， 人类是否有权为后代做此选择？ • 认知偏差的安全幻觉。 当 AI 能预测 99 （ RegTech ） 应用 - 建立 AI 监管案例库 - 与 NRC 、 ONR 合作制 定 AI 监管原则 - 发布《核领域 AI 伦理指 南》（ 2024 年） - 数据格式不兼容 - 伦理框架全球化挑 战 美国 - 《在核应用中开发人工智能系统 的考虑因素》（ 2024 年 9 月， NRC 联合英加发布） - 《先进核能法案》（ 非能动安全系统设计 - 采用 “风险分级 ” 监管模式 ，要求第 三方评估 AI 安全 案例 - 主导欧盟 AI 伦理 框架 - 与中国合作 AP1000 、 EPR 监管 经验交流 - 平衡技术创 新与伦理争议 - 推动欧盟统 一监管标准 韩国 - 《第四次工业革命战略》 （ 2018 年） - 《核电站专用

型的 性能和可靠性。同时，确保数据的合规性和隐私保护至关重要，需要遵守相关法规和 伦理准则，保护患者和研究对象的权益。 医疗大模型的 伦理风险与安全监管 （一）医疗大模型应用的伦理隐忧 尽管大模型在医疗领域的应用展现出极大的发展潜力，但飞速发展的同时也可能涉及 数据隐私、信息安全、医疗决策的责任等伦理和法律问题，这些也正是在临床一线工 作的医务工作者所关心的问题。 在数据隐私和安全 属。确定医生、AI系统或开发者承担责任是复杂的法律和伦理问题。如患者因AI错误 决策受害，责任归属需慎重考虑。北京市卫健委发布《北京市互联网诊疗监管实施办 法（试行）》，禁止使用AI自动生成处方，规范互联网诊疗活动，降低AI技术潜在风 险。 许多一线医生对AI在医学领域，特别是临床诊断和治疗中的应用持谨慎态度。尽管AI 具有辅助诊断和治疗潜力，医生仍需保持批判性思维，不能完全依赖这些工具。医疗 大模型引发的伦理和法律问题需要跨学 靠和合规使用。这些问题涉及患者隐私、权益，以及医疗从业者责任和医疗质量提 升。 （二）医疗大模型中数据的隐私和安全性保障 医疗大模型的应用与发展也带来了对数据隐私保护和数据安全性的重要关切，面临着 伦理、法律和安全挑战。大模型无论在训练还是在使用的过程中，都需要保障隐私和 数据安全，本地化部署、数据加密、增强数据多样性等都是保障隐私和数据安全性的 重要措施。 在本地化部署与隐私计算方面，医疗大模型微调过程需用大量患者敏感隐私数据，直

、社会服 务与国际合作”四大导向，明确高等教育数智化转型的发展方向和战略目标。 报告从技术、社会与教育三个维度深入审视机遇与挑战：在技术层面，算力、数据与算法的突破孕育创新红利， 但面临安全、伦理、偏差与治理等现实约束；在社会层面，发展契机与潜在风险并存；在教育层面，知识去中 心化、学习个性化的进程中，需要同步重塑价值导向与能力结构。基于深入分析，报告提出推动高等教育走向 智能、高效、开 力＋教育能力”的 能力谱系；在要素分析上，形成“五要素”框架：算力作为构建基石与场景适配关键，数据作为必备燃料与领 域属性特征，算法作为核心引擎与风险应对策略，开发工具作为全栈式工具矩阵，安全、伦理和隐私保护作为 有效保障。在技术路线上，构建“参考架构—智能体应用—标准体系”的完整技术路径，以“性能—成本—应用” 协同优化为抓手，支撑模型从训练、推理、部署、协同到应用增强的全链路落地。 具体路径，总结了九个重构方向：提供精 准适需的教育内容、实现个性灵活的教学方式、支持沉浸互动的学习体验、重塑教育主体的角色与能力、助力 数据驱动的教育评价、推动智能高效的教育治理、构建安全可信的伦理治理体系、配置优质均衡的教育资源、 强化智能协同的科研创新。据此提出“统筹规划、分步建设、优选场景、协同发展”的教育大模型建设原则， 阐明基于通用大模型研发教育大模型的具体实践，倡导通过算力、数据、算法协同优化的工程创新来实现教育

66 5.1.2 模型训练与优化.........................................................................68 5.2 法律与伦理可行性..............................................................................70 5.2.1 数据隐私保护.. 市场趋势分析....................................................................................142 9.3 伦理与社会影响展望........................................................................144 10. 结论......... 教育的工具，通 过模拟真实的临床场景帮助医学生和年轻医生提高实战能力。 尽管生成式大模型在医疗领域的应用前景广阔，但也面临诸多 挑战，包括数据隐私、安全性和伦理问题等。对此行业需要在探索 和应用生成式大模型的同时，建立相应的伦理规范和法律框架，以 确保患者的信息安全和隐私保护。 总体来看，生成式大模型在医疗场景的应用具有很高的可行 性。随着技术的不断进步和相应政策法规的完善，未来的医疗服务

AI不仅创造了新岗位，更对几乎所有ICT岗位进行了深刻变革。在安全领域，岗位职能正从人工监 控转向统筹AI驱动的威胁检测与自动化响应；数据领域工程师的工作重心从数据处理转向管理AI 驱动的分析流程，并确保伦理治理合规；软件工程师则专注于整合AI能力、管理AI辅助编码工 具。这种全方位的AI融合要求从业者掌握新型复合技能⸺既要具备专业技术能力，又需通晓AI知 识，还要具备管理人机协作的能力。此外，各领 域技术人员还应密切关注开源生态在AI时代带来 的新机遇。 IDC认为，组织应通过主动应对技能缺口、革新学习战略并培育“持续适应文化”的组织来释放AI 的潜力，将技术专长与创造力、同理心、伦理判断力等以人为本的技能相结合，以此应对智能时 代的复杂性。如今，企业、教育机构与政府等各方应协同努力，共同培养能够适应未来变化、把 握AI时代发展机遇的ICT技术人才，为构建可持续发展的人才生态提供系统性支撑。 动力规模。近四分之三（73%）的全球受访者预计，岗位中的AI应用将催生对额外员工的需求， 其中29%的受访者预计员工数量将“显著”增加。这一现象源于多个因素： ·新型岗位需求出现：例如AI训练工程师、提示词工程师、模型审核员和伦理监督人员等； ·在人机协同的混合工作环境中，需要员工负责智能系统的集成、治理与协作工作； ·AI推动运营与客户服务规模扩大，这通常会产生新的流程管理及监督需求。 这些调查结果证实，AI正从根本上重新定义

原则与关键指标，探讨了典型评测方法与平台实践。尽管初步标准框架已形 成，但在多模态交互、群体智能等方面仍缺乏系统标准，评测工具亦亟待升级。 未来应完善分领域标准、建设权威评测平台、加快国际接轨，并同步推进伦理法 律规范，推动具身智能生态规范发展。 Abstract： Embodied intelligence，as a new paradigm integrating artificial intelligence Bench），涵盖五大类真实场景测试场；在产业生 态层面，人形机器人创新中心建成“麒麟”训练场，实 现“数据—模型—训练”的闭环迭代。但当前具身智 能发展仍面临硬件“非标化” “高成本”的高门槛、多模 态融合算法效率仍偏低、伦理责任界定模糊等挑战。 本文通过解析具身智能“技术演进—标准构建—评测 验证”协同发展机制，结合产业研报最新研究，以期与 产业专家共同探索解决具身智能标准化研究与评测 方法。 1 国内外标准化研究现状分析 当前具身智能领域存在标准规范缺失、软硬件平台碎 片化等问题，亟需构建统一的标准体系以引领产业健 康发展 ［8］。该报告强调缺乏统一的操作系统和标准化 开发工具链、硬件耐用性和能效有待提升、技术评测 和安全伦理标准空白等因素，制约了具身智能的规模 化应用。 在国家层面， 《国家人工智能产业综合标准化体 系建设指南（2024 版）》将具身智能列为人工智能关键 技术标准体系的重要组成部分 ［9］。该指南提出制定多

创造新职业 • 提示词工程师、大模型数据工程师、大模型应用开发工程师、 AI 架构师等 • AIGC 设计师、 AI 产品经理、 AI 游戏策划、 AI 安全专家、 AI 伦理与法规专家 n 从组织结构和工作流程角度来看，人数很少的公司可能做出影响世界的产品 1. 从人机协作（ AI 作为 Copilot ） 2. Agent 数字员工和人类员工共同工作 学术前沿 | 独立科研 | 行业引领 n AI+ 学科 各学科（非人工智能专业）与人工智能的深度融合的课程 n AI 通识教育 面向院校所有学生、教师和教职工 基础概念 | 技术认知 | 伦理思考 | 社会影响 | 应用场景 | 未来趋势 n 培养什么人 1. 思维能力：批判思维、独立思维、逻辑思维 2. 学习能力：终身学习，善用 AI 3. 热爱人类 n 如何培养人 1 数据驱动的教学决策和协作教学支持 3. AI 赋能评价 • 基于生成式 AI 的多元评价系统 • 数据驱动决策 n 挑战和风险 1. 法律、隐私与信息安全 2. 伦理与学术诚信 3. 教育质量与学生发展 4. 教师角色与职业转型 5. 教育公平与数字鸿沟 6. 组织转型与系统适应 02 对 AI 教育的思考： AI 如何赋能教 育 30

加强技术突破和伦理规范建设 ，推动智能体的规范化发展 美国在高科技行业推广应用 ，以市场驱动推动研发和产业落地 • 智能体的研发和产业化保持领先地位 ，尤其在自然语言处理、深度学习与大规模模型应用方面不断突破 • 科技巨头如谷歌、亚马逊、微软等推出了大量创新型智能体应用 ，包括语音助手、聊天机器人等 ，提高用户 的体验感 ，推动科技提升服务体验 欧盟强调伦理与法律框架 欧盟强调伦理与法律框架 ，推动在公共服务等领域应用 • 强调智能体的伦理与法律框架 ，设立多重监管机构和伦理研究工作组， 2021 年推出的《人工智能法案》是全 球首个综合性人工智能法规 • 重视智能政务、 自动化公共安全监控和智慧城市管理 ，推动智能体在环境监测、气候变化应对及能源管理等 领域的应用 ID CCID CCID CC ID CCID CCID CC CCID 动驾驶、智能制造、智慧城市等行业 的深度 融合。 加强政策支持与保障 ，构 建 长效发展机制 • 政府应加大政策引导和资金扶持力度 ，推动 技术成果转化与产业化。要加强行业监管 ， 建立完善的安全、伦理和合规体系 ，确保 智 能体技术在合规框架内健康发展。要注 重人 才培养和引进 ，提升人才储备。 ID CCID CCID CC ID CCID CCID CC 依托标准推进典型应用推广，