出版单位 / 组织名称： 发布日期： 医疗健康大模型 伦理与安全白皮 书 上海交通大学 复旦大学 上海交通大学医学院附属瑞金医院 蚂蚁集团 2025 年 7 月 18 日 Ab 医疗健康大模型伦理与安全白皮书 健 天津医科大学 王 玥 西安交通大学俞 凯 上海交通大学 张新庆 北 京协和医学院张海洪 北 京大学医学部 张洳源 上 海交通大学 医疗健康大模型伦理与安全白皮书 全 面 剖 析 医 疗 健 康 大 模 型 应 用 的 各 方 面 情 况 ， 包 括 技 术 分 析 、 伦理法律评测、模型评测及提升措施等， 为其安全、有效、合规应用提供指导， 促进医疗行业智能化发展， 保障患者权益与医疗质量 。《 医疗健康大模型应用 伦理与安全白皮书 》 围绕医疗健康大模型展开多方面探 讨， 对推动其在医疗 领域的合理应用意义重大。 本白皮书主要内容主要包含

工智能 知识、应用伦理原则和支持其职业发展的策略。 教学方法，以及专业学习中的AI应用。这些能力被划分为三个进 阶层次：获取、深化和创造。 The AI能力框架针对这一缺口，通过定义教师在AI时 代必须掌握的知识、技能和价值观来解决这一问题。 该框架基于保护教师权益、增强人类自主性和推动可 持续性的原则进行开发，并详细列出了五个维度下的 15项能力：以人为中心的心态、AI伦理、AI基础与应 用。 深远的影 响，特别是在教师的角色以及他们所需的能力方面。教育中使 用AI引发了关于教师自主权和其判断如何及何时恰当地使用这 项技术的能力的基本问题。 教师迫切需要被赋能以更好地理解人工智能的技术、伦理和 教育学维度。然而，截至2022年，仅有七个国家制定了针对 教师的人工智能能力框架或专业发展计划。 该出版物以教科文组织以前在该领域的工作为基础 ， 如 教师、人工智能和教育的信 通技术能力框架 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 23 3.2. 2 方面 2 ： 人工智能的伦理 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

为防范核风险而创造的超级监控系统 ，是否可能成为新形态的技术霸权？ u 当 AI 替代人类判断 ， 监管者会否沦为算法的 “执行器官”？ 工具理性与价值理性的永恒张力 n 汉斯 · 约纳斯的责任伦理 • AI 的 “概率思维”与责任伦理的 “绝对命令”存在根本冲突。 当算法计算出 “可 接受风险”（如 0.01% 的泄漏概率） ， 人类是否有权为后代做此选择？ • 认知偏差的安全幻觉。 当 AI 能预测 99 （ RegTech ） 应用 - 建立 AI 监管案例库 - 与 NRC 、 ONR 合作制 定 AI 监管原则 - 发布《核领域 AI 伦理指 南》（ 2024 年） - 数据格式不兼容 - 伦理框架全球化挑 战 美国 - 《在核应用中开发人工智能系统 的考虑因素》（ 2024 年 9 月， NRC 联合英加发布） - 《先进核能法案》（ 非能动安全系统设计 - 采用 “风险分级 ” 监管模式 ，要求第 三方评估 AI 安全 案例 - 主导欧盟 AI 伦理 框架 - 与中国合作 AP1000 、 EPR 监管 经验交流 - 平衡技术创 新与伦理争议 - 推动欧盟统 一监管标准 韩国 - 《第四次工业革命战略》 （ 2018 年） - 《核电站专用

.......... 22 1.5 《医疗电子交换法案(HIPAA)》 ............................... 31 2. 如何应对生成式人工智能的幻觉对数据隐私、安全和伦理的影响 ...... 36 2.1 国土安全部政策声明139-07对生成式人工智能的影响 ............ 37 2.2 联邦贸易委员会政策宣传与研究指导: .............. ©2025 云安全联盟大中华区版权所有 7 4.2 安全与隐私 ................................................ 61 4.3 鲁棒性、可控性和合乎伦理的人工智能实践 .................... 62 4.4 组织如何利用这些标准 ...................................... 63 4.5 负责任的生成式人工智能的技术保障（数据管理） .............. 66 5. 持续监测与合规 ................................................ 68 6. 管理生成式人工智能的法律与伦理考量 ............................ 69 7. 结论：填补人工智能治理空白，实现负责任的未来 .................. 69 ©2025 云安全联盟大中华区版权所有

、社会服 务与国际合作”四大导向，明确高等教育数智化转型的发展方向和战略目标。 报告从技术、社会与教育三个维度深入审视机遇与挑战：在技术层面，算力、数据与算法的突破孕育创新红利， 但面临安全、伦理、偏差与治理等现实约束；在社会层面，发展契机与潜在风险并存；在教育层面，知识去中 心化、学习个性化的进程中，需要同步重塑价值导向与能力结构。基于深入分析，报告提出推动高等教育走向 智能、高效、开 力＋教育能力”的 能力谱系；在要素分析上，形成“五要素”框架：算力作为构建基石与场景适配关键，数据作为必备燃料与领 域属性特征，算法作为核心引擎与风险应对策略，开发工具作为全栈式工具矩阵，安全、伦理和隐私保护作为 有效保障。在技术路线上，构建“参考架构—智能体应用—标准体系”的完整技术路径，以“性能—成本—应用” 协同优化为抓手，支撑模型从训练、推理、部署、协同到应用增强的全链路落地。 具体路径，总结了九个重构方向：提供精 准适需的教育内容、实现个性灵活的教学方式、支持沉浸互动的学习体验、重塑教育主体的角色与能力、助力 数据驱动的教育评价、推动智能高效的教育治理、构建安全可信的伦理治理体系、配置优质均衡的教育资源、 强化智能协同的科研创新。据此提出“统筹规划、分步建设、优选场景、协同发展”的教育大模型建设原则， 阐明基于通用大模型研发教育大模型的具体实践，倡导通过算力、数据、算法协同优化的工程创新来实现教育

66 5.1.2 模型训练与优化.........................................................................68 5.2 法律与伦理可行性..............................................................................70 5.2.1 数据隐私保护.. 市场趋势分析....................................................................................142 9.3 伦理与社会影响展望........................................................................144 10. 结论......... 教育的工具，通 过模拟真实的临床场景帮助医学生和年轻医生提高实战能力。 尽管生成式大模型在医疗领域的应用前景广阔，但也面临诸多 挑战，包括数据隐私、安全性和伦理问题等。对此行业需要在探索 和应用生成式大模型的同时，建立相应的伦理规范和法律框架，以 确保患者的信息安全和隐私保护。 总体来看，生成式大模型在医疗场景的应用具有很高的可行 性。随着技术的不断进步和相应政策法规的完善，未来的医疗服务

AI不仅创造了新岗位，更对几乎所有ICT岗位进行了深刻变革。在安全领域，岗位职能正从人工监 控转向统筹AI驱动的威胁检测与自动化响应；数据领域工程师的工作重心从数据处理转向管理AI 驱动的分析流程，并确保伦理治理合规；软件工程师则专注于整合AI能力、管理AI辅助编码工 具。这种全方位的AI融合要求从业者掌握新型复合技能⸺既要具备专业技术能力，又需通晓AI知 识，还要具备管理人机协作的能力。此外，各领 域技术人员还应密切关注开源生态在AI时代带来 的新机遇。 IDC认为，组织应通过主动应对技能缺口、革新学习战略并培育“持续适应文化”的组织来释放AI 的潜力，将技术专长与创造力、同理心、伦理判断力等以人为本的技能相结合，以此应对智能时 代的复杂性。如今，企业、教育机构与政府等各方应协同努力，共同培养能够适应未来变化、把 握AI时代发展机遇的ICT技术人才，为构建可持续发展的人才生态提供系统性支撑。 动力规模。近四分之三（73%）的全球受访者预计，岗位中的AI应用将催生对额外员工的需求， 其中29%的受访者预计员工数量将“显著”增加。这一现象源于多个因素： ·新型岗位需求出现：例如AI训练工程师、提示词工程师、模型审核员和伦理监督人员等； ·在人机协同的混合工作环境中，需要员工负责智能系统的集成、治理与协作工作； ·AI推动运营与客户服务规模扩大，这通常会产生新的流程管理及监督需求。 这些调查结果证实，AI正从根本上重新定义

环境科学 3. 生态科学 第七章 工程科学 1. 通信 2. 遥感 3. 微电子 4. 空间信息 第八章 人文社会科学 1. 社会科学 2. 人文科学 3. AI 伦理治理 第九章 展望与政策 1. 未来挑战与研究方向 2. 政策框架 目录 3 4 5 12 13 14 15 18 18 19 20 21 24 25 26 保障具身智能的可靠性。重点研究风险感 知与价值对齐技术，使智能体的行为符合 伦理规范和社会价值观。针对医疗、通信、 娱乐等领域的应用，需加强安全防护机制， 防范数据隐私泄露、恶意操控和未经授权 访问等风险。同时，法律与伦理层面需要 完善法规框架，以应对数据所有权、责任 追究等问题，防止技术滥用带来的伦理困 境。 2.3.6 具身智能评估 当前的具身智能评估体系尚不完善， 缺乏统一基准，难以全面衡量智能体的控 2.3.4 伦理与隐私风险 训练涉及患者影像 / 基因等敏感数据， 存在隐私泄露风险。需明确 AI 误诊责任， 解决资源匮乏地区技术公平性，避免加剧医 疗不平等 4。临床部署需平衡知情同意、医 生培训与系统公平性。 突破路径：采用联邦学习 4+ 差分隐私 + 同态加密构建保护体系。制定全球 AI 医学 伦理准则，优先选择符合 HIPAA 法案的本 地化部署 14，通过伦理培训增强信任。

个人开发者通过 DeepSeekAPI，3 天开发出月入 10 万的智能客服系统 ⚫ 分布式经济： 非洲初创团队基于开源模型开发农业咨询 AI，成本仅为 GPT-4 方案的 1/20 4.伦理与挑战 在享受技术红利的同时需警惕风险： ①数字鸿沟 ⚫ 技术垄断：掌握提示词工程的人群收入差距扩大 3 倍 ⚫ 解决方案：政府推出“全民 AI 素养提升计划”，覆盖 5000 原生经济”，重构传统产业逻辑： 底层逻辑转变：企业核心竞争力从资源占有转向智能连接密度——即与 AI 系统协同的 深度与广度 3.文明挑战：智能时代的生存法则 在享受技术红利的同时，人类正面临前所未有的伦理与技术挑战： ①认知危机 ⚫ 思维退化：调查显示重度 AI 依赖者抽象推理能力下降 27% ⚫ 创新悖论：AI 辅助的专利申请量激增，但颠覆性创新占比下降 15% ⚫ 解决方案：推行“人机分工认证”，强制保留 时代保持竞争优势，需掌握三大核心能力： ①元认知能力 ⚫ 批判性思维：能识别 AI 建议中的逻辑漏洞（如发现商业方案中的“合成数据偏 差”） ⚫ 价值判断：在 AI 提供的 100 种方案中选择最符合伦理的路径 ②智能协作力 ⚫ 混合智能：医生结合 AI 诊断与临床经验，使误诊率降低至 0.8% ⚫ 跨域整合：将 AI 工具与行业经验结合，如老匠人用 DeepSeek 设计非遗数字化方

原则与关键指标，探讨了典型评测方法与平台实践。尽管初步标准框架已形 成，但在多模态交互、群体智能等方面仍缺乏系统标准，评测工具亦亟待升级。 未来应完善分领域标准、建设权威评测平台、加快国际接轨，并同步推进伦理法 律规范，推动具身智能生态规范发展。 Abstract： Embodied intelligence，as a new paradigm integrating artificial intelligence Bench），涵盖五大类真实场景测试场；在产业生 态层面，人形机器人创新中心建成“麒麟”训练场，实 现“数据—模型—训练”的闭环迭代。但当前具身智 能发展仍面临硬件“非标化” “高成本”的高门槛、多模 态融合算法效率仍偏低、伦理责任界定模糊等挑战。 本文通过解析具身智能“技术演进—标准构建—评测 验证”协同发展机制，结合产业研报最新研究，以期与 产业专家共同探索解决具身智能标准化研究与评测 方法。 1 国内外标准化研究现状分析 当前具身智能领域存在标准规范缺失、软硬件平台碎 片化等问题，亟需构建统一的标准体系以引领产业健 康发展 ［8］。该报告强调缺乏统一的操作系统和标准化 开发工具链、硬件耐用性和能效有待提升、技术评测 和安全伦理标准空白等因素，制约了具身智能的规模 化应用。 在国家层面， 《国家人工智能产业综合标准化体 系建设指南（2024 版）》将具身智能列为人工智能关键 技术标准体系的重要组成部分 ［9］。该指南提出制定多