出版单位 / 组织名称： 发布日期： 医疗健康大模型 伦理与安全白皮 书 上海交通大学 复旦大学 上海交通大学医学院附属瑞金医院 蚂蚁集团 2025 年 7 月 18 日 Ab 医疗健康大模型伦理与安全白皮书 健 天津医科大学 王 玥 西安交通大学俞 凯 上海交通大学 张新庆 北 京协和医学院张海洪 北 京大学医学部 张洳源 上 海交通大学 医疗健康大模型伦理与安全白皮书 全 面 剖 析 医 疗 健 康 大 模 型 应 用 的 各 方 面 情 况 ， 包 括 技 术 分 析 、 伦理法律评测、模型评测及提升措施等， 为其安全、有效、合规应用提供指导， 促进医疗行业智能化发展， 保障患者权益与医疗质量 。《 医疗健康大模型应用 伦理与安全白皮书 》 围绕医疗健康大模型展开多方面探 讨， 对推动其在医疗 领域的合理应用意义重大。 本白皮书主要内容主要包含

AI不仅创造了新岗位，更对几乎所有ICT岗位进行了深刻变革。在安全领域，岗位职能正从人工监 控转向统筹AI驱动的威胁检测与自动化响应；数据领域工程师的工作重心从数据处理转向管理AI 驱动的分析流程，并确保伦理治理合规；软件工程师则专注于整合AI能力、管理AI辅助编码工 具。这种全方位的AI融合要求从业者掌握新型复合技能⸺既要具备专业技术能力，又需通晓AI知 识，还要具备管理人机协作的能力。此外，各领 域技术人员还应密切关注开源生态在AI时代带来 的新机遇。 IDC认为，组织应通过主动应对技能缺口、革新学习战略并培育“持续适应文化”的组织来释放AI 的潜力，将技术专长与创造力、同理心、伦理判断力等以人为本的技能相结合，以此应对智能时 代的复杂性。如今，企业、教育机构与政府等各方应协同努力，共同培养能够适应未来变化、把 握AI时代发展机遇的ICT技术人才，为构建可持续发展的人才生态提供系统性支撑。 动力规模。近四分之三（73%）的全球受访者预计，岗位中的AI应用将催生对额外员工的需求， 其中29%的受访者预计员工数量将“显著”增加。这一现象源于多个因素： ·新型岗位需求出现：例如AI训练工程师、提示词工程师、模型审核员和伦理监督人员等； ·在人机协同的混合工作环境中，需要员工负责智能系统的集成、治理与协作工作； ·AI推动运营与客户服务规模扩大，这通常会产生新的流程管理及监督需求。 这些调查结果证实，AI正从根本上重新定义

环境科学 3. 生态科学 第七章 工程科学 1. 通信 2. 遥感 3. 微电子 4. 空间信息 第八章 人文社会科学 1. 社会科学 2. 人文科学 3. AI 伦理治理 第九章 展望与政策 1. 未来挑战与研究方向 2. 政策框架 目录 3 4 5 12 13 14 15 18 18 19 20 21 24 25 26 保障具身智能的可靠性。重点研究风险感 知与价值对齐技术，使智能体的行为符合 伦理规范和社会价值观。针对医疗、通信、 娱乐等领域的应用，需加强安全防护机制， 防范数据隐私泄露、恶意操控和未经授权 访问等风险。同时，法律与伦理层面需要 完善法规框架，以应对数据所有权、责任 追究等问题，防止技术滥用带来的伦理困 境。 2.3.6 具身智能评估 当前的具身智能评估体系尚不完善， 缺乏统一基准，难以全面衡量智能体的控 2.3.4 伦理与隐私风险 训练涉及患者影像 / 基因等敏感数据， 存在隐私泄露风险。需明确 AI 误诊责任， 解决资源匮乏地区技术公平性，避免加剧医 疗不平等 4。临床部署需平衡知情同意、医 生培训与系统公平性。 突破路径：采用联邦学习 4+ 差分隐私 + 同态加密构建保护体系。制定全球 AI 医学 伦理准则，优先选择符合 HIPAA 法案的本 地化部署 14，通过伦理培训增强信任。

复杂人际互动：如员工关系调解、领导力培养、团队建设等需投入人类情感、高水平沟通能力的场景； 创新与设计：如设计新的员工激励方案、组织变革策略等，需要人类的创造力和洞察力； 伦理与道德判断：涉及员工隐私、公平性等伦理问题，需要人类的道德判断和社会责任感，等等。 总结而言，我们认为，优秀的员工与管理者将凭借其出色的决策能力、判断能力以及 AI 应用能力始终驾驭 AI。 非标准工作决策 将依然以“人”为本 不仅需要提高筛选效率，还需要确保候选人与企业文化的匹配度。 组织能力的升级：HR 团队需要从传统的执行者转变为数据驱动型决策者，具备技术理解力和业务洞察力。 同时，企业需要建立跨部门协作机制，确保 AI 应用的价值最大化。 伦理与透明的平衡：在追求有效性的同时，AI 应用需要关注数据隐私、算法公平性和员工信任度，避免技术 滥用带来的负面影响。 AI 袭卷之下，AI-HR 的未来将以技术与管理并重的双轮驱动模式，持续提升有效性，从而助力企业实现人力资 15%。 团队协作方式层面，将打破职能壁垒，构建“人类 +AI”混合团队。此外，HR 还需推动跨职能虚拟团队的常 态化运作。例如，某医疗集团在 AI 辅助诊断系统中，组建了由医生、数据科学家、伦理专家组成的“三角小组”， 既确保技术合规性，又加速了临床场景的落地应用。 其次是文化转型，从“技术恐惧”到“智能共生” 。员工对 AI 的抵触往往源于认知偏差。HR 需通过“认知 - 体验 -

MaaS）帮助客户解决“使用中”的数据保护问题， 打造 AI 隐私保护信任新范式。 2.2 负责任的 AI：安全、合规、向善、透明 在负责任的 AI 发展框架下，通义大模型紧密围绕 “合规遵循、安全可靠、伦理向善、 可解释可溯源” 四大核心，结合国内法规要求与国际主流 AI 治理倡议，构建覆盖大 模型全生命周期的服务治理体系，推动AI技术朝着更加可信、可控、可持续的方向发展。 ● 合规遵循：严格遵 术手段构建围栏防护，防止模型被滥用或生成违法不良信息。 ● 安全可靠：全面落实国标要求，执行体系化安全评测；依托红蓝对抗持续提升模 型鲁棒性，确保模型在面对恶意攻击时大模型能够保持正常运行并输出可靠结果。 ● 伦理向善：通过安全训练实现价值观对齐，并在生成内容中主动开展正向引导， 在开放可控的环境中助力生产力提升与价值创造。 ● 可解释可溯源：采用 Thinking 模式增强推理过程透明化，提升模型可解释性，同 安全能力建设。在此基础上，深入开展算法机制机理审核、科技伦理审查等算法安全 实践，为大模型技术的高质量发展提供坚实保障。 51 50 ALIBABA CLOUD MODEL STUDIO SECURITY WHITE PAPER 安全 可信的 MaaS 阿里云百炼 安全白皮书 SECURE & TRUSTWORTHY MaaS 3.1.1 算法安全设计 通过构建“算法机制机理审核 + 科技伦理审查”双轮驱动体系，确保算法安全设计内

育理念、教育方法需要同步革新。 18 图1-10 AI时代的教育理念、教育方法需要同步革新 此外，随着机器智能在某些领域逐渐超越人类智能，我们也需要重新思考机器与人 类在知识创新和社会发展中的角色与定位。这涉及伦理、法律和社会责任等多个层 面的问题，需要我们共同探索和解决。 AI技术对“知”与“识”产生了深远影响。它不仅改变了我们获取、整合和应用知 识的方式与效率，也促使我们对知识的本质和价值进行新的思考和认识。在未来的 时还需要提升人机协作能力，厘清人与机器的能力边界，并善于与机器合作，从而 大幅提升工作效率与质量。 最后，道德素养与社会责任感的培养不容忽视。在使用AI技术时，学生应树立正 确的道德观念，明确技术使用的界限，防止技术滥用和伦理冲突。 在培养学生的过程中，理论与实践相结合在AI时代显得尤为重要，学校应该提供多 元化的学习环境，让学生在实践中学习，在学习中实践。例如，通过项目式学习， 学生可以在实际操作中培养解决问题的能力，同时加深对知识的理解。 更远。 2.1.6 厘清技术使用的责任与界限 在高度依赖技术的社会中，道德和伦理问题愈发凸显。学生需要明确技术使用的道 德和伦理界限，承担起应有的社会责任，这包括对隐私的尊重、对技术的合理利用 以及对潜在风险的防范等。 AI技术是一把双刃剑，既能带来便利，也可能带来风险。因此，培养人才在AI应用 中的道德和伦理意识至关重要。我们必须帮助新一代人才明确技术使用的道德底 线，使他们理解技术不应侵犯隐私、伤害他人或违背社会公序良俗。

识别，以及运用Transformer模型预测市场情绪。 ◼ 边缘计算：结合边缘计算在分支机构部署轻量级模型，实现本地数据的实时分析，减少对云端 的依赖。 数据隐私与安全 模型漂移与鲁棒性 伦理与偏见 ◼ 数据隐私与安全：金融行业涉及大量敏感数据，包括客户的个人信息、交易记录、信用历史等。 随着《通用数据保护条例》等隐私保护法规的出台，金融机构在使用AI技术时必须严格遵守相 关规定，确保数据的合法收集、处理和保护。 模型漂移与鲁棒性：传统AI模型往往基于历史数据进行训练，当市场发生突变时，模型性能可 能会显著下降，即出现模型漂移现象。同时金融决策往往涉及高风险和高价值，因此AI模型需 具备高度的鲁棒性，以应对各种不确定性和异常情况。 ◼ 伦理与偏见：AI模型依赖历史数据训练，若数据存偏见（如性别、种族），模型可能延续并放 大偏见，导致金融决策不公平，如信贷、保险等领域对特定群体歧视。 21 www.leadleo.com 400-072-5588 400-072-5588 中国：人工智能系列 白皮书｜2025/05 零售行业ABI应用探析 ABI在零售行业的价值包括效率的提升与数据驱动，塑造出“人、货、场” 的应用关系。未来，ABI将不断向实时化、自动化、伦理化方向演进，逐 步成为零售企业不可或缺的核心基础设施 ABI典型行业应用——零售行业 来源：头豹研究院 精准营销与客户分群 供应链与库存优化 门店运营效率提升 ◼ 精准营销与客户分群：（1）

发展政策和建立安全监管制度等治理体系，强调了发 展与治理并重的理念；2024年12月的相关会议和2025 年3月的政府工作报告均提出要推进“人工智能+”行 动，明确了AI发展的目标和路径。 法律法规围绕伦理规范、数据安全、行业特殊监管等 方面逐渐优化监管及治理环境，旨在打造健康安全发 展的AI生态。比如，2025年3月14日颁发的《人工智 能生成合成内容标识办法》，明确了人工智能生成合 成内容 到的标识。2023年7月，国家网信办等七部门新公布 的《生成式人工智能服务管理暂行办法》，针对AI大 模型，对内容的安全性、准确性和可靠性提出明确要 求；同年9月，科技部等部门发布《科技伦理审查办法 （试行）》，针对科技活动中的科技伦理审查主体、 审查程序、监督管理等方面进行了规范；2024年6月， 国家药监局发布的《药品监管人工智能典型应用场景 清单》，明确了AI技术在药品监管领域的应用边界。 区域性AI治理环境 面优化支撑体系，推动构建高质量数据集和自主可控 的算力生态。 风险防控将进一步收紧，细分领域的监管将持续深化。 随着AI应用的进一步落地，政府可能会通过建立“分 类分级、动态响应”的精准监管体系，加强对伦理规 范、数据隐私安全、内容安全等领域的监管，以防范 技术滥用带来的社会风险。 © 2025 毕马威华振会计师事务所(特殊普通合伙) — 中国合伙制会计师事务所，毕马威企业咨询 (中国) 有限公司

应用智能化的实施路径 5.2 应用智能化的关键考量点 5.2.1 战略与业务价值对齐 5.2.2 用户体验重构 5.2.3 组织流程适配 5.2.4 渐进式演进策略 5.2.5 法律法规与伦理合规 6 应用智能化最佳实践案例 6.1 华为流程 IT 智能化应用升级 6.2 某智慧家庭解决方案提供商提升运维管理效率，实现资源优化 6.3 社区平台基于华为云打造训推一体化平台 6.4 端到端责任机制，以促进团队协作和沟通。通过开展 Prompt 工程、AI 运维、MLOps/DataOps 等专项培训，帮助相关 技术团队掌握相关技能，提升团队在 AI 开发、模型运维与数据治理等领域的技术储备。同时，建立 AI 伦理审查机制， 将安全合规纳入开发流程，如在金融行业对风控模型进行审计，确保技术应用符合社会价值观及相关法规要求。 » 5.2.4 渐进式演进策略 应采用“分步导入”原则，优先改造高价值、低风 具备自我进化能 力，能够适应快速变化的业务需求，并支撑 3–5 年的技术迭代周期，从而降低长期运维成本。 » 5.2.5 法律法规与伦理合规 企业应确保应用符合《数据安全法》《生成式 AI 服务管理暂行办法》、等相关法律法规，并考虑设立 AI 伦理审 查委员会，制定详细合规检查清单。通过部署模型监控工具（如幻觉检测、偏见消除），规避数据滥用与算法歧视等 法律风险。应设计透明可控的 AI

糊了传统法律关系的边界，引发发展与规制方面的讨论。司法裁 判需要为新模式下的风险承担与权益保障提供指引。其四，产业 发展本身蕴含着多重价值的平衡诉求。司法裁判需要在鼓励数据 流通与保障数据安全、激励技术创新与防范伦理风险、促进人才 流动与保护核心技术资产等多重价值间进行权衡，以实现个案正 义与产业发展的良性互动。 为系统性研究上述问题，调研组从数据、算法和主体等 3 维 度建构分析路径，将智能制造引发的法律现象解构为 合议庭，专门应对算法侵权、模型训练、智能决策等前沿法律纠 纷，实现从“数据要素”审判到“产业智能”审判的跨越。二是构建 外部智力支持体系。创建专家智库，广泛吸纳智能制造、数据科 学、人工智能伦理等领域的顶尖专家，为复杂技术类案件的审理 提供常态化、体系化的咨询意见与前瞻指引，有效破解技术事实 “认定难”的瓶颈。建立健全“技术调查官+专家辅助人+司法鉴定+ 行业专家咨询”的四位一体多元化技术事实查明体系，确保作出