型的 性能和可靠性。同时，确保数据的合规性和隐私保护至关重要，需要遵守相关法规和 伦理准则，保护患者和研究对象的权益。 医疗大模型的 伦理风险与安全监管 （一）医疗大模型应用的伦理隐忧 尽管大模型在医疗领域的应用展现出极大的发展潜力，但飞速发展的同时也可能涉及 数据隐私、信息安全、医疗决策的责任等伦理和法律问题，这些也正是在临床一线工 作的医务工作者所关心的问题。 在数据隐私和安全 属。确定医生、AI系统或开发者承担责任是复杂的法律和伦理问题。如患者因AI错误 决策受害，责任归属需慎重考虑。北京市卫健委发布《北京市互联网诊疗监管实施办 法（试行）》，禁止使用AI自动生成处方，规范互联网诊疗活动，降低AI技术潜在风 险。 许多一线医生对AI在医学领域，特别是临床诊断和治疗中的应用持谨慎态度。尽管AI 具有辅助诊断和治疗潜力，医生仍需保持批判性思维，不能完全依赖这些工具。医疗 大模型引发的伦理和法律问题需要跨学 靠和合规使用。这些问题涉及患者隐私、权益，以及医疗从业者责任和医疗质量提 升。 （二）医疗大模型中数据的隐私和安全性保障 医疗大模型的应用与发展也带来了对数据隐私保护和数据安全性的重要关切，面临着 伦理、法律和安全挑战。大模型无论在训练还是在使用的过程中，都需要保障隐私和 数据安全，本地化部署、数据加密、增强数据多样性等都是保障隐私和数据安全性的 重要措施。 在本地化部署与隐私计算方面，医疗大模型微调过程需用大量患者敏感隐私数据，直

实践给教师数字素养提出的新诉求，对教师数字素养要求及其发展策略进行系统 分析，并着重就发展策略所涉及到的教师培养培训、评价与治理等方面展开论述， 分析人工智能对这些场景的赋能作用；最后，通过对伦理安全要求和智能时代教 师发展核心关切的探讨，以激发人们对人工智能赋能教师发展的进一步思考。此 2025 智能教育发展蓝皮书 外，报告对全国各地、各级各类学校最新人工智能赋能教师发展的实践案例作了 章 人工智能赋能教师研究转型 14 第 4 章 教师数字素养与发展策略 21 第 5 章 人工智能赋能教师培养培训 28 第 6 章 人工智能赋能教师评价与治理 36 第 7 章 教师人工智能伦理安全要求及实践 44 2025 智能教育发展蓝皮书 II 第 8 章 智能时代教师发展的核心关切 49 蓝皮书编写工作组 52 1 第 1 章 强国必先强教，强教必先强师，高素质专业化教师队伍是教育强国建设的重 在教育教学中应用 AI 需要坚持智能向善，重视教师伦理安全规范与学生伦 理价值引导，保障合规高效、安全有序使用 AI。 加强教师应用 AI 的伦理安全规范。持续推进教师 AI 应用伦理安全教育，建 立完善审查、监管、问责等规范体系，推动教师深刻理解 AI 应用的潜在风险和 伦理安全主体责任，严格遵守数据隐私与安全相关法规，恪守 AI 应用伦理边界， 对 AI 输出结果保持批判性审视，避免 AI

Domain-Specific LLMs),形成模型资源池。 4. 2 一套规范体系(安全+伦理+标准) 安全与隐私规范:制定大模型应用在内容安全、系 统安全、数据泄露防护等方面的安全要求和数据脱敏、 匿名化、用户授权机制等方面的隐私保护标准。 伦理与责任指南 [15]:明确大模型应用的伦理边界 (如避免偏见歧视、保障人类主体性、防止滥用),建立 内容审核、责任追溯机制。 技术与应用标准:制定模型接口、数据格式、性能 势产业利用大模型提质增效降本,培育新业态新模式; 应探索大模型在科学发现、艺术创作等前沿领域的应 用;应关注“大模型+政务服务” “大模型+智慧医疗” “大模型+工业研发” 等具有广阔前景的融合方向;对 于涉及重大伦理风险的场景(如司法、自动驾驶决策) 需审慎推进,建立严格的监管和评估机制。 ·94· �N����7� �����0 ��� 6. 3 构建安全可信的治理体系 大模型赋能智慧城市的发展与安全应并重 完善监管机制:明确监管主体和职责分工;探索适 应大模型特点的新型监管模式,如“ 监管沙盒”、敏捷 治理;建立覆盖模型研发、部署、应用全流程的动态监 管机制;加强跨境数据流动和模型输出的安全管理。 推动伦理与规范建设:积极参与国内外大模型伦 理规则制定;推广负责任的人工智能实践,倡导科技向 善;建立畅通的公众反馈和争议解决渠道。 7 结束语 大模型作为引领未来的战略性技术,其赋能智慧 城市建设的广度和深度将持续拓展。

麦迪安网路安全公司：AI辅助网路威胁归因 13 印度星展行动银行：用客户科学优化客户服务 14 直觉软体公司：AI辅助写作，人负责提供规则 15 Lilt：电脑辅助翻译，使专业翻译者产能提升160％ 16 赛富时：伦理AI实践的架构师 17 Miiskin：AI辅助皮肤成像，医师更能专注于复杂案例 18 好医生科技：实现家家户户都有好医生 19 奥斯勒工作：法律服务的转型现场 20 太平洋轴承公司：用于员工训练的AI虚拟现实 辑方式，处理要求很高或不常见的语言翻译。 语言处理AI系统，可以透过结合大型公开资料集、产业特定公司资料， 以及使用者的特定资料，改善个人使用者或公司选择如何翻译单字和片语。 104 16 赛富时 伦理AI实践的架构师 2016年10月，赛富时创办人兼执行长马克．贝尼奥夫（Marc Benioff）告知 内部员工、客户和投资人，赛富时将成为一家AI公司。那一年稍早前，微软透过X （前身为Tw 她已经 在公司里「兼职」当AI伦理学家，负责教育同事和AI相关的伦理议题，并指导产 品工程团队如何做好他们的工作。 2018年4月，她在一次研究会议见到赛富时前科学长理查．索赫尔（Richard Socher），并和他谈到自己和公司的爱因斯坦团队（赛富时在其产品里的AI品 牌），进行的伦理AI工作。索赫尔喜欢巴克斯特的投入，并问她是否考虑过全职 从事伦理工作。她没有想过这样做，所以索赫尔建议她考虑一下。于是，巴克斯

它不仅是传统教室的硬件升级，更是实现大规模因材 施教、培育学生高阶思维与创新能力的基础环境。其 价值在于无缝对接“集成化、智能化、国际化”的战 略方向，将优质资源精准送达每个角落，助力缩小教 育差距。 面对技术适配、伦理安全与常态化应用等挑战，产业 界应推动AI装备从工具属性升级为教育变革的赋能者。 我们亟需共建安全、开放、创新的产业生态，让智能 技术真正服务于立德树人的根本任务，为构建人人皆 学、处处能学、时时可学的学习型社会奠定坚实基础， “1+N+N”AI技术架构，将自研的希沃教学大模型 2.0融合高质量教育语料与通用模型，打造覆盖备课、 授课、评价全流程的AI教学空间。我们倡导携手生态 伙伴打破资源边界，缩小数字鸿沟。同时高度重视AI 伦理与安全，始终让技术服务于人，助力教师成为课 堂的首席引导者。 在教育全球化的浪潮中，我们亦积极推动国际交流与 合作，将中国智慧教育方案带入全球视野，助力教育 现代化迈出中国步伐。希沃愿与各方携手，以技术革 支撑教师精准教学与因材施教。数据安全是智能教育 的底线。通过云-边-端协同体系，学校可建立校本知识 库，实现数据可控、可管、可用。 具体措施包括边缘计算与本地部署确保核心数据不出 校，通过分级、脱敏和权限控制防泄露；建立AI伦理 审查，持续监控算法偏见与隐私，用数据提升效率。 未来教室将突破物理限制，成为无处不在的智能学习 环境。从学校到家庭、线上线下，所有场景均可被感 知记录并反馈教学，打破时空限制，实现个性化与数

........................................................................................183 9. 合规与伦理................................................................................................... ..........................................................................................191 9.2 伦理问题探讨............................................................................................... 力测试，确保在 99.97%置信区间内有效。每日收盘后生成极端情景应对评估报 告，重点分析熔断触发次数、滑点控制效果和策略中断恢复时间等 关键指标。 9. 合规与伦理 在 AI 量化交易系统的设计与实施过程中，合规与伦理是确保 系统长期稳定运行的核心支柱。首先，必须严格遵守各国金融监管 框架，例如美国的 SEC 法规、欧盟的 MiFID II 以及中国的《证券 法》和《算法交易管理办法》。系统需内置动态合规检查模块，实

. . . . . . . . 2 2. 新阶段：AI 与数据要素融合重塑发展路径 . . . . . . . . . . . . . . . 2 3. 新挑战：技术赋能带来安全伦理双重考验 . . . . . . . . . . . . . . . 3 ( 二 ) 数字政府评估意义 . . . . . . . . . . . . . . . . . . . . . 新挑战：技术赋能带来安全与伦理双重考验 当下，人工智能技术虽为数字政府建设注入强大动力，但安全风 险与伦理挑战亦愈发显著。在安全领域，数据泄露隐患颇为突出。人 工智能应用依赖海量政务数据，一旦遭受黑客攻击或出现管理失误， 极有可能致使公民隐私和政务敏感数据泄露，进而损害公众权益并对 政府公信力造成影响；系统漏洞若被恶意利用，还会对公共服务体系 的稳定运行构成威胁。在伦理层面，算法偏见问题亟待高度关注。部 台则缺乏先进算法支撑与智能决策引擎，无法提供精准高效的智能分 析与决策支持，难以满足政务场景对深度智能化的需求。二是数智底 座安全保障体系面临应用不足与技术冲击的双重挑战，面对生成式人 工智能等新技术带来的数据安全和伦理道德问题，数字政府整体安全 体系建设在安全技术提升，安全制度落实、工作人员安全素养、安全 应急能力等方面需要加强。 3. 统筹架构逐步成型，碎片管理有待弥合 统筹管理是推动数字政府高质量建设的关键支柱之一，各地政府

型在遇到算法攻击挑战、数据泄露及 数据投毒等数据安全场景时，产生的内容给用户带来的风险不可小觑。医疗领域与广 大群众的生命安全息息相关，如果出现上述安全问题，那将带来不可挽回的结果。 4.3 伦理与法律层面 近年来，各行业、机构、政府持续完善人工智能产业的规范和治理，但对于大模 型这一新领域来说，在行业规范和法律约束层面还较为欠缺，因此可能会加剧医疗领 域的不平等性。大模型需要大量的医 敏 感信息，如病历、遗传信息等，如果这些数据泄露或被滥用，将对患者的隐私造成严 重威胁。另外，如果大模型在医学诊断或治疗中出现错误或误导，可能会对患者造成 伤害或延误治疗，这将涉及到法律责任和伦理责任的界定。大模型生成的内容也可能 涉及到医疗技术的专利和知识产权问题。如果未经授权使用他人的技术，可能会导致 侵权 jiufen。 5 人工智能大模型在医疗领域应用发展建议 5.1 推动人工智能大模型核心技术发展

 科技企业：成都捌三肆一、灵信科技、历正科技等 风险分析  技术标准风险：技术标准不完善，不同厂商的系统之间难以互联互通  法律合规风险：涉及隐私保护、电磁辐射、误伤风险等多个法律和伦理问题  误判风险：在识别和处置目标时，可能出现误判和漏判的情况 四、国内低空经济产业园比较案例分析 9 4.1 深圳低空经济产业园：创新引领与政策先行 深圳作为中国改革开放的前沿阵地，在低空经济领域也走在了全国前列。深

路径：日本为强化教师数字素养培育，构建了一套全面且系统的支持 体系，涵盖评价、培训与激励等多个层面。2023 年发布的《教师 ICT 应用指导力评价列表》构建了包含技术操作、教学设计、数据应用、 伦理指导四大维度的 18 项指标体系。 （二）国内政策分析 我国教育行业发展历史悠久，教育信息化和数字化为算力赋能教 育打下了坚实的基础。整体来看，教育信息化经历了 4 个重要时期， 分别为萌芽期（1976-1999 效率强化或框架内的优化升级，面向未来社会发展需求、个性化学习 与终身教育理念，仍需构建颠覆性的高等教育新生态。在知识生产领 域，伦理隐患不容忽视。随着新一代人工智能的迭代演进，不仅需要 对高等教育理念与模式进行适应性调整，还需审慎应对版权归属、学 术剽窃、学术主体情感交流危机及隐私数据泄露等伦理问题，防范和 化解人机融合过程中可能出现的异化风险。 普惠算力赋能教育行业研究报告（2025 年） 16 三、算力+教育产业剖析