Domain-Specific LLMs),形成模型资源池。 4. 2 一套规范体系(安全+伦理+标准) 安全与隐私规范:制定大模型应用在内容安全、系 统安全、数据泄露防护等方面的安全要求和数据脱敏、 匿名化、用户授权机制等方面的隐私保护标准。 伦理与责任指南 [15]:明确大模型应用的伦理边界 (如避免偏见歧视、保障人类主体性、防止滥用),建立 内容审核、责任追溯机制。 技术与应用标准:制定模型接口、数据格式、性能 势产业利用大模型提质增效降本,培育新业态新模式; 应探索大模型在科学发现、艺术创作等前沿领域的应 用;应关注“大模型+政务服务” “大模型+智慧医疗” “大模型+工业研发” 等具有广阔前景的融合方向;对 于涉及重大伦理风险的场景(如司法、自动驾驶决策) 需审慎推进,建立严格的监管和评估机制。 ·94· �N����7� �����0 ��� 6. 3 构建安全可信的治理体系 大模型赋能智慧城市的发展与安全应并重 完善监管机制:明确监管主体和职责分工;探索适 应大模型特点的新型监管模式,如“ 监管沙盒”、敏捷 治理;建立覆盖模型研发、部署、应用全流程的动态监 管机制;加强跨境数据流动和模型输出的安全管理。 推动伦理与规范建设:积极参与国内外大模型伦 理规则制定;推广负责任的人工智能实践,倡导科技向 善;建立畅通的公众反馈和争议解决渠道。 7 结束语 大模型作为引领未来的战略性技术,其赋能智慧 城市建设的广度和深度将持续拓展。

（2）城市模型低空域算法伦理和法律风险 AI 技术在处理低空域数据时，极易引发伦理与法律问题。例如在采集飞 行器运行数据、人员轨迹数据过程中，若过度使用个人信息且未获授权，将 违反《中华人民共和国个人信息保护法》；当 AI 模型决策导致低空飞行器事 故，造成人员伤亡或财产损失时，责任界定模糊，可能引发法律纠纷；此外， 14 若 AI 系统为追求效率，在紧急情况下优先保障特定群体权益，也会触及伦理 道德层面的争议。 法》等材料对模型训练数据实施防护。针对无人机航拍影像数据，采用联邦 学习技术实现“数据不动模型动”，避免原始图像数据泄露。其中重点评估 在灾害救援场景中优先保障医疗物资运输的决策是否符合《新一代人工智能 伦理规范》。为低空应用使用方提供投诉平台，当影响社会效益或个人利益 时，可进行反馈。 5.1.4.增加低空模型加密混淆 为确保低空应用模型不可逆向，可采用模型加密混淆技术，通过对算法 和数据进行 AI+智慧城市低空应用安全展望 7.1.AI 让智慧城市低空应用更安全 7.1.1.强化政策法规保障 2025 年 8 月 26 日国务院发布《关于深入实施“人工智能+”行动的意见》 强调，“完善人工智能法律法规、伦理准则等，推进人工智能健康发展相关 立法工作，优化人工智能相关安全评估和备案管理制度”。这标志着国家正 从顶层设计层面加快构建适应人工智能技术演进与产业融合需求的法治框架， 为“人工智能+”行动

 功能提升：智能预测、个性化服务、多模态交互。  生态系统：开放数据接口，鼓励多方参与。  场景扩展：从公共服务到环境监测、公共安全等更多领域。 最后，未来的 AI 大模型将更加注重伦理和可持续性。在数据 使用和算法设计中，将严格遵守隐私保护和公平性原则，避免技术 滥用或偏见问题。同时，通过引入绿色计算技术，降低模型的能源 消耗，确保智慧城市建设的可持续发展。可以预见，随着 AI 响应机制，确保在发 生数据安全事件时能够迅速采取有效措施。 其次，建议设立专门的 AI 伦理审查委员会，负责监督 AI 大模 型的应用是否符合伦理标准。该委员会应由法律、技术、社会学等 多领域专家组成，定期对 AI 系统的运行效果进行评估，并提出改 进意见。此外，可以借鉴国际经验，制定《AI 伦理指南》，明确 AI 在智慧城市中的使用边界，避免技术滥用。 为了促进 AI 技术的普及和应用，建议政府出台相应的激励政

近年来，中国智能养老机器人已从简单机械辅助 迈向智能化服务，通过多模态感知、自主决策与 适老化交互技术升级，实现从单一功能设备到智 慧养老系统核心节点的转型。当前智能养老机器 人已形成技术创新、标准规范、场景适配与伦理 安全相结合的政策支持体系，覆盖研发制造、场 景落地、服务运营及医养结合的全产业链框架， 为行业发展提供制度保障；在政策推动下，不仅 提升产品在社区和家庭的渗透率，还促进企业加 强核心技术攻关、推动产业智能化升级，完善"

基石，只有通过透明的政策、数据最小化、严格的加密措施和用户 授权管理，才能在享受智能交通带来便利的同时，有效保护用户的 隐私权。通过针对性的策略和措施，能够在推进交通行业智能化转 型的同时，维护用户的基本权益，实现技术与伦理的平衡。 8. 未来趋势与挑战 随着人工智能技术的不断进步，交通领域的应用前景广阔，未 来将展现出许多新的趋势和面临一系列挑战。首先，在数据处理能 力和智能算法的提升之下，交通管理系统将更加智能化，能够实时 据隐私和安全问题。随着大量个人出行信息的采集和使用，对于数 据的管理和保护将成为交通管理者必须重视的问题。确保用户的隐 私不被侵犯，以及防止数据泄露，对任何交通智能化系统都是至关 重要的。 其次，自动驾驶汽车的法律和伦理问题也亟待解决。政府需要 制定相关法律法规，以明确责任归属和风险分担，确保自动驾驶技 术的推广不会引发法律纠纷或社会问题。 最后，社会接受度和技术信任也是一个不容忽视的挑战。未来 交通系统的 其次，自动驾驶技术的进一步发展也是关键应用之一。利用深 度学习和计算机视觉技术，自动驾驶汽车能够在复杂的城市环境中 安全行驶。为确保技术的可行性，方案中应包括逐步测试和逐步部 署的策略，以解决法律法规、保险、伦理等问题。 此外，交通运输网络中的物流优化同样不容忽视。AI 算法能够 在分析交通数据的基础上，优化配送线路，降低运输成本。同时， 结合实时交通信息，可以有效减少配送时间，提高服务质量。 在实

技术的应用提供坚实的法律保障。 此外，政府应通过政策引导，推动 AI 技术在交通治理中的标 准化和规范化。例如，制定 AI 模型的评估标准，确保不同场景下 的模型能够协同运行；建立 AI 技术的伦理审查机制，防止技术滥 用或歧视性决策的发生。政策还应鼓励地方政府的试点项目，通过 实践验证 AI 大模型的实际效果，并根据反馈及时调整政策方向。 为确保政策的有效实施，政府可以通过以下具体措施： 现有的交通法规主要针对人类驾驶员，而随着 AI 技术的引入，法 规需要更新，以适应自动驾驶车辆和 AI 决策系统的特殊需求。例 如，法规应明确规定 AI 系统在紧急情况下的决策优先级，确保其 在伦理和法律框架内运行。 其次，法规的执行需要建立严格的监督机制，确保 AI 系统的 安全性和可靠性。相关部门应制定 AI 系统的检测标准和认证流 程，所有投入使用的 AI 交通治理系统必须通过这些标准认证。同 时流动与整合。这不仅能够提高交通治理的效率和准确性，还能为 AI 模型提供更加全面和高质量的数据支持。此外，政府应设立专门 的监管机构，负责监督 AI 模型在交通治理中的应用，确保其符合 相关法规和标准，并及时处理可能出现的伦理和法律问题。 在法规完善方面，需要针对 AI 技术的快速发展，及时更新相 关法律法规。例如，制定专门的 AI 交通治理法规，明确 AI 模型在 交通决策中的责任归属，防止因 AI 决策失误导致的法律纠纷。同

全是发挥数据生产 力的生命线，要致 力提升法律、技术 两个有关隐私和网 络安全的能力，确 保网络空间风清气 正、运行通畅 人机友好是大数 据、人工智能（机 器人）技术发挥作 用的前提，要提升 机器人伦理水平， 探索人机共生场景 管理体制 • 要形成社会安全监管、 网络安全监管、商务公 正监管、经济运行过程 监管的立体式安全监管 体系； • 健全包括就业转化和心 理安抚在内的教育与疏 导体系；

版 全国网络安全标 准化技术委员会 按照风险管理的理念，紧密结合人工智能技术 特性，分析人工智能风险来源和表现形式，针 对模型算法安全、数据安全和系统安全等内生 安全风险和网络域、现实域、认知域、伦理域 等应用安全风险，提出相应技术应对和综合防 治措施，以及人工智能安全开发应用指引。 AI CITY 发展研究报告 04 表 2 习近平总书记对人工智能发展多次做出指示和部署 习近平总书记致 2018 世界人工智能大会的贺信 新一代人工智能正在全球范围内蓬勃兴起，为经济社会发展注入了新动能，正在深刻改变人们的生产生活方 式。把握好这一发展机遇，处理好人工智能在法律、安全、就业、道德伦理和政府治理等方面提出的新课 题，需要各国深化合作、共同探讨。 中共中央政治局就人工智能发展现状和趋势举行第九次集体学习 人工智能是引领这一轮科技革命和产业变革的战略性技术，具有溢出带动性很 “ ”

全。标准更新不及时：智慧健康养老产业是一 个快速发展的领域，新技术、新产品、新服务不断涌现。然而，现有的标准更新速度往往跟 不上产业发展的步伐。例如，在人工智能技术应用于养老服务的场景中，相关的伦理规范、 数据安全标准等还没有及时制定和完善，可能导致技术应用的风险和隐患。标准执行与监管 不到位：即使存在一些标准，但在实际操作中，部分企业和机构为了降低成本或追求短期利 益，并没有严格按照标