https://arxiv.org/pdf/2304.08485 47 未来技术方向展望 ➢长思维链可解释性 ➢模态扩展 + 模态穿透进一步拓展强推理边界 ➢强推理能力赋能 Agentic 发展 ➢强推理模型的监管和安全保证 ➢形式化验证 ➢审计对齐 ➢对齐欺骗现象 48 未来技术方向展望: 长思维链可解释性 ➢ 新的挑战：在复杂环境下模型可能会采取捷径或偏离原本设计的任务路线 ➢ 随着模型被提供隐 resisting alignment? Language Models Resist Alignment, https://arxiv.org/abs/2406.06144 未来技术方向展望: 强推理模型监管和保证 – 语言模型抗拒对齐 从胡克定律到大模型的弹性（而抗拒对齐） 大模型存在弹性：模型在预训练阶段经过大数据、 大更新产生了具备通用能力的稳定分布𝒑𝜽，而经 过对齐阶段的“小数据、小更新”表现出由对齐分 数学形式化的目的是提供一个完全客观和可验证的证明过程 ➢ 形式化具备消除模型幻觉的潜力，类似还有软件工程相关代码的形式化证明 ➢ 与此同时，安全价值的监管具有多元性: 人类的安全价值观具有多样性， 内建价值冲突 \ 单智能体系统下 的安全，并不保证多智能体系统安全 \AI系统伪装已被“安全对齐”，行为欺骗监管 ➢ 随着 VLA \ Agent 等模型下游和赋能应用兴起，确保模型AI系统准确应对不确定性，考虑物理规律下的人 类价值观对齐至关重要

①技术免疫层 ⚫ 价值观对齐：用强化学习植入伦理准则（如“不得伤害人类”） ⚫ 反误导机制：自动检测并修正“幻觉输出” 案例：医疗 AI 拒绝提供安乐死指导 ②法律监管层 ⚫ 数字身份法：赋予 AI 实体“有限法律责任” ⚫ 数据确权：建立个人“数据银行”管理信息收益 ③社会共识层 ⚫ 人机协作认证：重要决策需人类签署“知情同意书”

利用增强的安全功能跟上业务增长的步伐 在本地、边缘和云服务器上追求新的业务模式和数据共享，即使在处理敏感数据或受监管数据时也是如此。基于可信执行环 境 (TEE) 的机密计算能够帮助在使用过程中保护数据和 AI 模型。采用性能核的英特尔® 至强® 6 处理器允许客户选择最符合 其业务和监管要求的机密计算技术。 应用程序 隔离 英特尔® 软件防护扩展（英特尔® SGX）提供旨在保护使用中数据的应用程序隔离。英特尔®