Faking 未来技术方向展望: 形式化验证 ➢ 形式化验证起源于数学的形式化证明，例如 Lean ➢ 数学形式化的目的是提供一个完全客观和可验证的证明过程 ➢ 形式化具备消除模型幻觉的潜力，类似还有软件工程相关代码的形式化证明 ➢ 与此同时，安全价值的监管具有多元性: 人类的安全价值观具有多样性， 内建价值冲突 \ 单智能体系统下 的安全，并不保证多智能体系统安全 \AI系统伪装已被“安全对齐”，行为欺骗监管

，熙熙攘攘的人群目光都聚焦在跃动的彩 龙身上， 整个环境的喜庆氛围仿佛令人身临其境 3.6.1 国外的大模型产 品 n OpenAI o3 2024 年 12 月 20 日 ， OpenAI 发布推理模型 o3 ，无论在软件工程、 编写代码 ，还是竞赛数学、 掌握人类博士级别的自 然科学 知识能力方面 ， o3 都达到了很高的水平 3.6.1 国外的大模型产 品 大模型 图标 指标排名 DeepSeek 能力测评第一