全新升级 Angel 推理加速能力，加速比可达 2 倍 大模型调用： 统一的大模型调用 API 及体验工具，大幅缩短业务 接入大模型能力周期 u 公有云自带容器底座 TKE u 私有化自带容器底座 TCS 腾讯云 TI 平台产品核心能力 面向实战的一站式大模型精调部署解决方案 AI 建模部署 大模型精调 u 快速试一试： 零代码一键部署大模型，网页问答体验推理效果 13b 70b 不同参数量级 数据构建 预置 3 大类精调 数 据 处 理 pipeline 数据标注 CV ，大模型相 关的标注工具 模 型 部 署 训 练 工 坊 数据 调试 容器底座 AI 资产管 理 资源管理 一体化服务管理工具及推理加速能力 一体化服务管理工具 Angel 推理加速 指标监控 鉴权 / 限流 流量分配 实时掌握服务性能、调用量、资源消耗等关键指标

检查改正 提示词 关键实体提取 知识语料匹配 知识索引匹配 初步回答 外部模块 提示词生成模块 内部其他模块 底座模型 原始 Query API 判断选 择 提示 词 不需要调用 API API 选择 入参正确 API 调⽤ 底座模型 RLHF 动态控件联动 对话信息 前端 对话效果渲染 返回结果拼 接 ⽤户输⼊拼 接 参数追问问 题

面临诸多挑战：区域间算力发展水平差距较大，综合算力协同发展 潜力尚待充分挖掘，亟需通过深化一体化算力网建设，强化统筹协 同与动态优化能力；全面提升算力供给质效，加速推动结构的迭代 升级；夯实存力运力底座，促进“算存网”协同演进；构建绿色低碳 体系，加速基础设施绿色升级；深度开展融合创新实践，助力产业 生态繁荣发展。 《2025 综合算力指数》全面呈现了我国综合算力发展现状，挖 掘各地区综合 .............. 36 （二）提升算力供给质效，推动结构迭代升级.............................................. 37 （三）夯实存力运力底座，促进“算存网”协同演进.......................................38 综合算力指数 （四）构建绿色低碳体系，加速基础设施绿色升级.............. 报等前沿领域和实体经济需求。四是发展多元化算力形态，支持边 缘计算、量子计算、光子计算等新型计算模式的研发、试点和应用 部署，探索未来算力增长点。 综合算力指数 38 （三）夯实存力运力底座，促进“算存网”协同演进 存力与运力作为综合算力的关键支撑，需不断夯实基础。存力 方面，推动高性能、大容量新型存储技术发展，鼓励部署更先进的 分布式存储、全闪存阵列、海量冷存储介质，提升“存力”能效比和

致可分为直接使用大模 型、大模型的工程化适配、大模型的深度研发三种路线。 我们认为，大模型最终很可能会成为一种基础设施，因此保险企业建立行业领先的 大模型应用的最佳方式是在内部搭建灵活可切换的底座架构，兼容三种路线，支持内外 部大模型接入和应用，聚焦具体场景、联合头部厂商完成大模型应用落地。 3.保险业落地实践篇 3.1 大模型落地路线 3.1.1 落地路线方法论 在保险企业寻 司。但是目前来看，由于大模型技术还在飞速演进中，保险公司开放场景和部分数据给专 业的大模型科技公司进行深度定制研发是更为合适的选择。 3.1.1.4 小结 通过内部搭建的灵活可切换的大模型底座，使保险企业能够快速响应市场变化，选择 合适的技术路线，进而保证成本效益。然而，大模型“能用”和“用好”之间还有很多工作要 做，下面将介绍大模型适配业务场景的关键环节及技术。 3.1.2 关键环节及技术 务领域知识，构建多层次、多尺寸的大模型体系，全方位赋能业务，提升客户服务、销售、产 品讲解和理赔等领域的智能服务能力。 图4 阳光正言GPT技术架构图 �� （1）第一层：底座层 构建行业最强的混合大模型底座，既包括公有云大模型，也包括私有化大模型。 对于不涉及数据安全的场景，通过对多家商用大模型进行评测，优选市场上综合效果 表现出色的大模型，直接实现云服务接入。同时搭建智能路由体系，支持根据能力和性价

成本优化诉求：平衡算法迭代与资源效率的双重目标 在支撑算法引擎持续迭代与应对业务流量波动的过程中，需通过弹性资源调度机制优化算力成 本，避免资源闲置损耗，实现技术投入与运营效率的平衡。 解决方案： 高性能算力底座：ECS g�i 为视频编码前的 AI 预处理提供了有力保障，确保降噪、画质增强等 操作能够快速、精准执行，充分释放解码引擎的技术潜能。 全球化算力网络，多地域部署灵活覆盖：依托阿里云在国内和国际核心地域的完善基础设施， 置与成本浪费。 解决方案： 为应对上述挑战，真有趣采用阿里云基于英特尔 ® 至强 ® 6 处理器的 ECS g�i 实例构建高性能游戏 架构，结合阿里云全栈云服务实现端到端优化： 高性能计算底座：ECS g�i 单核算力最大提升 20%，搭配 3.6G Hz 全核睿频与 504MB 超大 L� 缓存通过 “飞天”云操作系统的智能调度，实现跨可用区算力负载均衡，确保团战场景下逻辑处 理延迟缩小，消除操作卡顿。

《广东省关于人工智能赋能 千行百业的若干措施》 2024 年 6 月 到 2025 年，全省算力规模超过 40EFLOPS，人工智能核心产业规模超过 3000 亿元。到 2027 年，全省人工智能产业底座进一步夯实，算力规模超过 60EFLOPS，全国领先的算法体系和算力网络体系基本形成；智能终端产品供 给丰富，在手机、计算机、家居、机器人等 8 大门类，打造 100 款以上大规模 使用的智能终端产品，人工智能核心产业规模超过

使得模型能够根据给定的文本指令动态调 整其对图像的理解, 随后特征经过 tokenlearner 模 块生成特征, 最后送入 Transformer 并输出离散动 作指令: 末端执行器的三维坐标、欧拉角、夹爪的开 合、底座的运动以及状态指示. 实验显示了 RT-1 出色的可扩展性、泛化能力、鲁棒性和学习能力, 且 得益于高效的模型架构, RT-1 能够在 3 Hz 的频率 下实时运行. 随后, 谷歌的 DeepMind