语言大模型 + 多模态大模型 AI 服 务 模型服务 ( 灵积、魔搭 LLM 、 Embedding) ( 异构算力 :GPU+CPU) 20% 成本 2-10 倍压缩，冷热分离 Serverless 弹性计算 百 PB 规模 存算分离，在线扩容 千万吞吐，毫秒延迟 一站式 数据不出库 在线服务 + 离线分析 +AI 40% 头部车企

的弹性并发 能力，以满足高并发访问时的计算需求，还要有效降低推理服务成本， 实现经济效益最大化。对于实时性要求较高的请求，在边缘云上使用 GPU 的成本问题尤为突出。 现有公有云通过 Serverless 容器的方式为 AI 推理提供弹性能力， 但由于 AI 镜像和模型文件较大，导致冷启动问题严重，这极大地影 响了用户体验。此外，公有云通常无法提供城域级的边缘云服务，难 以满足部分对实 步骤一：任务发布 算力使用者通过调度中心发布推理任务，明确指定推理任务的计 算需求（CPU、GPU 型号 / 数量、框架、价格）、网络需求（IB、 RDMA）、地域需求以及任务类型为 Serverless。这些详细的参数设定， 确保调度中心能够精准匹配最合适的边缘算力资源，满足任务的多样 68 化需求。 ① 总分调度架构 此架构下，资源需方直接在算网协同调度平台发布业务需求。 图 （CPU、GPU，框架，价格），指定内部网络需求（IB、RDMA)，并 要求对训练任务镜像进行存储预热；对于推理任务指明确计算需求 （CPU、GPU，框架，价格），指定地域需求，任务类型为 Serverless， 要求对推理任务镜像进行存储预热，指定所需的存储类型和存储介质。 这些详细的参数设置，为调度中心提供了准确的任务信息，便于进行 82 合理的资源调度。 ① 总分调度架构 此架构

比、平台锁定和服务模式等因素。对于效费比，通常引入无服务器计 算（Serverless）作为关键技术，通过事件驱动、函数即服务（FaaS） 和按需计费，实现资源动态扩缩容与细粒度调用，屏蔽底层管理，显 著降低成本并提升效率。对于平台锁定，通过采用多云多平台容灾备 份机制，保障业务连续性与数据安全。在服务模式方面，构建开放共 享的算力生态圈，促进多维有序协作。资源编排通过整合 Serverless、 微服务、容器化等技术，实现算力资源的高效、灵活、安全调度，是

微服务。阿里云云原生AI套件集成众多LLM应用架构方案，包括Dify、 Flowise 等 RAG 方案，Nvidia NIM 大模型推理加速方案等，助力客户 的云原生 AI 系统与社区连接。阿里云 Serverless 平台内置 MCP 运行 时，支持开发者通过函数计算 FC 控制台直接部署预置的 MCP 模版。 四、智算发展潜力评估 1、评估方法 （一）ICDP-EM 框架 智算发展潜力评估模型（Intelligent

�.�一键实现多可用区部署 构建风险可控的安全运维体系，还需遵守严格的部署与变更管控流程，具体体现在数据库的自动 化部署、扩缩容等方面。 就TDSQL而言，无论实例形态是预置资源还是 Serverless，都具备多可用区部署的功能。与单一 可用区的部署策略相比，多可用区部署显著增强了系统的容灾能力，有效保障了数据库的安全， 以防数据库实例出现故障或所在可用区发生服务中断，能够抵御包括机房整体故障在内的多种

AI”一体化降本闭环，模型训练综合成本降幅最高达 85%。 ● 商业模式创新加速 AI 技术普惠化。通义千问模型价格持续下降，配合多款开源模 型构建开放生态。阿里云百炼平台集成上百款大模型 API，支持 serverless 化计费模式， 实现一键开通、按需分配。这套体系已支撑电商、自动驾驶等场景实现万亿参数模型 的高效部署，使中小企业能够以更低门槛获取顶尖 AI 能力。 阿里云的企业级 AI 基础设施

内存管理系统，采用创新的 Pageless 架构， 在保持虚拟机内存兼容性的同时将管理开销降低数十倍；最后，提供语言安全、低底噪、快速启动 且支持模块化配置的 Runtime 底座，完美适配 Serverless 及 AI Agent 等对启动速度和资源占用高 度敏感的场景。 在安全方面，擎天 Hypervisor 构建了多层纵深防御体系：通过极小 TCB、无网络/无存储设计减少 攻击面；采用强绑核机制将虚拟机固定于特定

构较为单一，缺乏 松耦合和独立部 署的特性 （1）部分应用程 序采用容器化部 署，利用容器编排 平 台 （ 如 Kubernetes）进行 弹性部署和管理 （2）应用无服务 器计算（如阿里云 Serverless）来实 （1）多个应用程 序采用微服务架 构，通过服务注册 与发现、负载均衡 等实现高可用性 和水平扩展 （2）部分应用程 序使用无服务器 架构，将特定任务 （1）应用程序采 用基于容器的编 弹性和按需计算 下的应用程序采 用服务网格（如 Istio）进行流量 管理、服务间通信 和故障恢复 （3）无服务器架 构下的应用程序 使用云提供商的 无服务器计算服 务 （ 如 阿 里 云 Serverless），实 现按需计算和自 动扩缩容 化部署、监控和管 理，实现故障感 知、自动重启和自 愈能力 （3）引入日志和 指标监控系统，实 时监测应用程序 的性能和健康状 态，及时发现和处 理异常

API 网 关实现轻量化集成，并沉淀通用组件能力（如认证、日志等），为迭代过程中快速集成功能提供支撑，实现灵 活性、复用性与一致性的动态平衡。 技术架构强调“弹性与自动化”，依托容器化、Serverless 等适配敏捷开发的技术体系，构建可快速扩 缩容的基础设施，并集成 CI/CD 自动化流水线工具，使架构具备支持高频迭代的技术支撑能力。 软件架构遵循“轻量演进、持续精化”原则。设计初期基

头部险企普遍采用微服务化部署，其中中国 太保构建的智能体编排引擎支持 200+保险场景的流程自动化，但 需要维护复杂的服务网格（Istio+Linkerd）。中小保险公司更倾向 使用 Serverless 架构，阳光保险通过 AWS Lambda 实现按需调 用，将 IT 运营成本降低 35%。值得注意的是，所有技术路线均需 解决保险条款动态更新的实时同步问题，目前行业最优实践是通过 GraphQL