同步-异步融合的主-配-微电网协同调控——清华大学 蔺晨晖0 积分 | 11 页 | 9.19 MB | 22 小时前3
全球计算联盟GCC:2025年异构算力协同白皮书将计算密集层绑定高算力设备,显存密集算子调度至大显存设备,以达到消除算力短板目的。 (4)通信-计算重叠优化:为了进一步减少通信延迟对整体吞吐的影响,调度器与底层 高性能异构通信协议深度协同,异步执行通信操作,并与后续非依赖计算(如下一微批次前 向传播)重叠,利用通信融合、环形拓扑优化等技术隐藏延迟,提升并行场景吞吐率。 (5)并行策略联动调度:系统智能地融合模型结构、集成 DAG/拓扑/负载数据及实时 阶段在英伟达不同代际 AI 芯片上的高效协同。 (2)在 KV Cache 高效传输方面:为减少 Prefill 和 Decode 间的传输延迟,实现异步 分层 KV Cache 传输方案,在 Prefill 阶段,每层完成即触发该层缓存的异步传输,同步开启 下一层计算,从而达到计算与通信的重叠。 基于 Splitwise 的异构混合推理方案,以对话追踪任务为场景和 A100 为基准,基于 提出具备高吞吐、低时延与强可扩展性的混合推理方案。 (1)在数据传输方面:构建异构 GPU 之间 KV Cache 高速异步传输引擎,支持异构 GPU 显存间高速直连传输与 GPU 显存-CPU 内存间异步非阻塞传输,支持按 Layer 或 Block 24 异步传输 KV Cache,显著降低异构 KV Cache 通信开销,提升推理吞吐。 (2)在调度方面:构建面向异构芯片的全局资源调度模块,支持从单10 积分 | 31 页 | 1.21 MB | 21 小时前3
华为:2025年鸿蒙编程语言白皮书有模块。同时,TS/JS 支持动态加载来延迟模块加载时机,但实现路径依赖异 步语义,要求整个调用链保持异步风格,开发成本较高。为解决该问题,ArkTS 运行时引入了 自动延迟加载(lazy import)机制:只需在 import 语句中添加 lazy 关键字,即可使模块在首次使用时按需加载,支持同步与异步调用场景, 无需改动业务逻辑结构。 此外,TS/JS 运行时通常为单线程架构,并仅提供基于消息传递的 应用开发的有些场景中,有些模块被使用的可能性很低,或者并不需要立 即被使用。针对这些模块,ArkTS 提供了两种优化启动性能的方法:动态加载 8 和延迟加载 9。 动态加载:使用一个异步函数来动态导入模块,返回一个 Promise 对 象,实现模块的异步加载,减少了启动时的加载量,提高了启动性能。 延迟加载:import 关键字后面加上 lazy,模块会在第一次被使用时自 动同步加载。 动态加载与延迟加载的对比: 2-3:ArkTS 对象共享机制 当多个并发实例尝试同时更新 Sendable 数据时,会发生数据竞争,例如 ArkTS 共享容器的多线程操作。因此,ArkTS 提供异步锁机制来避免不同并发实 例间的数据竞争,并提供了异步等待机制来控制多线程处理数据的时序。同时, 还可以通过对象冻结接口将对象冻结为只读,从而避免数据竞争问题。 Sendable 对象提供了并发实例间高效的通信能力,即引用传递,适用于开发者0 积分 | 65 页 | 2.09 MB | 4 月前3
华为智慧油气解决方案-华为油气勘探 ERP 系统 E 虚拟化 OS & 文件 OceanStor Dorado 5000 2 控 DC2 DC1( 主 ) OceanStor Dorado 6000 异步复制 异步复制 异步复制 30km 500km OceanStor Dorado 6000 SAP App ECC, SCM, PO, SRM, GTS… 华为智慧油气解决方案 08 智慧油气田20 积分 | 48 页 | 20.00 MB | 1 天前3
华为:2025践行主机现代化:主机上云技术白皮书主要特点: 高可靠:通过事务日志、故障自动恢复等机制降低停机风险 高并发事务处理:通过高效利用内存缓存和优化资源调度,支持低时延、高并发的事务处理 集成性强:借助 MQ 消息队列,实现主机不同系统间异步通信,并提供完整事务处理和消息管理 主要特点: 高并发事务处理:主机应用一般高度定制,应用层与数据层紧密集成,提供高并发、高吞吐量事务处理能力, 尤其适用于需要快速响应的金融交易或实时数据处理 事务无锁化、分片并行调度等分布式技术,在云原生架构上重构主机中间件能力,支撑业务从“稳态运行”到 “敏态创新”的跨越。 (1) 分布式消息 主机消息队列 MQ 提供高性能与强一致的消息通信能力,实现系统解耦与异步通信,有效应对流量洪峰。 在此基础之上,分布式消息服务需进一步满足以下能力: (2) 分布式事务 传统主机通过 CICS 等中间件提供强一致性事务处理能力,云上场景分布式事务需满足以下能力: 准投递和强一致性, 如资金清算与跨境支付场景,交易指令通过指定队列,直达指定系统,避免广播式传递导致的安全风险与 处理冲突。发布订阅模式,基于一对多广播和动态扩展订阅方等技术实现,广泛应用于需要异步通信、实 时数据同步和事件驱动的场景,如股票行情推送场景,股票价格需毫秒级同步到千万级终端,通过此模式 实现实时数据分发。 ② 定时消息:基于分层时间轮算法实现任意时长的定时消息,结合时钟同步、线程优先级、消息预加载20 积分 | 63 页 | 32.07 MB | 21 小时前3
2025年金融业新一代数据中心创新发展案例集-金科创新社基础架构,满足信息系统数据增长及业务增长需求。 信息系统全面迁移切换工作主要分为数据迁移、系统切换和网络迁移三部分,数据迁移采用基于存储层、数 据库层、或虚拟化应用层的数据复制技术,提前将信息系统的数据异步复制到新数据中心;信息系统切换方式依 据小型机及 X86 两个不同类型的平台,采用小型机高可用切换和 X86 虚拟化层灾备切换工具完成信息系统的切 换工作,切换过程同时保留了同城、异地的灾备架构 响应速度。 1. 采用存储复制技术完成数据迁移及灾备部署 数据迁移主要采用了 HDS UR 异步方式,将数据实时同步到滨海新数据中心,切换完成后,再采用 HDS UR 异步方式完成灾备系统的部署。HDS 通用复制软件 Universal Replicator,是基于 HDS 成熟的通用存储平台实 现的异步远程数据复制软件。通过 HDS 通用存储平台的虚拟化功能,HDS 通用复制软件可以实现同构或异构存 储系统之间的远程数据复制功能。 目前,HDS 的 UR 软件其独有的时间戳(Timestamp)和一致性组(Consistency Group)技术,是目前存 储业界可行且安全的存储系统之间的异步数据备份方案,保证异步处理方式下的数据一致性和完整性,最大程度 的减少数据的丢失,并被广泛采用。它可以在重复发生的灾难中保护数据,在任何远的距离保持数据库记录被修 改顺序的完整性。 四、技术实现特点 金科创新社20 积分 | 142 页 | 10.95 MB | 21 小时前3
企业级 SaaS 业务中台化探索与实践• 框架选型 • 发布⽅方案 • 数据迁移、同步⽅方案 • 分库分表⽅方案 • 回滚⽅方案 • ⾼高并发解决⽅方案 • ⼀一致性选型 • 性能压测⽅方案 • 监控报警⽅方案 • 异步通信⽅方案 技术架构:如何进⾏行行微服务拆分? 微服务A 微服务B 微服务C 微服务D 架构与组织间的关系 架构师 ⾼高级产品/⾼高级研发 普通产品/普通研发 业务域层次 (域间、域内问题)0 积分 | 37 页 | 1.90 MB | 5 月前3
2025国家数据基础设施技术路线研究报告企业提供脱敏经营数据即可生成信用评分; 医疗工业领域破解核心数据分散难题,支持新药研发与 智能制造,推动数据安全共享与产业融合。 突破方向 隐私保护计算技术应重点突破以下方向: 通信优化:参数压缩(剪枝/量化)与异步调度减 少传输量; 分层防御:DP+HE加密梯度,TEE硬件隔离,协议层 隐私对齐,应用层对抗检测; 消除偏差:反事实样本对齐,个性化联邦微调,迁移 学习及端云协同提升泛化能力。 区块链发展需从以下四个方面实现突破: 针对以上问题,隐私保护计算技术应重点突破以下方向: 一是优化通信效率。从采用参数压缩与选择性传输减少数据传输量,以及异步更新与动态调度提高通信效率等两方面进 行突破。参数压缩与选择性传输采用参数剪枝、稀疏化或量化技术、低秩分解、知识蒸馏等技术减少数据传输量。异步更新 与动态调度允许参与方按本地资源状况异步上传参数,并通过优先级调度减少冗余通信。 二是构建分层防御体系。在基础层,结合差分隐私(DP)与同态加 练效率,通过分布式特征标准化提升模型准确率。 图:隐私保护计算技术的应用现状 图:隐私保护计算技术的突破方向 数据异质性 隐私保护计算中的挑战 反事实学习 个性化联邦学习 通信效率 异步更新 参数压缩 安全风险 机密性攻击 完整性攻击 需要高数据共享以实现 高效风险控制。 跨机构联合风控 数据共享高,隐私需求 相对较低。 跨部门数据共享 隐私需求低,但数据 共享有限。0 积分 | 39 页 | 6.07 MB | 5 月前3
2025国家数据基础设施技术路线研究报告企业提供脱敏经营数据即可生成信用评分; 医疗工业领域破解核心数据分散难题,支持新药研发与 智能制造,推动数据安全共享与产业融合。 突破方向 隐私保护计算技术应重点突破以下方向: 通信优化:参数压缩(剪枝/量化)与异步调度减 少传输量; 分层防御:DP+HE加密梯度,TEE硬件隔离,协议层 隐私对齐,应用层对抗检测; 消除偏差:反事实样本对齐,个性化联邦微调,迁移 学习及端云协同提升泛化能力。 区块链发展需从以下四个方面实现突破: 针对以上问题,隐私保护计算技术应重点突破以下方向: 一是优化通信效率。从采用参数压缩与选择性传输减少数据传输量,以及异步更新与动态调度提高通信效率等两方面进 行突破。参数压缩与选择性传输采用参数剪枝、稀疏化或量化技术、低秩分解、知识蒸馏等技术减少数据传输量。异步更新 与动态调度允许参与方按本地资源状况异步上传参数,并通过优先级调度减少冗余通信。 二是构建分层防御体系。在基础层,结合差分隐私(DP)与同态加 练效率,通过分布式特征标准化提升模型准确率。 图:隐私保护计算技术的应用现状 图:隐私保护计算技术的突破方向 数据异质性 隐私保护计算中的挑战 反事实学习 个性化联邦学习 通信效率 异步更新 参数压缩 安全风险 机密性攻击 完整性攻击 需要高数据共享以实现 高效风险控制。 跨机构联合风控 数据共享高,隐私需求 相对较低。 跨部门数据共享 隐私需求低,但数据 共享有限。10 积分 | 38 页 | 6.07 MB | 5 月前3
数智园区行业参考指南访问控制服务 应用接入认证,应用接入访问授权 服务接入框架 服务注册接入,服务路由查找,服务动态加载 元数据管理服务 TacOS 元数据备份,云端同步 异步指令框架 同步处理转异步处理,异步线程池处理 APIs Core TacOS AIoT 基础设施 OS 桌面 UI 交付工具 控制面板 空间应用(二维/三维) App Store0 积分 | 42 页 | 1.71 MB | 4 月前3
共 43 条
- 1
- 2
- 3
- 4
- 5
