2025年构建多技术融合的湖仓一体化平台,打造银行数据智核新引擎报告Ø资源独享:物理资源 隔离 Ø高可靠:主备集群容 灾 关键组件:Hbase、 ElasticSearch 、 ClickHouse等组件 查询分析业务: Ø主题数据整合; Ø共性加工层数据处理; Ø面向应用领域的集市 层数据处理; Ø实时数据处理区; Ø系统稳定性高 关键组件: HDFS、Hudi、Spark、HetuEngine、ClickHouse 批加工处理 共性整合 引入新组件,为业务人员开展BI自助 分析和交互式分析场景提供平台支撑。 提升数据服务能力,丰富数据场 景应用 • 实现批处理、流式计算及流批一体数 据处理; • 提供多样的数据分析能力,满足海量、 复杂且多样化的数据处理需求。 融合多技术组件,强化数据分析 与计算能力 • 规范数据需求、数据研发、数据治理、 数据交付、数据运营等环节; • 形成面向数据全生命周期的标准化实施 工艺流程,提升整个团队协作与效能。 数据流向说明 • 数据先入湖,后入仓; • 湖内规划缓存层、贴源层、标准层、整 合模型,仓内规划共性加工层、数据集 市层; • 标准层,对存量未落标系统进行标准化 梳理,使下游数据处理统一采用标准化 数据; • 目前全行系统落标率达95%,后续待所 有系统落标后,取消标准层。 2.5 部署架构 MRS联机查询分析集群 【50】 MRS实时计算集群 【28】 Gauss应用集群10 积分 | 21 页 | 3.74 MB | 5 月前3
智慧交通规划方案时、准确、高效的综合交通运输管理系统。 智慧交通是在智能交通的基础上,以物联网、云计算、大数据、 移动互联网等为技术基础,通过汇集交通信息,提供实时交通数据 的交通信息服务,数据挖掘等数据处理技术,实现了智慧交通的系 统性、实时性、信息交流的交互性以及服务的广泛性。 智慧交通概述 4 “智慧交通”的目标是通过建设智慧交通充分保障交通安全、发挥交通基础设施效能、提升交通系统运行效 物联网技术的运用使得交通系统智 能化。 1、对交通参与对象更透彻的感知 2、无处不在、全面的互联互通 3、对交通系统更深入的智能化管 理与服务 智慧交通总体设计应用 15 云计算及大数据应用 云计算及大数据处理的运用使智能 交通具备智慧管理与服务的作用。 1、提高管理决策支持、交通调度 的效率 2、提供动态资源调度、按需服务 以及海量信息集成化管理机制等方案 智慧交通总体设计应用 16 交通信 息帮助道路使用者找到一条从出发点到目的地的最优路径。通过前端设备的数据采集,经过大 数据处理,对各终端进行信息发布,广播发布,形成交通诱导。 18 交通诱导系统(TGS, Traffic Guidance System)系统组成图如下: 智慧交通诱导及应用 19 大数据处理 交通数据的一个特点就是异构源多、数据量大,例如感应线圈、微波测速、视频监控、红 绿灯调控系统0 积分 | 46 页 | 2.63 MB | 5 月前3
未来网络发展大会:2025东数西算算网协同调度业务场景白皮书极为迫切。 然而,东部地区在数据处理过程中面临着严峻的挑战——电力紧张且 成本高昂。电力作为数据处理的关键支撑,其短缺和高成本严重制约 了东部数据中心的发展。 与之形成鲜明对比的是,西部地区拥有丰富的电力资源,且电价 相对经济实惠。这一得天独厚的优势使得西部地区成为了数据处理的 ●理想之地。因此 ,“东数西算”战略应运而生,旨在将东部地区产生 的数据处理任务有序、高效地转移到西部数据中心进行处理。这不仅 中心进行处理。这不仅 能够充分利用西部地区的电力资源优势,降低数据处理成本,还能促 进西部地区的数字经济发展,实现区域间的优势互补和协同发展。 4.1.2 目标效果 在东数西算场景里,“数据跟随任务走,流量匹配数据传”是提 升效率的重要理念。任务启动时,所需数据同步就位,精准贴合任务 流程,为其提供支撑。与此同时,流量依据数据的规模、 存储类型 及传输紧急程度进行适配,保障数据快速、稳定传输,让任务执行全 根据算网用户的多样化需求,算网协同调度平台利用资源调配能 力精准匹配数据处理应用与西部具有合适价格、算力和存储条件的算 网资源,实现应用的高效部署,确保业务的稳定运行和成本的有效控 制。 21 数据迁移保障 通过定制化的确定性广域网,算网协同调度平台为东部数据的迁 移提供可靠的网络通道,确保数据能够安全、快速地从东部数据中心 迁移到西部数据处理应用所在的算网资源,保障数据的完整性和可用 性。20 积分 | 118 页 | 8.35 MB | 1 天前3
中国移动:云智算技术白皮书(2025)................................. 12 2.5 AI 开发平台技术 ....................................13 2.5.1 数据处理 .....................................13 2.5.2 训练框架 .....................................14 2.5.2 4 SaaS Software as a Service 软件即服务 5 AI Artificial Intelligence 人工智能 6 DPU Data Processing Unit 数据处理单元 7 COCA Compute On Chip Architecture 片上计算架构 8 OS Operation System 操作系统 9 RDMA Remote Direct Memory 超现有资源池化的调度能力;在网络层面,AI 训练中 TB 级参数同步对时延极为 敏感,传统网络架构难以满足低时延、高吞吐的传输要求;在服务形态上,单一 的 IaaS/PaaS 服务无法全面覆盖数据处理、模型训练、推理部署等 AI 开发全链 路的需求,迫切需要构建适应智能时代的云计算新范式。 1.2 云智算的内涵 云智算是通过算网基础设施与人工智能核心技术深度融合,提供一体化算网 资源、0 积分 | 30 页 | 716.31 KB | 5 月前3
2025年以计算加速迈进智能化未来-IDC新一代云基础设施实践报告挑战:企业多元业务需求与海量AI数据的冲击 02 2.1 在线业务面临性能与效率的极限挑战 �.� AI数据处理与计算协同的复杂度激增 2.3 国际化进程中的全球布局、合规与质量一致性难题 2.4 安全、稳定与成本的多元保障要求 解决方案 03 3.1 打造极致性能体验,为传统计算业务打开新空间 3.2 技术和架构创新,提升AI时代的向量数据处理和协同计算效率 3.3 强化硬件安全设计,持续增强安全保障能力 3.4 es)、服务监控、服务治理以及相关 的配置管理等云原生能力。 �� �.� AI数据处理与计算协同的复杂度激增 传统的云存储和处理架构难以高效应对,存储和传输成本也非常高昂。同时,AI算力需求持续高速 增长,为保障AI系统的实时响应,云基础设施需要在架构层面做出创新,以应对多种类型的挑战。 数据处理挑战:除AI海量、多模态特征外,工业制造、医疗等领域的AI应用所涉及的异构数据 多,格 推理和机器学习(ML)等计算密集型工作负载提供优于 其他通用 CPU 的出色性能。同时,凭借其出色的 Al 推理性能,英特尔 ® 至强 ® 6 性能核处理器 也是全球众多出色 AI 加速平台用于支持数据处理的机头 CPU 优选之一。 除了以更多内核为 ECS g�i 提供澎湃算力外,英特尔至强 ®6 性能核处理器还能助力主流工作负载 在 ECS g�i 上实现显著增益。与基于第五代英特尔 ® 至强10 积分 | 27 页 | 5.31 MB | 3 月前3
TDengine:2025电力行业数字化转型白皮书的选型和技 术指标提出了要求。 实时监控与快速响应能力 需要重点关注智能化电力调度系统和精确的预测性维护解决方案,以提高电网的响应速度和可 靠性,减少设备维护的不确定性和风险,这主要体现在数据处理和分析方法对业务的影响。 智能化电力调度与决策支持 03 行业背景、业务痛点与需求 传统数据管理方案虽是信息技术进步的成果,但它们并非为应对新型电力系统的复杂性而量 身定制。因此,在电力 数据共享。此外,实时库缺乏分 布式扩展能力,架构陈旧也是行业共识。 工业实时库的局限 过去 20 年间,Hadoop 随着大数据时代的到来而应运而生,作为通用的分布式基础架构,尽 管其在大数据处理领域有高扩展性和容错性等优点,但其局限性也不容忽视:组件众多导致 架构臃肿,尽管支持分布式处理,但效率并不高,需要特定场景的优化和持续高人力运维; Hadoop 大数据平台的局限 新型电力系统的快速发展对电力企业生产运行、调度控制和安全运维提出挑战。这些挑战主 要体现在如何高效处理海量数据、适应大数据方案的灵活性需求,以及进行与电力交易紧密 相关的数据分析。TDengine 凭借其强大的海量时序数据处理能力,能够轻松应对这些问 题。其轻量级的产品可在端-边-云等多种场景中部署,有效支持电力市场化的业务需求,为 电力企业提供了一种灵活、高效的数据管理解决方案。 同时,随着电力系统采集频率的提升,TDengine20 积分 | 15 页 | 3.22 MB | 4 月前3
基于可编程技术的6G用户面技术白皮书2025软硬件协同和智能编排能力。本文进一步构建了一个具有协议可定义性和功能可扩展性的分层解耦 架构系统。 关于关键技术,白皮书强调了四个关键方向: 1、在网络计算中:通过将计算能力深度嵌入用户平面,实现了近边缘数据处理和实时响应。 2、 动态协议可编程性:支持按需定制和动态加载协议栈,以满足垂直行业的异构需求。 3、 功能服务化:通过基于微服务的架构将用户平面功能解耦,增强部署灵活性和资源利用率。 4、 网络中除了传统的通信业务的数据流,还会存在多种业务的数据流,如 AI、感知等。以感知数据为例,感知数据流通常包含大量的实时数据,可能来自于不同类型的传感 器和设备,这些设备可能具有不同的数据格式和传输协议。用户面需要具备高效的数据处理能力和 多样化的服务接口,以支持各种通信协议、数据格式和传输速率,以及提供灵活的数据路由和转发 机制。 细粒度的 QoS 需求 不同类型的业务流因其独特的特性而对网络提出了多样化的要求。例如对于沉浸式通信的业务 图 2:6G 智能内生数据采集分析体系示意图 如图 2-1 所示,网络数据采集模块的架构可以分为三层:第一层是知识图谱构建,第二层是数 据分析,第三层是特征数据集。这三层架构能够提供强大的数据处理和可视化能力,通过对网络数 13 / 33 据的深入分析,实现对网络运行状态的全面监控与优化。在数据采集的过程中,主要通过硬采、软 采、路测等方式来获取来自不同来源的数据,包括无线空口用户终端(UE)侧数据、无线空口基站0 积分 | 34 页 | 4.53 MB | 5 月前3
2025年中国人工智能与商业智能发展白皮书:AI驱动商业智能决策,企业数字化转型的智脑引擎部的数据,形成更为全面的分析基础。通过整合来自CRM、 ERP、社交媒体、物联网等多个来源的数据,企业可以构建出 更加精准和丰富的分析模型。 现代BI系统的需求:现代BI系统需以实时分析、大数据与非结构化数据处理、自助式可视化、预测性智能和 多源数据整合为核心,打破传统BI的静态与封闭局限,从被动的记录工具进化为主动的战略赋能者,推动 企业从数据中抢占先机,实现价值跃迁。 9 www.leadleo.com 白皮书|2025/05 AI赋能BI的核心功能分析 AI赋能BI通过自动化数据处理提高效率,减轻数据分析师的重复性工作负 担,同时通过智能决策支持帮助企业进行战略性决策,推动高附加值的 思考和资源优化,从而提升整体运营效益 人工智能与商业智能发展现状——AI赋能BI的核心功能 来源:头豹研究院 ◼ 自动化数据处理与分析是AI赋能BI的基础功能 AI通过自动化技术实现数据拉取、清洗、分析和报表生成等基础任务,显著降低了 AI通过整合多源数据并提供深层洞察,赋能企业进行战略性决策,帮助识别市场趋 势、优化资源配置。对话中指出,“数据分析师能在这个系统给的方案之上,再做出 更复杂的一些思维和思考”,这表明AI不仅是数据处理工具,更是战略合作伙伴,能 够让分析师将更多精力投入到高附加值的战略性思考中。 对话式应用 对话式数据查询 需求 分析 多轮 问答 对话式数据查询 思路拆解 数据查询 异常检测 报告生成10 积分 | 40 页 | 8.31 MB | 5 月前3
2025年Data+AI:开启数据智能新时代报告应用通常会涉及到结构化及非结构化的数据使用,因此 Data+AI 平台需要具备多 模数据管理能力,方便企业在 Data+AI 开发过程中高效利用各种类型的数据。 端到端的 Data+AI 开发 Data+AI 开发包括数据处理、模型构建及大模型训练等环节。平台需提供全面的开发 工具,并实现从数据到 AI 模型的全流程管理,以确保数据与 AI 的深度融合。同时不 同团队能在统一平台上高效协作,有效降低管理成本,提升开发效率。 案,实现数据和 AI 的全面管 理,以提升 AI 应用的整体性能和可靠性。 第一部分:Data+AI 大咖观点 7 多引擎适配 在 AI 领域,由于数据处理和算法需求的多样性,单一引擎难以满足所有 AI 应用。因 此,平台需要能够适配多种引擎,以便根据具体需求灵活选择引擎,这对保证 AI 解 决方案的效果和效率至关重要。 1.5 阿里云 DMS 中,必须有海量数据的支撑:经过训练、推理和分析等一系列复杂的数据处理过程, 才能最终产生业务价值。事实上,大模型本身就是数据处理后的产物,以数据驱动的 决策与创新需要通过更智能的平台解决数据多模处理、实时分析等问题,这正是以阿 里云为代表的企业推动 “Data+AI”融合战略的核心动因。 那么,“Data+AI” 对于数据处理究竟意味着什么?从字面意义来理解,Data+AI 是 指将数10 积分 | 195 页 | 9.63 MB | 5 月前3
2025年全球感知技术十大趋势预测深度分析报告过投射特定的光图 案,根据物体表面的变形来获取三维信息。 采集到的空间信息是复杂而庞大的,需要通过复杂的计算算法进行重建和场景理解。 在这个过程中,关键技术发挥着至关重要的作用。 点云数据处理是 3D 感知技术的基础环节。激光雷达及深度摄像头采集的点云数据 通常包含大量的噪声和冗余信息,需要经过滤波、降噪、特征提取等预处理操作。滤波可 以去除噪声点,提高数据的质量。降噪则进一步减少数据的干扰,使数据更加平滑。特征 据传输的质量和可靠性。例如,在远程手术场景中,需要保证数据的实时传输和低延迟, 网络切片可以为手术设备分配专用的网络资源,确保手术过程的顺利进行。 边缘计算与云协同是实现超低延迟感知的另一个关键技术。利用边缘计算将数据处理 从中心服务器迁移至网络边缘,能够大幅降低延迟。在边缘节点上,对数据进行实时处理 研究报告 2025 年全球感知技术十大趋势预测 14 和分析,只将有价值的数据传输到云端,减少了数据传输的时间和带宽消耗。同时,云平 AI 加速与分布式处理也是该领域的关键技术之一。结合 AI 芯片和分布式计算架构, 5G/6G 网络不仅能够实现快速数据传输,还能在终端设备上进行初步数据处理。AI 芯片 具有强大的计算能力,可以加速深度学习算法的运行,提高数据处理的速度和效率。分布 式计算架构则将计算任务分配到多个节点上进行处理,提高了系统的并行处理能力和可靠 性。通过这种方式,分担了云端计算压力,提高了整体系统响应速度。10 积分 | 36 页 | 1.01 MB | 5 月前3
共 296 条
- 1
- 2
- 3
- 4
- 5
- 6
- 30
