DeepSeek大模型及其企业应用实践易训练、应用易搭建的AI业务平台 最后,因算力等待、任务潮汐、资源碎 片化等原因,AI集群可用度往往不足 50%,需要不断提升全系统调度效率 大模型企业落地解决方案供应商(比如DeepSeek一体机厂商)可以提供支持: 数据工程工具化,缩短80%训练数据 准备周期 一 极简应用开发平台,支撑非专业开发 者快速上手 三 系统级模型训练与推理加速能力,实 现模型训练周期缩短30%,推理并发 国内典型的智能体开发平台 5. 5 国内典型的智能体开发平台 支付宝 5. 5 国内典型的智能体开发平台 6. 厂商提供的企业级大模型服务 6.1 企业级大模型落地解决方案服务 6.2 DeepSeek大模型一体机 6.3 企业选择大模型产品的考察维度 6.4 企业大模型应用专业顾问 厦门大学大数据教学团队作品 6.1 企业级大模型落地解决方案服务 云厂商为代表的大厂 - 具备强大基础能力,可解决复杂 升AI应用性能 6.1 企业级大模型落地解决方案服务 来自UST 6.1 企业级大模型落地解决方案服务 来自UST 6.1 企业级大模型落地解决方案服务 6.2 DeepSeek大模型一体机 提供1.5B轻量版至671B超大规模模型的灵活 调用,满足边缘端轻量化推理与云端复杂训 练的双重需求,支持模型蒸馏与定制化开发, 助力企业“按需取用” 全尺寸模型支持 通过智能算力管理引擎,实现CPU、GPU等10 积分 | 147 页 | 16.82 MB | 6 月前3
未来网络发展大会:2025东数西算算网协同调度业务场景白皮书训练过程需要强大 的计算能力,对硬件资源要求较高,但与外部的交互相对较少;而 AI 推理则侧重于快速响应用户请求,具有强交互的特点,但计算量 相对较小。目前,训练和推理通常部署在相同集群甚至通过一体机方 式进行部署,这种方式无法充分发挥不同区域的优势,造成资源配置 80 不合理和成本浪费。 面向“东数西算”战略,将训练任务分发到算力质优价廉的西部, ●利用西部丰富的算力资源和较低的成本优势 性,许多企业选择在 本地部署私有云或一体机,将其作为基础的算力支撑。这一举措在一 定程度内满足了企业对于数据安全管控和业务即时处理的需求。 然而,在企业业务快速发展的大背景下,数据量与计算任务正以 指数级速度增长,特别是对于一些 AI 推理应用等具体业务而言,其 对资源的访问需求呈现出多样化、高并发以及高负载的特点。在此情 况下,本地私有云或一体机的扩展性弱点便逐渐凸显出来。由于其资 源容量的局限性,难以灵活、快速地根据业务增长和推理应用等具体 业务的弹性扩缩需求进行扩展,无法及时、有效地满足企业不断攀升 变化的业务需求。 ● 算网协同调度平台依托确定性广域网技术构建起广域的全局算 网资源池。当本地私有云/一体机资源告急时,用户只需通过算网协 同调度平台提交资源需求任务,平台便会依据实时资源状态与任务的 多维度需求,在全局范围内智能筛选、调配合适的算网资源,通过协 同调度及时开通算网资源,部署用户的应用,精准满足企业在数据处20 积分 | 118 页 | 8.35 MB | 1 天前3
未来网络发展大会:算力城域网白皮书(2025版)5%。采用 4:1、 8:1、16:1、32:1 等高收敛比组网;网络高稳定运行,故障影响不扩散。 3.2.4.云边协同训推需求 大模型训练与推理成本的显著降低,带动企业通过本地部署少量 训推一体机实现大模型的快速应用。但是,企业本地算力池面临扩容 难、维护成本高等问题,难以满足大模型微调和推理不断增长的算力 需求。因此,通过企业本地算力与云端租赁算力之间的高效协同,以 满足企业算力资源 同训练的算效。 智能运维:通过业务流级可视、逐包故障定界等技术,实现业 务流级的故障定界定位。 7.4 云边协同训推场景 企业本地部署训推一体机,通过租赁运营商智算池的方式应对企 业快速增长的模型微调、业务推理对算力需求。通过训推一体机与算 力资源池之间的云边协同训练/推理,实现企业算力资源的弹性扩展, 云边协同训练/推理基于模型分割实现,这种方式既满足了企业推理/ 训练敏感数20 积分 | 42 页 | 7.16 MB | 1 天前3
“Deepseek”即将带来的化工变革-国金证券月相关报道,华中师范大学与武汉人工智能计算中心 签署了《绿色农药创制与人工智能联合创新实验室》协议,展示了″绿色农药分子设 计平台 PDAI4 及全栈国产化农药分子设计神农一体机″,该产品由华中师范大学绿色 农药全国重点实验室与武汉人工智能计算中心、华为技术有限公司联合自主研发,为 全球首创。一体机基于 Atlas 800I A2 人工智能推理服务器以及武汉人工智能计算中 心训练资源,为打造″开箱即用″体验,该中心成立适配小组,为校方提供自主可控10 积分 | 22 页 | 1.90 MB | 6 月前3
电子行业:AI大模型需要什么样的硬件?-20240621-华泰证券-40页必一起阅读。 35 电子 商汤推出“云、边、端”全栈大模型产品矩阵。1)云端模型即商汤最领先的基础模型系列。 2)在边缘侧,商汤面向金融、医疗、政务、代码四个行业推出商汤企业级大模型一体机。 一体机同时支持千亿模型加速和知识检索硬件加速,实现本地化部署,相比行业同类产品, 千亿大模型推理成本可节约 80%;检索大大加速,CPU 工作负载减少 50%,端到端延迟减 少 1.5 秒。3)端侧模型方面,SenseChat-Lite10 积分 | 40 页 | 2.60 MB | 6 月前3
华为:鲲鹏原生开发技术白皮书(6.0修订版)TBPS,为了提高响应速度,并发连接数不少于 5000 万,新建连接不低于每秒 160 万。 4.2.2.2 鲲鹏原生方案 为了实现上述目标,恒安嘉新选择基于鲲鹏软硬件平台打造安全采集分析平台一体机解决方案,结合鲲鹏天然的 多核高并发、高安全等优势进一步增强稳定性和可用性,同时,通过结合鲲鹏开发套件 DevKit,提升开发效率, 优化流量分析处理专项指标。 图 4-9 恒安嘉新安全采集分析平台方案 原生高性能:经过鲲鹏 DevKit 提调优之后,安全采集分析平台的系统配置功能整体性能提升了 39% 图 4-10 系统配置全景功能基于鲲鹏 DevKit 优化前后对比 当前,恒安嘉新安全采集分析平台一体机解决方案已广泛应用于移动互联网、城域网、数据中心、交换中心、直 联点等核心网络节点。在运营商恶意程序系统、新型交换中心等多个项目中得到充分应用,帮助用户在大流量、 高并发场景下完成网络流量的安全10 积分 | 112 页 | 17.64 MB | 5 月前3
新华网&腾讯云:2025年国产数字化升级标杆实践报告国产软硬件生态兼容不绑定 稳定可靠 支持容灾与故障演练 极简交付 复三步快速构建云原生基础设施 轻量起步 初始建设投入少,最小 3 节点起步 - 16 国产数字化升级标杆实践报告 产品架构 数据库一体机TData 云数据库独享集群 软硬一体化 数据库智能管家DBbrain 数据迁移工具DBbridge 数据传输服务DTS SaaS产品 数据管理服务DMC 引擎产品 关系型数据库 NoSQL数据库20 积分 | 45 页 | 20.65 MB | 1 天前3
2025中国RFID无源物联网行业产业白皮书-161页通道式读写器,是固定式读写器一种形态,多用卡口进行出入库管理与资产管理。 • 智能柜,是近几年兴起的一种固定式读写器产品,多用于资产管理。 • 其他固定式读写器设备,剔除智能柜、打印机、通道式读写器之外的固定式读写器产品,包括一体机、发卡器、 网关式读写器、桌面式读写器、机器人、检测设备、实验设备等。 • 分立器件类读写器,指用分立器件搭建的 UHF RFID 读写器,并不是用的标准芯片,在部分场景中,这类产品可 以根据20 积分 | 161 页 | 13.17 MB | 1 天前3
共 8 条
- 1
