2025年3月9日星期日 DeepSeek的本地化部署与AI通识教育之未来 陈建海 博导/副教授 浙江大学通识人工智能（A）（理工农医）课程团队负责人 浙江大学计算机科学与技术学院 基础教学中心副主任/支部书记 浙江大学智能计算与系统实验室 负责人 浙江大学人工智能教育教学研究中心 2 提纲 vDeepSeek AI的新时代背景 vDeepSeek的本地化部署实践 vDeepSeek与AI通识教育之未来 vDeepSeek与AI通识教育之未来 v总结 3 提纲 vDeepSeek AI的新时代背景 vDeepSeek的本地化部署实践 vDeepSeek与AI通识教育之未来 v总结 4 我们进入了一个怎样的时代 人工智能的新时代 农耕时代 互联网时代 大数据时代 智能化 互联网大数据引来智能化 信息技 术革命 5 生成式人工智能：AIGC盛行（文生文、文生图、文生视频.....） 由LumaAI 陆续上线国家超算平台... 2025年1月：GitHub发布Janus-Pro多模态大模 型，进军文生图 2025.2.6日: 中国电信、中国移动、中国联通三大运营商宣布接入DeepSeek 近期：各行业开始研究部署... 1.DeepSeek简介 16 DeepSeek是谁？咱们通俗说一说...... 基于 Llama 、 Qwen 六个密集模型 （1.5b、7b、8b、 14b、32b、70b）

DeepSeek 华为云 AI 解决方案主打胶 片 Security Level: 目录 1. DeepSeek 介绍和洞察 2. DeepSeek 华为云部署方案 3. DeepSeek 应用场景 3 Huawei Proprietary - Restricted Distribution d e e p seek 全球增长最快应用，增长势头超越 ChatGPT 截止 2 智能路由器“ • 多头潜在注意力 MLA ：空间压缩 术 • 训练框架加速： 16 到 3 的量化压 缩， 通信降低 89% • 推理加速：预加载，动态批处理 等 • 模型、数据、工具链、部署全开 源 • 蒸馏技术使能第三方模型性能 DeepSeek 大模型解读： 通过系统优化实现极致性能， 完全开源 + 免费商用，挑战 A 国 AI 霸权 硬件级、算法级、架构级、工程级、开 源生态 Proprietary - Restricted Distribution 4 目录 1. DeepSeek 介绍和洞察 2. DeepSeek 华为云部署方案 3. DeepSeek 应用场景 销售场景 场景一 在昇腾云裸金属服务器部署 DeepSeek 模型 场景二 MaaS （ ModelArts Studio ）平台 DeepSeek 模型 场景三 开发者基于

....................................................................................5 4. DeepSeek 部署方法................................................................................................. .........................................................................................12 4.3 本地部署................................................................................................... ..............................15 4.3.4 测试部署模型 ................................................................................................17 4.3.5 部署非量化模型......................................

迅猛发展，我国数 据中心产业也迎来了高速增长期。当前，数据中心正朝着大规模、高 功率密度、绿色低碳、模块化建设等方向演进。在这一趋势下，供配 电系统作为核心基础设施，其在经济性、可持续性、灵活部署与高可 靠性等方面面临更高要求。传统通过列头柜+电缆进行机房配电的方 式，因结构固定、布线复杂、扩展困难等问题，已难以满足现代数据 中心的实际需求。为此，以结构更灵活、扩展更便捷的数据中心末端 成为AI 数据中心的主流方案； 以400A精密配电柜系统为例，应用于通用算力时代可以支持34台单机柜8kW的供电需求，而 面对AI智能算力的需求，如果单机柜达到50kW，只能支持5台机柜AI集群的部署。而采用1250A 电流等级的数据中心末端配电母线，其最大载流可支持单路约866kW的电力输送（以400V三相 核算），则可以充分满足智算中心高密度机柜的电力负荷需求，单机柜50kW情况下，可以支持 传统数据中心 末端配电架构的挑战及应对 2 在传统数据中心配电体系中，主进线经变压器与UPS后接入列头柜，再分配至各IT机柜，通常 每柜配置双路电源以实现冗余，布线多通过底部架空地板或顶部线缆桥架部署。 随着数据中心功率密度持续攀升，供配电 系统面临多重挑战。 首先是可靠性要求显著提高：当前机柜功 率已从10kW、15kW提升至20kW、50kW，部 分应用场景甚至突破100kW，传统电缆在长时

２)攻击面转换指改变系统某一时刻的一个或多个攻击面 参数,或改变某一攻击面参数在原攻击面的作用力大小. 部署移动目标防御的目的是使攻击者在一段时间内无法 有效探测、收集信息或实施攻击行为,进而增加系统弹性,提 高系统的主动防护水平[６Ｇ８]. ２．１．２ 部署移动目标防御需要考虑的因素 １)确定需要保护的关键目标,并确定移动目标防御在网 络中的部署位置,以提供更全面的保护; ２)需要在系统安全和性能之间进行平衡,同时考虑系统 在IDS检测到入侵或未经授权的访问后 进行实时的平台迁移[４２]. (４)配置迁移指周期性地或主动地将系统配置从一个状 态迁移到另一个状态,或与欺骗性配置相结合,以提高系统的 安全性. Kong等提出周期性地为每个容器生成、部署并映射具有 欺骗性的系统配置组合,有效地防止了容器云中的信息泄露 问题[４３].Lucas等受进化的启发,使用之前良好的配置作为 输入,经过复制、重组、变异和评估等操作生成更优的新配置, 周期性地进行系统配置迁移[４４] 能与资源消耗之间的最优平衡点,在防御性能不降低的情况 下,显著降低了网络资源消耗[６３]. 按攻击面转换策略(how)进行分类,可 以 对 移 动 目 标 防 御的不同部署策略进行总结,有助于比较各种策略的优劣,进 行策略之间的相互结合和补充,并确定不同策略适用的部署 场景,进一步提高 MTD 的安全性能. ３ 欺骗防御 ３．１ 欺骗防御概述 ３．１．１ 欺骗防御的定义 欺骗防御(DeceptionDefence)是一种通过掩饰目标特征

....................................................................................72 4.3.3 系统集成与部署................................................................................................... ......................................................................................106 7. 系统集成与部署................................................................................................... ...112 7.2 部署环境选择...........................................................................................................................................................115 7.2.1 云端部署............

4.4.2 患者反馈分析.............................................................................91 5. 系统部署与实施..........................................................................................92 5.1 ...................................101 5.2 部署流程...........................................................................................105 5.2.1 测试环境部署............................................ 动态激活稀疏参数模块，在保证推理速度的同时将医疗文本理解准 确率提升至 93.2%，远超通用型大模型 78.5%的基准水平。其知识 蒸馏技术可将 300 亿参数模型压缩至 8GB 显存占用，使三甲医院 的常规 GPU 服务器即可部署，显著降低硬件门槛。 在医疗场景的关键性能指标上，DeepSeek 智能体展现出以下 差异化能力： - 术语理解深度：通过双向注意力机制和领域词典增 强，对 ICD-11 疾病编码的识别 F1

网络资产安全治理平台 解决方案 需求背景 产品介绍 部署方式 应用场景 客户案例 需求背景 PART 01 © Copyright 2021 WebRAY Tech （ BeiJing ） Co., Ltd. All rights reserved 资产管理现状 有多少在线资产？ 有多少种类型的资产？ 有多少违规搭建的系统？ 有没有过期未退的系统？ 有没有开放敏感端口？ rights reserved 可视化大屏 部署方式 PART 03 © Copyright 2021 WebRAY Tech （ BeiJing ） Co., Ltd. All rights reserved 单机部署 - 旁路镜像 适用于网站及业务系统集中建设， 或有统一互联网出口的情况。 适用场景： 部署模式： 通过将网络资产安全治理平台旁路 部署在网络出口交换机或者数据中 心交换机。 Copyright 2021 WebRAY Tech （ BeiJing ） Co., Ltd. All rights reserved 分布式部署 适用于分支机构较多，网络资产较 多的场景。 适用场景： 部署模式： 总部部署网络资产安全治理平台总控中心， 各分支机构部署探针。探针将学习及检测 结果发送至总控平台，由在总控中心统一 进行分析及策 略的 下发。 © Copyright 2021 WebRAY

..................................141 9. 系统部署方案.................................................................................................144 9.1 部署环境选择........................................ ....................................145 9.1.1 私有云部署..................................................................................148 9.1.2 混合云部署.................................................. 数据加密强度达到 AES-256 标准，确保模型推理过程全程可审计、 可追溯。 风险控制方面设立双重保障机制：一是建立动态内容过滤系 统，实时拦截 99.9%的敏感信息查询；二是部署人工复核通道，对 涉及大额交易（单笔≥50 万元）的业务强制加入双因素认证。通过 测试验证，系统在压力测试下表现稳定，单节点支持 2000+并发请 求，故障自动切换时间≤30 秒。 2.

目前，在教育行业各场景中，如图 1-1-2 所示，由数据驱 动，基于各类机器学习 / 深度学习方法构建，涵盖计算机视 觉（CV）、自然语言处理（NLP）以及自动语音识别（ASR） 等技术领域的人工智能应用探索和方案部署，可以分为教学 环节、练习测评和教学管理三个核心场景： • 教学环节场景：与传统教学模式相比，智慧教育引入更多人 工智能应用来提升教学环节中的互动性和精准性。一方面， 通过交互式电子白板、双师课堂、AR/VR 深度学习加速技术、英特尔® AVX-512、面向英特尔 ® 架构优化的深度学习框架等。 • 英特尔在 5G、边缘计算（MEC）平台以及 “云 - 边 - 端” 架 构上的一系列成功部署和实战经验。 统也给传统校园 IT 架构带来挑战。部署在教室等系统末端 的设备通常处理能力较弱，而全部通过远端数据中心或云端 进行处理，又容易受到网络因素的影响。为应对这些问题， 智慧教育系统的系统架构正由简单走向复杂。 诸如口语测评等测评类人工智能应用已在各级教育机构获 得广泛欢迎。 • 教学管理场景：数据驱动的智慧教育场景更注重数据的快 速处理、分析与反馈。得益于 5G、边缘计算等技术的成熟， 教育机构得以在校园部署更多的人工智能应用，进而能够 通过更为快捷的数据交互和处理方式来对教学过程实施灵 活的调度和管理。例如，通过智能教学辅助能力，学校管 理人员可以快速远程巡课、智能排课、获取教学大数据， 教师