8438C Llama2-13B 推理性能 （越高越好） 8 火山引擎第三代弹性计算云服务器实例 g3i 引入第五代至强® 可扩展处理器进行全新升级，通 用性能与应用场景性能均大幅提升，可有力胜任高达 80 亿参数的模型推理，并兼顾速度与成本。 • 基于火山引擎最新自研 DPU2.0 架构和第五代至强® 可扩展处理器显著提升的代际性能、更高的 CPU 核心数、更快的内存以及更大的末级缓存容量，显著提升 算力性能，实现内存扩容，有效为 LLM 与更 多场景提供支撑； • 利用第五代至强® 可扩展处理器及其内置的 AI 加速引擎 -- 英特尔® AMX，在提升算力的同时，高效处理大 量矩阵乘法运算，提升 AI 推理性能，胜任 80 亿参数模型推理，降低中小模型推理成本。 中小模型推理新选择！算力 性能倍增，实例全新升级 挑战 解决方案 云实例算力升级 解决方案 云服务 / 弹性计算 122% 火山引擎 提供更加稳定可靠、弹性灵活、 性能优越的云实例 不断拉升云实例算力性能，满 足变化迅速的业务需求 支持内置 AI 加速的算力需求， 兼顾速度与成本 SDXL-Turbo 文生图推理性能 4 火山引擎 g3i 可胜任 80 亿参数的模型推理 5 LIama-3-8B 首包时延 0.75s 吞吐性能 22 Token/s 20 15 10 5 0 1024*1024 512*512 图片像素

分析师简介 刘泽晶（首席分析师） 2014-2015 年新财富计算机行业团队第三、第五名，水晶球第三名， 10 年证券从业经验 分析师承诺 作者具有中国证券业协会授予的证券投资咨询执业资格或相当的专业胜任能力，保证报告所采用的数据均来自合规渠道，分析 逻辑基于作者的职业理解，通过合理判断并得出结论，力求客观、公正，结论不受任何第三方的授意、影响，特此声明。 评级说明 公司评级标准

统迅速将客户体验的规模扩展到了新高度，但这些系 统尚未接受相关训练，因而很难传递出企业精心培育 的品牌个性和价值。大多企业对人工客服或销售都有 此类培训，为何不将 AI 也纳为培训对象？ 初步尝试已经证明，AI 不仅能够胜任此任务，而 且成绩斐然。2024 年 4 月，Instagram 启动了 Cre- ator.ai 测试，利用聊天机器人模拟大 V 的声音，帮助他 们与粉丝建立联系。 64 这些聊天机器人代大