- Restricted Distribution 5 张量低秩压缩以降低 KV Cache 资源开销：相比于传统 MHA ， MLA 通过降 维 操作使得存储的张量维度大幅减小。（下图中仅红色阴影部分需要存 储） (bs, ℎ) (bs, ℎ) 2bsℎ (bs, ℎ) (bs, ℎ) bsℎ′ 压缩后宽度ℎ′ ≪ 隐藏层宽度ℎ MLA 架构： 1 ）分别对 Query

有了上一阶段的提示词输入，大模型（目 前在 Qwen 和 Phi3 上验证）会将其拆解 为一连串的子任务序列，子任务序列和图 像视觉信息结合就构成了更加准确的执行 目标，例如一个子任务，移动到红色盘子 上方，结合视觉信息找到的红色盘子，计 算得出上方的坐标信息，经过 interpreter 时也会做代码级别的验证，之后就可以给 到 MoveIt2 路径规划，来规划出中间的一 个一个路点。 基于 MTL-H