

1. 左侧分支: Mask Importance (掩码重要性) 核心思想: 重要性体现在损失对一个外部可学习掩码的梯度上。 步骤 1: 核心模块 绘制一个蓝色的 Attn Head 方框。 在它旁边绘制一个黄色的 Learnable Mask (M) 方框。将两者用一个简单的 ⊙ (元素乘) 符号连接,表示掩码被“应用”于注意力头。 步骤 2: 计算损失 从上述组合模块引出一条向右的箭头,指向一个代表最终结果的方框,标记为 Task Loss。 步骤 3: 获取梯度 (最关键的一步) 从 Task Loss 引出一条虚线反向箭头,直接指向 Learnable Mask (M) 方框。 在这条虚线箭头上标注梯度:∂L/∂M。这是此方法的精髓,必须清晰展示。 步骤 4: 最终得分 从 Learnable Mask (M) 方框(或梯度箭头终点)引出一条向下的箭头,指向一个最终的得分框,标记为 Mask Score。 注释文本: “通过损失对掩码的梯度评估重要性” 2. 右侧分支: Dot-product Importance (点积重要性) 核心思想: 重要性体现在头的输出向量Z与其自身梯度c的点积上。 步骤 1: 获取两个关键向量 绘制一个蓝色的 Attn Head 方框。 从 Attn Head 引出一条向下的箭头,指向一个灰色的方框,标记为 Head Output (Z)。 在 Head Output (Z) 旁边,直接绘制另一个浅紫色的方框,标记为 Loss Gradient (c),并标注 c = ∂L/∂Z。 步骤 2: 点积计算 (最关键的一步) 将 Head Output (Z) 和 Loss Gradient (c) 的箭头汇入一个紫色的点积操作符 ·。这是此方法的核心操作。 步骤 3: 最终得分 从点积符号 · 引出一条向下的箭头,指向一个最终的得分框,标记为 Dot-product Score。 注释文本: “基于输出向量与其梯度的点积评估”
描述你想生成的图片信息,如:画面里有什么风格/元素/色彩
Shift+回车 = 换行
AI可能会犯错误或不完全遵循,请谨慎使用。
同款 0
评论 0