

画出三股信息流,最终汇聚到一个长的序列槽中。底部支流:图向量 (zi画一个深色向量块(384D)。箭头穿过 Soft Prompt Projector。输出为 20 个绿色的小方块,用虚线框包围,标注 Soft Prompt Tokens (K=20)。中部支流:LLM 辅助逻辑画一个黄色的小文本框,写着 "Rationale: ..."。经过 Tokenizer 后变成几个黄色小方块 Rationale Tokens。顶部支流:原始推文 (Root Text)画一个蓝色小文本框,写着 "Original Tweet..."。经过 Tokenizer 后变成几个蓝色小方块 Text Tokens。中部:拼接与嵌入层 (Embedding & Concatenation)画一个长条形的嵌入矩阵 (Embedding Matrix)。按照从左到右的顺序,将上的小方块嵌入到矩阵中,顺序严格对齐代码:绿色区: [SP1] [SP2] ... [SP20] (Soft Prompts)灰色块: [CLS] (特殊标记)黄色区: [Rationale]灰色块: [SEP]蓝色区: [Text]灰色块: [SEP]关键标注:在这个长条矩阵上方,画一个大括号,标注 Inputs Embeddings [20 + seq_len, 768D]。. 右侧:LLM 与自注意力交互 (Transformer Interaction)LLM 模块:画一个大的立体矩形框,写着 Llama-3 / BERT Transformer Block。在这个框内,画出自注意力机制(Self-Attention)的流向图:用双向箭连接绿色区、黄色区和蓝色区。旁边加一个小字注解:Graph structure injects into text semantics via cross-attention. 。输出提取 (The "Aha" Moment!):从 LLM 框的右侧输出也是一排长条向量。高光标出最左边的第 0 个位置 ([SP1])。画一个醒目的红色或橙色箭头指向这个位置,引出最终输出。在这个箭旁边写:Extract Position 0 (Structural-Aware CLS)。输出向量vbert[768D],并画一个小的标准化符号 L2 Norm。
描述你想生成的图片信息,如:画面里有什么风格/元素/色彩
Shift+回车 = 换行
AI可能会犯错误或不完全遵循,请谨慎使用。
同款 0
评论 0