本文档由 AI 生成。如果您发现任何错误或有改进建议,欢迎贡献! 在 GitHub 上编辑CLIPAttentionMultiply节点允许您通过将乘法因子应用于自注意力层的不同组件来调整CLIP模型中的注意力机制。其工作原理是修改CLIP模型注意力机制中的查询、键、值和输出投影的权重与偏置。此实验性节点会创建输入CLIP模型的修改副本,并应用指定的缩放因子。
输入
| 参数 | 数据类型 | 是否必填 | 范围 | 描述 |
|---|---|---|---|---|
CLIP | CLIP | 是 | - | 要修改的CLIP模型 |
q | FLOAT | 是 | 0.0 - 10.0 | 查询投影权重与偏置的乘法因子(默认值:1.0) |
k | FLOAT | 是 | 0.0 - 10.0 | 键投影权重与偏置的乘法因子(默认值:1.0) |
v | FLOAT | 是 | 0.0 - 10.0 | 值投影权重与偏置的乘法因子(默认值:1.0) |
输出 | FLOAT | 是 | 0.0 - 10.0 | 输出投影权重与偏置的乘法因子(默认值:1.0) |
输出
| 输出名称 | 数据类型 | 描述 |
|---|---|---|
CLIP | CLIP | 返回应用了指定注意力缩放因子的修改后CLIP模型 |
Source fingerprint (SHA-256):
43dab83ecfc928f3359eb7560658f43235bf3faa62c81084a2b4f482e3a4638f