计算机科学与技术AI InfraAttention注意力汇聚本页总览注意力汇聚1. 注意力的可视化平均汇聚层可以被视为输入的加权平均值, 其中各输入的权重是一样的。注意力汇聚得到的是加权平均的总和值,其中权重是在给定的查询和不同的键之间计算得出的。