图卷积注意力：从谱视角看图去噪与扩散

摘要

研究揭示了线性注意力在图去噪任务中的局限性，只能学习平均谱滤波器。为此提出谱注意力机制，利用输入图谱信息，理论上优于线性注意力。进一步实现图卷积注意力（GCA），通过图滤波查询和键实现谱去噪，并在随机块模型中证明其最优性。实验表明GCA在合成和真实数据集上持续提升去噪和扩散性能。