跳到正文
Hugging Face Blog·· 2022-08-02AI 评分26

Nyströmformer:用 Nyström 方法将自注意力近似为线性时间与内存复杂度

Nyströmformer: Approximating self-attention in linear time and memory via the Nyström method

AI 导读

Nyströmformer 通过 Nyström 方法将标准自注意力的 O(n²) 复杂度降至 O(n),在多项 NLP 与 CV 任务上保持与标准自注意力相当的性能。

来源:Hugging Face Blog · huggingface.co