Hugging Face Blog·· 2022-08-02AI 评分26
Nyströmformer:用 Nyström 方法将自注意力近似为线性时间与内存复杂度
Nyströmformer: Approximating self-attention in linear time and memory via the Nyström method
AI 导读
Nyströmformer 通过 Nyström 方法将标准自注意力的 O(n²) 复杂度降至 O(n),在多项 NLP 与 CV 任务上保持与标准自注意力相当的性能。
来源:Hugging Face Blog · huggingface.co