FlexPrefill
ICLR2025 口頭發表論文:FlexPrefill:一種用於高效長序列推論的上下文感知稀疏注意力機制
FlexPrefill 是什麼?
本項目為 ICLR2025 口頭發表論文《FlexPrefill: A Context-Aware Sparse Attention Mechanism for Efficient Long-Sequence Inference》的程式碼實現。
ICLR2025 口頭發表論文:FlexPrefill:一種用於高效長序列推論的上下文感知稀疏注意力機制
本項目為 ICLR2025 口頭發表論文《FlexPrefill: A Context-Aware Sparse Attention Mechanism for Efficient Long-Sequence Inference》的程式碼實現。