GSPN 以空间传播网络替代自注意力，降低视觉基础模型计算成本

GSPN提出空间传播网络，视觉基础模型的计算成本降了

日前，一篇发表在arXiv上的论文（编号2606.00746）公布了解决视觉基础模型计算瓶颈的新方案——Generalized Spatial Propagation Networks (GSPN，通用空间传播网络)。这个方法直接用空间传播网络替代了传统的自注意力机制，让计算复杂度从二次方降到了近乎线性。说白了，就是在保证模型“看”得准的前提下，把计算开销砍掉了一大截。

自注意力机制，怎么就成“绊脚石”了？

现在的视觉基础模型，比如那些能识别图像里各种物体的AI，大多依赖自注意力机制来理解画面全局。但这个机制有个挺让人头疼的问题：它处理图像时，计算量会随着图像分辨率或尺寸的增加呈指数级增长。举个例子，一张高清图片的像素点越多，模型计算这些像素两两之间关系的工作量就越夸张。这直接限制了模型能用多清晰的图像，也把大规模预训练的成本推得非常高。

GSPN的解法：直接在2D网格上传播信息

之前也出现过一些替代方案，比如线性注意力或者状态空间模型，它们确实能降低计算量，但通常需要把二维图像强行拉成一串一维的序列来处理。这样一来，图像原本的二维空间结构——比如物体之间的连接和相对位置——就被大大削弱了。GSPN的思路很直接：何必绕弯子呢？它直接在图像本身的2D网格上干活，通过一种“线扫描递归”的方式，沿着行和列逐步传播上下文信息。这样做的好处很明显：既保留了图像的空间结构，又把计算量控制住了。

• 近线性复杂度：与自注意力的二次复杂度相比，GSPN的计算量随着图像尺寸增大只是线性增长。
• 保持2D结构：无需将图像压扁成一维序列，避免了关键空间信息的丢失。
• 无需位置编码：既然传播过程直接发生在2D网格上，模型天然就能感知每个像素的位置关系，根本不需要额外添加位置编码。这有谁会不喜欢呢？

这就不难看出，GSPN在效率和效果之间找到了一个不错的平衡点。对于研究者和开发团队来说，这意味着未来可以训练更大、更强的视觉模型，却不必为高昂的算力账单发愁。毕竟，计算成本降下来，才可能让更多实际应用场景——比如高精度遥感图像分析或实时视频理解——真正跑起来。

GSPN方法是基于通用空间传播网络的核心思想实现的，它旨在降低视觉基础模型的自注意力计算成本。可以说，这次尝试为突破视觉基础模型的性能天花板提供了一个非常务实的工程路径。