当前位置:
X-MOL 学术
›
arXiv.cs.CV
›
论文详情
Our official English website, www.x-mol.net, welcomes your
feedback! (Note: you will need to create a separate account there.)
SAHDL:稀疏注意力超图正则化字典学习
arXiv - CS - Computer Vision and Pattern Recognition Pub Date : 2020-10-23 , DOI: arxiv-2010.12416 Shuai Shao and Rui Xu and Yan-Jiang Wang and Weifeng Liu and Bao-Di Liu
arXiv - CS - Computer Vision and Pattern Recognition Pub Date : 2020-10-23 , DOI: arxiv-2010.12416 Shuai Shao and Rui Xu and Yan-Jiang Wang and Weifeng Liu and Bao-Di Liu
近年来,注意力机制对基于超图的神经网络做出了重大贡献。然而,这些方法随着网络的传播更新注意力权重。也就是说,这种注意力机制只适用于基于深度学习的方法,不适用于传统的机器学习方法。在本文中,我们提出了一种基于超图的稀疏注意机制来解决这个问题,并将其嵌入到字典学习中。更具体地说,我们首先通过使用 $\ell_1$-norm 稀疏正则化来挖掘样本特征之间的高阶关系,构建一个稀疏注意力超图,资产注意力权重到样本。然后,我们引入了超图拉普拉斯算子来保留字典学习中子空间变换的局部结构。除了,我们将判别信息纳入超图中作为聚合样本的指导。与之前的工作不同,我们的方法独立更新注意力权重,不依赖于深度网络。我们证明了我们的方法在四个基准数据集上的有效性。
"点击查看英文标题和摘要"
更新日期:2020-10-26
"点击查看英文标题和摘要"