创新点：
①多尺度图像多路径的Transformer，最后汇总以保证局部和全局特征提取
②每个stage多粒度从局部到整体的推理
CNN的多粒度连接：
- 每个阶段分辨率除以4(2*2)，channel乘以2，最后输出H/32*W/32
- 在经过LN层之后，分别通过三个路径降采样，之后每个特征图都采用基于窗口的多头自注意方法进行处理，并采用移动窗口划分(SW-MSA)(来自swin Transformer)
实验：用于图像分类和语义分割
论文笔记——Local-to-Global Self-Attention in Vision Transformers
-
论文笔记——[CVPR2019]Noise2Void-Learning Denoising from Single Noisy Images
创新点： ①提出了一种自监督训练去噪模型的方法，可以在不需要干净目标的情况下训练 ②只有一张噪声图像就可以训练（解决N2N需要一对噪声图像来训练的问题） 噪声图像的构成 \text...
![论文笔记——[CVPR2019]Noise2Void-Learning Denoising from Single Noisy Images](https://blog.liguanxin.cn/wp-content/uploads/2022/04/微信截图_20220420145844-150x89.png)
-
论文笔记——[CVPR 2022 Oral]Restormer: Efficient Transformer for High-Resolution Image Restoration
创新点： ①解决高分辨率图像的图像恢复任务中transformer复杂度高的问题 ②在图像运动去模糊，去焦去模糊，图像去噪（高斯灰度/颜色去噪，和真实图像去噪）任务中取得sota ③self-at...
![论文笔记——[CVPR 2022 Oral]Restormer: Efficient Transformer for High-Resolution Image Restoration](https://blog.liguanxin.cn/wp-content/uploads/2022/11/网络-150x72.png)
-
论文笔记——Transformer in Convolutional Neural Networks
创新点： ①层次多头自注意力机制，减少计算/空间复杂度 ②结合了transformer和CNN的优势 总体结构 GAP：全局平均池化 FC：全连接层 DW Conv：深度可分离卷积 IRB：反向残差瓶颈层 ...
-
中心差卷积
首先描述一下普通卷积的公式： p0代表当前输入输出的位置，pn代表R的所有枚举。 w(pn)代表pn位置的卷积核权重 ，x(p0+pn)代表p0偏移了pn位置后取得值，权重和值乘积累加后得到y(p...
-
论文笔记——Conformer: Local Features Coupling Global Representations for Visual Recognition
创新点：同时利用CNN的捕获局部特征的优点和Transformer捕获长距离特征的优点。 上图中的(c)表示整个网络结构的并发构型。 (b)表示，两个分支的初始特征是相同的，沿着两个分支以...
-
论文笔记——TVConv: Efficient Translation Variant Convolution for Layout-aware Visual Processing
（CVPR2022论文） 以前存在的问题：静态和动态卷积要么与布局无关，要么计算量大，不适用于特定于布局的应用程序，例如人脸识别和医学图像分割。 创新点： ①作者观察到人脸识别的...
-
论文笔记——[CVPR workshop 2022]Transformer for Single Image Super-Resolution
创新点： ①由轻量CNN主干Lightweight CNN Backbone(LCB)和轻量Transformer主干Lightweight Transformer Backbone(LTB)构成 ②LCB可以动态调节特征图的大小，LTB是减少了计算量的Tra...
![论文笔记——[CVPR workshop 2022]Transformer for Single Image Super-Resolution](https://blog.liguanxin.cn/wp-content/uploads/2022/11/微信截图_20221106143431-150x47.png)