ZJU_CVs Blog

CV Learning and Paper Reading.

ECA-Net

Efficient Channel Attention for Deep Convolutional Neural Network

1.Introduction 最近,通道注意力机制被证明在改善深度卷积神经网络(CNNs)的性能方面具有巨大的潜力。然而,现有的方法大多致力于开发更复杂的注意力模块以实现更好的性能,导致增加了模型的复杂性和计算负担。 ECANet主要对SENet模块进行一些改进,提出了一种不降维的局部跨信道交互策略和自适应选择一维卷积核大小的方法,从而模型只增加了少量的参数,却实现性能的提优 ...

服务器运维

随时更新...

服务器配置jupyter步骤 https://blog.csdn.net/u010420283/article/details/82871367 问题:本地无法访问 原因:服务器防火墙开启 解决方案: # 关闭防火墙 sudo systemctl stop firewalld.service sudo systemctl disable firewalld.service ...

对抗样本对人工智能应用的威胁及防护

1. 背景介绍 研究者已发现在某些人工智能模型的输入上增加少量“干扰”,可在人类无法分辨区别的情况下使模型对输入的分类结果做出错误判断。这种经过处理后的输入样本通常被称为对抗样本。 寻找对抗样本可以归纳为下述问题: 针对模型$F:x \rightarrow y$,其中x为模型的输入,y为模型的输出...

Zero-shot Learning

零样本学习

Introduction ZSL介绍 zero-shot learning 得到的模型具有通过推理识别新类别的能力 zero-shot learning的一个重要理论基础就是利用高维语义特征代替样本的低维特征,使得训练的模型具有迁移性 ZSL定义 (1) 零样本学习:准确预测unseen的...

Adversarial Robustness-From Self-Supervised Pre-Training to Fine-Tuning

基于无监督学习的预训练方法

1. Introduction 基于自监督学习的预训练模型通常用于对下游任务进行更快或更精确的fine-tune。然而,未考虑预训练的鲁棒性。 本文介绍的方法首次提出通用的鲁棒预训练模型 robust的预训练模型对后续的下游任务fine-tune有以下好处 提高最终模型的鲁棒性 在fine-tuning a...

LEARN TO PAY ATTENTION

code 1、Introduction 提出了一种用于为图像分类的卷积神经网络(CNN)架构的端对端可训练注意力模块。该模块将2维特征矢量图作为输入,其形成CNN pipeline中不同阶段的输入图像的中间表示,并输出每个特征图的2维得分矩阵。 通过结合该模块来修改标准CNN架构,并在约束下训练中间2维特征向量的凸组合(由得分矩阵参数化)必须单独用于分类。通过激励方法相关性并抑...

Awesome Knowledge Distillation

layout: post title: Awesome Knowledge Distillation subtitle: date: 2020-06-25 author: JY header-img: img/post-bg.jpg catalog: true tags: - Record Papers Neural Networ...

Paper Reading with Zero-shot Learning

零样本学习系列论文

参考:https://zhuanlan.zhihu.com/p/61305815 ​ https://zhuanlan.zhihu.com/p/111602525 更新中 … 对属性进行学习 Learning To Detect Unseen Object Classes by Between-Class Attribute Transfer Learning ...

Attention Augmented Convolutional Networks

可与Stand-Alone Self-Attention in Vision Models 对比阅读 1、Introduction 卷积操作具有显著的弱点,因为它仅在本地邻域上操作,缺少全局信息(only operates on a local neighborhood,thus missing global information) Self-attention能够captu...

Deep image prior

1. Introdution 通常实现denoising, superresolution, inpainting这些任务的时候,都是用大量数据集来训练某个神经网络,用训练后的网络来更正degraded image,从而还原目标图片。 本文中,使用generative model,用一些random vector来生成reconstructed image。这个generativ...