ZJU_CVs Blog

CV Learning and Paper Reading.

Self-Supervised Prototypical Transfer Learning for Few-Shot Classification

1. Introduction 大多数few-shot classification方法仍然需要大量的预训练标注数据获取先验知识 本文将无监督学习应用在一种基于prototype network的few-shot learning方法中,在一个未标记的训练域上执行自监督的域训练任务(pretext task),并可以转移到few-shot target domain tasks ...

Deep Learning for Anomaly Detection

A Review

Anomaly Detection Problem Unknownness Heterogeneous anomaly classes Rartiy and class imbalance Diverse types of anomaly Point anomalies Conditional anomalies ...

Self Supervised Learning for Few Shot Image Classification

1. Introduction 少样本图像分类的目的是用有限的标记样本对unseen的类进行分类,常用meta-learning的方法,能够快速适应从训练到测试的分类 元学习中的初始嵌入网络是元学习的一个重要组合部分,由于每个任务的样本数量有限,在实际应用中对其性能有很大影响。因此提出了许多预先训练的方法,但大多数是以监督的方式进行训练,对unseen classe...

Few-Shot Learning via Embedding Adaptation with Set-to-Set Functions

1. Introduction 目前许多少样本学习方法通过可见类学习一个实例嵌入函数,并将其应用于标签有限的不可见类的实例中。但是这种迁移方式的任务无关(Task-agnostic)的:相对于不可见类,嵌入函数的学习不是最佳的判别式,因此会影响模型在目标任务的性能。 如上所述,当前少样本学习方法缺少一种适应策略,即将从seen classes中提取的视觉...

Graph Models

图模型总结

Overview GCN 对于一个图$G=(V,E)$,输入$X$是一个$N\times D$的矩阵,表示每个节点的特征($N$为节点数量,每个节点使用$D$维的特征向量进行表示),各个节点之间的关系会形成$N\times N$的矩阵$A$,即邻接矩阵。$X$和$D$是GCN模型的输入,希望得到一个$N\times F$的特征矩阵$Z$,表示学得的每个节点的特征表...

改进卷积总结

Backbone

(19.04) Res2Net: A New Multi-scale Backbone Architecture 代码地址:https://arxiv.org/pdf/1904.01169.pdf 代码地址:https://mmcheng.net/res2net (19.04) OctaveConv: Drop an Octave: Reducing Spatial Redundanc...

Small Data Challenges in Big Data Era

A Survey of Recent Progress on Unsupervised and Semi-Supervised Methods

1. Introduction small data challenges: 深度神经网络的成功通常取决于大量的标记数据,而这些数据收集起来很昂贵。为了解决这个问题,出现了大量以无监督和半监督的方式训练带有小数据的复杂模型的工作 Unlabeled data的作用:(1) 未标记数据的分布可以学...

Few-shot Learning

少样本学习

前言:对少样本学习的综述主要基于ECCV2020最新的一篇综述文章《Learning from Few Samples: A Survey》和之前看到的一篇《Generalizing from a few examples: A survey on few-shot learning》 Learning from Few Samples: A Survey: 对目前提出的少样本方法做了分类...

Dynamic Graph Representation Learning via Self-attention Network

Abstract ​ 学习图中节点的潜在表示是一项重要而普遍的任务,具有广泛的应用,如链接预测、节点分类和图形可视化等。以往的图表示学习方法主要集中在静态图上,而现实世界中的许多图都是动态的,并随着时间的推移而演化。在这篇论文中,提出了动态自注意网络(DySAT),这是一种新的神经架构,它可以在动态图上运作,并学习同时捕捉结构特性和时间演化模式的节点表示。具体来说,DySAT通过沿着两...

AI算法工程师手册

link 数学基础 1.线性代数基础 一、基本知识 二、向量操作 三、矩阵运算 四、特殊函数 2.概率论基础 一、概率与分布 二、期望和方差 三、大数定律及中心极限定理 五、常见概率分布 六、先验分布与后验分布 七、信息论 八、其它 3.数值计算基础 一、数值稳定性 二、梯度下降法 三、二阶导数与海森矩阵 四...