当前位置:网站首页>【论文笔记1】小样本分类
【论文笔记1】小样本分类
2022-08-10 05:29:00 【Time.Xu】
FSL学习笔记
最新论文&代码收集网站:网址连接
论文1:孪生网络 (Metric Based)
Siamese Neural Networks for One-shot Image Recognition
通过Siamese神经网络借助监督度量的方法学习图像表示,然后重用该网络的特征进行OneshowtLearning,而不需要任何再训练。
孪生网络由两个结构相同(参数也相同:权重绑定了)的网络组成,这两个网络接受不同的输入,并且这两个网络最后由一个能量函数(Energy fuction)汇合到一起。这个Energy Fuction用于计算两个特征图之间的距离。
使用加权的L1距离来进行特征向量之间的距离,并结合了sigmoid激活函数。(使用了交叉熵损失函数)
孪生网络的模型结构如图所示。 最后的卷积层中的单位被压平成一个矢量。
预测向量(prediction vector)的公式是:p =
其中,σ是sigmoi的函数,αj是对每个向量的第j维的权重进行调节(是可学习的参数)。
所定义的交叉熵损失函数如下所示:
当两张图片相同时y=1;当两张图片不同时y=0。
论文2 匹配网络 (Metric Based)
Matching Networks for One Shot Learning
比较高明的解读:链接
研究背景:
- 少样本数据经常存在,但是
- 数据增强和正则化方法能够避免过拟合,却不能让网络学习的很好
- 需要随机梯度下降多次,这是浪费时间的
研究贡献:
- 提出了一种匹配网络MN
- test and train conditions must match. (为了使得网络能够更快的适应新的模型算法,即 训练的时候就和测试一样都是一样的输入方式)
- 关键:经过训练后,匹配网络能够为未观察到的类产生合理的测试标签,而不需要对网络进行任何更改
边栏推荐
猜你喜欢

Pony语言学习(七)——表达式(Expressions)语法(单篇向)

Talk about API Management - Open Source Edition to SaaS Edition

基于Qiskit——《量子计算编程实战》读书笔记(二)

一篇文章掌握整个JVM,JVM超详细解析!!!

MongoDB 基础了解(一)

基于BP神经网络的多因素房屋价格预测matlab仿真

Interface documentation evolution illustration, some ancient interface documentation tools, you may not have used it

An article to master the entire JVM, JVM ultra-detailed analysis!!!

MySQL simple tutorial

Pony语言学习(八):引用能力(Reference Capabilities)
随机推荐
Flutter development: error The following assertion was thrown resolving an image codec: Solution for Unable to...
动手写prometheus的exporter-02-Counter(计数器)
几种绘制时间线图的方法
大咖说·对话生态|当Confluent遇见云:实时流动的数据更有价值
Practical skills 19: Several postures of List to Map List
aliases node analysis
一篇文章掌握整个JVM,JVM超详细解析!!!
如何用Apifox 的智能Mock功能?
SQL数据库字段追加到主表
基于Servlet的验证码登陆demo
flex 相关
scikit-learn机器学习 读书笔记(二)
openGauss源码,在window系统用VSCode维护吗?
MongoDB 基础了解(一)
【LeetCode】41. The first missing positive number
Touch chip used in smart touch remote control
Joomla vulnerability reproduced
Attention candidates for the soft exam! The detailed registration process for the second half of 2022 is coming!
Big guys, mysql cdc (2.2.1 and previous versions) sometimes has this situation since savepoint, is there anything wrong?
canvas canvas drawing clock