当前位置：网站首页>【深度学习】什么是互信息最大化？

【深度学习】什么是互信息最大化？

2022-08-11 05:36:00 【一穷二白到年薪百万】

引言

在学习无监督学习时，最常用的loss就是最大化互信息。所以本文对互信息最大化做了一个总结。内容和图片多有参考其他资料，相关的文献一并在参考文献列出。

什么是互信息？

参考文献

[1]什么是「互信息」？
[2]DIM：通过最大化互信息来学习深度表征
 [3]【互信息 Deep InfoMax】Learning Deep Representations by Mutual Information Estimation and Maximization
[4]ICLR 2020 | 互信息视角下的表征学习
 [5]互信息的深度理解（总结的不错值得一看）
[6]互信息在深度学习的应用
 [6]对比学习（Contrastive Learning）综述

版权声明
本文为[一穷二白到年薪百万]所创，转载请带上原文链接，感谢
https://blog.csdn.net/zfhsfdhdfajhsr/article/details/126256189

边栏推荐

猜你喜欢