当前位置：网站首页>Shapley Explanation Networks

Shapley Explanation Networks

2022-04-23 06:28:00 【中南大学苹果实验室】

作者：18届 cyl

日期：2021-08-15

论文：《Shapley Explanation

Networks》

期刊：ICLR

一、前提知识：Shapley Value

Shapley Value起源于博弈论，n人合作，共创造了v(N)的价值，如何评估每个人的价值？通过计算每个
人的Shapley value。
公式：
在这里插入图片描述
在这里插入图片描述
特点：

  1. 可以评估一组特征的重要性
  2. 计算复杂的是指数级别
  3. 可以进行线性变换，对一个函数求了shapley值，如果函数再进行线性变换，可以通过对原
    shapley值进行线性变换求新的shapley值。

二、背景

神经网络的可解释性是待解决的重要问题，其中了解每个特征的重要性是提高可解释性的一个方向。
在博弈论中提出的Shapley值是评估组成元素重要性的一个方法，并且shapley值已经被应用到了机器学
习领域，但是存在两个问题：
（1）由于Shapley值计算方法本身的特点，它的时间复杂度是指数级别的；
（2）目前的分析方法都是“事后”的，即模型已经构建完成了，对模型计算shapley值，这样一来消耗时
间，二来得到的shapley值只是用来分析，没有修改模型本身。
目标
1）通过近似方法降低时间复杂度
2）使用Shapley值指导正则化、剪枝，修改模型

三、Shapley Explanation Networks

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

版权声明
本文为[中南大学苹果实验室]所创，转载请带上原文链接，感谢
https://blog.csdn.net/cyl_csdn_1/article/details/119716064

边栏推荐

猜你喜欢

随机推荐