当前位置：网站首页>PyTorch中 torch.nn与torch.nn.functional的区别

PyTorch中 torch.nn与torch.nn.functional的区别

2022-08-09 07:09:00 【代码的路】

在__init__()函数里定义，定义的是一个类：

在__forward()__函数里定义，定义的是一个函数：

nn中是定义的类，以class xx来定义的，可以提取变化的学习参数。nn.functional中的是函数，由def function( )定义，是一个固定的运算公式。

深度学习中会有很多权重是在不断更新的，所以需要采用类的方式，以确保能在参数发生变化时仍能使用我们之前定好的运算步骤。因此如果模型有可学习的参数，应该使用nn.Module，否则两个没有区别。但是简单的计算不需要建类来做，所以使用nn.functional定义函数就可以。

即：层内有variable的情况用nn定义，否则用nn.functional定义。

学习更多编程知识，请关注我的公众号：

代码的路

版权声明
本文为[代码的路]所创，转载请带上原文链接，感谢
https://blog.csdn.net/zbzcDZF/article/details/90447993