当前位置:网站首页>【Pytorch】nn.ReLU(inplace=True)
【Pytorch】nn.ReLU(inplace=True)
2022-08-11 06:28:00 【二进制人工智能】
nn.ReLU(inplace=False)
中inplace
的默认为False
当inplace = False
时,nn.ReLU
不会修改输入对象的值,而是创建一个新的对象作为输出。
当inplace = True
时,nn.ReLU
会修改输入对象的值作为输出,而不是创建一个新的对象。
import torch
import torch.nn as nn
input = torch.randn(5)
relu_F = nn.ReLU(inplace=False)
relu_T = nn.ReLU(inplace=True)
output_F = relu_F(input)
output_T = relu_T(input)
print('输入:', input, 'id:', id(input))
print('inplace=False,输出:', output_F, 'id:', id(output_F))
print('inplace=Ture,输出:', output_T, 'id:', id(output_T))
利用inplace = True
计算可以节省内存,同时还可以省去反复申请和释放内存的时间。但是会对原变量覆盖,只要不带来错误就用。
参考:
边栏推荐
猜你喜欢
Shell:三剑客之awk
【推荐系统】:协同过滤和基于内容过滤概述
每日sql-统计各个专业人数(包括专业人数为0的)
Multiscale communication in cortical-cortical networks
STM32CUBEIDE(11)----输出PWM及修改PWM频率与占空比
恒源云-Pycharm远程训练避坑指南
Daily sql: request for friend application pass rate
Spatial Pyramid Pooling -Spatial Pyramid Pooling (including source code)
拼多多api接口应用示例
How to choose professional, safe and high-performance remote control software
随机推荐
docker安装mysql5.7(仅供测试使用)
【latex异常和错误】Missing $ inserted.<inserted text>You can‘t use \spacefactor in math mode.输出文本要注意特殊字符的转义
【@网络工程师:用好这6款工具,让你的工作效率大翻倍!】
Discourse 的关闭主题(Close Topic )和重新开放主题
常见激活函数及其导数
Implement general-purpose, high-performance sorting and quicksort optimizations
ROS 服务通信理论模型
你是如何做好Unity项目性能优化的
每日sql-求2016年成功的投资总和
拼多多API接口(附上我的可用API)
Pinduoduo API interface (attach my available API)
Redis源码-String:Redis String命令、Redis String存储原理、Redis字符串三种编码类型、Redis String SDS源码解析、Redis String应用场景
How Unity handles C# under the hood
Multiscale communication in cortical-cortical networks
opencv实现数据增强(图片+标签)平移,翻转,缩放,旋转
Spatial Pyramid Pooling -Spatial Pyramid Pooling (including source code)
【预约观看】Ambire 智能钱包 AMA 活动第四期即将举行
Trill keyword search goods - API
梅科尔工作室——BP神经网络
为什么C#中对MySQL不支持中文查询