当前位置:网站首页>MindSpore官方RandomChoiceWithMask算子用例报错
MindSpore官方RandomChoiceWithMask算子用例报错
2022-08-10 03:28:00 【小乐快乐】
mindspore.ops 算子 RandomChoiceWithMask
rnd_choice_mask = ops.RandomChoiceWithMask() input_x = Tensor(np.ones(shape=[240000, 4]).astype(np.bool)) output_y, output_mask = rnd_choice_mask(input_x) result = output_y.shape print(result)
【日志信息】(可选,上传日志内容或者附件)
Traceback (most recent call last):
File "E:/Mindspore1.1/mindspore/model_zoo/official/cv/faster_rcnn/test.py", line 21, in <module>
output_y, output_mask = rnd_choice_mask(input_x)
File "F:\py375\lib\site-packages\mindspore\ops\primitive.py", line 247, in __call__
return _run_op(self, self.name, args)
File "F:\py375\lib\site-packages\mindspore\common\api.py", line 77, in wrapper
results = fn(*arg, **kwargs)
File "F:\py375\lib\site-packages\mindspore\ops\primitive.py", line 682, in _run_op
output = real_run_op(obj, op_name, args)
RuntimeError: mindspore\ccsrc\runtime\device\cpu\cpu_kernel_runtime.cc:469 Run] mindspore/core/utils/convert_utils_base.h:28 SizeToInt] The size_t value(3499211612) exceeds the maximum value of int.
#
Trace:
#
WARNING: Logging before InitGoogleLogging() is written to STDERR
[EXCEPTION] PRE_ACT(60896,3,?):2021-10-14 16:18:30 [mindspore/core/utils/convert_utils_base.h:28] SizeToInt] The size_t value(3499211612) exceeds the maximum value of int.
[EXCEPTION] DEVICE(60896,3,?):2021-10-14 16:18:30 [mindspore\ccsrc\runtime\device\cpu\cpu_kernel_runtime.cc:469] Run] mindspore/core/utils/convert_utils_base.h:28 SizeToInt] The size_t value(3499211612) exceeds the maximum value of int.
#
Trace:
[WARNING] PIPELINE(60896,1,?):2021-10-14 16:18:30 [mindspore\ccsrc\pipeline\jit\init.cc:310] operator()] Start releasing dataset handles...
[WARNING] PIPELINE(60896,1,?):2021-10-14 16:18:30 [mindspore\ccsrc\pipeline\jit\init.cc:313] operator()] End release dataset handles.
https://gitee.com/mindspore/mindspore/pulls/24880
https://gitee.com/mindspore/mindspore/pulls/24881
更正:该问题的修复pr链接如上,合入时间为10月15日。
边栏推荐
猜你喜欢
Did not detect default resource location for test class xxxx
【IO复用】poll
Classes and interfaces
一个刚入行的测试员怎么样做好功能测试?测试思维真的很重要
ARP Spoofing - Tutorial Details
vue项目 npm run build 打包项目防止浏览器缓存
一篇文章教你Pytest快速入门和基础讲解,一定要看
如何让导电滑环信号更好
嵌入式分享合集32
How to quickly become a software test engineer?What skills do testers need for a monthly salary of 15k?
随机推荐
Flink CDC 2.0及其他数据同步工具对比
文本编辑器vim
全面深入了解什么是反向代理和负载均衡
maya图片如何渲染
怎么进行服务器性能监控,有什么监控工具
超全面的Android面试题汇总
Leetcode 47 全排列Ⅱ
使用 requestAnimationFrame 提升 web 性能
如何将 @Transactional 事务注解运用到炉火纯青?
js原型和原型链以及原型继承
goland控制台显示重叠问题解决方案
【IO复用】poll
C语言原码,反码,补码与大小端
[STL]map与set
线程和线程间通信(C语言)
轻流CEO薄智元:从无代码到无边界
什么是Jmeter?Jmeter使用的原理步骤是什么?
Did not detect default resource location for test class xxxx
使用flink-sql写入mysql的时候,只指定插入的字段,但是会报错id字段错误,没有默认值,创
继承关系下构造方法的访问特点