当前位置:网站首页>【问题解决】训练和验证准确率很高,但测试准确率很低
【问题解决】训练和验证准确率很高,但测试准确率很低
2022-08-09 22:59:00 【ifsun-】
前情提要:
采用ResNet50预训练模型训练自己的图像分类模型。训练和验证阶段准确率很高,但随机输入一张图片时,大多数情况下依旧预测得不准确。
(于是开始搜索各种“验证准确率高但测试准确率低”的原因……)
问题探索:
1.我原始的数据集仅有200张图片,因此做离线数据增强(对比度、饱和度、裁剪、翻转、变换颜色)来扩充数据集。网上说可能是数据增强做得太过了,导致训练集分布发生变化。
但我觉得应该不至于,所以这个因素暂时pass。
2.网上说可能过拟合。
但验证准确率却很高啊,所以这个因素也暂时pass。
3.突然刷到一篇文章!救我大命!万分感谢!
是因为读取图片的方式发生了变化。在训练模型时,我采用的是cv2.imread(),但调用训练好的模型做预测时采用的是PIL.Image.open()。而前者读取的色彩通道顺序为BGR,后者为RGB!!
于是修改预测时的图片读取方式,与训练阶段保持一致。但很奇怪,依旧不准确……
4.突然想到cv2无法读取中文路径。而我的数据集中的图片有一部分是中文命名的!虽然没有报错,但实际上是什么都没读到的,在print(img)时,结果为None。也就是说,我之前训练模型,完全是训练了个寂寞……
(成功近在眼前了!)
于是修改所有中文命名的文件名。(说个题外话,我在网上搜索了如何批量修改,但感觉依旧很麻烦,所以我完全是手动修改的呜呜呜,还好我的数据集中这样的图片不是特别多。)
修改完毕后,重新训练模型!成功了!
这是读取方式不同时的预测结果:
这是读取方式相同时的预测结果:
准确率和训练阶段的基本相同~
边栏推荐
猜你喜欢
[Cloud Native] This article explains how to add Tencent Crane to Kubevela addon
SRv6 performance measurement
A summary of 6 common tools for cross-border e-commerce
ABAP中Collect的用法
【集训DAY4】询问【Hash】
2022-08-09 mysql/stonedb-subquery performance improvement-introduction
Technology feast!Huayun Data brings six topics to OpenInfra Days China
【集训DAY4】矩形【线段树】
信息系统项目管理师核心考点(六十四)信息安全基础知识重要概念
ECCV 2022 | Microsoft Open Source TinyViT: Pre-training Capabilities for Small Models
随机推荐
深入理解多线程(第一篇)
Golden Warehouse Database KingbaseGIS User Manual (6.5. Geometry Object Editing Function)
信息系统项目管理师核心考点(六十四)信息安全基础知识重要概念
MQTT X Web:在线的 MQTT 5.0 客户端工具
【励志】名言警句
Mysql/stonedb - slow SQL - 2022-08-09 Q16 analysis
恭喜获奖得主 | 互动有礼获赠 Navicat Premium
数据库优化 | 干货
SRv6 performance measurement
拼多多店铺运营不得不知的留个运营小知识
Dry goods!Towards robust test-time adaptation
Gold Warehouse Database KingbaseGIS User Manual (6.2. Management Functions)
IT传奇人物菲尔德的转型经验教训及给CIO的建议
JSON对象和字符串相互转化
力扣:474.一和零
Eureka protects itself
CAD 截断线段
ECCV 2022 | 微软开源TinyViT :搞定小模型的预训练能力
【集训DAY4】矩形【线段树】
LeetCode952三部曲之三:再次优化(122ms -> 96ms,超51% -> 超91%)