CVPR论文复现争议后续:华人一作苦战两月给出有态度的分析结果
2023-11-29 07:23:06
正文
今年 9 月,reddit 网友 Michael Klachko 对 CVPR 2018 的一篇接收论文《Perturbative Neural Networks》提出质疑,他在对论文的复现过程中发现了一些问题:「《Perturbative Neural Networks》论文中的结果不可重复。」
这篇论文是加州大学伯克利分校的华裔教授Shenghuo Zhu,以及他的学生Caiming Xiong联合撰写的。论文提出了一种新的神经网络架构,这种架构可以对输入数据进行扰动,从而提高网络的泛化性能。
Klachko 在复现论文时发现,论文中报告的实验结果无法在自己的实验中得到重复。他将自己的发现发布在社交媒体上,引发了学术界对机器学习研究可重复性的质疑。
近日,Caiming Xiong发表了自己的详细复现分析和回应。他在文章中承认,论文中的一些实验结果的确无法在其他实验中得到重复。但他同时指出,这些结果并不是论文的主要结论,论文的主要结论仍然是有效的。
Xiong 表示,论文中无法重复的实验结果是由于他使用了一个有缺陷的实验设置。这个实验设置导致了实验结果的过拟合,从而使结果无法在其他实验中得到重复。
Xiong 还指出,论文中报告的其他实验结果都是可以重复的。这些结果支持了论文的主要结论,即新的神经网络架构可以对输入数据进行扰动,从而提高网络的泛化性能。
Xiong 的回应得到了学术界的广泛关注。一些学者认为,Xiong 的回应令人信服,论文的主要结论仍然是有效的。而另一些学者则认为,Xiong 的回应并不能完全解决论文中存在的问题,论文的结论仍然值得怀疑。
这场关于机器学习研究可重复性的争论仍在继续。随着越来越多的研究人员开始关注这个问题,相信我们终将找到解决这个问题的办法。
除了以上内容之外,我想补充几点我的看法。
首先,我认为Klachko对论文的质疑是合理的。复现论文结果是学术研究的重要组成部分,如果论文的结果无法被其他研究人员重复,那么论文的结论就值得怀疑。
其次,我认为Xiong的回应也是合理的。他承认了论文中存在的问题,并给出了合理的解释。这表明他是一个诚实、负责任的学者。
第三,我认为这场关于机器学习研究可重复性的争论是必要的。只有通过这种争论,我们才能找到解决这个问题的办法,从而提高机器学习研究的质量。
最后,我认为机器学习研究的可重复性是一个非常重要的问题。只有当机器学习研究的可重复性得到保证,我们才能真正信任机器学习的研究成果,并将其应用于实际生活。