APP推广合作
联系“鸟哥笔记小乔”
大连理工本科生顶会连刷SOTA被爆作弊!
2021-12-10 14:05:19


 新智元报道  

编辑:好困 LRS

【新智元导读】AAAI 2022刚要落下帷幕就又被掀起来了!大连理工本科生一作论文中稿,本该是件值得庆祝的事,但有网友发现了论文中的致命漏洞:声称的无监督方法竟然引入了标签!这让无数被拒的论文情何以堪?导师及二作都出面澄清将会补充实验,但一作仍未公开发声。


顶会AAAI 2022的惨烈程度,各位投稿人一定心有体会,近万篇投稿只有15%的录取率,无数全positive的优秀工作被录取率卡掉。

然而……

「有的时候中了不一定是好事,不中也不一定是坏事。」

最近知乎上的一个问题如平地惊雷,将本已缓缓落幕的AAAI 2022又拉回大众的视线。

在这篇AAAI 2022中稿论文中介绍了一个无监督的行人重识别(Re-identification, Re-ID)技术,效果之好让相同领域的研究人员直呼绝望,性能直逼有监督,以一己之力把无监督的Re-ID技术抬到了天花板。

这就是顶会强者吗?恐怖如斯!

原来如此强的论文才能入选顶会,那自己的论文被拒也是在情理之中。

但抱着学习的态度继续深入看这篇论文的时候,越看越有点不对劲。作者将某些真实标签数据误认为是先验知识输入到模型中了,从原理上来说这已经不是无监督了,而是实实在在的有监督。

难道,又是学术不端?还是学艺不精?

啥是行人重识别?

首先科普一下这个行人重识别(Re-ID)是什么东西。

在监控视频中,由于相机分辨率和拍摄角度有限,通常无法得到高质量的人脸图片。当人脸识别失效的情况下,Re-ID就成为了一个非常重要的替代品技术。

行人重识别(Person/Pedestrian Re-Identification)是利用计算机视觉技术判断图像或者视频序列中是否存在特定行人的技术。

行人重识别可以被认为是一个图像检索的子问题,给定一个监控行人图像,检索跨设备下的该行人图像,从而弥补固定的摄像头的视觉局限。

行人重识别可与行人检测/行人跟踪技术相结合,并广泛应用于智能视频监控、智能安保等领域。

其中,行人重识别一个非常重要的特性就是「跨摄像头」,所以评价一篇学术论文所取得的性能如何,是要检索出不同摄像头下的相同行人图片。

Mind Your Clever Neighbours

目前,大多数的无监督行人重识别(Re-ID)技术都采用了迭代聚类机制。其pipeline大致可以分为三个部分:


  1. 特征提取,在每一个epoch开始的时候,通过网络将训练数据集中图片的特征都提取出来。


  2. 聚类,通过传统的聚类方法如DBScan, KNN通过特征把图片聚成不同的类别,每个类别给一个标签,就是用来训练的伪标签。一开始的伪标签是很不准的,在训练的过程中,随着网络的精度越来越高,伪标签也会越来越接近真实标签。


  3. 图片特征的存储和更新,在网络训练的过程中,随着网络参数的变化,图片的特征也需要进行对应的更新。



这篇备受争议的文章主要研究的就是第二步,作者提出了一个新型的聚类关系建模框架。也就是在聚类之前,使用基于图相关学习(graph correlation learning, GCL)模块来探索未标记图像之间的关系,然后将提炼出的特征用于聚类,从而生成高质量的伪标签。

https://arxiv.org/abs/2112.01839v1

具体来说就是GCL模块的输入是一个样例图像和它的相邻图像,因为相邻图像和样例比较相似,所以聚类的效果就会有所提升。

关键来了,如何判断两个图像是否相似,并让他们相邻?

作者表示他们采用了一个众所周知、常用的方法:把所有的图像按照「图像名」排序,然后把相邻图像输入GCL就好了。

可能不懂Re-ID的人此刻已经被蒙混过去了,使用了一个「众所周知」的排序方法作为先验知识,加上文章提出的GCL模块,效果提升了。

你说,是不是GCL的功劳?

可惜,太多科学论文折在了这个「众所周知」上!

「图像名」在Re-ID任务上和标签和标签无异。论文中使用的dukemtmc和market1501数据集中,图片就是以ID进行命名的。

每个图像名的写法都是「PersonID_CameraID_其他信息.jpg」,所以如果按照图像名排序的结果就是相同人物都已经按照顺序排列好了。

图名=人名,顺序排列,相邻图像,GCL,聚类。。。等等,你是无监督?

并且论文在行文的过程中似乎也刻意避开描述排序过程中利用的信息。

在正文中作者只是表示他们没有直接使用特征提取器的输出进行聚类,而是首先对训练数据集中的样本之间的关系进行建模。

由于为整个数据集建立一个graph是非常耗时耗力的,所以作者选择以批处理的方式构建一系列的small graph。如(a)和(b)所示,由于一个伪标签通常由多个实例组成,当不同身份的图像被认为是同一类别时,会降低Re-ID的性能。


在这项工作中,GCL模块被用来重构mini-batch的样本表征,如(c)所示。通过这种方式,我们不仅提高了聚类的质量,也减轻了聚类错误的影响。

可以看到,描述过程中作者完全没有提到GCL模块所依据的信息(训练数据的文件名,也就是训练数据的标签),转而描述了GCL模块中使用的两个trick,对于没有认真看method部分的审稿人来说,可能就会认为文章中的GCL贡献确实很大。

好到不真实的结果

作者在三个基于图像的人物识别基准上与SOTA的方法进行了比较,结果显示,论文提出的方法不仅刷新了无监督的SOTA,甚至超过了部分有监督学习。

Market1501数据集,R1为94.8%,mAP为87.5%。与目前公布的最佳方法ICE相比,在R1精度和mAP上分别取得了1.0%和5.2%的提升。

DukeMTMC-reID数据集,与考虑了训练期间相机变化的方法CAP相比,在R1和mAP方面提高了6.5%和12.7%。

在具有挑战性的MSMT17数据集上,mAP也取得了49.0%的好成绩,R1则为74.2%,在mAP和R1上超过CC16.7%和10.9%。

这种高性能表明论文提出的方法可以帮助生成高质量的伪标签,减少聚类错误的影响。

与包括PCB、ABDNet、FlipReID和AAformer等有监督的方法相比,作者提出的无监督方法仍具有竞争力。

虽然在具有挑战性的MSMT17上,有一定的性能差距。但是整体而言都取得了比有监督PCB更好的性能。

但是,从消融实验的结果上来看,性能基本全依靠Cluster Refinement(CR),也就是论文提出的GCL。

其中,「SCL 」指选择性对比学习;「CR」指通过GCL进行聚类重构;「NS」指噪声抑制。

如果说,CR是论文中最重要的Component,而这里又存在标签泄漏的问题,那……

二作和导师回应

二作Chenyang Yu就这些问题作出了公开回应。

首先,关于利用图像名排序问题。

本文是基于DBSCAN的无监督聚类方法,第一步是根据ResNet-50提取整个训练集的特征,如DukeMTMC-reID上16522x2048 (样本个数x向量维数) ,然后计算Jaccard距离,得到16522x16522的相似度矩阵。

根据这个相似度矩阵,DBSCAN算**给每一张图片分配伪标签。

在这个过程中,使用图像名的排序与不排序并不会影响16522x16522相似度矩阵的计算,因为每张图片都会与整个训练集的图片计算相似性,因此生成的伪标签是一样的。

另外,我们在做实验的时候也有不需要排序的改进版本,即二次聚类方法:

第一次聚类就按照基线方法,根据ResNet-50提取整个训练集的特征16522x2048 (DukeMTMC-reID上),得到相似度矩阵进行DBSCAN聚类,得到伪标签。因为DBSCAN聚类会有-1标签,我们根据最近邻的方法,给每个-1标签分配其最近邻对应的伪标签,从而完成整个训练集的伪标签分配。一旦完成,那么我们就可以对每个伪标签的所有图片,构建图,进行消息传递,得到优化后的特征。

第二次聚类,与之前的描述一样,我们再将这个优化后的特征与原始特征级联,得到16522x4096的特征。接着与基线方法一样计算16522x16522的相似度矩阵,根据这个相似度矩阵,DBSCAN算**给每一张图片分配伪标签。

并且其中一个审稿人明确「质疑」了图像名字包含ID信息并不是一类先验知识。针对审稿人的提问,作者在rebuttal中表示如果只用聚类算法而不用GCL是不会带来性能提升的。并且为了让方法更可信,换了一种聚类方法,mAP指标立刻掉了1.2%。

所以审稿人被说服了。

以上为回复节选

就职于大连理工大学人工智能学院、信息与通信工程学院的副教授张平平,也是这篇论文的通讯作者也做出了实名回应。


  1. 论文投稿和rebuttal经过学生已在(https://www.zhihu.com/question/504163027/answer/2261562294)中回复,arXiv论文是投稿版本,并未包含rebuttal补充的修改与实验;


  2. 正在全面的做random shuffle setting的实验,将在第一时间(不晚于12月18日)做好实验说明和分析再来更新答复;


  3. 完成相关试验后,在camera-ready截止日期前根据新的结论和rebuttal阶段的讨论内容跟AAAI主席沟通是否撤稿。

目前,作者已经把论文从arXiv上删除。

网友评论

有人认为这审稿人肯定是严重失职了,但凡专业一点,看见这么高的performance,不仔细看下方法实现?

但从评审结果来看,5个审稿人员中有两个人都给了negative,所以大概率这个锅得meta reviewer来背。

还有人表示「作者心真大,不怕举报,也不在乎学术前程」。

也有网友的观点认为这就是变相造假!没有补充实验的话最好还是撤稿,让大家体面地结束。

本科生参与科研是对是错?

文章的第一作者贾某目前还未就此事公开回复,想必此刻他也是面临巨大的心理压力,也许最终的实验结果还能挽救一下这篇濒临撤稿的论文。

这篇论文最大的遗憾与惊喜都来自于第一作者,他刚刚进入大三阶段的学习,没有经过多年的学术锻炼就中了一篇多少人梦寐以求、求而不得的顶会论文。

年少有为,也意味着没有太多经验,一篇论文下隐藏着巨大的风险。

随着越来越多的本科生进入科研领域,科学这个神圣的领域也进入寻常百姓家,写出的论文质量也是良莠不齐。

这个知乎问题下可以看到无数优秀本科生的科研经历,但并不是所有本科生的成果都对科学这座大厦产生着正面影响。

如何对论文严格把关,也是科学研究发展到下一阶段需要着重思考的问题。


参考资料:

https://www.zhihu.com/question/504163027

https://baike.baidu.com/item/行人重识别/20815009

本文部分引用「罗浩.ZJU」、「水母沙拉」和匿名回答

https://zhuanlan.zhihu.com/p/31921944

https://www.zhihu.com/question/504163027/answer/2261199211

导师回应:

https://www.zhihu.com/question/504163027/answer/2261562294

二作回应:

https://www.zhihu.com/question/504163027/answer/2261562294

-END-

新智元
分享到朋友圈
收藏
收藏
评分
评论

综合评分:

我的评分

参与评论(0)

社区交流公约

暂无评论,快来抢沙发吧~
登录后参与评论
发布评论
鸟哥笔记用户社区交流公约

Xinstall 15天会员特权
Xinstall是专业的数据分析服务商,帮企业追踪渠道安装来源、裂变拉新统计、广告流量指导等,广泛应用于广告效果统计、APP地推与CPS/CPA归属统计等方面。
20羽毛
立即兑换
超级nice便签砖
超级超级超级奈斯!
1000羽毛
立即兑换
【新品】办公/外出两用静音充电小电扇
办公桌必备小电扇!
2000羽毛
立即兑换
新智元
新智元
发表文章35
智能+中国主平台,致力于推动中国从互联网+迈向智能+新纪元。重点关注人工智能、机器人等前沿领域发展,关注人机融合、人工智能和机器人革命对人类
确认要消耗 0羽毛购买
大连理工本科生顶会连刷SOTA被爆作弊!吗?
考虑一下
很遗憾,羽毛不足
我知道了

我们致力于提供一个高质量内容的交流平台。为落实国家互联网信息办公室“依法管网、依法办网、依法上网”的要求,为完善跟帖评论自律管理,为了保护用户创造的内容、维护开放、真实、专业的平台氛围,我们团队将依据本公约中的条款对注册用户和发布在本平台的内容进行管理。平台鼓励用户创作、发布优质内容,同时也将采取必要措施管理违法、侵权或有其他不良影响的网络信息。


一、根据《网络信息内容生态治理规定》《中华人民共和国未成年人保护法》等法律法规,对以下违法、不良信息或存在危害的行为进行处理。
1. 违反法律法规的信息,主要表现为:
    1)反对宪法所确定的基本原则;
    2)危害国家安全,泄露国家秘密,颠覆国家政权,破坏国家统一,损害国家荣誉和利益;
    3)侮辱、滥用英烈形象,歪曲、丑化、亵渎、否定英雄烈士事迹和精神,以侮辱、诽谤或者其他方式侵害英雄烈士的姓名、肖像、名誉、荣誉;
    4)宣扬恐怖主义、极端主义或者煽动实施恐怖活动、极端主义活动;
    5)煽动民族仇恨、民族歧视,破坏民族团结;
    6)破坏国家宗教政策,宣扬邪教和封建迷信;
    7)散布谣言,扰乱社会秩序,破坏社会稳定;
    8)宣扬淫秽、色情、赌博、暴力、凶杀、恐怖或者教唆犯罪;
    9)煽动非法集会、结社、游行、示威、聚众扰乱社会秩序;
    10)侮辱或者诽谤他人,侵害他人名誉、隐私和其他合法权益;
    11)通过网络以文字、图片、音视频等形式,对未成年人实施侮辱、诽谤、威胁或者恶意损害未成年人形象进行网络欺凌的;
    12)危害未成年人身心健康的;
    13)含有法律、行政法规禁止的其他内容;


2. 不友善:不尊重用户及其所贡献内容的信息或行为。主要表现为:
    1)轻蔑:贬低、轻视他人及其劳动成果;
    2)诽谤:捏造、散布虚假事实,损害他人名誉;
    3)嘲讽:以比喻、夸张、侮辱性的手法对他人或其行为进行揭露或描述,以此来激怒他人;
    4)挑衅:以不友好的方式激怒他人,意图使对方对自己的言论作出回应,蓄意制造事端;
    5)羞辱:贬低他人的能力、行为、生理或身份特征,让对方难堪;
    6)谩骂:以不文明的语言对他人进行负面评价;
    7)歧视:煽动人群歧视、地域歧视等,针对他人的民族、种族、宗教、性取向、性别、年龄、地域、生理特征等身份或者归类的攻击;
    8)威胁:许诺以不良的后果来迫使他人服从自己的意志;


3. 发布垃圾广告信息:以推广曝光为目的,发布影响用户体验、扰乱本网站秩序的内容,或进行相关行为。主要表现为:
    1)多次发布包含售卖产品、提供服务、宣传推广内容的垃圾广告。包括但不限于以下几种形式:
    2)单个帐号多次发布包含垃圾广告的内容;
    3)多个广告帐号互相配合发布、传播包含垃圾广告的内容;
    4)多次发布包含欺骗性外链的内容,如未注明的淘宝客链接、跳转网站等,诱骗用户点击链接
    5)发布大量包含推广链接、产品、品牌等内容获取搜索引擎中的不正当曝光;
    6)购买或出售帐号之间虚假地互动,发布干扰网站秩序的推广内容及相关交易。
    7)发布包含欺骗性的恶意营销内容,如通过伪造经历、冒充他人等方式进行恶意营销;
    8)使用特殊符号、图片等方式规避垃圾广告内容审核的广告内容。


4. 色情低俗信息,主要表现为:
    1)包含自己或他人性经验的细节描述或露骨的感受描述;
    2)涉及色情段子、两性笑话的低俗内容;
    3)配图、头图中包含庸俗或挑逗性图片的内容;
    4)带有性暗示、性挑逗等易使人产生性联想;
    5)展现血腥、惊悚、残忍等致人身心不适;
    6)炒作绯闻、丑闻、劣迹等;
    7)宣扬低俗、庸俗、媚俗内容。


5. 不实信息,主要表现为:
    1)可能存在事实性错误或者造谣等内容;
    2)存在事实夸大、伪造虚假经历等误导他人的内容;
    3)伪造身份、冒充他人,通过头像、用户名等个人信息暗示自己具有特定身份,或与特定机构或个人存在关联。


6. 传播封建迷信,主要表现为:
    1)找人算命、测字、占卜、解梦、化解厄运、使用迷信方式治病;
    2)求推荐算命看相大师;
    3)针对具体风水等问题进行求助或咨询;
    4)问自己或他人的八字、六爻、星盘、手相、面相、五行缺失,包括通过占卜方法问婚姻、前程、运势,东西宠物丢了能不能找回、取名改名等;


7. 文章标题党,主要表现为:
    1)以各种夸张、猎奇、不合常理的表现手法等行为来诱导用户;
    2)内容与标题之间存在严重不实或者原意扭曲;
    3)使用夸张标题,内容与标题严重不符的。


8.「饭圈」乱象行为,主要表现为:
    1)诱导未成年人应援集资、高额消费、投票打榜
    2)粉丝互撕谩骂、拉踩引战、造谣攻击、人肉搜索、侵犯隐私
    3)鼓动「饭圈」粉丝攀比炫富、奢靡享乐等行为
    4)以号召粉丝、雇用网络水军、「养号」形式刷量控评等行为
    5)通过「蹭热点」、制造话题等形式干扰舆论,影响传播秩序


9. 其他危害行为或内容,主要表现为:
    1)可能引发未成年人模仿不安全行为和违反社会公德行为、诱导未成年人不良嗜好影响未成年人身心健康的;
    2)不当评述自然灾害、重大事故等灾难的;
    3)美化、粉饰侵略战争行为的;
    4)法律、行政法规禁止,或可能对网络生态造成不良影响的其他内容。


二、违规处罚
本网站通过主动发现和接受用户举报两种方式收集违规行为信息。所有有意的降低内容质量、伤害平台氛围及欺凌未成年人或危害未成年人身心健康的行为都是不能容忍的。
当一个用户发布违规内容时,本网站将依据相关用户违规情节严重程度,对帐号进行禁言 1 天、7 天、15 天直至永久禁言或封停账号的处罚。当涉及欺凌未成年人、危害未成年人身心健康、通过作弊手段注册、使用帐号,或者滥用多个帐号发布违规内容时,本网站将加重处罚。


三、申诉
随着平台管理经验的不断丰富,本网站出于维护本网站氛围和秩序的目的,将不断完善本公约。
如果本网站用户对本网站基于本公约规定做出的处理有异议,可以通过「建议反馈」功能向本网站进行反馈。
(规则的最终解释权归属本网站所有)

我知道了
恭喜你~答对了
+5羽毛
下一次认真读哦
成功推荐给其他人
+ 10羽毛
评论成功且进入审核!审核通过后,您将获得10羽毛的奖励。分享本文章给好友阅读最高再得15羽毛~
(羽毛可至 "羽毛精选" 兑换礼品)
好友微信扫一扫
复制链接