NTIRE (New Trends in Image Restoration and Enhancement) 是近年来计算机视觉领域中具有广泛影响力的全球性研讨会之一,其涵盖了绝大部分底层视觉任务并提供了相应挑战赛。其中,NTIRE 2024 AIGC质量评价挑战赛由上海交通大学刘笑宏、闵雄阔、翟广涛教授团队与华为技术有限公司共同主办。第九届NTIRE研讨会将于2024年6月18日(暂定)与CVPR 2024一同举行。
大赛背景:
随着生成式人工智能的兴起,近年来涌现了大量文生图、文生视频模型。 此类算法的主要目标是根据用户要求(prompt)生成视觉内容。 因此,评价人类对AIGC的主观偏好逐渐受到了广泛重视,具有重要的研究价值。然而现有的图像/视频质量评价(I/VQA)方法与人类主观感知质量的相关性不强,且通常无法表征生成内容与用户要求的契合度,因此需要提出新的评价指标来预测AIGC的质量,由此促进多模态生成领域的发展。
与NTIRE研讨会一起,我们组织了一场关于AIGC质量评价的挑战赛。其目的是获得一种网络设计/解决方案,能够产生与图像、视频主观质量分数(即平均意见得分,MOS)具有最佳相关性的高质量结果。
大赛介绍:
该挑战使用了一个名为AIGCQA-30K的新数据集,包含赛道1的20,000 个图像 <T2I-QAD> 和赛道2的10,000 个视频 <T2V-QAD>数据。涵盖了主流的16种文生图,以及8种文生视频模型。具体来说,训练集包含 70% 的内容,验证集 10%,测试集 20%。在模型开发阶段,将发布训练集和验证集。参赛者可利用训练集进行模型训练,并将验证集上的结果提交至CodaLab服务器进行评估。在测试阶段,竞赛组织者将发布测试集。参赛者可利用训练好的模型对测试图像质量进行预测,并提交预测结果,由组织者统一进行定量评估与排名。
vRobotit实验室成绩:
实验室组织2个队伍,以北京邮电大学为牵头单位联合小米公司,参加了两个赛道的比赛,获得图像赛道 (冠军) 、视频赛道 (第5)!
AIGC内容质量评估冠军方案(开源):https://github.com/mRobotit/Champion-Solution-for-CVPR-NTIRE-2024-Quality-Assessment-on-AIGC 或 https://github.com/woshidandan/Champion-Solution-for-CVPR-NTIRE-2024-Quality-Assessment-on-AIGC 。