人工智能生成的脸比真实的脸更值得信任

研究人员表示，人们无法区分人工智能(使用StyleGAN2)生成的脸和真实的脸，他们呼吁采取措施防止“深度造假”。

人工智能合成的文本、音频、图像和视频已经被用于所谓的“报复色情”、欺诈和宣传。

兰开斯特大学的索菲·南丁格尔博士和加州大学伯克利分校的哈尼·法里德教授进行了一项实验，要求参与者区分合成人脸和真实人脸的技术水平，以及这些人脸引起的信任程度。

结果显示，合成人脸不仅高度逼真，而且与真实人脸几乎难以区分，甚至被认为更值得信赖。

“我们对人工智能合成人脸照片真实感的评估表明，合成引擎已经通过了恐怖谷，能够创造出比真正的脸更难以区分、更值得信赖的脸。”

研究人员警告说，人们无法识别人工智能生成的图像可能带来的影响。

“也许最有害的后果是，在一个任何图像或视频都可以被伪造的数字世界，任何不方便或不受欢迎的记录的真实性都可能受到质疑。”

在第一个实验中，315名参与者从800张面孔中选取128张面孔进行分类，要么是真实的，要么是合成的。他们的准确率为48%，接近50%的机会表现。

在第二个实验中，219名新参与者接受了如何对人脸进行分类的培训并得到了反馈。他们从第一次实验的800张面孔中提取出128张面孔进行分类，但尽管经过训练，准确率仅提高到59%。

研究人员决定找出可信度的感知是否能帮助人们识别人工图像。

面孔提供了丰富的信息来源，曝光时间仅几毫秒，就足以对可信度等个人特征做出隐含推断。我们想知道合成人脸是否会激活同样的可信度判断。如果不是，那么信任感将有助于区分真假面孔。”

第三项研究要求223名参与者对同一组800张面孔中的128张面孔的可信度进行打分，打分范围从1(非常不值得信任)到7(非常值得信任)。

合成人脸的平均评分比真实人脸的平均评分更可信7.7%，具有统计学意义。

“也许最有趣的是，我们发现合成的脸比真实的脸更值得信赖。”

黑人的面孔被认为比南亚人的面孔更值得信赖，但除此之外，这在种族间没有影响。

女性明显比男性更值得信赖。

“一张微笑的脸更有可能被认为是值得信任的，但65.5%的真脸和58.8%的合成脸是微笑的，所以单凭面部表情无法解释为什么合成脸被认为更值得信任。”

研究人员认为，合成人脸可能更值得信赖，因为它们与一般人脸相似——而一般人脸本身也被认为更值得信赖。

为了保护公众免受“深度造假”的伤害，他们还提出了合成图像创作和传播的指导方针。

“安全措施可以包括，例如，在图像和视频合成网络中加入强大的水印，这将为可靠的识别提供下游机制。由于对这种强大技术的民主化访问是最严重的威胁，我们还鼓励重新考虑通常对公众采取的放任政策，以及不受限制地发布代码，让任何人都可以将其纳入任何应用程序。

“在这个关键时刻，正如其他科学和工程领域所做的那样，我们鼓励图形和视觉社区为合成媒体技术的创造和分发制定指导方针，其中包含了研究人员、出版商和媒体分销商的伦理指导方针。”

美国国家科学院院刊

10.1073 / pnas.XXXXXXXXXX

实验研究

人

人工智能合成的脸与真实的脸难以区分，而且更值得信赖

2月14 - - 2022