深度伪造泛滥 美国社会经历“真实性危机”

一些业内专家认为，如同搜索工具一样，作为一种技术，AI的普及应用是难以阻挡的。但是，伴随AI技术的快速发展，合成技术门槛持续降低，让人们对于一些通过AI技术得出的结果的“真实性”提出了疑问。

27日，美国韦氏词典公布了“2023年度词汇”，恰恰就是“真实的”这个词。作为美国的知名词典，韦氏词典评选的年度词汇反映了美国社会的变迁。韦氏词典表示，随着人工智能科技愈发普及，美国社会正在经历一场“有关真实性的危机”。

“真实”当选韦氏词典年度词汇

美国“元”公司首席执行官 扎克伯格

：想象一下，一个人，完全控制了数十亿人的被盗数据，他们的秘密、他们的生活、他们的未来。这一切都归功于“幽灵”(视频制造者)。

这段画面并非真实画面，而是通过一种叫作“深度伪造”的人工智能技术生成的假视频。韦氏词典称，“真实的”一词在韦氏词典网站上的查询频率一向不低，在2023年更是大幅增长，创下新高。韦氏词典特约编辑索科洛夫斯基表示，人工智能的兴起推高了人们对这个词的兴趣，如今，“真实”和“虚假”之间的界限正在变得越来越模糊。

此外韦氏词典公布的2023年热门词汇还包括“深度伪造”一词，指利用人工智能技术修改图像或者录音，以歪曲某人所说或所做的内容。

《今日美国》报网站27日发表文章说，“眼见不再为实：从加沙局势到美国政治，深度伪造视频正在散布假新闻”。文章说，当前，深度伪造已经无处不在而且迷惑性极高，公众需要具备较高的辨识能力，否则很容易被这些谎言所迷惑。然而，人工智能的出现和普及，与智能设备和社交媒体平台相结合，使得意图造假的人可以轻松地对材料进行篡改。文章说，现在人工智能技术让人们可以只需一键就生成一幅虚假的政治广告，也可以随意生成针对个人的虚假视频，使人的名誉遭受损害。

据美国媒体近日报道，美国新泽西州一位名叫多洛塔·马尼的女子，她14岁的女儿就被同班同学利用人工智能技术伪造生成了不雅图片并在校内传播。多洛塔·马尼表示，虽然女儿得到了周围人的支持，但她对于学校至今仍未能对责任人追责的做法非常不满，并要求政府和立法部门加强对人工智能的监管。

人工智能深度伪造受害者家长 多洛塔·马尼

：我呼吁应该尽快就人工智能建立法律法规。不仅是我们这个学校，在我们的选区，更希望是在整个新泽西州。

美国人工智能监管进展缓慢

《今日美国》报网站的文章指出，美国的立法者未能从立法层面限制深度伪造材料的制作和传播，而是转而指望科技行业自身来对人工智能进行管理。而对于涉及政治方面的深度伪造材料，美国联邦选举委员会在监管上也是进展缓慢，这表明美国政府在很大程度上并没有认真采取措施，来应对人工智能带来的威胁。

来源：央视新闻客户端