找回密码
 点击注册
搜索
查看: 1576|回复: 0

美媒开始怕了这样的AI假信息恐淹没明年大选

[复制链接]
发表于 2023-6-7 07:46:45 | 显示全部楼层 |阅读模式

美媒开始怕了:这样的AI假信息恐淹没明年大选

“人工智能的快速发展,可能会让2024年大选充斥着虚假视频。”美国《华尔街日报》6月5日以此为题发文称,新兴的生成式人工智能(AI)工具允许用户更加轻松地合成图片和视频,这让美国社会开始担心,随着政治分裂加剧,AI生成的虚假信息可能会干扰明年的美国总统选举。

美媒开始怕了这样的AI假信息恐淹没明年大选

美媒开始怕了这样的AI假信息恐淹没明年大选

《华尔街日报》报道截图

文章称,美国民主、共和两党的顾问表示,他们已经开始测试使用ChatGPT等工具帮助起草演讲稿、筹款电子邮件和短信,以及建立选民档案。尽管AI生成的内容仍需要进一步的审查和编辑,但这项技术可以大幅减少竞选活动的筹备时间。

这似乎意味着,AI正在成为“规则的改变者”,它允许美国政客在不依赖顾问和数字专家的情况下,以更低的成本和更快的速度生成内容,帮助政客在竞选活动中实时响应社会事件。

但《华尔街日报》指出,随着生成式AI的快速发展,成千上万的用户只需输入简单的信息,将可以合成复杂的视频、照片、音频和文本。这使得美国选举官员面临新的挑战,即大量虚假信息可能干扰2024年美国总统选举。

曾在美国前总统奥巴马的竞选团队担任数字总监的泰迪·戈夫(Teddy Goff)说:“AI还不会创造出我们从未想象过的全新类型的虚假信息,但它会让生成虚假信息变得更容易、更快速、更廉价。其影响将是相当深远的。”

美媒开始怕了这样的AI假信息恐淹没明年大选

美媒开始怕了这样的AI假信息恐淹没明年大选

今年3月,美国网民使用AI生成的“特朗普被捕”图片,一度在网上疯传

事实上,AI生成的虚假信息已经开始干扰美国的政治活动。《华尔街日报》举例称,在今年2月举行的芝加哥市长选举第一轮投票前夕,社交媒体上出现了一段关于候选人保罗·瓦拉斯(Paul Vallas)的音频,伪造瓦拉斯的声音发表了“纵容警察暴力”的言论。

瓦拉斯在2月的第一轮投票中位居第一,但在4月举行的第二轮投票中落败。他的竞选经理布莱恩·汤恩(Brian Towne)表示,竞选团队推测这段音频是用AI伪造的,不过由于音频没有广泛传播,可能没有对投票结果产生太大影响。

汤恩警告说,这起事件可能成为一个“危险的先例”,“对于知情的选民来说,他们能够确定音频是伪造的。但还有会很多不知情的选民,他们可能只看到了一小段视频,然后就倾向于投票反对候选人。”

5月22日,美国社交媒体上还出现过一张“五角大楼附近发生爆炸”的图片。尽管美国政府官员很快证实,相关图片是用AI伪造的,图片发布者的账号已经被封禁,但这起事件一度导致美国股市下跌,并引发混乱。

美媒开始怕了这样的AI假信息恐淹没明年大选

美媒开始怕了这样的AI假信息恐淹没明年大选

美国消费者新闻与商业频道5月22日报道:“伪造五角大楼附近发生爆炸的AI生成图像疯传”

《华尔街日报》还提到,美国前总统特朗普的竞选团队和部分共和党人最近也开始合成AI图像,用于嘲讽民主党阵营。4月25日,在美国总统拜登宣布将竞选连任后,美国共和党全国委员会在社交媒体上发布了一段视频,描述了“拜登连任的噩梦场景”。该视频的画面均由AI生成。

美媒开始怕了这样的AI假信息恐淹没明年大选

美媒开始怕了这样的AI假信息恐淹没明年大选

美国共和党全国委员会4月25日推文截图,使用AI生成了有关“拜登连任”的场景
美国监管机构已经发出警告,称AI技术可以被用于“邪恶目的”,例如传播有关投票时间和地点、选民登记截止日期或投票方式的虚假信息。美国科技行业领袖也呼吁社交媒体构建新的标签系统,帮助用户确定相关信息是否由AI生成。

美国国家人工智能安全委员会负责人、谷歌前CEO埃里克·施密特(Eric Schmidt)称,“显然,用户不应该在不知道信息来源的情况下,受到虚假信息的影响。”正在大力投资AI技术的美国谷歌和微软公司都表示,它们已经着手研发可以标记AI生成内容的工具。

出于对AI技术可能造成危害的担忧,拜登政府开始考虑对ChatGPT等AI工具进行审查。据《华尔街日报》报道,美国商务部在4月11日正式就问责措施公开征求意见,包括新AI模型在发布前是否应该通过认证程序等问题。

观察者网

回复

使用道具 举报

您需要登录后才可以回帖 登录 | 点击注册

本版积分规则

QQ|Archiver|SiXiang.com 思乡思想

GMT+8, 2024-3-29 19:44

Powered by Discuz! X3.5

© 2001-2024 Discuz! Team.

快速回复 返回顶部 返回列表