Meta 在2022年11月8日宣布,它将要求对使用AI或其他技术以可能误导的方式数字化修改的政治广告进行标签。
这一声明发表在微软宣布将采取一系列措施保护选举的次日,其中包括提供水印技术标记AI生成内容,并部署“竞选成功团队”向政治竞选活动提供有关AI、网络安全和其他相关问题的咨询。
2024年将成为本世纪最重要的一年之一,美国、印度、英国、墨西哥、印度尼西亚和台湾都将举行大选。尽管许多人担心深假新闻和误导信息可能对选举产生影响,但许多专家强调,迄今为止,它们对选举的影响证据最多只能说有限。专家欢迎科技公司为维护选举公正采取措施,但说解决误导信息需要更根本性的政治体系改革。
AI可能对选举的影响
科技公司在过去的选举中受到审查。2021年一份由在线倡导组织Avaaz发布的报告发现,通过等待到2020年美国总统选举前一个月才改变其算法,Meta允许误导信息在其平台上传播。Meta还因质疑2022年巴西选举的合法性和可能助长缅甸罗兴亚族群裔人权侵犯而受到批评。
近年来,AI发展迅速。生成AI——允许用户生成文本、音频和视频——随着OpenAI ChatGPT在2022年11月发布而从默默无闻走向大众。
生成AI已经多次用于美国政治广告,尽管每次都明确AI已被使用。4月,共和党发布了一个意在显示如果拜登连任会发生什么的AI生成广告。6月,佛罗里达州州长兼总统候选人罗恩·德桑蒂斯的X竞选账户发布了包含AI生成川普和福奇博士拥抱图像的视频。
然而,研究一致发现,误导信息没有实质性影响过去美国选举结果,德国巴姆贝格大学政治科学教授安德烈亚斯·容赫尔说,注意到其他学科如媒体研究和心理学的学者倾向于给予误导信息在选举中的影响更大的信任。
例如,2023年发表在《自然》上的一篇论文没有发现“2016年俄罗斯外部影响活动对态度、极化或投票行为的实质性影响的证据。”
人们常常过分估计误导信息的影响,因为他们同时过分估计改变人们对充满争议问题如投票行为看法的难度,也过分估计AI等使误导信息传播的技术如何高效,容赫尔说。
尽管AI生成误导信息可能影响公众观点足以影响选举的机会很低,但AI未来可能仍然通过其他途径对选举和政治产生恶意影响,英国AI治理中心研究人员伊丽莎白·塞格说。未来,高度个性化的AI定向结合极其有说服力的AI代理可能用于进行大规模说服活动。2024年,深假新闻的存在本身就可能破坏对关键信息来源的信任,塞格说。
这已经发生过。2019年,一则声称加蓬总统阿里·邦戈视频为假新闻的指控被用来证明发生政变。同年,一则涉嫌马来西亚一名内阁部长与一名政治助手性行为的视频的影响被质疑视频使用AI修改而中和。
“往往被忽视的一个风险,在本次选举周期内更可能发生,不是生成AI将被用于制作欺骗人们候选人A做了某件坏事的深假新闻。而是这些技术的存在本身将被用于破坏证据的价值和破坏对关键信息来源的信任。”塞格说。
保护选举
到目前为止,政府在缓解AI对选举影响方面采取的措施有限。美国国会在5月提出了一项法案,要求使用AI生成图像或视频的政治广告必须附带声明。8月,美国联邦选举委员会要求提供意见,是否应修改禁止政治广告误导其他候选人或政党的规定,将故意欺骗性AI纳入其中,但尚未采取行动。
意识到在2020年选举中Meta所受的声誉损害,科技公司开始采取行动。7月,白宫与Meta、微软等7家领先AI公司达成了自愿承诺,旨在确保AI系统安全可靠。一个承诺是开发和部署AI生成视觉和音频内容的来源或水印技术。9月,另外8家公司也签署了承诺。
本周Meta和微软的举措跟随Alphabet(谷歌和YouTube母公司)宣布,将要求政治广告中包含合成生成的内容必须明确标注,如果内容以不真实方式描绘真实人物或事件。
普林斯顿大学教授阿文德·纳拉扬和研究人员萨亚什·卡普尔已经提出,更强大的AI不会恶化误导信息问题,因为产生误导内容本身就相对容易,任何人如果想产生都可以。