人工智能是否影响了2024年美国大选？
Array几天前，新罕布什尔州选民接到一通自动电话，其人工生成的声音与总统乔·拜登的声音相似，随后，联邦通信委员会禁止在自动电话中使用人工智能生成的声音。 这是一个导火索。2024年美国大选将是人工智能生成器广泛普及的背景下首次发生的选举，人工智能生成器可让人们创建图像、音频和视频，其中一些用于邪恶目的。阅读更多 list of 4 itemslist 1 of 4美国当选总统特朗普邀请中国国家主席习近平出席其就职典礼list 2 of 4加拿大特朗普粉丝终于明白了：“美国优先”就是“加拿大最后”list 3 of 4特朗普时代的北约和欧洲list 4 of 4打破常规，特朗普与拜登白宫签署过渡备忘录end of list 各机构纷纷采取措施限制人工智能引发的违法行为。 16个州颁布了有关人工智能在选举和竞选活动中使用的立法；其中许多州要求在选举前夕发布的合成媒体中注明免责声明。选举援助委员会是一个支持选举管理人员的联邦机构，它发布了一份“人工智能工具包”，其中包含选举官员在虚假信息时代沟通选举情况的技巧。各州发布了自己的页面，帮助选民识别人工智能生成的内容。 专家警告称，人工智能可能会制造深度伪造视频，让候选人看起来说了或做了他们没有说过或做过的事情。专家表示，人工智能的影响可能会损害美国国内利益——误导选民、影响他们的决策或阻止他们投票——也可能损害美国国外利益，让外国对手受益。 但预期的人工智能驱动的虚假信息大爆发并未实现。随着选举日的到来和过去，病毒式虚假信息扮演了重要角色，误导了计票、邮寄选票和投票机。然而，这种欺骗主要依靠的是老套的熟悉技巧，包括基于文本的社交媒体声明和视频或脱离上下文的图像。 纽约大学斯特恩商学院商业与人权中心副主任保罗·巴雷特表示：“事实证明，使用生成式人工智能来误导选民并不是必要的。这不是‘人工智能选举’。” 普渡大学技术政策助理教授丹尼尔·希夫表示，不存在“大规模的最后时刻宣传”，误导选民对投票地点的了解，影响投票率。他说，“这种错误信息的范围较小，不太可能成为至少在总统选举中起到决定性作用的因素。” 专家表示，人工智能生成的最受关注的言论支持了现有的叙事，而不是捏造新言论来愚弄人们。例如，在前总统唐纳德·特朗普和他的副总统竞选搭档詹姆斯·戴维·万斯错误地声称海地人在俄亥俄州斯普林菲尔德吃宠物后，描绘虐待动物的人工智能图像和表情包在互联网上泛滥。 与此同时，技术和公共政策专家表示，保障措施和立法最大限度地减少了人工智能发表有害政治言论的可能性。 希夫表示，人工智能对选举的潜在危害引发了人们“紧急关注”寻找解决方案。 希夫说：“我相信公众倡导者、政府人员、研究人员和公众的高度关注确实很重要。” 拥有Facebook、Instagram和Threads的Meta要求广告商在任何有关政治或社会问题的广告中披露人工智能的使用情况。TikTok应用了一种机制来自动标记一些人工智能生成的内容。ChatGPT和DALL-E背后的公司OpenAI禁止将其服务用于政治活动，并阻止用户生成真人图像。 虚假信息行为者使用传统技术 布法罗大学计算机科学与工程学教授、数字媒体取证专家吕思伟（Siwei Lyu）表示，人工智能影响选举的能力也逐渐减弱，因为还有其他方法可以获得这种影响力。 达特茅斯学院定量社会科学助理教授张贺钧（Herbert Chang）表示：“在这次选举中，人工智能的影响可能显得微不足道，因为传统形式仍然更有效，而在Instagram等社交网络平台上，拥有大量粉丝的账户较少使用人工智能。”张贺钧与他人合作撰写了一项研究，发现人工智能生成的图像“产生的病毒式传播力低于传统表情包”，但用人工智能创建的表情包也能产生病毒式传播。 拥有大量粉丝的知名人士可以轻松传播信息，而无需人工智能生成的媒体。例如，特朗普在演讲、媒体采访和社交媒体上多次错误地表示，非法移民被带入美国投票，尽管非公民投票的情况极为罕见，而且联邦选举投票需要公民身份。民意调查显示，特朗普的反复说法得到了回报：10月份超过一半的美国人表示，他们担心非公民在2024年大选中投票。 PolitiFact的事实核查和有关选举相关错误信息的报道，挑选出了一些使用人工智能的图像和视频，但许多病毒式传播的内容都是专家所说的“廉价假货”——真实内容在没有人工智能的情况下进行了欺骗性编辑。 在其他情况下，政客们反其道而行之——指责或贬低人工智能，而不是使用它。例如，特朗普错误地声称林肯计划发布的他的失态蒙太奇视频是人工智能生成的，他还说一群哈里斯的支持者是人工智能生成的。在美国有线电视新闻网（CNN）发表一篇报道称北卡罗来纳州副州长马克·罗宾逊在色情论坛上发表攻击性言论后，罗宾逊声称这是人工智能。一位专家告诉北卡罗来纳州格林斯博罗的WFMY-TV，罗宾逊所说的“几乎是不可能的”。 人工智能曾煽动“党派仇恨” 当局发现，新奥尔良的一名街头魔术师在1月份伪造了拜登自动电话，在电话中可以听到总统劝阻人们参加新罕布什尔州初选的声音。这位魔术师说，他只花了20分钟和1美元就制作了这段假音频。 雇用魔术师打电话的政治顾问面临600万美元罚款和13项重罪指控。 这是一个引人注目的时刻，部分原因是因为它无法复刻。 哈佛大学肯尼迪学院公共政策兼职讲师布鲁斯·施奈尔表示，人工智能并没有推动选举日前几周两大错误信息的传播，即捏造的宠物食用指控，以及有关联邦紧急事务管理局在飓风“米尔顿”和“海伦妮”之后救援工作的虚假信息。 丹尼尔·希夫说：“我们确实目睹了深度伪造技术似乎非常有效地煽动党派敌意，有助于建立或巩固对候选人的某些误导性或虚假看法。” 他与普渡大学政治学助理教授凯琳·希夫以及普渡大学博士生克里斯蒂娜·沃克合作创建了一个政治深度伪造数据库。 数据显示，大多数深度伪造事件都是为了讽刺而制作的。其次是那些旨在损害他人名誉的深度伪造。第三大最常见的深度伪造是为了娱乐而制作的。 丹尼尔·希夫表示，批评或误导人们对候选人的深度造假（Deepfakes）是“美国传统政治叙事的延伸”，例如将哈里斯描绘成共产主义者或小丑，或将特朗普描绘成法西斯主义者或罪犯。张贺钧同意丹尼尔·希夫的观点，称生成式人工智能“加剧了现有的政治分歧，不一定是故意误导，而是通过夸张”。 主要的外国影响力行动依赖于演员，而不是人工智能 研究人员在2023年警告称，人工智能可以帮助外国对手更快、更便宜地开展影响行动。负责评估针对美国的外国影响活动的外国恶意影响中心（Foreign Malign Influence Center）在9月底表示，人工智能并没有“彻底改变”这些努力。 该中心表示，为了威胁美国大选，外国行为者必须克服人工智能工具的限制，逃避检测并“战略性地瞄准和传播此类内容”。 情报机构（包括国家情报总监办公室、联邦调查局和网络安全与基础设施安全局）都曾举报外国势力的行动，但这些行动更多时候是在精心策划的视频中使用演员。一段视频显示，一名女子声称哈里斯在一场肇事逃逸的车祸中撞伤了她。视频的叙述“完全是捏造的”，但不是人工智能。分析师将这段视频与俄罗斯网络Storm-1516联系在一起，该网络在视频中使用了类似的手段，试图破坏宾夕法尼亚州和佐治亚州的选举信任。 平台保障措施和州立法可能有助于遏制“最恶劣行为” 社交媒体和人工智能平台试图通过在言论中添加水印、标签和事实核查，让人们更难以使用他们的工具来传播有害的政治内容。 Meta AI和OpenAI都表示，他们的工具拒绝了数十万个生成特朗普、拜登、哈里斯、万斯和民主党副总统候选人明尼苏达州州长蒂姆·沃尔兹的人工智能图像的请求。Meta负责全球事务的总裁尼克·克莱格在12月3日关于2024年全球选举的报告中表示：“与选举、政治和社会话题相关的人工智能内容的评分占所有经过事实核查的错误信息的不到1%。” 但仍存在不足之处。 《华盛顿邮报》发现，ChatGPT在收到提示后仍会撰写针对特定选民的竞选信息。PolitiFact还发现，Meta AI可以轻松制作出支持海地人吃宠物的说法的图像。 丹尼尔·希夫表示，随着人工智能技术的进步，这些平台还有很长的路要走。但至少在2024年，他们采取的预防措施和各州的立法努力似乎已经取得了成效。 希夫说：“我认为深度伪造检测、提高公众意识的努力以及直接禁令等策略都很重要。” 来源 : 半岛电视台
几天前，新罕布什尔州选民接到一通自动电话，其人工生成的声音与总统乔·拜登的声音相似，随后，联邦通信委员会禁止在自动电话中使用人工智能生成的声音。
这是一个导火索。2024年美国大选将是人工智能生成器广泛普及的背景下首次发生的选举，人工智能生成器可让人们创建图像、音频和视频，其中一些用于邪恶目的。
各机构纷纷采取措施限制人工智能引发的违法行为。
16个州颁布了有关人工智能在选举和竞选活动中使用的立法；其中许多州要求在选举前夕发布的合成媒体中注明免责声明。选举援助委员会是一个支持选举管理人员的联邦机构，它发布了一份“人工智能工具包”，其中包含选举官员在虚假信息时代沟通选举情况的技巧。各州发布了自己的页面，帮助选民识别人工智能生成的内容。
专家警告称，人工智能可能会制造深度伪造视频，让候选人看起来说了或做了他们没有说过或做过的事情。专家表示，人工智能的影响可能会损害美国国内利益——误导选民、影响他们的决策或阻止他们投票——也可能损害美国国外利益，让外国对手受益。
但预期的人工智能驱动的虚假信息大爆发并未实现。随着选举日的到来和过去，病毒式虚假信息扮演了重要角色，误导了计票、邮寄选票和投票机。然而，这种欺骗主要依靠的是老套的熟悉技巧，包括基于文本的社交媒体声明和视频或脱离上下文的图像。
纽约大学斯特恩商学院商业与人权中心副主任保罗·巴雷特表示：“事实证明，使用生成式人工智能来误导选民并不是必要的。这不是‘人工智能选举’。”
普渡大学技术政策助理教授丹尼尔·希夫表示，不存在“大规模的最后时刻宣传”，误导选民对投票地点的了解，影响投票率。他说，“这种错误信息的范围较小，不太可能成为至少在总统选举中起到决定性作用的因素。”
专家表示，人工智能生成的最受关注的言论支持了现有的叙事，而不是捏造新言论来愚弄人们。例如，在前总统唐纳德·特朗普和他的副总统竞选搭档詹姆斯·戴维·万斯错误地声称海地人在俄亥俄州斯普林菲尔德吃宠物后，描绘虐待动物的人工智能图像和表情包在互联网上泛滥。
与此同时，技术和公共政策专家表示，保障措施和立法最大限度地减少了人工智能发表有害政治言论的可能性。
希夫表示，人工智能对选举的潜在危害引发了人们“紧急关注”寻找解决方案。
希夫说：“我相信公众倡导者、政府人员、研究人员和公众的高度关注确实很重要。”
拥有Facebook、Instagram和Threads的Meta要求广告商在任何有关政治或社会问题的广告中披露人工智能的使用情况。TikTok应用了一种机制来自动标记一些人工智能生成的内容。ChatGPT和DALL-E背后的公司OpenAI禁止将其服务用于政治活动，并阻止用户生成真人图像。
虚假信息行为者使用传统技术
布法罗大学计算机科学与工程学教授、数字媒体取证专家吕思伟（Siwei Lyu）表示，人工智能影响选举的能力也逐渐减弱，因为还有其他方法可以获得这种影响力。
达特茅斯学院定量社会科学助理教授张贺钧（Herbert Chang）表示：“在这次选举中，人工智能的影响可能显得微不足道，因为传统形式仍然更有效，而在Instagram等社交网络平台上，拥有大量粉丝的账户较少使用人工智能。”张贺钧与他人合作撰写了一项研究，发现人工智能生成的图像“产生的病毒式传播力低于传统表情包”，但用人工智能创建的表情包也能产生病毒式传播。
拥有大量粉丝的知名人士可以轻松传播信息，而无需人工智能生成的媒体。例如，特朗普在演讲、媒体采访和社交媒体上多次错误地表示，非法移民被带入美国投票，尽管非公民投票的情况极为罕见，而且联邦选举投票需要公民身份。民意调查显示，特朗普的反复说法得到了回报：10月份超过一半的美国人表示，他们担心非公民在2024年大选中投票。
PolitiFact的事实核查和有关选举相关错误信息的报道，挑选出了一些使用人工智能的图像和视频，但许多病毒式传播的内容都是专家所说的“廉价假货”——真实内容在没有人工智能的情况下进行了欺骗性编辑。
在其他情况下，政客们反其道而行之——指责或贬低人工智能，而不是使用它。例如，特朗普错误地声称林肯计划发布的他的失态蒙太奇视频是人工智能生成的，他还说一群哈里斯的支持者是人工智能生成的。在美国有线电视新闻网（CNN）发表一篇报道称北卡罗来纳州副州长马克·罗宾逊在色情论坛上发表攻击性言论后，罗宾逊声称这是人工智能。一位专家告诉北卡罗来纳州格林斯博罗的WFMY-TV，罗宾逊所说的“几乎是不可能的”。
人工智能曾煽动“党派仇恨”
当局发现，新奥尔良的一名街头魔术师在1月份伪造了拜登自动电话，在电话中可以听到总统劝阻人们参加新罕布什尔州初选的声音。这位魔术师说，他只花了20分钟和1美元就制作了这段假音频。
雇用魔术师打电话的政治顾问面临600万美元罚款和13项重罪指控。
这是一个引人注目的时刻，部分原因是因为它无法复刻。
哈佛大学肯尼迪学院公共政策兼职讲师布鲁斯·施奈尔表示，人工智能并没有推动选举日前几周两大错误信息的传播，即捏造的宠物食用指控，以及有关联邦紧急事务管理局在飓风“米尔顿”和“海伦妮”之后救援工作的虚假信息。
丹尼尔·希夫说：“我们确实目睹了深度伪造技术似乎非常有效地煽动党派敌意，有助于建立或巩固对候选人的某些误导性或虚假看法。”
他与普渡大学政治学助理教授凯琳·希夫以及普渡大学博士生克里斯蒂娜·沃克合作创建了一个政治深度伪造数据库。
数据显示，大多数深度伪造事件都是为了讽刺而制作的。其次是那些旨在损害他人名誉的深度伪造。第三大最常见的深度伪造是为了娱乐而制作的。
丹尼尔·希夫表示，批评或误导人们对候选人的深度造假（Deepfakes）是“美国传统政治叙事的延伸”，例如将哈里斯描绘成共产主义者或小丑，或将特朗普描绘成法西斯主义者或罪犯。张贺钧同意丹尼尔·希夫的观点，称生成式人工智能“加剧了现有的政治分歧，不一定是故意误导，而是通过夸张”。
主要的外国影响力行动依赖于演员，而不是人工智能
研究人员在2023年警告称，人工智能可以帮助外国对手更快、更便宜地开展影响行动。负责评估针对美国的外国影响活动的外国恶意影响中心（Foreign Malign Influence Center）在9月底表示，人工智能并没有“彻底改变”这些努力。
该中心表示，为了威胁美国大选，外国行为者必须克服人工智能工具的限制，逃避检测并“战略性地瞄准和传播此类内容”。
情报机构（包括国家情报总监办公室、联邦调查局和网络安全与基础设施安全局）都曾举报外国势力的行动，但这些行动更多时候是在精心策划的视频中使用演员。一段视频显示，一名女子声称哈里斯在一场肇事逃逸的车祸中撞伤了她。视频的叙述“完全是捏造的”，但不是人工智能。分析师将这段视频与俄罗斯网络Storm-1516联系在一起，该网络在视频中使用了类似的手段，试图破坏宾夕法尼亚州和佐治亚州的选举信任。
平台保障措施和州立法可能有助于遏制“最恶劣行为”
社交媒体和人工智能平台试图通过在言论中添加水印、标签和事实核查，让人们更难以使用他们的工具来传播有害的政治内容。
Meta AI和OpenAI都表示，他们的工具拒绝了数十万个生成特朗普、拜登、哈里斯、万斯和民主党副总统候选人明尼苏达州州长蒂姆·沃尔兹的人工智能图像的请求。Meta负责全球事务的总裁尼克·克莱格在12月3日关于2024年全球选举的报告中表示：“与选举、政治和社会话题相关的人工智能内容的评分占所有经过事实核查的错误信息的不到1%。”
但仍存在不足之处。
《华盛顿邮报》发现，ChatGPT在收到提示后仍会撰写针对特定选民的竞选信息。PolitiFact还发现，Meta AI可以轻松制作出支持海地人吃宠物的说法的图像。
丹尼尔·希夫表示，随着人工智能技术的进步，这些平台还有很长的路要走。但至少在2024年，他们采取的预防措施和各州的立法努力似乎已经取得了成效。
希夫说：“我认为深度伪造检测、提高公众意识的努力以及直接禁令等策略都很重要。”
