马斯克希望使用人工智能管理美国政府，但专家称这是一个“非常糟糕”的想法
Array埃隆·马斯克是否计划使用人工智能来管理美国政府？这似乎是他的计划，但专家表示，这是一个“非常糟糕的想法”。 马斯克通过他的政府效率部（DOGE）解雇了数万名联邦政府雇员，据报道，他要求剩下的员工每周向该部门发送一封电子邮件，其中包含五个要点，描述他们当周完成的工作。阅读更多 list of 4 itemslist 1 of 4SpaceX推迟接回滞留在空间站NASA宇航员的发射任务list 2 of 4“安静点，小人物”：马斯克与波兰外长就乌克兰的“星链”计划发生冲突list 3 of 4SpaceX星舰最新试飞发生爆炸，埃隆·马斯克再次遭遇挫败list 4 of 4“星链”考验：巴基斯坦能否在英国儿童性侵案争论后与伊隆·马斯克修复关系？end of list 由于这无疑将使 DOGE 收到数十万封此类电子邮件，马斯克正在依靠人工智能来处理回复并帮助确定哪些人应该继续受雇。据报道，该计划的一部分还包括用人工智能系统取代许多政府工作人员。 目前尚不清楚这些人工智能系统是什么样子或如何工作——美国国会的民主党人要求对此进行补充——但专家警告说，在联邦政府中使用人工智能而不对这些工具进行严格的测试和验证可能会带来灾难性的后果。 宾夕法尼亚大学法学和政治学教授卡里·科利亚尼斯说，“要负责任地使用人工智能工具，它们需要以特定的目的进行设计。它们需要经过测试和验证。目前还不清楚这里是否正在做这些事情。” 科利亚尼斯表示，如果人工智能被用来决定谁应该被解雇，他会对这种方法“非常怀疑”。他说，人工智能极有可能犯错，可能存在偏见，也可能存在其他问题。 密歇根大学公共政策教授肖比塔·帕塔萨拉蒂说道，“这是一个非常糟糕的想法。我们不知道人工智能如何做出这样的决定（包括它是如何训练的以及底层算法），不知道这些决定所依据的数据，也不知道我们为什么应该相信它是值得信赖的。” 这些担忧似乎并没有阻碍现任政府，尤其是亿万富翁商人、美国总统唐纳德·特朗普的亲密顾问马斯克领导了这些努力。 例如，美国国务院正计划使用人工智能扫描外国人的社交媒体账户，以识别任何可能是哈马斯支持者的人，并试图撤销他们的签证。到目前为止，美国政府还没有公开这些系统如何运作。 未被发现的危害 “特朗普政府确实对不惜一切代价追求人工智能感兴趣，我希望看到公平、公正和平等地使用人工智能，”纽约大学新闻学教授、人工智能专家希尔克·谢尔曼 (Hilke Schellmann) 表示，“可能有很多危害未被发现。” 人工智能专家表示，政府使用人工智能的方式有很多可能出错的地方，这就是为什么需要谨慎和认真地采用它。科利亚尼斯说，包括荷兰和英国在内的世界各国政府都遇到过执行不力的人工智能问题，这些人工智能可能会犯错误或表现出偏见，结果错误地拒绝了居民他们需要的福利。 在美国，密歇根州在失业系统中使用人工智能发现欺诈行为时出现了问题，它错误地识别了数千起涉嫌欺诈的案件。许多被拒绝领取福利的人受到了严厉的惩罚，包括受到多重处罚和被指控欺诈。人们被逮捕，甚至申请破产。五年后，该州承认该系统存在缺陷，一年后，它最终向被错误指控欺诈的居民退还了 2100 万美元。 人工智能会推动经济爆炸式增长还是只是炒作？【英语视频】 “大多数时候，购买和部署这些技术的官员对它们的工作原理、偏见和局限性以及错误知之甚少，” 帕塔萨拉蒂说，“由于低收入和其他边缘化社区往往通过社会服务（如失业救济金、寄养、执法）与政府联系最密切，因此他们往往受到有问题的人工智能的影响最大。” 人工智能还给政府带来了问题，当它被法院用来决定某人的假释资格等事情时，或者在警察局被用来预测犯罪可能发生的地点时。 谢尔曼说，警察局使用的人工智能通常是根据这些部门的历史数据进行训练的，这可能导致人工智能建议对长期过度警务的地区进行过度警务，尤其是有色人种社区。 人工智能并非什么都懂 使用人工智能取代联邦政府工作人员的问题之一是，政府中有许多不同类型的工作需要特定的技能和知识。例如，司法部的 IT 人员与农业部的 IT 人员的工作可能截然不同，尽管他们的职位相同，因此，人工智能程序必须非常复杂且经过高度训练，才能在取代人类工人方面做得平庸。 “我不认为你可以随意裁掉人们的工作，然后 [用任何人工智能取代他们]，” 科利亚尼斯说，“这些人所执行的任务通常高度专业化和具体化。” 谢尔曼说，你可以使用人工智能来完成某些工作中可能可预测或重复的部分，但你不能完全取代某人。理论上，如果你花费数年时间开发合适的人工智能工具来完成许多不同类型的工作，那么这将成为可能——这是一项非常艰巨的任务，而政府似乎并没有这样做。 “这些工作人员拥有真正的专业知识，对问题有着细致入微的理解，而人工智能却不具备这些。事实上，人工智能并不‘理解’任何事情，” 帕塔萨拉蒂说，“它是一种使用计算方法来根据历史数据寻找模式的方法，因此，它的实用性可能有限，甚至会强化历史偏见。” 为什么埃隆·马斯克的 DOGE 被指控领导对美国政府的恶意收购？【英语视频】 美国前总统乔·拜登政府于 2023 年发布了一项行政命令，重点关注政府对人工智能的负责任使用以及如何测试和验证人工智能，但特朗普政府于 1 月撤销了这项命令。谢尔曼说，这使得人工智能在政府中得到负责任使用的可能性降低，研究人员也不太可能理解人工智能是如何被利用的。 总而言之，如果人工智能得到负责任的开发，它将非常有用。人工智能可以自动执行重复性任务，这样工人就可以专注于更重要的事情，或者帮助工人解决他们正在努力解决的问题。但它确实需要时间以正确的方式部署。 “这并不是说我们不能明智地使用人工智能工具，” 科利亚尼斯说，“但是，当政府试图在没有适当的公众意见和对算法实际工作方式的彻底验证和核实的情况下匆忙行事时，他们就会误入歧途。” 来源 : 半岛电视台
埃隆·马斯克是否计划使用人工智能来管理美国政府？这似乎是他的计划，但专家表示，这是一个“非常糟糕的想法”。
马斯克通过他的政府效率部（DOGE）解雇了数万名联邦政府雇员，据报道，他要求剩下的员工每周向该部门发送一封电子邮件，其中包含五个要点，描述他们当周完成的工作。
SpaceX推迟接回滞留在空间站NASA宇航员的发射任务
“安静点，小人物”：马斯克与波兰外长就乌克兰的“星链”计划发生冲突
SpaceX星舰最新试飞发生爆炸，埃隆·马斯克再次遭遇挫败
“星链”考验：巴基斯坦能否在英国儿童性侵案争论后与伊隆·马斯克修复关系？
由于这无疑将使 DOGE 收到数十万封此类电子邮件，马斯克正在依靠人工智能来处理回复并帮助确定哪些人应该继续受雇。据报道，该计划的一部分还包括用人工智能系统取代许多政府工作人员。
目前尚不清楚这些人工智能系统是什么样子或如何工作——美国国会的民主党人要求对此进行补充——但专家警告说，在联邦政府中使用人工智能而不对这些工具进行严格的测试和验证可能会带来灾难性的后果。
宾夕法尼亚大学法学和政治学教授卡里·科利亚尼斯说，“要负责任地使用人工智能工具，它们需要以特定的目的进行设计。它们需要经过测试和验证。目前还不清楚这里是否正在做这些事情。”
科利亚尼斯表示，如果人工智能被用来决定谁应该被解雇，他会对这种方法“非常怀疑”。他说，人工智能极有可能犯错，可能存在偏见，也可能存在其他问题。
密歇根大学公共政策教授肖比塔·帕塔萨拉蒂说道，“这是一个非常糟糕的想法。我们不知道人工智能如何做出这样的决定（包括它是如何训练的以及底层算法），不知道这些决定所依据的数据，也不知道我们为什么应该相信它是值得信赖的。”
这些担忧似乎并没有阻碍现任政府，尤其是亿万富翁商人、美国总统唐纳德·特朗普的亲密顾问马斯克领导了这些努力。
例如，美国国务院正计划使用人工智能扫描外国人的社交媒体账户，以识别任何可能是哈马斯支持者的人，并试图撤销他们的签证。到目前为止，美国政府还没有公开这些系统如何运作。
未被发现的危害
“特朗普政府确实对不惜一切代价追求人工智能感兴趣，我希望看到公平、公正和平等地使用人工智能，”纽约大学新闻学教授、人工智能专家希尔克·谢尔曼 (Hilke Schellmann) 表示，“可能有很多危害未被发现。”
人工智能专家表示，政府使用人工智能的方式有很多可能出错的地方，这就是为什么需要谨慎和认真地采用它。科利亚尼斯说，包括荷兰和英国在内的世界各国政府都遇到过执行不力的人工智能问题，这些人工智能可能会犯错误或表现出偏见，结果错误地拒绝了居民他们需要的福利。
在美国，密歇根州在失业系统中使用人工智能发现欺诈行为时出现了问题，它错误地识别了数千起涉嫌欺诈的案件。许多被拒绝领取福利的人受到了严厉的惩罚，包括受到多重处罚和被指控欺诈。人们被逮捕，甚至申请破产。五年后，该州承认该系统存在缺陷，一年后，它最终向被错误指控欺诈的居民退还了 2100 万美元。
“大多数时候，购买和部署这些技术的官员对它们的工作原理、偏见和局限性以及错误知之甚少，” 帕塔萨拉蒂说，“由于低收入和其他边缘化社区往往通过社会服务（如失业救济金、寄养、执法）与政府联系最密切，因此他们往往受到有问题的人工智能的影响最大。”
人工智能还给政府带来了问题，当它被法院用来决定某人的假释资格等事情时，或者在警察局被用来预测犯罪可能发生的地点时。
谢尔曼说，警察局使用的人工智能通常是根据这些部门的历史数据进行训练的，这可能导致人工智能建议对长期过度警务的地区进行过度警务，尤其是有色人种社区。
人工智能并非什么都懂
使用人工智能取代联邦政府工作人员的问题之一是，政府中有许多不同类型的工作需要特定的技能和知识。例如，司法部的 IT 人员与农业部的 IT 人员的工作可能截然不同，尽管他们的职位相同，因此，人工智能程序必须非常复杂且经过高度训练，才能在取代人类工人方面做得平庸。
“我不认为你可以随意裁掉人们的工作，然后 [用任何人工智能取代他们]，” 科利亚尼斯说，“这些人所执行的任务通常高度专业化和具体化。”
谢尔曼说，你可以使用人工智能来完成某些工作中可能可预测或重复的部分，但你不能完全取代某人。理论上，如果你花费数年时间开发合适的人工智能工具来完成许多不同类型的工作，那么这将成为可能——这是一项非常艰巨的任务，而政府似乎并没有这样做。
“这些工作人员拥有真正的专业知识，对问题有着细致入微的理解，而人工智能却不具备这些。事实上，人工智能并不‘理解’任何事情，” 帕塔萨拉蒂说，“它是一种使用计算方法来根据历史数据寻找模式的方法，因此，它的实用性可能有限，甚至会强化历史偏见。”
美国前总统乔·拜登政府于 2023 年发布了一项行政命令，重点关注政府对人工智能的负责任使用以及如何测试和验证人工智能，但特朗普政府于 1 月撤销了这项命令。谢尔曼说，这使得人工智能在政府中得到负责任使用的可能性降低，研究人员也不太可能理解人工智能是如何被利用的。
总而言之，如果人工智能得到负责任的开发，它将非常有用。人工智能可以自动执行重复性任务，这样工人就可以专注于更重要的事情，或者帮助工人解决他们正在努力解决的问题。但它确实需要时间以正确的方式部署。
“这并不是说我们不能明智地使用人工智能工具，” 科利亚尼斯说，“但是，当政府试图在没有适当的公众意见和对算法实际工作方式的彻底验证和核实的情况下匆忙行事时，他们就会误入歧途。”
