华盛顿- 美国总统乔·拜登将于周一签署一项全面性的行政命令,以指导人工智能的发展- 要求行业制定安全和安全标准,引入新的消费者保护措施,并给联邦机构提供一个详细的待办事项清单来监管这一技术快速发展。
该命令反映了政府试图影响人工智能如何发展的努力,以最大限度地发挥其可能性并控制其危害。人工智能一直是拜登极为关注的一个问题,考虑到它可能对经济和国家安全的影响。
白宫幕僚长杰夫·齐恩茨回忆说,拜登曾告诉他的工作人员需要迅速行动解决这个问题,认为这是首要任务。
“我们不能以正常政府速度行事,”齐恩茨说,民主党总统告诉他“我们必须以不比技术本身慢,如果可能的话,更快的速度行事。”
在拜登看来,政府对社交媒体的风险反应过慢,现在美国青年面临相关的心理健康问题。人工智能在加速癌症研究,模拟气候变化影响,提高经济产出和改善政府服务等方面都有积极作用。但它也可能通过虚假图像扭曲基本的真相概念,加深种族和社会不平等,为骗子和犯罪分子提供工具。
该命令建立在技术公司之前做出的自愿承诺的基础上。这是政府更广泛战略的一部分,包括国会立法和国际外交,这表明ChatGPT等新型人工智能工具如何产生新的文本、图像和声音已经造成的破坏。
根据国防生产法的规定,该命令将要求主要人工智能开发商与政府分享安全测试结果和其他信息。国家标准与技术研究所将制定标准,以确保人工智能工具在公开发布前是安全和可靠的。
商务部将发布指南,要求对人工智能生成内容进行标签和水印,以帮助区分真实互动和软件生成内容。该命令还涉及隐私、公民权利、消费者保护、科学研究和工人权利等问题。
匿名简报该命令的政府官员说,命令中的待办事项列表将在90天至365天内实施和完成,安全和安全项目的截止日期最早。
上周四,拜登带着助手进入椭圆形办公室审查和最终确定该行政命令,原计划30分钟的会议延长到70分钟,尽管还有缅因州枪击案、以色列-哈马斯战争和选择新众议院议长等其他紧急事项。
在为期数月的会议中准备该命令时,拜登对这项技术极为好奇。他的科学顾问委员会在两次会议中关注人工智能,他的内阁在两次会议中讨论过它。总统还在多次会晤中与科技企业家和公民社会倡导者讨论过这项技术的能力。
“他同样感到惊讶和担忧,”副白宫幕僚长布鲁斯·里德在采访中说。“他看到自己和自己的狗的虚假AI图像。他看到它如何制作糟糕的诗歌。他也看到和听说了声音克隆的令人惊叹且可怕的技术,它可以在3秒你的声音并将其转化为整个虚假对话。”
假图像和声音的可能性使总统优先考虑对人工智能生成内容进行标签和水印。拜登还想阻止老年美国人收到一个听起来像亲人的电话,实际上是AI工具进行骗局的情况。
会议可能会超出计划,拜登在6月在旧金山费尔蒙酒店的一个大厅告诉公民社会倡导人:“这很重要。你需要的时间尽管用。”
国会在探讨人工智能安全措施方面还处于初期阶段,拜登的这一命令为各国在这一领域建立自己的指导原则提供了美国的观点。
经过两年多的研究,欧盟正在为其全面规范最后施加细节,旨在管控风险最大的应用。中国作为美国的主要人工智能竞争对手也制定了一些规则。
英国首相里什·苏纳克还希望通过本周副总统卡马拉·哈里斯计划出席的峰会,为英国树立起人工智能安全中心的重要地位。周一,七国集团主要工业ized国家的官员还就人工智能安全原则和人工智能开发商自愿行为守则达成一致。
美国,尤其是西海岸,是谷歌、Meta和微软等人工智能技术领先开发商以及开放AI等人工智能初创公司的家园。白宫之前成功说服这些公司在建立新人工智能模型时实施安全机制。
但白宫也面临来自民主党盟友的重大压力,包括工会和公民权利团体要求其政策反映人工智能在现实生活中的实际危害。