拜登总统本周签署了一项全面性的人工智能行政命令,旨在应对这项技术可能带来的威胁,但一些专家表示,这项法规在实践操作方面还留有许多问题未解答。
该命令要求各机构重新考虑对人工智能的态度,旨在解决国家安全、竞争和消费者隐私相关的威胁,同时促进创新、竞争和人工智能在公共服务领域的应用。
该命令最重要的一项要求是,研发最强大人工智能模型的公司必须披露安全测试结果。周二,商务部长吉娜·莱蒙多在CNBC上表示,根据行政命令,”总统指示商务部要求公司告诉我们:他们采取了什么安全预防措施,并允许我们判断这些措施是否足够。我们计划对这些公司负责。”
这份63页长的行政命令但是没有明确规定,如果一家公司报告其模型可能存在危险,将会面临什么后果。专家在这一问题上意见不一-一些人认为,该命令仅提高了透明度,而其他一些人认为,政府可能会对发现不安全的模型采取行动。
这使一些专家得出结论,白宫在处理某些人工智能问题上已经达到了行政权力的极限。
前瞻性指导
在命令发布前的一个虚拟简报会上,一名高级官员表示,总统指示其团队寻找每个渠道并予以利用,根据参会人员海伦·托纳(Helen Toner)的描述,她是安全与新兴技术中心(Center for Security and Emerging Technology)的战略与基础研究拨款总监。
该命令的大部分内容都是指示其他机构和机构开展研究或制定更详细的指导方针。例如,管理和预算办公室有150天时间发布指导,指导联邦机构如何在管理人工智能带来的风险的同时推进创新。
行政命令的成功实施取决于联邦政府内部的强大政治支持,这意味着本次行政命令实现影响的可能性比大多数行政命令更高,根据智库美国科学家联盟(Federation of American Scientists)的关联总监Divyansh Kaushik所说。
前总统唐纳德·特朗普于2019年也发布过一项关于人工智能的行政命令,旨在维持美国在人工智能领域的领先地位。Kaushik表示,由于缺乏高级官员的全力支持,该命令的实施效果很差,只有卫生及公共服务部门实施了与行政命令相符的人工智能政策。相比之下,拜登政府的这一行政命令“得到了最高层的支持,包括总统办公室、幕僚长办公室和副总统办公室的支持。”
计算能力限制
该命令的一些内容在短期内可能产生直接影响,比如改变高技能移民规则,旨在通过增加美国人工智能人才供应来提升创新能力,其中一些规则将在90天内实施。
另一个可能对人工智能行业产生更直接影响的规定是,对正在研发或计划研发具有双重用途基础模型的公司实施一系列要求。这些模型在许多任务上都具有能力,可能会对国家安全构成威胁,正如英国政府最近在人工智能安全峰会前发布的一份文件中所阐述的内容。这些公司需要告知美国政府其人工智能研发计划、采取的物理和网络安全措施以及进行的任何安全测试结果。
商务部长被指示定义哪些人工智能模型的危险性足以符合这些要求。目前,专家不知道如何进行这样的定义,根据国防安全智库中心(Center for a New American Security)执行副总裁兼研究主任保罗·施查尔(Paul Scharre)所说。
与此同时,这些要求将适用于使用计算能力超过1亿亿亿次运算的训练模型。目前还没有人工智能模型使用过这么大的计算能力进行训练。公开人工智能公司OpenAI推出的GPT-4模型是目前公开可用的人工智能模型中能力最强的,但根据研究组织Epoch估计,其训练计算能力只有这个门槛的5分之1。不过,过去10年人工智能模型训练所需计算能力每6个月就会翻倍,根据Epoch数据。
一名拜登政府官员表示,计算能力门槛的设定是考虑当前模型不会被纳入要求范围,但下一代最 cutting edge 的模型很可能会,根据施查尔的描述,他也参加了简报会。
计算能力只是政策制定者真正关注的模型能力一个“粗略代理”,根据施查尔所说。但Kaushik指出,设定计算门槛可能会促使人工智能公司开发性能相当但计算能力低于门槛的模型,特别是如果报告要求有可能泄露商业秘密或知识产权的风险。
总统权力的限制
即使对于超过计算门槛的模型,行政命令仅明确要求公司报告红队安全测试结果,即专业审计人员试图发现模型问题的方式。美国政府以国防生产法为法律依据,该法允许总统影响国内行业以促进国家安全。
如果一家公司报告其人工智能模型在必要测试中失败,将会发生什么完全不清楚,根据安全与新兴技术中心的托纳所说。
“基本理念是,只有少数几家公司在建立这些非常复杂的人工智能系统,而这些公司告诉政府:’我们不知道我们的系统能做什么,我们认为它们可能很危险。’所以政府说:’好的,你必须告诉我们更多信息,我们必须更好地了解。'”
美国创新基金会高级经济学家萨缪尔·哈蒙德(Samuel Hammond)认为,政府会采取行动阻止该模型的部署,甚至下令删除它。“国防生产法在近年来已被利用强制公司生产它们不愿生产的东西,也可以强制公司停产它们不愿停产的东西,”哈蒙德说。“它的权力”