中国最新人工智能规则本月初开始实施后,一系列获得政府批准的新AI聊天机器人开始陆续推出。专家表示,与最初提出的规定相比,这些规则已经有所放宽,到目前为止,中国在执行这些规则时也没有严格到可能的程度。中国在监管方面的做法可能会对中美两国在技术领域的竞争产生巨大影响。
8月15日生效的中国网信办的生成式人工智能管理办法是全球最严格的规定之一。规定称,生成式人工智能服务不应生成“煽动颠覆国家主权或推翻社会主义制度”的内容,或“宣扬恐怖主义、极端主义,宣扬民族仇恨、民族歧视,宣扬暴力、淫秽,以及虚假有害信息”。防止AI聊天机器人喷出不想要的甚至有毒的内容一直是全球AI开发者面临的挑战。如果中国新的法规被最大限度地执行,那么中国的AI开发者可能会难以遵守,一些分析人士称。
中国监管机构意识到这个问题,并通过削弱一些法规并采取较为宽松的执法方法来应对,努力在控制政治敏感信息流通和促进中国AI发展之间找到平衡,专家说。这种平衡的实现不仅会影响中国公民的政治自由和中国AI行业的成功,还可能会影响美国立法者在酝酿的AI主导权争夺中对AI政策的思考。
监管放松
8月底,网信办批准发布包括百度Ernie Bot和字节跳动的Doubao在内的8个AI聊天机器人。
7月公布的法规版本比4月发布征求意见稿的规定更为宽松。卡内基国际和平基金会研究员马修·希汉(Matt Sheehan)表示,网信办做出了三个关键变化。
首先,范围从所有生成式AI的使用缩小到只针对面向公众的使用,这意味着内部使用的监管更为宽松。其次,在多个地方软化了语言。例如,“能够确保训练数据的真实性、准确性、客观性和多样性”改为“采取有效措施提高训练数据质量,增加训练数据的真实性、准确性、客观性和多样性”。第三,新规定插入了鼓励发展生成式AI的语言,而以前的规定仅具有惩罚性。
根据希汉的说法,网信办之所以使规定更为宽松,部分原因是中国经济状况不佳。此外,包括智库和学术研究人员、政府顾问和行业人士在内的公开辩论得出结论,认为这些规则过于苛刻,可能会扼杀创新。
灵活执法
规定确定后,执法由有关部门自行决定,通常比西方更加武断和不一致,牛津大学研究员黄思豪(音译)说,他在过去一年里在北京研究AI治理。
“当我们看推荐算法规则,或深度合成,或网信办网络安全法——它们在网信办想要执行时才会执行。”黄思豪说,“公司拥有相当长的皮带,它们可以非常雄心勃勃地开发这些系统,但它们只需要意识到,如果政府的大锤落在它们身上,政府可以依据存在的规则采取行动。”
黄思豪说,网信办是否执行法规往往取决于“公司是否受政府欢迎,或者是否有正确的人脉”。科技公司还会经常试图揭露竞争对手产品和服务中的漏洞,以激发政府对竞争对手的行动,公众压力也可以迫使网信办执行这些法规,他说。
“中国比西方国家更愿意先把东西拿出来,然后在过程中弄清楚。”希汉说。“在中国,公司不相信如果他们对网信办这项规定的合宪性提出质疑,他们能在法庭上赢。他们必须想方设法与之共存或绕过它。他们没有法院和独立法官的同样安全网。”
美国对监管和竞争的辩论
鹰派人士警告说,如果不加以规制,美国可能会在开发功能日益强大的AI系统的竞赛中落后于中国,而美国的监管可能会让中国赶上。
黄思豪不同意这种观点,他认为中国的AI系统已经落后于美国同行,严格的中国监管会加剧这种劣势。他说:“当你实际使用中国的AI系统时……由于内容过滤器屏蔽了所有与政治相关的提示,以及非常激进的微调,它们的能力被大大削弱了。”糟糕的表现是内容过滤器的结果,他说。
“中国公司将承担远高于美国公司的合规成本。”希汉也表示同意。
国防事务智库新美国安全中心的兼职研究员乔丹·施耐德(Jordan Schneider)说,目前的中国聊天机器人在复杂性和功能方面落后于美国竞争对手。“这些应用程序可能是GPT-3级别的。”施耐德说。但施耐德指出,GPT-3是OpenAI开发的语言模型,只有大约2年的历史。“这并不是一个巨大的差距。”他说。(OpenAI最先进的公开AI系统是GPT-4。)
施耐德还强调,政治稳定与促进发展之间的权衡被夸大了。未来,他说,中国科技公司将继续成功地争辩说……