OpenAI CEO 历史性亮相国会山，呼吁监管AI

Altman 基本上同意议员们的观点，即有必要对他的公司以及谷歌和微软等公司正在开发的日益强大的人工智能技术进行监管。不过，在对话早期阶段，他们和立法者都不能说，这种监管应该是什么样子。

撰文 | Sia

如果为蓬勃发展的人工智能行业找一个代言人，当下非 OpenAI CEO Sam Altman 莫属。

本周二， Sam Altman 又被新技术余波送到了美国国会——在美国参议院司法委员会隐私、技术和法律小组委员会会议上作证，会议的主题是「AI 监管：人工智能规则（Oversight of AI: Rules for Artificial Intelligence）」。

这是 Altman 首次在国会亮相。在长达三个小时的听证会上，这位看起来像男孩的 CEO 脱下套头衫和牛仔裤，换上了蓝色西装和领带。和他一起出庭作证的还有长期批评人工智能的 Gary Marcus 以及 IBM 首席隐私和信任官 Christina Montgomery。

近年来，以科技行业高管为主题的国会听证会的基调可以用敌对、剑拔弩张来形容。不过在周二的听证会上，国会山的议员们似乎并不想对 Altman 进行粗暴的质询，

Altman 也基本上同意议员们的观点，即有必要对他的公司以及谷歌和微软等公司正在开发的日益强大的人工智能技术进行监管。不过，在对话早期阶段，他们和立法者都不能说这种监管应该是什么样子。

国会针对新技术的监管反射弧，向来比较长。如今 ChatGPT 问世仅过去半年就将负责人招致国会山，讨论监管，足见其对新技术的不安。几个月来，大大小小的公司都在竞相将越来越通用的人工智能推向市场，向其投入了无穷无尽的数据和数十亿美元。一些批评者担心这项技术会加剧社会危害，其中包括偏见和错误信息，而另一些人则警告说，人工智能可能会终结人类本身。

Christina Montgomery 在听证会上承认，人工智能给各行各业的工人带来了明显的风险，包括那些以前被认为不受自动化影响的人。

「我认为重要的是要理解并将 GPT4 视为一个工具，而不是一个生物，」Altman 对此有不同看法。这样的模型「擅长完成任务，而不是工作」，「因此会让人们的工作更轻松，而不会完全取代它们。」 他的公司的技术可能会摧毁一些工作，但也会创造新的工作，「政府要弄清楚我们想要如何减轻这种影响」，这一点很重要。

知名的人工智能怀疑论者 Gary Marcus 对 Altman 提出了一些棘手的问题和评论。「人类已经退居二线」，因为企业竞相开发更复杂的人工智能模型，而很少考虑潜在的危险。他指出，OpenAI 在开发系统时使用的数据也不透明。

「

我认为，如果这项技术出了问题，它可能会出很大的问题。我们想要直言不讳

，」Altman 承认，「我们希望与政府合作，防止这种情况发生。」有意思的是，一些媒体盛赞这是一个令人振奋的承认，也有观点认为这可能是硅谷具有欺骗性表演的一次突破。

Marcus 对 Altman 关于新工作将取代那些被人工智能淘汰的工作的预测表示怀疑。「我们在这里有前所未有的机会，但也面临着企业不负责任、广泛部署、缺乏足够监管和内在不可靠性的完美风暴。」他说。

为了呼应 Marcus 的想法，Altman 认为

美国应该考虑开发 AI 模型的许可和测试要求。

他提议成立一个机构，为大规模人工智能模型的开发发放许可证，制定安全法规，并在向公众发布人工智能模型之前通过测试。当然，需要独立专家对模型的各个指标进行独立评估。

当被问及哪些 AI 需要申请许可时，他举例说，一个可以说服或操纵个人信仰的模型应该面临「很高的门槛」。「我们相信，到目前为止，我们部署的工具带来的好处远远大于风险，但确保它们的安全对我们的工作至关重要。」

Altman 还认为企业应该有权表示，他们不希望自己的数据被用于人工智能培训，这也是国会正在讨论的一个想法。然而，Altman 又说网络上的公共资源，人人皆可得之(fair game）。

Altman还表示，他「不会说永远拒绝广告，但更喜欢基于订阅的模式。」

据《纽约时报》报道，国会立法机构的不安并没有蔓延到 Altman 身上，他在小组委员会的成员中有一群友好的听众。参议院负责隐私、技术和法律的小组委员会成员感谢 Altman 与他们私下会面，并同意出席听证会。新泽西州民主党人Cory Booker 多次直呼 Altman 的名字。

报纸还援引参加晚宴和会议人士的话，Altman 在周一晚上与数十名众议院议员共进晚餐时谈到了他的公司的技术，并在听证会前私下会见了一些参议员。

「细节决定成败。」Altman 对监管的建议还不够深入，应该包括限制人工智能在警务和生物数据方面的应用，政策研究中心AI Now Institute  董事总经理 Sarah Myers West  在接受《纽约时报》采访时表示，「对方也没有表现出任何放慢 OpenAI ChatGPT 工具开发速度的迹象。」

「看到那些迅速将造成这些危害的系统用于商业用途的人对危害表示担忧的姿态，真是太讽刺了。」她对记者表示。

目前尚不清楚立法者将如何回应监管人工智能的呼吁。过去几十年，政策制定者一直顺从帕洛阿尔托和山景城的承诺。但随着越来越多的证据表明，对数字技术的依赖会带来严重的社会、文化和经济负面影响，双方都表现出愿意——出于不同的原因——来监管技术。

这次听证会是一系列听证会中的第一次，国会议员们希望更多地了解人工智能的潜在利弊，并最终为其「制定规则」，避免重蹈「监管社交媒体为时已晚」的覆辙。现在，他们仍有时间确保人工智能不会产生同样的社会弊病，比如对美国大选的严重干扰。

小组委员会成员建议成立一个独立机构来监督人工智能；强制公司披露其模型如何工作以及使用的数据集的规则；以及防止微软和谷歌等公司垄断新兴市场的反垄断规定。

在听证会上，一些议员仍然表现出华盛顿和硅谷在技术知识方面的差距。

比如，南卡罗来纳州共和党人Lindsey Graham 多次询问证人，针对 Facebook 和谷歌等在线平台的言论责任保护是否也适用于人工智能。

Altman 平静而镇定地多次区分人工智能和社交媒体。「我们需要共同努力，找到一种全新的方法，」他说。

Christina Montgomery 也在听证会上呼吁，国会应该谨慎对待任何将不同类型的人工智能混为一谈的宽泛规则。

应该制定一项类似于欧洲拟议法规的人工智能法律，其中概述了不同级别的风险。她呼吁制定侧重于具体用途的规则，而不是监管技术本身。

「从本质上讲，人工智能只是一种工具，工具可以用于不同的目的，」她说，并补充说，国会应该「对人工智能采取精确的监管方法」。

她敦促国会将监管重点放在可能造成最大社会危害的领域。

参考链接：

https://www.reuters.com/technology/openai-chief-goes-before-us-congress-propose-licenses-building-ai-2023-05-16/



https://www.nytimes.com/2023/05/16/technology/openai-altman-artificial-intelligence-regulation.html

阅读 2011