·加州共和党众议员杰伊·奥伯诺特是国会唯一拥有人工智能硕士学位的议员，他说，议员们甚至不理解这项技术：“令人惊讶的是，我花了太多时间向同事解释，人工智能的主要危险，并不是眼睛里冒红光的终结者T800。”

(资料图)

·欧盟委员会、欧洲理事会和欧洲议会预计最早于4月开始的三方谈判中敲定《人工智能法》的细节。但是，ChatGPT很可能会导致谈判陷入僵局。

得益于ChatGPT的流行，美国企业开始不断尝试使用人工智能赋能应用场景。但与此同时，对人工智能的担忧也在增加。《纽约时报》近日发表文章称，美国政府似乎没有跟上人工智能技术监管的步伐，这可能会导致可怕的后果。

“由于未能建立相关体系，政策制定者正在为人工智能的恶意竞争创造条件。”政策研究机构艾达·洛芙莱斯研究所（Ada Lovelace Institute）所长卡莉·金德（Carly Kind）表示。

与美国不同，欧盟目前已经在准备通过一项法案监管人工智能，监管内容包括面部识别和关键公共基础设施。该立法将要求人工智能公司对其技术进行风险评估，违反者可能会被罚款，最高可达其全球收入的6%。欧盟三大机构预计最早将于4月开始的三方谈判中敲定人工智能法案的最终细节。

多位美国议员呼吁监管人工智能

最近几周，美国多名国会议员对人工智能的危险发出了警告。

加州民主党众议员刘云平（Ted Lieu）今年1月在《纽约时报》的一篇评论文章中写道，人工智能工具模仿人类的能力越来越强，他“吓坏了”。另一位民主党人、马萨诸塞州众议员杰克·奥金克洛斯（Jake Auchincloss）发表讲话呼吁监管人工智能，这段一分钟的讲话内容由机器人撰写。

弗吉尼亚州民主党众议员唐·拜尔（Don Beyer）表示，不要指望华盛顿很快就会采取行动，他提出的一项要求审计人工智能的法案未能获得支持，拜尔认为原因是这个问题“对议员们来说并不紧迫”。

加州共和党众议员杰伊·奥伯诺特（Jay oberolte）是国会唯一拥有人工智能硕士学位的议员，他说，议员们甚至不理解这项技术：“令人惊讶的是，我花了太多时间向同事解释，人工智能的主要危险，并不是眼睛里冒红光的终结者T800。”

尽管几名议员一直在推动加强人工智能的监管，但美国当权机构依旧保持沉默。

一直以来，华盛顿对人工智能收到的批评都保持了沉默。2015年1月，物理学家斯蒂芬·霍金（Stephen Hawking）和特斯拉首席执行官、现在的推特所有者埃隆·马斯克（Elon Musk）警告说，人工智能正在变得危险，可能导致人类灭绝，呼吁制定相关法规。2016年11月，第一次人工智能国会听证会上，议员们两次引用了马斯克的警告，均遭到反驳和忽视。一些学者和人工智能研究机构OpenAI的首席执行官萨姆·奥特曼（Sam Altman）驳斥了马斯克的预测，还有一些议员强调了美国在人工智能发展方面保持领导地位的重要性。德克萨斯州共和党参议员特德·克鲁兹（Ted Cruz）表示，国会必须“确保美国在整个21世纪都保持全球领导者的地位”。

2021年，梵蒂冈、IBM和微软提出 “呼吁人工智能伦理”承诺，呼吁对人工智能技术的运作方式保持透明，尊重隐私并尽量减少偏见。该承诺还呼吁对面部识别软件进行监管，该软件使用大型照片数据库来确定用户的身份。此后，在华盛顿，一些立法者试图为面部识别技术制定规则，并对公司进行审计以防止歧视性的算法。

据《纽约时报》报道，以上这些呼吁和法案均无疾而终。

刘云平称，今年1月，奥特曼拜访了几名国会议员，展示了新的人工智能模型GPT-4。奥特曼曾表示将支持政府监管，而展示的GPT-4安全性也将更上一层楼。

但刘云平说，政府不能依靠个别公司来保护用户。他计划今年提出法案成立一个研究人工智能的委员会和一个监管人工智能的新机构。“OpenAI决定对其技术进行安全控制，但我们如何保证另一家公司也会这样做？”他问道。

欧盟的监管态度更积极

《人工智能法》的主要立法者本尼菲和都铎拉奇提议，在没有人类监督的情况下生成复杂文本的人工智能系统应该是“高风险”名单的一部分，以阻止ChatGPT大规模生成虚假信息。

相较于美国，欧洲对于监管的态度十分积极，欧盟委员会（European Commission）、欧洲议会（European Parliament）和欧盟理事会（European Council）在2021年就提出了《人工智能法》（Artificial Intelligence Act）的草案，旨在禁止一些人工智能应用程序的功能，如社交评分、操纵用户和面部识别等。它还计划把人工智能的一些具体用途指定为“高风险”，将开发人员绑定到更严格的透明度、安全和人力监督要求上。但随着ChatGPT的发布，该计划被扰乱。

“这些人工智能就像发动机，它们是非常强大的引擎和算法，可以做很多事情，但其本身并没有主观意识。”罗马尼亚自由派议员德拉戈·都铎拉奇（Drago Tudorache）说。他与意大利议员白兰度·本尼菲（Brando Benifei）一起，负责指导欧洲议会通过人工智能法案。

ChatGPT已经促使欧盟机构重写了他们的计划草案。欧盟理事会于去年12月批准了新版本的《人工智能法》草案，该法案将委托委员会为通用人工智能制定网络安全、透明度和风险管理要求。

今年2月，《人工智能法》的主要立法者本尼菲和都铎拉奇提议，在没有人类监督的情况下生成复杂文本的人工智能系统应该是“高风险”名单的一部分，以阻止ChatGPT大规模生成虚假信息。

这一想法遭到了欧洲议会右倾政治团体的质疑，甚至包括都铎拉奇自己所在的自由派团体的部分成员。对议会立场有正式发言权的著名中右翼议员阿克塞尔·沃斯（Axel Voss）表示，该修正案“将使许多活动变得高风险，而这些活动根本没有风险”。

但一些相关人士认为，该提议只是触及了通用人工智能难题的表面，专注于人工智能政策的非营利组织“生命未来研究所（Future of Life Institute）”的政策主管马克·布拉克尔（Mark Brakel）说：“只是把文本生成系统列入高风险名单并不好。市面上还有其他通用人工智能系统，它们存在风险，也应该受到监管。”

两位议员还在努力对ChatGPT和类似的AI工具施加更严格的要求。他们试图对大型服务提供商实施更严格的限制，但同时对使用这项技术的日常用户保持较宽松的制度。

本尼菲说，教育、就业、银行和执法等部门的专业人士必须意识到，如果使用者的目的是侵犯个人权利，那么人工智能技术会带来极其严重的后果。

欧盟委员会、欧洲理事会和欧洲议会预计最早于4月开始的三方谈判中敲定《人工智能法》的细节。但是，ChatGPT很可能会导致谈判陷入僵局。

在场外，大型科技公司，包括微软和谷歌等也在密切关注这一事件的进展。

负责微软AI业务的娜塔莎·卡普顿（Natasha Crampton）说，欧盟的《人工智能法》应该“保持对高风险用例的关注”，并表示ChatGPT等通用AI系统几乎没有被用于高风险活动，而是主要用于起草文件和帮助编写代码。

活动组织“欧洲合作观察（Corporate Europe Observatory）”最近的一项调查还表示，包括微软和谷歌在内的该行业企业一直在坚持游说欧洲的政策制定者们，以将ChatGPT等AI工具排除在对高风险AI系统施加的监管之外。谷歌首席执行官桑达尔·皮查伊（Sundar Pichai）2020年访问布鲁塞尔，呼吁对人工智能进行“明智的监管”。

有趣的是，当询问ChatGPT对监管的看法时，它也认为人工智能可能需要监管：“欧盟应该考虑将生成式AI和大型语言模型指定为‘高风险’技术，因为它们有可能创造有害和误导性的内容。”它认为，欧洲应该考虑实施一个负责任的开发、部署和使用这些技术的框架，其中包括适当的保障、监测和监督机制。

澎湃新闻记者 吴天一

免责声明：以上内容为本网站转自其它媒体，相关信息仅为传递更多信息之目的，不代表本网观点，亦不代表本网站赞同其观点或证实其内容的真实性，如有侵权请联系(0531) 8519 6822。