（观察者网讯）

AI生成内容带来的混乱，越发成为公众需要面对的现实问题。

白宫当地时间21日宣布，美国七大AI企业已与拜登政府签署协议，承诺采取自愿监管措施管理AI技术开发风险，包括展开安全测试、为AI生成内容添加数字水印等。

这“七巨头”分别是谷歌、亚马逊、脸书母公司Meta、微软、AI企业Anthropic、Inflection和ChatGPT母公司OpenAI。上述企业高层当天在白宫与总统拜登会面，《华尔街日报》称，在此之前，其中大多数公司已发表声明宣布将与白宫合作，并强调系自愿设置“护栏”。

当地时间7月21日，美国华盛顿，美国总统拜登在白宫就人工智能发表讲话。图片来源：美联社

拜登表示，AI对社会、经济和国家安全带来巨大风险，也带来难以置信的机遇，政府必须对新兴技术可能对美国“民主和价值观”构成的威胁保持清醒和警惕。白宫声明称，这些公司的承诺强调了AI未来发展的三项基本原则，即安全、保障和信任，是朝着开发负责任的AI迈出“关键一步”。

具体而言，该协议的主要内容包括：

在发布AI产品前，先由独立专家进行内外部安全测试；

定期公开报告AI的能力和局限性，及其适当和不适当应用的领域；

同意开发数字水印系统等强大技术机制，确保帮助用户识别AI生成内容；

优先研究AI可能带来的社会风险，以避免偏见与歧视、保护隐私。

其中最为引发关注的无疑是数字水印系统的开发，该措施可以降低“深度伪造”风险，有可能帮助到面临AI生成内容冲击的艺术家和内容创作者。

据英国广播公司（BBC）22日报道，欧盟内部市场专员布雷顿6月访问旧金山期间，和OpenAI首席执行官阿尔特曼就讨论了这个问题，后者当时表示，他“很乐意在不久后”展示OpenAI在水印方面所做的工作。

据《华盛顿邮报》21日称，谷歌技术人员此前也在今年5月发布的一篇博客文章中透露，公司正在开发AI生成内容的数字水印技术，称这是解决有关AI可能加剧错误信息的担忧的一种方式。此外，在AI局限性测试方面，企业也有过实践先例。在大范围推出GPT-4前，OpenAI专门组建了一支由50名学者和专家组成的“红队”，通过提出一些试探性、有一定危险的问题，来测试和微调GPT-4的响应方式。

白宫发布的会面成果事实清单

根据白宫发布的声明，拜登政府还正在就AI监管一事制定一项行政令，并将寻求推动两党在国会通过相关立法。白宫没有提供行政令的细节，但《纽约时报》称，该行政令旨在解决另一个问题，即如何控制中国和其他竞争对手获取新AI程序或开发相关组件的能力，该令预计将涉及对先进半导体以及大型语言模型出口的限制。

值得注意的是，不少媒体在报道时都指出，这项自愿协议并不具有约束力，其不包括具体的截止日期或报告要求，用词也偏宽泛，政府机构可能在后续监管上面临困难。事实上，如果上述企业不遵守承诺，被授权监督履行的美国联邦贸易委员会也只能诉诸消费者保护法。相较之下，潜在的行政令可能会激起业界更多反对。

此外，尽管白宫和许多美媒都称这些承诺是拜登政府在为AI技术加装“护栏”方面的“最有力尝试”，有分析认为该协议并没有直接解决AI监管中的一个关键问题：AI模型训练的基础数据库来源的合法性和潜在侵权争端。《巴伦周刊》指出，前述承诺并不包括强迫AI企业披露用于训练其AI系统的数据，但就在本月初，美国多名作家刚向Meta和OpenAI提起诉讼，指控其使用自己的书籍内容训练AI模型。

“尽管白宫急于给人留下其在AI开发领域处于领先地位的印象，但问题是这些公司将能够在多大程度上遵守这些自愿承诺。”《巴伦周刊》写道。纽约大学斯特恩商业与人权中心副主任保罗·巴雷特（Paul Barrett）也对媒体表示，白宫还需要做更多工作来防止AI风险。

本文系观察者网独家稿件，未经授权，不得转载。