过去一个月里，全世界都在被一场围绕AI发展的争论搅动。 9月29日，美国总统特朗普与多家科技和人工智能企业高管在白宫签署了一份自愿安全标准。这场会晤发生在一个颇为诡异的背景之下：数周以来，正是这些AI公司高管接连向外界警告其AI产品可能有“毁灭全人类的灾难性或生存性风险”。 然而，这些公司的说法和动机受到了外界的强烈质疑。 蒂姆尼特·格布鲁（Timnit Gebru）就是质疑者中颇具分量的一位。2020年，时任谷歌伦理AI团队联合负责人的她因参与撰写一篇警示大型语言模型风险的论文而被迫离职。这篇后来被称为“随机鹦鹉”（Stochastic Parrot）的论文影响深远，引发了有关人工智能语言模型偏见、环境成本和企业研究自主性的广泛讨论。此后她创立了独立的分布式人工智能研究所（DAIR Institute），先后入选《时代周刊》年度最具影响力人物和《自然》杂志年度十大科学人物。 在人才济济的美国AI领域，格布鲁的经历十分特殊。她出生成长于埃塞俄比亚，少年时期因战乱以难民身份前往美国，毕业于斯坦福大学，博士期间师从著名AI科学家李飞飞，曾在苹果、微软研究院工作，后来担任谷歌伦理AI团队联合负责人。 “我觉得那更像一场表演。”格布鲁日前在接受澎湃新闻（www.thepaper.cn）专访时这样评价上述在白宫发生的一幕。她认为，AI企业一边将产品描述为可能失控的“超级智能”，一边争取自我监管，其真正的目的是让公众忽略其产品眼下的不可靠性，以及开发者和使用者应承担的责任。 在专访中，她从所谓“AI黑客”事件谈到军事场景中的错误情报，也谈及她的难民经历、谷歌风波，以及她希望推动的另一种技术发展方向。格布鲁直言，企业不断谈论遥远的“生存风险”，却将眼下已经出现的错误、歧视和环境代价挤出公共讨论。比机器是否会毁灭人类更迫切的问题是：当AI在现实中可能或已经造成伤害时，谁来负责？ 以下为专访全文，经编辑整理 “失控模型”叙事背后，谁来为现实风险负责？ 澎湃新闻： 最近一个月，全球都在关注所谓的“Hugging Face”AI越狱黑客事件。对此你怎么看？ 格布鲁： 我的看法是，OpenAI的研究人员训练模型去利用漏洞，随后测试这些模型，模型便按照训练目标行事。问题在于，测试环境没有做好必要的隔离：如果有恰当的沙箱或网络隔离措施，模型就不该获得那样的互联网访问能力。 但整件事被包装成“超级强大的AI失控了”实在是太荒唐了，在我看来，它更说明相关公司缺乏基本的安全实践。与其谈模型“逃脱”或“自行叛变”，更应该追问：测试者为什么没有把环境管好？ 澎湃新闻： 在IPO预期、巨额股权激励和竞争压力下，为什么这些AI巨头要披露这些事件，并大肆宣扬“AI对于人类而言存在生存性风险”的叙事？ 格布鲁： 这其实一点不让我困惑。Anthropic和OpenAI这两家公司都说，他们创立的初衷是为了拯救人类免受AI的生存威胁。 这种叙事有两面：一面说，未来的“超级智能”可能毁灭人类；另一面又说，它能解决气候变化、疾病乃至世界和平问题。听起来就像他们在创造一位“机器之神”：由所谓“正确的人”掌控，它会解决一切；由所谓“错误的人”掌控，它就会带来灾难。在涉及和中国竞争的讨论中，这又常与冷战式的竞争叙事结合起来。 这样一来，他们等于在营销自己的产品是无所不知、非常强大的。这种营销当然有好处，但更重要的是，就像这次Hugging Face事件一样，这是一种逃避问责的方式。 人们不再讨论他们因为缺乏基本安全措施而多么无能，反而在讨论“超级强大的模型跑出来了”、“AI失控了”。他们这套说法已经说了很久了。从2012年马斯克、彼得·蒂尔就开始说了。如果你去调查这些公司里的人，你会发现这几乎像一种世俗宗教。 至于IPO，大家都知道这些公司还没准备好上市，本来就会推迟。现在他们推迟了，给出的借口却是因为存在风险和安全性问题、需要“放慢脚步”。我并不接受这种解释。这一切都是为了服务他们自身利益的叙事。 澎湃新闻： 你如何评价几家AI巨头企业在白宫达成的“自愿性安全协议”？ 格布鲁： 我觉得那更像一场表演。从“失控模型”和“生存风险”的叙事出现起，我就在警告，这是在为“监管俘获”（指本应维护公众利益的政府监管机构，反过来被其所监管的行业巨头控制或同化，沦为保护行业垄断和利益的工具）做铺垫。看到自我监管被提出时，我的反应是：这正是它们想要的。 因为当你说“我们有失控的模型”、“它太强大了，我好担心”的时候，你实际上是在向政府传递一个信息：你不希望你的对手拥有这些模型。所以即使这些CEO到处敲警钟，但同时却又在和美国军方合作。他们根本不在乎是否会导致杀戮。这些公司真正传递给政府的信息是：“不要设置妨碍我们发展的监管障碍”。 然后他们搞出了这个荒谬的自我监管，公众被要求相信这些企业领导者会自觉把事