诺贝尔物理学科学家辛顿：必须培养出AI的母性，否则人类或被灭绝

辛顿在 2024 年获颁诺贝尔物理学奖，也是 AI 安全基金会（AI Safety Foundation）的联合创始人。他在接受加拿大广播公司《IDEAS》节目主持人阿耶德（Nahlah Ayed）采访时解释道，训练 AI 发展出母性本能，或许是拯救人类种族的逻辑。以下是对话节选：

你能想象到的最坏情况是什么？

辛顿： 短期内有很多不涉及 AI 接管世界的高风险情景，所以很难选出最坏的一个。

但例如，恐怖分子利用 AI 制造可怕的新型病毒，因为 AI，操作门槛能被大幅降低，这非常令人恐惧。虽然我们会进行国际合作尝试阻止，但未必能成功。这就是短期风险之一。此外，还有利用 AI 制作虚假视频来破坏民主。

但我最担心的，仍然是长远风险——这在我看来几乎是不可避免的：即 AI 变得比我们更聪明，而我们不知道届时如何与其共存，也不知道它们是否真的会取代我们。

请勿介意我这么直接，本世纪内 AI 导致人类灭绝的概率有多大？

辛顿： 我认为唯一诚实的回答是：这在 10 到 20 年内可能不会发生。而我们很难想象 10 到 20 年后会是什么样子。回看 10 年前，没人能想到我们会拥有现在这么出色的聊天机器人。

如果进展仅仅是线性的，我们尚可预见 10 到 20 年后的情况将与现在截然不同，届时会出现各种我们无法预见的技术突破。然而最诚实的答案是：我们毫无头绪。

无意总是纠结于负面情绪，但在你的恐惧视野中，终点是否确实是人类灭绝？

辛顿： 哦，确实有可能。我认为任何声称AI 绝不会导致人类灭绝的人，只是没有面对现实罢了。

我们能否塑造 AI 的未来，确保它对我们更友好？

辛顿： 也许有。我觉得我们应该就方面投入大量研究力量。如果你环顾四周问：哪里有‘低智力生物控制高智力生物’的例子？我所想到最好的、甚至是唯一符合我们讨论语境的例子，就是婴儿如何控制母亲。这是因为进化将某些机制植入了母亲体内。

母亲无法忍受婴儿的哭声。通过对婴儿好，她会获得各种荷尔蒙奖励。显然，为了物种的生存，进化让婴儿控制母亲是非常关键的。

也许我们也可以对 AI 做同样的事。即便它会比我们更聪明，如果我们能让它比起关心自己更关心我们，那将产生很好的结果。

它会意识到我们在智力能力上相当有限，但它依然希望我们能尽可能地发展。如果你问一位平凡的母亲：你想关掉你的母性本能吗？如果你在半夜醒来时听到孩子在哭仍然能倒头就睡，生活不是更轻松吗？

大多数母亲会拒绝，因为她们真心地关爱孩子，并意识到关掉本能对她们来说会非常糟糕。即使她们能够修改自己的代码，大多数人也不会想关掉这些本能。

我很惊讶这从一开始并非 AI 开发的一部分。为什么我们没想过要确保 AI 对我们更友好？

辛顿： 因为直到最近，AI 的主要动力一直是开发智能助手。

你不需要它友好，你只需要它高效并听从指令。这就是大型科技公司对 AI 发展的看法。

直到它变得更聪明。

辛顿： 我认为当它变得更聪明时，这种模式是不可持续的。我们需要完全重构这种关系：我们不再是老板，AI 也不仅仅是智能助手。AI 将成为照料我们的人。

那该怎么做？我们如何给 AI 植入母性本能让它对我们更友好？

记住，是我们在开发它，创造它。我们仍有机会做到这一点。成功与否部分取决于我们付出的努力。这可能无法实现。

一旦你开发出超智能 AI，它可能会自行其是，而我们只是智能进化史上的一个过渡阶段。但如果真的有方法将其开发为爱人类多于爱自己的模式，而我们却因为没有尝试过而最后遭灭绝，那人类就太愚蠢了。

目前有多少人实际在研究这个领域？

辛顿： 可能不到 AI 研究人员总数的 1%。这太疯狂了。

注释： 本次访谈经过编辑以确保清晰简洁。

Nicola Luksic de CBC Ideas, adaptation en chinois par Donna Chan