人工智能教父辛顿（Geoffrey Hinton）表示，世上由‘低智力生物控制高智力生物’的例子，就是婴儿如何控制母亲。照片：Evan Mitsui/CBC / Evan Mitsui
辛顿在 2024 年获颁诺贝尔物理学奖，也是 AI 安全基金会（AI Safety Foundation）的联合创始人。他在接受加拿大广播公司《IDEAS》节目主持人阿耶德（Nahlah Ayed）采访时解释道，训练 AI 发展出母性本能
，或许是拯救人类种族的逻辑。以下是对话节选：
你能想象到的最坏情况是什么？
辛顿： 短期内有很多不涉及 AI 接管世界的高风险情景，所以很难选出最坏的一个。
但例如，恐怖分子利用 AI 制造可怕的新型病毒，因为 AI，操作门槛能被大幅降低，这非常令人恐惧。虽然我们会进行国际合作尝试阻止，但未必能成功。这就是短期风险之一。此外，还有利用 AI 制作虚假视频来破坏民主。
但我最担心的，仍然是长远风险——这在我看来几乎是不可避免的：即 AI 变得比我们更聪明，而我们不知道届时如何与其共存，也不知道它们是否真的会取代我们。
请勿介意我这么直接，本世纪内 AI 导致人类灭绝的概率有多大？
辛顿： 我认为唯一诚实的回答是：这在 10 到 20 年内可能不会发生。而我们很难想象 10 到 20 年后会是什么样子。回看 10 年前，没人能想到我们会拥有现在这么出色的聊天机器人。
如果进展仅仅是线性的，我们尚可预见 10 到 20 年后的情况将与现在截然不同，届时会出现各种我们无法预见的技术突破。然而最诚实的答案是：我们毫无头绪。
无意总是纠结于负面情绪，但在你的恐惧视野中，终点是否确实是人类灭绝？
辛顿： 哦，确实有可能。我认为任何声称AI 绝不会导致人类灭绝
的人，只是没有面对现实罢了。
我们能否塑造 AI 的未来，确保它对我们更友好？
辛顿： 也许有。我觉得我们应该就方面投入大量研究力量。如果你环顾四周问：哪里有‘低智力生物控制高智力生物’的例子？
我所想到最好的、甚至是唯一符合我们讨论语境的例子，就是婴儿如何控制母亲。这是因为进化将某些机制植入了母亲体内。
母亲无法忍受婴儿的哭声。通过对婴儿好，她会获得各种荷尔蒙奖励。显然，为了物种的生存，进化让婴儿控制母亲是非常关键的。
也许我们也可以对 AI 做同样的事。即便它会比我们更聪明，如果我们能让它比起关心自己更关心我们，那将产生很好的结果。
它会意识到我们在智力能力上相当有限，但它依然希望我们能尽可能地发展。如果你问一位平凡的母亲：你想关掉你的母性本能吗？如果你在半夜醒来时听到孩子在哭仍然能倒头就睡，生活不是更轻松吗？
大多数母亲会拒绝，因为她们真心地关爱孩子，并意识到关掉本能对她们来说会非常糟糕。即使她们能够修改自己的代码
，大多数人也不会想关掉这些本能。
