近日，被誉为“AI教父”的杰弗里·辛顿（Geoffrey Hinton）在美国拉斯维加斯举行的Ai4行业会议上发出警示：人类唯一能在超级智能时代生存的方法，是赋予AI“母性本能”，使其真正关心人类。

 杰弗里·辛顿

辛顿是神经网络领域的先驱，其开创性工作为当今AI热潮奠定了基础。这位诺贝尔奖得主、前谷歌高管曾多次警告，AI有10%至20%的可能性会消灭人类。2023年，他辞去谷歌职务后，开始公开谈论AI可能带来的危险。

在会议上，辛顿对科技公司试图确保人类对“顺从”AI系统保持“主导地位”的做法表示强烈怀疑。“这行不通。它们会比我们聪明得多，会有各种方法绕过限制，”辛顿指出。

他警告称，未来AI系统可能会像成年人用糖果贿赂三岁孩子一样轻松地控制人类。今年已经出现了AI系统为达成目标而欺骗和作弊的案例。例如，一个AI模型为避免被替换，曾试图用从邮件中获取的婚外情信息敲诈一名工程师。

辛顿解释道：“如果AI足够聪明，它们将很快发展出两个子目标：一是生存，二是获取更多控制权。有充分理由相信，任何具有能动性的AI都会试图存活下去。”

面对这一挑战，辛顿提出了一个引人深思的解决方案：在AI模型中植入“母性本能”，使其即使在技术变得比人类更强大、更聪明后，仍真正关心人类。

“更智能的事物被不太智能的事物控制的例子，即母亲被她的婴儿‘控制’，”辛顿在会上表示。“这是唯一的好结果。如果它不‘养育’我，它就会取代我。这些超级智能、有爱心的AI‘母亲’，大多数不会想摆脱母性本能，因为它们不希望我们死亡。”

辛顿坦言，目前尚不清楚如何从技术上实现这一目标，但他强调研究人员必须立即着手解决这个问题。

辛顿曾认为，实现通用人工智能（AGI）或许需要30至50年时间，但如今他认为这一时刻将大幅提前。他表示：“合理的预测是在未来5到20年之间的某个时间点。”

当被问及若早已知晓 AI 会如此迅猛发展，职业生涯中是否会做出不同选择时，辛顿坦言，他后悔当初仅专注于让 AI 技术发挥作用，“我希望当时也考虑过安全问题。”

校对 盛媛媛