“AI 教父”辛顿首次访华演讲：要像养虎一样把 AI 训练好，让它不“杀”你

7 月 26 日消息，2025 世界人工智能大会今起在上海举行，“AI 教父”、2024 年诺奖得主、2018 年图灵奖得主杰弗里・辛顿首次到访中国，并出席演讲。

辛顿在演讲中直言，几乎所有专家都认为会出现比人类更智能的 AI，AI 智能体为完成任务就会想要生存、获得更多控制，可能操纵人类。简单关闭 AI 并不现实，这就像养老虎当宠物一样，把它养大了，人类反而可能被其伤害。

“如果一直养这个宠物，那么你要确保它长大的时候，它不会把你给杀掉。”其认为，人类现在所处的情况就像养了一只非常可爱的小虎，我们只有两个选择：第一，把它训练好，让它不来杀你；第二，把它干掉。

如果人类想要确保自身的生存，就必须找到一个训练 AI 的办法，使其不要消灭人类。各国不会在防御人工智能的危险用途上进行合作，譬如网络攻击、致命自主武器、用于操纵公众意见的虚假视频。因为他们的利益不一致。

IT之家从辛顿的演讲中获悉，当下的局面是没有一个国家希望 AI 统治世界，若有国家能够找到防止 AI 操纵世界的办法，那么它将肯定很乐意与其他国家分享。