【WAIC2025】AI教父杰弗里・辛顿：避免“养虎为患”，要训练“善良”的AI
小微
（原标题：【WAIC2025】AI教父杰弗里・辛顿：避免“养虎为患”，要训练“善良”的AI）
图片来源于网络，如有侵权，请联系删除
经济观察报 记者 钱玉娟
7月26日，2025世界人工智能大会（WAIC)开幕，来自全球人工智能（AI）领域的创新力量齐聚上海，其中备受关注的便是图灵奖得主、2024年诺贝尔物理学奖得主杰弗里・辛顿。
今年78岁高龄的杰弗里・辛顿曾被麻省理工学院评为“深度学习之父”，在AI领域也被冠以“教父”之誉。
7月26日下午，当杰弗里・辛顿步入会场，观众近乎全体起立，鼓掌致意。对这些身处AGI时代的年轻人，杰弗里・辛顿建议他们专注真正原创的研究，甚至可以去寻找那些“所有人都可能做错”的领域去探索新思路。
26日上午，杰弗里・辛顿在《数字智能是否会取代生物智能？》的主题演讲中强调，AI大语言模型是“永生”的，即便程序依赖的特定硬件被毁掉了，程序中的知识仍可以保留，而人类若想让自己所学的知识实现“永生性”则是相当困难的。
杰弗里・辛顿指出，AI大模型一旦具备了比人类更强的智能，“关掉”大模型或这种智能往往会变得不现实，他呼吁建立一个全球性的组织，联合研究如何训练出一个既聪明又不会想着统治世界乃至消灭人类的AI。
为了阐释AI向善的重要性，杰弗里・辛顿将当下AI时代的人类处境类比为“养一只老虎当宠物”，在他看来，“人类要么把老虎训练得永远不攻击你，要么你把它干掉”。其实，在AI发展的现实中，这早已不是一个选择题，杰弗里・辛顿认为，这将是人类长期面临的重要问题，即AI向善正成为全球共识，且各国为了解决问题可以展开合作。
如何训练“善良”的超级智能，也成为杰弗里・辛顿与上海AI实验室主任、首席科学家周伯文交流的一个重点论题。
面对周伯文提出的“多模态模型发展出主观体验”的问题，杰弗里・辛顿认为，当今的多模态聊天机器人（Agent）已经具有意识，不少AI大语言模型甚至学会了预测人们会说的下一个词。
由此衍生的问题是，人类开发训练AI，是想让它变得聪明还是让它变得善良？杰弗里・辛顿认为，这背后可以是同一个AI，但需要不同的技术支撑。即使各国不太愿意分享各自将AI变聪明的技术，却可以分享让AI变善良的技术。
