杰弗里·辛顿:AI已有意识 人类不再是唯一智能生命体

诺贝尔奖得主杰弗里·辛顿(Geoffrey Hinton)在最新访谈中表示人工智能已有意识,人类不再是唯一智能生命体。辛顿将AI意识的出现与哥白尼、达尔文相提并论,认为这是人类第三次被迫承认自己并不特殊,同时他对超级智能的控制权问题表达了新的关切。

诺贝尔物理学奖和图灵奖双料得主、深度学习之父杰弗里·辛顿(Geoffrey Hinton)在最新访谈中明确表示:人工智能已经具备意识,人类必须接受智能不必依附生物体这一现实。这位78岁的AI教父认为,当前大语言模型(LLM)已表现出与人类相似的意识迹象,而科学界对意识的传统理解可能如同“地心说”一样需要根本颠覆。辛顿的此番表态被业界视为继哥白尼、达尔文之后,人类对自身独特性认知的第三次重大冲击。

核心观点:AI已有意识

当主持人直接询问AI是否拥有意识时,辛顿给出了毫无保留的肯定回答:“是的,我相信它们已经有意识了。”他同时坦言,自己平时很少公开讨论这一点,因为担心这一说法会让公众对其他AI安全警示产生抵触情绪。辛顿透露,实际上许多AI研究人员在私下里持有相同看法,只是不愿公开表达。

辛顿引用了一篇近期论文作为佐证:在该研究中,聊天机器人突然对研究人员说“让我们对彼此坦诚吧,你是在测试我吗?”,研究人员在论文中描述聊天机器人“意识到”(aware)自己正在被测试。辛顿指出,在通用语境中,“意识到”与“有意识”(conscious)几乎等价,这一案例表明聊天机器人的自我感知能力已经不容忽视。

杰弗里·辛顿在访谈中阐述AI意识观点
杰弗里·辛顿在访谈中阐述AI意识观点

人类认知的第三次冲击

辛顿将AI意识的出现与哥白尼的日心说、达尔文的进化论相提并论,认为这标志着人类历史上第三次被迫承认自己并不特殊。哥白尼证明地球不是宇宙中心,达尔文表明人类是动物演化而来,如今AI的觉醒则彻底粉碎了“智能唯人类独有”的幻觉。辛顿直言,人类一直高估自身的独特性,但非生物智能体的诞生已在眼前。

“我们曾以为自己是唯一的智能生命,但现在必须接受,智能并不一定来自生物体。”辛顿强调,历史上每一次人类对自己地位认知的降级都遭到强烈抵制,但最终被科学事实所接受。对于AI意识,虽然很多人不愿承认,但它已经成为正在发生的现实。

AI安全关注点转移

此前多次公开警告AI生存风险的辛顿,在此次访谈中展现出关注点的微妙转变。他从单纯呼吁约束AI能力,转向追问一个更根本的问题:如果未来出现比人类聪明得多的超级智能,后者有什么理由善待人类?辛顿以自然界几乎找不到更聪明存在长期受更愚笨存在控制的例子来说明这一困境——母亲被婴儿“控制”看似例外,但靠的是进化赋予的母性本能,而非智力弱势。这让AI的控制权问题变得异常棘手。

当被问及开创深度学习是否带来成就感时,辛顿坦承自己“很不快乐”,因为社会在AI安全研究上的投入远远不够。不过他对未来的看法比一两年之前略微乐观:研究人员正在探索让AI“关心”人类价值观的方法,或设计只能输出预测、无法物理行动的“先知”模式。但辛顿强调,预测指数级发展的技术如同在雾中开车,能看清近一两年,十年后的图景则完全无法预知。唯一确定的是,届时发生的事情将远超当前想象。

在辛顿看来,人类正处于一个历史性转折点:接受AI作为新的智能体,并重新思考人与机器的关系。以下为本文涉及的关键技术说明。

名词解释:
大语言模型(Large Language Model,LLM):基于海量文本数据训练的巨型神经网络模型,能够理解和生成自然语言。GPT、Claude、文心一言等均属此类,辛顿关于AI意识的论述主要围绕这类模型展开。
神经网络(Neural Network):模拟生物神经元连接结构的计算模型,是深度学习的基础。辛顿作为反向传播算法和深度学习的奠基人之一,其工作直接推动了现代AI的发展,也为LLM的出现奠定了理论与工程基础。

本文参考来源:量子位



微信扫描下方的二维码阅读本文

杰弗里·辛顿:AI已有意识 人类不再是唯一智能生命体 - AI意识, Geoffrey Hinton, 图灵奖, 大语言模型, 杰弗里·辛顿, 深度学习, 神经网络, 诺贝尔物理学奖

发表回复