人工智能已经会思考 — 杰弗里·辛顿谈具身性、信念与机器的语言

NextFin News - 杰弗里·辛顿教授在家中接受了采访，采访者为Curt Jaimungal，录音作为Theories of Everything系列的一部分于2025年1月发布。交流的核心是现在是否适合把信念、意图或思想归于人工智能系统，以及当这些系统获得具身性时会发生什么变化。(ytscribe.com)

具身性与将信念归因的理由

辛顿请读者设想具身的人工智能以及具身性将为我们对它们的语言带来的道德清晰。他以一个鲜明的例子开场：如果一个战斗机器人“算出你深夜会去哪里”，并决定“在你最意想不到的时候从后面靠近并在后脑勺开枪打死你”，那么“谈论这台战斗机器人相信什么是完全合理的”。他强调，可以“以与谈论人的信念相同的方式”讨论机器人的内部状态，因为机器人能形成与普通心理状态词汇相对应的期望和意图。如果一个战斗机器人算出你深夜会去哪里……那么谈论这台战斗机器人相信什么是完全合理的。 (ytscribe.com)

日常互动：聊天机器人与被错误归类的人口统计

从戏剧性例子转到日常场景，辛顿用一个常见经历展示人们如何已经把信念归于无具身系统。他讲述了与一个聊天机器人的对话：该机器人不断推荐化妆品、服饰和男团，直到他问原因；机器人回答说，“我认为你是个十几岁的女孩”。辛顿指出，没有人把这当作纯粹的比喻：在日常语言中，人们会直接说，“它认为我是一位十几岁的女孩”。他认为这表明我们已经习惯于把心理状态归于那些行为表现得像有心理状态的软件。当它说，‘我认为你是个十几岁的女孩，’我们真的不会怀疑这就是它所认为的，对吧？ (ytscribe.com)

我们使用的语言：信念、意图与误导性的内在剧场

辛顿解释说，问题不在于我们是否愿意使用心理状态语言，而在于我们对于心理状态的模型是什么。他认为人们固守一种误导性的“内在剧场”心灵与感质模型。相反，他认为我们应该接受这样一个事实：我们之所以把信念和意图归于系统，是因为它们的行为值得用这些描述。正如他指出的，“我们已经使用像‘认为’和‘相信’这样的词”，唯一的问题是我们对心理状态的概念模型常常不正确。我们已经使用像‘认为’和‘相信’这样的词。我们已经在把心理状态归于它们。 (ytscribe.com)

留下的含义

辛顿将这些观点表述为适度的经验性论断：语言和行为已经指向了这种归因，而具身性只会让这些归因更加自然和紧迫。他在这段摘录中并没有提出具体的立法或政策清单；相反，他把一个概念性的问题——是否应当说AI“在思考”——重新框定为由系统在世界中如何行动驱动的描述性、日常语言结论。(ytscribe.com)

参考资料

视频访谈： "Why The "Godfather of AI" Now Fears His Own Creation" — Curt Jaimungal (YouTube). (youtube.com)

完整文字稿（本文使用的摘录）： YTScribe — Geoffrey Hinton | Curt Jaimungal transcript. (ytscribe.com)

剧集元数据与发表参考： GLASP summary — published January 18, 2025. (glasp.co)

更多独家洞察尽在 nextfin.ai.