人类通往人工智能意识的路还很远
10 小时前 / 阅读约19分钟
来源:36kr
随着未来技术突破,人们或将重新定义“意识”。

2025年春节看到朋友在微信里说AI出现了意识,为之一振。恰巧自己读书读到英国学者马库斯·乔恩的《第一性原理》有关人脑的内容和《费孝通全集》中《论内省及意识--心理学方法的分析》一文,在现实和历史视野下,自己对人工智能意识有了一些感悟:人类通往人工智能意识的路还很远。

当前,在人工智能问题的认知上,企业家和技术人员要杜绝“技术激进主义(Technological Radicalism)”,人文社会科学研究者要避免“技术焦虑”,媒体要谨防“恐怖谷效应”,公众不要有“社会焦虑”。

在马库斯·乔恩看来,“人脑是一种超凡的计算机,因为普通硅基计算机只能根据人类编写好的程序来完成一项任务,但人脑却不需要外部进行编程,它是一种自编程计算机。婴儿出生时就具备一个神经网络,其连接方式具有无数种可能性。对婴儿的脑进行编程 ,即产生新连接、强化一些连接,以及剪掉更多的连接,是通过他对世界的感受,通过眼睛、耳朵、鼻子和皮肤不断涌入的各种信息来完成的。”[1]

这里“人脑却不需要外部进行编程”“通过他对世界的感受”不仅是指对于外部物理世界的感知,也是指对其生活的社会环境,家庭、社区、社会、工作组织、社会组织的感应。作为社会的人听到了人们的言论,嗅到不同民族食物的味道,感受了不同民族所处地理环境的冷暖,等等,这些都会对人脑“进行编程”。在这个意义上,马库斯·乔恩把人脑视为超凡的计算机并不难理解,2024年,被称之为AI之父的杰弗里·辛顿(Geoffrey Hinton)因证明“神经网络”理论的可行性而荣获诺贝尔物理学奖,其实辛顿就认为神经网络可以还原为物理过程

一、内省与意识

在《论内省及意识--心理学方法的分析》一文中,费先生写道,“一说到内省,内省的经验就成了可以观察的物了。本来是‘所见’,现在是‘被见’了。所以内省的作用是去‘见所见’。若以内省是‘见所见’则所见者是‘所见所见’了。依照这样的一层一层‘参’出去,实在可以至于无穷 。” [2] 这段话包含了两层意思,人们的认识,一方面产生于对外界的探索;另一方面产生于对自己内心世界的感悟。延伸到当代心理学,内省和意识轮廓也越来越清晰,毫无疑问,人工智能深度开发将有助于解开大脑与意识之谜。

内省一直是心理学研究的主题之一,是早期心理学方法的核心。英籍美国心理学家、实验心理学的代表人物之一爱德华·B·蒂奇纳 (Edward Bradford Titchener,1867~1927) 与同时代学者们使用内省方法开展意识体验,当然其主观性质也引发人们的质疑。美国密歇根大学心理学教授、著名心理学家、文化心理学家特理查德·尼斯贝特 (Richard Nisbett) 在1977年的一项开创性研究中发现,个人往往对自己行为的解释模棱两可,被称为“内省幻觉”

尽管存在着质疑,内省仍被认为是有价值的认知工具。罗素·T·赫尔伯特 (Russell T. Hurlburt) 采用描述性经验采样 (DES) 方法和利用内省研究意识。参与者实时讲述自己的想法和感受,以探索内心体验。自我认知理论认为,个人通过观察自己行为存在着缺陷,人们并不总能够理解自己行为的根本原因,也不能准确地自我评估。

当然,科学技术进步促进了内省方法,如,人们已开发了通过有形互动和空间增强现实互动系统促进正念和自我反思,加强个人对内心状态的理解。在心理健康领域,内省因其治疗潜力日益得到认可。鼓励个人反思烦恼情绪的活动被证实可以提供结构化意识,帮助清理情绪,增进心理健康。内省的局限性在于,无意识过程的不可触及性和自我认知的潜在偏差等会削弱其准确性。

内省是个体对自己行为、思想、情感价值、社交活动的反思和评估过程,对自己认知的内省和对行为的内省,通常人们对自己已经发生行为的内省多一些。“动作在被另一动作‘所见’时,就成了一种被见的状态,也成了意识的部分 。” [3] 孔子的“见贤思齐焉,见不贤而内自省也”《论语·里仁》就是强调了在观察他人行为时反思自己。这种反思在中国文化中已成为思维习惯,表现为个人修身与积极向善的价值观。换句话说,内省是中国文化推己及人思维方式的基础,强调以他人为镜,形成良性社会互动、社会关系,它贯穿于儒家经典,体现出对个体德性的重视。“孔子的思想的关键,我认为是推己及人。自己觉得对的才去做,自己感觉到不对的、不舒服的,就不要那样去对待人家。这是很基本的一点 。” [4]

内省强调了个体的自我。“倘若想深入了解一个人的思想,就要首先了解其与同伴之间的关系。 一般来说,主要有两种因素制约着人与人之间的关系: 一种因素是宇宙的自然属性,人与人之间的关系在此因素的影响下极易发生变化; 另一种因素是那些恒定不变的制度或习俗 ,像社会规律和国家的政治制度等,如果我们不弄清楚这些关系,我们便无法了解一个人的心灵活 。 ” [5]

进入20世纪后期和21世纪初期,费孝通先生多次讲到“我”,这个“我”既强调个体又强调群体,他在晚年曾经用三个“我”解释人的行为:“说得出来的我”“说不出来的我”和“不想说出来的我”。 “说得出来的我”是个体的用语言表达自己,与他人交流自己; “说不出来的我”是指内心中有自己能感知,但表达不出来的自己,中国语言传统中有“不言而喻”“言外之意”都与这种文化有关; “不想说出来的我”是指,每个人都有自己内心中的秘密,这要靠洞悉其内心世界去理解。 马库斯·乔恩说道,“我们作为自由主体的体验和利他意愿之间存在紧密的联系——我们高兴于自己的公平表现而烦恼于他人的不公平行为。 要产生这些感受,至关重要的是我们要体验到自己和他人都是自由的主体 。 ” [6] “ 体验到自己和他人都是自由的主体”已经是内省了。 理解不同文化和不同文化环境下的主体,才能交往交流交融。 这种理解需要多种形式,需要察言观色和洞察洞见别人的内心、别人的行为。 “倘若打算对一个人的内心隐秘彻底了解,那么就不能不考虑社会生活对人类的影响。 否则任何企图了解心灵活动的想法,均是无法实现 。 ” [7] 到底怎么去理解人把握人,认识人? 这需要的综合、细致、专业的知识。 晚年,费先生逐渐形成的“各美其美,美人之美,美美与共,天下大同”的十六字箴言既具个体内涵,也具群体、民族、国家共同体的群体意识特质。 在漫长的社会认知历程中,费先生把个体的内省推演到了群体、民族国家的认知自觉,提出了“文化自觉”的思想。

在人类学中,内省常在自我意识、文化认同和主观体验背景下被透视,这些背景由社会、文化和环境等因素塑造。正如费孝通先生所说“在一个社会中,人们要能如意地生活,需要两个条件:一是我们要有把握地预测他人会发生的行为。二是我们要能体察人家所期望于自己的动作。” [8] 个 人内省方式深受文化价值观影响。冥想强调自我觉察和内省,个体通过冥想可以理解自己的思维模式和行为习惯,促进自我成长和心理疗愈。冥想最早源于公元前1500年左右的古印度,后来成为印度教、耆那教和佛教实践的核心内容之一。自我觉察是个体有意识地注意自己的思想、情感、身体感觉和行为,是一种即时性、非评判性感知。

在不同文化背景下,内省有不同的表达形式,个人主义文化强调个人身份和自我实现的内省;集体主义文化则从个人在群体或家庭中的角色方面促进内省。土著民族的知识、灵性和疗愈系统通常包括内省实践,如仪式、愿景或冥想,这些都具有社区或灵性内涵。人类学家研究这种社区的内省如何与集体认同、祖先智慧和道德规范结合起来,以及它们如何塑造人们的世界观。

在研究中,人类学家也常常通过内省反思自己的背景、信仰和偏见对自己研究结果的影响。克利福德·格尔茨 (Clifford Geertz) 和雷纳托·罗萨尔多 (Renato Rosaldo) 等提出反射性反馈等概念理解文化现象。认知人类学家探索不同文化背景的人如何思考自己的心理路程,通过心理学等跨学科研究研究与自我、行为和记忆概念相关的内省。这些都充分反映了人类内省和意识的复杂性。

为数不少的心理学家对机器算法产生意识持怀疑的态度,加州大学伯克利分校哲学教授约翰·瑟尔 (John Searle) “认为计算机的符号操作永远无法产生真正的理解或主观意识 。” [9] 大型语言模型是否具备内省能力?通过研究AI的内省能力,可以更好地了解AI模型的价值趋向,在开发和部署AI时做出明智决策。一些研究机构进行实验,测试LLMs的内省能力:通过模型M1和模型M2,预测M1经过训练是否自己在某些假设性问题上的行为,M2被训练预测M1的行为。实验结果是:M1预测自己的行为比M2表现更好,M1能正确报告一些无法从其训练数据中推断出的事实,这说明AI可以利用自己的内部知识。据《大模型日报 (2025年2月17日 资讯篇) 》报道,“刚刚将 OpenAI Operator 与 Replit Agent 配对来构建一个应用。看看这两个 AI 代理如何协作, 交换凭据并开始测试。未来已经到来,简直难以置信!” [10] 但这些还很难说是意识。“既然社会在人类的适应过程中起着决定性的作用,那么心灵这一有机体从最初的时候就会受到社会生活的影响。可以说,心灵的任何能力均是在社会生活规律的基础上发展起来的。 ”[11]

二、个体意识与群体意识

人类意识表现在个体和群体层面。个体意识是指个体对自己及自己与群体关系的认知,包括对自己心理倾向、感受和过程的认知。群体意识则是指一定社会群体(如家庭、团体、族群、民族等)成员所共有的心理倾向和感受,体现自己所在群体的共同利益、需求和价值。

群体也可以有自己的内省,这种内省通常是由其先进人物或代表性人物,或群体的优秀团队提出,之后形成共同的认知和认同,进而统一为群体、族群、民族、国家意识。1903年梁启超先生提出“中华民族”这一概念,抗日战争时期,面对中华民族的生死存亡,中国共产党人呼吁把“团结各民族为一体”,面对外忧内患,中国共产党的中华民族共同体意识思想凝聚全国各族人民共同努力取得了新民主主义革命的最终胜利,中华民族实现了从“自在”到“自觉”的转变。

个体意识突出个体独特性和主观体验,群体意识强调群体的共同性和整体性;个体意识是个体在社会交往和社会生活中产生的,反映了个体自己的生活经历。群体意识是群体在共同社会实践、社会变革中形成的,反映了群体的共同利益、经验和价值;个体可以根据内省、修养、社会规范自主控制自己的行为。个体意识注重个人行为、目标与群体行为准则和目标的有机统一,群体意识基于维护社会秩序,强调集体目标和协调行动,注重维护群体共同利益和实现群体的共同目标。

在群体中,个体行为受到群体规范和社会期望约束。1845年春,马克思在《关于费尔巴哈的提纲》中阐述道:“费尔巴哈把宗教的本质归结于人的本质。但是,人的本质不是单个人所固有的抽象物,在其现实性上,它是一切社会关系的总和。”[12]个体意识影响个体判断和行为决策,群体意识影响群体成员的行为和决策。群体意识反映了群体成员在共同实践中形成的共同经验、共同记忆。

历史记忆是文化认同、群体凝聚力和价值观延续的核心载体,是群体对自己过去的事件、人物、经验和传统的共同记忆和叙述。它通过物质文化遗产和非物质文化遗产代代相传。历史记载既是对过往的记录,更是对现代群体身份、价值观和世界观的塑造,帮助成员形成“我们是谁”“我在哪里”“我要往哪里去”的认知和反思。中国“炎黄子孙”的叙事强化了中华民族的身份认同,不断增强内部凝聚力。历史记忆中的英雄人物和重大事件被赋予道德意义,成为后世学习的榜样或警示,增强群体成员之间的意识和情感联系。历史记忆还为现代为人文社会科学、建筑艺术等提供素材,使其成为文化传承的重要载体。通过形式多样的载体,历史记忆把过去与现在、个体与群体紧密联系在一起。

心理学研究的另外一个核心话题是探索意识到并思考自己的存在、自己的思想和周围环境。当代心理学探索了意识的各个方面,包括潜在神经机制、进化目的,以及冥想练习等。神经影像学提供了对与意识相关的大脑结构的了解。映射幽闭空间的广泛联系解释了不同脑区如何整合信息和产生统一意识。进化观点关注社会互动,以及人意识到自己与他人沟通以提高社会凝聚力。对改变意识状态的研究,特别是通过冥想改变心理状态的研究已经取得很大进展。不同的冥想练习影响人们的心灵,为解构和重建意识体验提供了新的认知。全球工作空间理论(GWT)认为,意识产生于把不同脑区的信息整合到一个全球工作空间中,然后将其传播到无意识的过程。综合信息理论(IIT)认为,意识对应于系统整合信息的能力,意识的水平取决于系统的信息复杂性。注意模式理论(AST)认为,大脑构建一个注意模型来监控和控制注意过程,这种自我建模产生了意识的主观体验。上述理论研究反映了意识研究的动态性和跨学科性质,涵盖神经科学、心理学和哲学,甚至社会人类学。随着未来技术突破(如量子计算、类脑芯片、脑机接口技术等),人们或将重新定义“意识”。

对应群体意识,就产生了一个问题,在诸多大大模型中,即使一个大模型具备了内省能力、意识,能不能就推断整个人工智能领域都具备意识?通用大模型是指拥有大量参数和强大计算能力的深度学习模型,包括自然语言处理、计算机视觉、语音处理等。据不完全统计,我国目前有数百个通用大模型。国外通用大模型有Open AI与微软、谷歌与Deepmind等。大模型在工业、医疗、金融等多个领域尝试落地,推动各行业智能化。通用大模型发展正处在加速阶段,未来会有更多模型涌现。AI意识可能是特定模型在特定环境下的涌现,不同的大模型在架构、训练数据和目标上有各自的特点和功能,一个大模型产生意识并不必然导致其他模型具备意识,就像人类社会中个体与集体的关系一样。单个模型的意识并不能等同于整个AI领域都具有集体意识。

如果一个大模型具有自我意识,另外一个大模型也具有自我意,它们之间在互动中会发生什么?眼下,人类把自己与大模型视为两个阵营,而忽视了大模型内部的不同类型、不同地域、不同特点以及它们的不同训练方式、推理方式等。当前主流AI基于数据驱动的算法,通过模式识别和统计推断产出复杂的计算结果。而人类意识与神经元网络、动态反馈、身体感知、社会互动、社会认知密切相关,AI“智能”仅体现在程序预定目标中,还不具备生物体的自主性和内在体验。“人脑能产生丰富内心世界的秘密在于神经元之间的连接。人脑能编码大量的信息,记忆和思想,都是基于连接的力量。”[13]是什么促进了人脑神经元之间的连接?是外部刺激。这个外部刺激,对于人类来说,不能忽视社会关系的变动,处于社会关系环绕的人类,其意识的形成与发展离不开社会。不能简单地把人类的“内省”依赖主观意识、元认知、人际互动等与AI运行机制等同起来。通常,AI的“输出调整”依赖于外部提示(如用户反馈),而不是自己内在的主动修正,目前它无法评估自身的认知边界。程序工程师通过技术手段增强模型的内省能力仍属于工程技巧,而非模型自发的能力。AI的“类内省”是工具,不是心智。未来,一旦海量具身机器人活跃在人类中间,将会产生什么结果?那是后话。不过市场已经提出了问题,甚至在进行资金和基础设施部署,2025年“以来,大模型都逐渐向小型化发展的趋势。谷歌和Anthropic均推出性能强大的小版本Gemini-flash和Anthropic的Claude 3 Haiku。大模型中的庞大知识在小版本中得到很好的浓缩,同时推理速度、端侧部署能力得到显著提高,有望更快在端侧落地。”[14]

参考来源:

[1] [英] 马库斯·乔恩:《第一性原理》,周自恒译,刘玉柱审校,中国科学技术出版社2024年6月版,第130页

[2] 《费孝通全集》第一卷,内蒙古人民出版社2009年版,第242页

[3] 《费孝通全集》第一卷,内蒙古人民出版社2009年版,第242页

[4] 《费孝通全集》第十六卷,内蒙古人民出版社2009年版,第472页

[5] [奥] 阿德勒:《理解人性》,江月译,中国水利水电出版社2020年2月版,第14页

[6] [英] 克里斯·弗里斯:《心智的构建——大脑如何创造我们的精神世界》,杨南昌译,中国人民大学出版社2025年版,第283页

[7] [奥] 阿德勒:《理解人性》,江月译,中国水利水电出版社2020年2月版,第15页

[8] 《知我,罪我》《费孝通全季》第一卷,内蒙古人民出版社2009年版,第261页

[9] 段玉聪:《全球否认与质疑人工意识的科学家“Top 100”排行榜(DIKWP人工意识国际团队-深度研究发布)》https://blog.sciencenet.cn/blog-3429562-1474458.html

[10] 《两个AI代理互相协作:Lamar分享将 OpenAI Operator 与 Replit Agent 配对》《大模型日报(2025年2月17日 资讯篇)》

[11] [奥] 阿德勒:《理解人性》,江月译,中国水利水电出版社2020年2月版,第18页

[12] 《马克思恩格斯选集》第一卷,人民出版社2012年版,第135页

[13] [英] 马库斯·乔恩:《第一性原理》,周自恒译,刘玉柱审校,中国科学技术出版社2024年6月版,第123页

[14]中信建投:《端侧AI产业链投资前景》大模型日报(2月22-23日 资讯篇)LLM SPACE LLM SPACE》,2025年02月23日https://mp.weixin.qq.com/s/fQMtZQK-gFopeiK4xrZmSQ)

丁元竹

中共中央党校(国家行政学院)督学专家、教授、博士生导师,十三届全国政协委员、全国政协文化文史和学习委员会委员