人工智能（AI）大模型（如语言、视觉、多模态模型）的突破引发了广泛关注， 一些人认为通过扩大数据与算力将催生通用人工智能（AGI）的诞生，人类也即将见证具有超级智能的智能体（agent） 。

无论是乐观的技术“鼓吹派”，还是更为担忧的“灾难担忧派”，都在广泛传递这这样一种关于 AGI 的宏大叙事。

但是，最新一期的 Science 期刊发表了一篇题为“Large AI models are cultural and social technologies”文章，提供了一种与主流观点不同的思考角度，为这一前景泼了冷水。

来自芝加哥大学圣达菲研究所和约翰霍普金斯大学等多所顶尖机构的研究人员认为，关于大模型和 AGI 的叙事，不仅让大家误解了这些模型的本质以及它们与过去技术变革的关系，更重要的是也转移了我们对这些技术所带来真实问题和机遇的关注，让我们忽视了历史所能提供的经验和教训。

文章指出，大模型技术与智能 agent 存在本质区别，并不具备真正的智能和自主性，它们无法像人类一样感知和应对复杂多变的外部世界，也无法自主设定目标和价值观。大模型本质上应该被视为一种新兴的文化和社会技术，其核心功能是帮助人类更加高效便利地利用历史积累的信息，而非发展出独立的 agent。

作者们强调，结合社会学、行为科学与计算机科学的见解，有助于我们更准确地理解 AI 系统。这一观点可通过历史上类似技术（如文字、印刷术）的变革影响得到印证。未来或许可能出现更接近智能 agent 的 AI 系统，我们可以讨论如何应对这些假设的 AI 系统，但大模型并非这样的系统，它们更像印刷术、图书馆目录或互联网技术一样，是人类文化与社会技术发展长河中的一部分。

大模型更应是当代“印刷术”

我们不妨暂时摘掉当前对大模型技术的狂热滤镜，回顾社会学家们对过去技术变革的独特理解，重新思考一下大模型技术的本质。

人类文明因文化而起，也依赖文化得以生存和发展。从语言的出现开始，人类便具备了从他人经验中学习的独特能力，这可能是人类文明高速进化的关键之一。

同样，我们也很好理解，历史上每一项重大技术的突破都导致了社会的急剧变革。在语言之后，人类文明史上的标志性文化技术还包括符号、文字、书籍及印刷术、音视频技术等。随着信息能够在更广阔的空间和时间范围内变得触手可及，我们获取、理解和生产信息的方式也随之扩展，从图书馆到互联网搜索，从书信到音视频社交，这些技术的发展都对人类思想和社会文化产生了深远影响。

（来源：wikipedia）

例如，18 世纪印刷技术的广泛进步，使人类新思想能够迅速传播，在启蒙运动和法国大革命中发挥了重要作用。进入21 世纪后，几乎所有来自文本、图片和动态图像的人类文化产物都被转换为数字格式，实现了瞬间传输和无限复制。这些创新不仅重塑了知识分配模式，也颠覆了政治经济和社会组织形式。

作者指出，大模型与历史上的文化和社会技术有许多相似之处。

首先，大模型具备获取和重组人类积累知识的能力，类似于书写、印刷、互联网搜索等技术，它们能够访问由其他人类创造的信息，并对其进行重新组织和转换。例如，大语言模型（LLM）可以对海量文本进行分析和总结，生成人类可读的文本内容。同时，它们还能对信息进行大规模的模拟和重构，就像市场、国家等对资源分配和社会结构进行重组一样。

同时，文化和社会技术不仅依赖于个体的知识和决策能力，还能反过来塑造个体的知识和决策。大模型通过提供信息和知识，影响人们的思维方式和行为模式。例如，聊天机器人可以根据用户的输入生成回复，这些回复可能包含新的观点和信息，从而改变用户的认知和决策。此外，大模型还可以通过自动化任务和提供智能辅助，提高人类的工作效率和生活质量。

也就是说，与蒸汽机、电力等纯粹的技术创新不同，大模型本质上是一种特殊的文化和社会技术，融合了文化与社会技术的双重特性，是能够组织、传递和转换人类文化知识，以及协调个体信息收集和决策的系统，它们直接作用于人类社会的文化和社会层面，具有深刻的社会变革潜力。

此外，大模型的运行高度依赖人类协作，即依赖数万名标注员通过强化学习人类反馈（RLHF）优化输出，用户需要通过对话引导模型推理。本质上，当用户向模型索取求职信建议时，他们正与成千上万前人的经验及标注员的知识间接互动。

所以，关于大模型的真正担忧不在于是否会创造出威胁人类的超级智能，而在于我们如何驾驭这一新型文化技术，平衡效率与多元、权力与公正。

历史提醒我们：技术的影响从未注定，而是社会选择的结果。唯有融合工程智慧与社科洞察，方能引导 AI 成为人类文明的赋能者，而非支配者。

超越 AGI 叙事，从历史中寻找经验

如果我们将 AI 的讨论聚焦于这个新的文化和社会技术所带来的挑战与机遇上，就会发现，如同过去文化和社会技术一样，这些大模型系统将对生产力产生深远影响。

大模型的潜力堪比印刷术对语言、市场对经济的革新，不仅抽象了大量的人类文化，还允许对其执行各种新的操作，比如可以对信息进行重组和重构。这些 18 世纪和 19 世纪的早期技术是当时社会巨变的核心因素，既是变革的动因，也是变革的结果。

这些技术都支持信息的抽象化，创造了新的可能性，可以在全球范围内协调数百万人们之间的信息交流与合作，以便能够进行大规模的新操作。同时，这些技术也引发了关于虚假信息传播、偏见、文化同质化或分裂，以及权力和资源分配变化的合理担忧。新的通信媒体的出现，无论是印刷术还是电视，都伴随着对其传播虚假信息和强化不良文化力量的担忧。

（来源：Science）

在经济领域，大模型可能改变知识工作者的角色和地位，甚至导致某些职业的消失。同时，它们也可能创造新的就业机会和产业形态。此外，大模型可能影响权力和资源的分配。例如，拥有大模型技术的企业和机构可能获得更大的竞争优势，而那些无法有效利用这些技术的个人和组织可能会被边缘化。

回顾这些技术和系统的演变过程，我们可以从中汲取宝贵的经验教训。例如，在印刷术普及后，出现了信息过载和虚假信息传播的问题，社会不得不建立起编辑、同行评审等规范和监管机制来应对。同样，市场机制虽然高效，但也可能导致信息不对称和外部性等问题，需要通过法律和政策进行干预。

这些历史经验已经为我们理解和应对大模型带来的挑战提供了有益的参考。

论文作者们认为，为了充分发挥大模型的潜力并减少其负面影响，计算机科学与社会科学的紧密合作至关重要。计算机科学家可以提供对大模型技术细节的深入理解，而社会科学家则能够分析这些技术对社会、政治和经济的影响。

例如，技术开发者也应不断改进大模型的算法和架构，提高其准确性和可靠性。此外，研究人员还可以探索新的技术和应用模式，如开发具有社会意识的 AI 系统，使其能够更好地理解和应对复杂的社会问题。而政府和国际组织需要制定相应的政策和监管措施，以规范大模型的开发和应用，这包括建立数据隐私保护机制、防止算法歧视、确保信息的真实性等。同时，政策制定者还应关注大模型对就业市场和社会不平等的影响，采取措施缓解潜在的负面影响。

作为新兴的文化和社会技术，大模型正在重塑我们的社会、经济和文化格局。它们不仅能够获取和重组人类知识，还能对个体的知识和决策产生深远影响。

然而，我们也必须清醒地认识到，大模型并非完美的智能 agent，与其将 AI 的发展框定为人类与机器之间的二元斗争，我们更应该通过借鉴历史经验、加强跨学科合作以及制定合理的政策和监管措施，引导大模型朝着有利于人类社会的方向发展，实现技术与人文的和谐共进。