关于通用人工智能本质的辩论
“人工通用智能”（AGI）一词在当前关于人工智能的讨论中已经变得无处不在。OpenAI表示，其使命是“确保人工通用智能造福全人类”。DeepMind的公司愿景声明指出，“人工通用智能……有潜力推动历史上最大的变革之一。” AGI在英国政府的国家人工智能战略和美国政府人工智能文件中都得到了突出的提及。微软研究人员最近声称，在大型语言模型GPT-4中发现了“AGI的火花”，而当前和前任谷歌高管宣称，“AGI已经在这里了。” 关于GPT-4是否是“AGI算法”的问题是埃隆·马斯克对OpenAI提起的诉讼的核心。
考虑到AGI在商业、政府和媒体中的普遍讨论，人们可能会认为该术语的含义已经确立并达成共识。然而，事实恰恰相反：AGI的含义，或者它是否意味着任何连贯的意义，在人工智能社区中存在激烈的争论。而AGI的含义和可能产生的后果已经不仅仅是关于一个晦涩术语的学术争议。世界上最大的科技公司和整个政府正在根据他们认为AGI将意味着什么来做出重要决策。但是，深入探讨关于AGI的推测揭示出，许多人工智能从业者对智能的本质有着与那些研究人类和动物认知的人截然不同的看法——这些差异对于理解当前和预测机器智能的可能的未来至关重要。
人工智能领域的最初目标是创造具有与人类相当的通用智能的机器。早期的AI先驱们非常乐观：1965年，赫伯特·西蒙（Herbert Simon）在他的书《自动化对人和管理的形态》中预测：“机器将在20年内能够完成人类能够完成的任何工作。”1970年，《生活》杂志引用马文·明斯基（Marvin Minsky）的话说：“在三到八年的时间里，我们将拥有一个具有平均人类智能的机器。我的意思是，这个机器将能够阅读莎士比亚的作品，给汽车上油，玩办公室政治，讲笑话，甚至可以争吵。”
这些乐观的预测并没有成为现实。在接下来的几十年里，成功的AI系统都是狭窄的，而不是通用的——它们只能执行一项任务或有限的任务范围（例如，你手机上的语音识别软件可以转录你的口述，但不能智能地回应它）。“AGI”一词是在21世纪初创造的，旨在重新捕捉AI先驱们的崇高抱负，寻求在独立领域内“研究和复制智能的整体”的重新关注。
这项追求在人工智能领域一直是一个相对晦涩的角落，直到最近，领先的AI公司将其实现AGI作为主要目标，而AI“末日论者”则将AGI的存在威胁视为他们最害怕的事情。许多AI实践者对AGI的实现时间线进行了推测，例如，“我们有50%的机会在2028年之前实现AGI。”其他人则质疑AGI的前提，称其模糊和定义不明确；一位著名研究人员在推特上表示：“整个概念都是不科学的，人们应该为使用这个术语而感到尴尬。”
早期的通用人工智能（AGI）支持者认为机器很快就能接管所有人类活动，但研究人员已经痛苦地认识到，创建一个能在象棋比赛中击败你或回答你的搜索查询的AI系统比建造一个能折叠你的衣服或修理你的管道的机器人要容易得多。因此，AGI的定义相应地进行了调整，只包括所谓的“认知任务”。DeepMind联合创始人Demis Hassabis将AGI定义为一个系统，“应该能够做人类能够做的几乎任何认知任务”，而OpenAI将其描述为“高度自主的系统，在大多数经济上有价值的任务上超越人类”，其中“大多数”排除了需要身体智能的任务，这可能需要一段时间才能被机器人掌握。
AI中“智能”的概念，无论是认知智能还是其他类型的智能，通常被定义为个体智能体在追求奖励或目标的过程中进行优化。一篇有影响力的论文将通用智能定义为“智能体在各种环境中实现目标的能力”；另一篇论文则指出，“智能及其相关能力可以被理解为服务于最大化奖励。”事实上，这就是当前AI的工作方式——例如，计算机程序AlphaGo被训练以优化特定的奖励函数（“赢得比赛”），而GPT-4则被训练以优化另一种奖励函数（“预测短语中的下一个单词”）。
这种智能观导致了一些人工智能研究人员的另一种推测：一旦一个人工智能系统实现了通用人工智能，它将通过将其优化能力应用于自己的软件，递归地推进自己的智能，并迅速变得比人类智能更强大，在一种极端的预测中，它将变得“比我们聪明数千或数百万倍”。
这种对优化的关注导致了一些人工智能社区的人担心“不兼容”的AGI（通用人工智能）对人类存在产生风险，这种AGI可能疯狂地偏离其创造者的目标。在2014年的《超级智能》一书中，哲学家尼克·博斯特罗姆提出了一个著名的思想实验：他想象人类给一个超级智能的AI系统设定了一个目标，即优化纸张夹的生产。这个AI系统非常认真地对待这个目标，利用它的天才控制了地球上所有的资源，并将所有东西都变成了纸张夹。当然，人类并没有打算为了生产更多的纸张夹而毁灭地球和人类，但他们没有在指令中提到这一点。人工智能研究员约书亚·本吉奥提供了他自己的思想实验：“我们可能会要求AI解决气候变化问题，它可能会设计一种病毒，消灭人类，因为我们的指令不够清晰，没有明确说明什么是对人类的伤害，而人类实际上是解决气候危机的主要障碍。”
关于AGI（通用人工智能）和“超级智能”的这种推测性观点，与研究生物智能，特别是人类认知的人们的观点不同。认知科学没有对“一般智能”的严格定义，也没有共识认为人类或任何类型的系统可以拥有多少一般智能，但大多数认知科学家会同意，智能不是可以在单一尺度上测量并任意调节的量，而是特定进化生态位中一般和专门能力的复杂整合，这些能力在很大程度上是适应性的。
许多研究生物智能的人也怀疑所谓的“认知”智能方面可以与它的其他模式分离，并被捕捉到一个无身体的机器中。心理学家已经证明，人类智能的重要方面扎根于一个人的身体物理和情感体验。证据还表明，个体智能深深依赖于参与社会和文化环境。理解、协调和从他人学习的能力可能比个人的“优化能力”对一个人实现目标的成功更为重要。
此外，与假设的纸夹最大化人工智能不同，人类智能并不以优化固定目标为中心；相反，一个人的目标是通过复杂的整合先天需求和支撑他们智能的社会和文化环境形成的。与超级智能的纸夹最大化者不同，增加的智能正是使我们能够更好地洞察其他人的意图以及我们自己的行动可能产生的影响，并相应地修改这些行动的原因。正如哲学家Katja Grace所写：“将接管宇宙作为几乎任何人类目标的子步骤的想法是完全可笑的。那么，我们为什么认为人工智能目标不同呢？”
机器通过改进自己的软件来增加智能数十倍，这种幽灵与生物智能观相悖，后者认为智能是一个高度复杂的系统，超越了孤立的脑部。如果人类水平的智能需要不同认知能力的复杂整合，以及社会和文化方面的支撑，那么一个系统的“智能”水平可能不会无缝地访问“软件”水平，就像我们人类无法轻易地通过工程手段（或基因）来使自己变得更聪明一样。然而，我们作为一个集体，通过外部技术工具（如计算机）和建立文化机构（如学校、图书馆和互联网），已经增加了我们的有效智能。
AGI 的含义以及它是否是一个连贯的概念仍在争论中。此外，关于 AGI 机器能够做什么的推测很大程度上是基于直觉而非科学证据。但是，这样的直觉能有多可靠呢？人工智能的历史一再证明了我们关于智能的直觉是错误的。许多早期的 AI 先驱认为，用逻辑编程的机器将捕捉到人类智能的全部范围。其他学者预测，让机器在象棋比赛中击败人类，或者在语言之间进行翻译，或者进行对话，需要它具有一般的人类智能水平，但最终被证明是错误的。在 AI 的每个发展阶段，人类智能都比研究人员预期的更复杂。当前关于机器智能的推测是否会同样错误？我们能否发展出更严格和普遍的智能科学来回答这些问题？
不清楚人工智能科学更类似于人类智能科学，还是更像天体生物学，后者对其他星球上的生命形式进行预测。对于从未见过且可能根本不存在的某种事物，无论是外星生命还是超级智能机器，都需要基于一般原则的理论来进行预测。最终，“AGI”的意义和后果不会由媒体辩论、诉讼或我们的直觉和推测决定，而是由对这种原则的长期科学研究来决定。
(0)eLetters
eLetters is a forum for ongoing peer review. eLetters are not edited, proofread, or indexed, but they are screened. eLetters should provide substantive and scholarly commentary on the article. Embedded figures cannot be submitted, and we discourage the use of figures within eLetters in general. If a figure is essential, please include a link to the figure within the text of the eLetter. Please read our Terms of Service before submitting an eLetter.
Log In to Submit a ResponseNo eLetters have been published for this article yet.
Information & Authors
Information
Published In
Science
Volume 383 | Issue 6689
22 March 2024
22 March 2024
Copyright
Copyright © 2024 The Authors, some rights reserved; exclusive licensee American Association for the Advancement of Science. No claim to original U.S. Government Works.
Article versions
Submission history
Published in print: 22 March 2024
Authors
Metrics & Citations
Metrics
Article Usage
Altmetrics
Citations
Cite as
- Melanie Mitchell
Export citation
Select the format you want to export the citation of this publication.