这是用户在 2024-10-28 19:22 为 https://readit.site/a/ULyqF/AI%20%E5%92%8C%20Leviathan.html 保存的双语快照页面,由 沉浸式翻译 提供双语支持。了解如何保存?

readit.site

AI 和 Leviathan

Samuel Hammond


想象一下,有一个突破性进展,使得每个人都能以低成本获得类似 X 光的视觉增强眼镜。这些眼镜外观像普通眼镜,但内置一个旋钮,可以让你穿透墙壁、查看人们的衣物等。它还能在旧照片和视频记录中发挥作用。


从一个角度来看,这会非常令人兴奋。你可能会注意到你朋友甲状腺上的神秘肿块,提前发现他们的癌症并节省了无数的医疗费用。但在短期内,对眼镜(如果你更喜欢隐形眼镜)的普遍和几乎不可检测的访问将是一个严重的安全和隐私灾难。实际上,没有人的人身安全受到了直接威胁。相反,这更像是一场社会设计,原本适应了可见光谱,一夜之间却变得不适应了。


社会可以有三种基本应对方式:

  1. 文化进化:我们拥抱裸体和各种新的、超越隐私的新规范;
  2. 减缓和适应:我们开始穿铅制内裤,努力改造我们的房屋、办公室建筑和更衣室,使其具有不可穿透的墙壁;
  3. 监管与执行:我们禁止或严格监管技术,建立一个对人们眼镜进行检查、惩罚违规者的 x 射线巨兽。

每个人自发地协调起来,不再使用眼镜,或者只在某些社会性目的上使用眼镜,这种状态是不稳定的。即使你是一个窥视者,眼镜对你个人有好处,背后也存在囚徒困境,所以我们很快转向了每个人都拥有眼镜的均衡状态,即使我们所有人都更喜欢没有眼镜的世界。


眼镜是一个比喻,代表人工智能。


它几乎就是个隐喻。AI 已经通过房间内 WiFi 信号的位移解锁了一种类似 X 射线的视力,而通过几只红外传感器,你最终会能够在时代广场的每个行人身上准确地插上裸体身体。裸体 AR 滤镜不会被允许在苹果视觉专业版应用商店中,但基本技术将足够便宜且开源,这将使这个问题变得无关紧要。

信号提取


AI 是一个显微镜。它提高了宇宙的信息分辨率。这有很多令人惊叹的后果,但也有很多令人害怕的后果。


AI 让我们重构旧代码,恢复古老的手稿,以及在旧天文学调查中检测新的星系。同时,AI 将你的步态变成指纹,将麦克风变成密钥记录器,将你的面部照片变成一个> 93%准确的聚类测试。


Jiaqi Geng 等人(2022)"从 WiFi 获取 DensePose"


虽然深度伪造是一个日益令人担忧的问题,但人工智能总体上使世界变得更加透明。完美透明也有其代价。知识会扩展,操纵世界的障碍会减少。我们将会听到被焦虑的花朵所呼唤的声音,与鲸鱼进行对话。然后,有一天,一个完成你句子的 AI 模型将学会完成你的思想,打破西方哲学中所假设的不可逾越的主观界限。


许多这些用例并不是全新的,但只有现在因为规模扩展才变得可靠。如果在噪音中存在信号,一个足够大的神经网络会提取它,并且随着时间的推移,这种提取变得越来越便宜和易于访问。你甚至不需要 pip install !你的 Jarvis-like AI 助手将只需按需从 HuggingFace 或 GitHub 调用定制模型。对于 DnD 玩家来说,这将像一个护身符,赋予其佩戴者在每项术类检查中获得自然 20 的能力。


这听起来很自由,而且在很多方面确实如此。但历史也表明,对自然自由的增强可能会在短期内变得具有反噬性。


明白了,以下的内容并不是为了暂停 AI 发展,即使我们能。虽然我认为我们需要新的监管机制来确保在规模和能力上升时安全地部署前沿模型,但我们的目标不应是停止 AI,而是在某种程度上掌握它。


如果有,加速不同模态的防御 AI 可能是我们最希望的使"缓解和适应"选项成为阻力最小的路径。然而,重要的是要清楚地认识到我们的 AI 未来是一个包罗万象的选择,并且要明确地探讨其对社会秩序可能演变的潜在影响,而无需偏见。

自然状态


托马斯·霍布斯著名地描述了"自然状态"中"所有人对所有人进行战争"。这有时被误解为关于狩猎采集社会的观点,但霍布斯实际上是在指代英国内战的灾难性条件,他在内战期间逃往国外以保全个人安全。《利维坦》于 1651 年首次出版,正值内战期间的间歇期开始。 在认识到英国社会在国王查理一世脆弱、个人统治下日益分裂和激进化的过程中,利维坦提供了理论上的理由,说明绝对君主制是恢复和平与秩序的唯一途径。 霍布斯对社会"契约"的概念并不是指个人签署的现实合同,而是对通过将"自然自由"让渡给更高权威来实现冲突各方达成政治和解这一抽象过程的描述。


英国内战的直接原因复杂多样,但宏观故事则是一个关于颠覆性技术变革的故事。虽然印刷术在两百年前就已经发明,但战争却发生在印刷革命的转折点------技术变革的临界点,这一临界点开启了印刷品产量增长的爆发式增长。 例如,1611 年出版的《圣经》第一版,只比战争早 30 年,但比新闻出版业的诞生早 55 年,即第一份定期出版的英语报纸《牛津 Gazette》诞生。


杰里米·迪特马尔(2011)"新好事物的福利影响:印刷书籍"


广泛的印刷使人们能够普遍表达自己的观点,引发了"公众的反抗",这与马丁·古里在互联网时代所描述的动态相呼应。从英王亨利八世时期开始,人们获得的信息越来越多,不仅使人们的思想更加开放,认识到不同的政治立场,而且使他们越来越意识到自己周围有不同看法的人。 当 1643 年议会的法律对新闻界几乎失去了控制时,其主教的许可和审查制度被转交给一个不受监管的市场,这使得清教徒分离派、独立党人和其他激进非正统派更容易找到志同道合的人,共同反对教会。与此同时,议会本身也在质疑王权的权威,创造了罗伯特·扎勒尔所说的新的"合法性话语"。"数年之间,多方面的意识形态冲突终于以谋杀和大规模暴力的结局告终。"


AI 往往被比作印刷机,但早期现代英格兰与当代美国在技术上的相似之处远不止于此。我们的文化与意识形态分歧正在加剧;新教徒们正迎头撞上保守的反动;而我们的议会辩论则围绕着对审查的担忧,因为前一个世纪的媒体控制正逐渐让位于开放的互联网。即使美国的权力也受到这种变化的影响。 总统地位已达到最低点,仿佛在等待一位原初主义者国王来重申单一行政权,并引发危机。

加速到什么?


这些裂痕反映在不同的 AI 部门。一些人希望在确保完全安全之前对 AI 发展进行监管,或许通过许可证制度。其他人希望继续前进,通过开源加速访问。


英国改革者和"智识者",塞缪尔·哈特利,是那个时代"有效加速主义者"。他的目标是"记录人类所有知识,并使它对所有人类的教育都普遍可用",他经常印刷技术文本,以自费方式分发------这是当时最接近开源的近似物。 今天的 AI 宣传者同样有着宏伟的目标,从 Emad Mostaque 的使命,即使用 AI 教育全世界的孩子,到 Marc Andreesen 的愿景,即 AI 作为工具,用于几乎每个领域的人类增强。

Thanks for reading Second Best! Subscribe for free to receive new posts and support my work.


加速者们在历史的长河中占据有利地位,我总体上支持 Andreesen 对未来的愿景。然而,总是更容易想象技术的终点,而不是预见过渡过程中不可避免的权衡和分支路径。


乔治·霍茨(George Hotz)的混沌好(Chaotic Good)本能,即尽可能快速地开源可能的双用途模型,其潜在的负面效应非常高。e/acc 伦理是将开源视为推动人类自由前进,同时验证一个类似于 DEF CON 的安全思维。随着更多经济活动通过专有模型,开源替代方案也将成为对 AI 被政府或少数几家科技巨头垄断的必要制约。


幸运的是,安全主义的" FDA 对 AI 模型"和对强大新能力的狂热渴望之间存在巨大的中间地带,这种狂热在训练结束时就迫不及待地要实现民主化。如果进攻性能力比适应性和防御技术更快地实现民主化,开源极端主义甚至可能危及自由本身,加速最令人恐惧的 AI 贵族化条件。

少数服从多数


在 2001 年之前,机场安检几乎无迹可寻。你甚至可以在加拿大和美国之间开车,而无需护照。然后,在 1999 年 9 月的一个不幸的早晨,恐怖分子在短短几小时内杀害了近 3000 人。一周后,含有炭疽孢子的信件开始出现在重要人士的邮箱中,导致五人死亡。八周后,雷德·里德在飞机上被截获,试图在鞋子里藏有炸弹。 在这些事件的快速推进中,我们的领导人突然意识到,技术与全球化正在引入一系列不对称的风险。从生物武器到劫持,现在只需要一小群极端分子或一个孤独的激进分子就能在社会中造成混乱。


社会在上述列出的三种典型方式中都做出了反应。我们通过加强边境和机场的安全措施来减轻风险。我们通过通过《爱国者法案》和为新型高科技监控提供资金来增强执法力度。我们的文化迅速适应了日益增长的安保表演,这在很大程度上是由于对伊斯兰极端主义的恐惧和国内团结的爆发。


回顾起来,我们过度反应了。虽然恐怖主义在心理上占据了主导地位,但其风险与每天导致人死亡的日常事物相比,是可量化的。例如,在 9/11 事件后的 12 个月内,由于对飞行的恐惧,估计导致了 1600 起额外的交通死亡事件。伊斯兰恐怖主义的恐惧已经减弱,但这些增强的安全措施不仅仍然存在,而且还在继续实施,甚至被重新设计用于应对国内威胁。


AI 的危险滥用可能会同样罕见。大多数人并不是社会病态者。然而,许多生活领域遵循纳西姆·塔勒布的少数派规则,即少数但不可容忍的少数人最终决定了所有人的规则。例如,美国只有不到 2% 的人有花生过敏,但许多共享空间仍然禁止含有花生的食物,只是为了安全起见。


根据进攻-防御平衡的演变,AI 有可能将我们带回一个世界,其中安全再次变得无迹可寻。你不必在 TSA 人员面前脱鞋,也不必降低自己。相反,一个摄像头将在你进入机场时分析你的面部,与数据库中的已知坏人进行比对,同时提取面部表情、身体语言、人口统计信息和社交媒体帖子中隐藏的预测信号。


机场确实是一个特殊的情况。作为封闭的花园,机场安全可以利用垂直整合的好处。而作为通往遥远目的地的门户,旅客要么签署放弃某些权利,要么乘坐公共汽车。大多数共享空间并不像这样。从小型企业到公共公园,我们日常的安全主要依赖于其他人的善意和 discretion。 因此,到目前为止,AI 在所有地方都创造了安全和隐私风险,越来越多的共享空间可能会演变成像机场一样的监视状态,即微型的监视状态。


反过来,即将到来的智能爆炸使自由民主面临困境。一边是人工智能的巨兽;一个全球单体,通过中国式监视和社会信用系统恢复秩序。另一边是国家崩溃和政治分裂,因为我们的传统机构无法适应并让位于新的、基于人工智能的组织,这些组织能够解决代理人的问题,以极快的速度实现局部集体行动。 这包括了隐私和安全的加强,部分通过一个自愿的承诺来实现,即在所谓的门口将生物武器和 X 光眼镜留下。


AI 安全性对不同的人有不同的含义,但无论焦点是失业还是未对齐超级智能带来的风险,所有担忧都以相对较低的优先级呈现。也就是说,AI 安全性通常以 AI 将会直接做什么的方式进行概念化,而不是以 AI 可能对社会和我们机构的间接、第二级影响的方式进行概念化。这是一个巨大的盲点。


大约在 2000 年代早期,"互联网安全"讨论主要集中在第一代问题上,如身份盗窃、网络犯罪和儿童剥削。但凭借 hindsight,这些直接关注点被互联网对政治和文化产生的第二代影响所淹没。事实上,信息洪流与新的动员平台之间的结合,使互联网在全球范围内动摇了政治体系,甚至在阿拉伯之春的情况下导致了政权更迭。


到目前为止,如果人工智能只是数字革命的下一个阶段,我预计这些趋势只会加剧。问题不在于人工智能和信息科技本身是不稳定性的根源。相反,从稍微马克思主义的角度来看,问题在于社会的技术基础比其制度基础变化得更快。 那些许诺根除腐败并重新构建制度的 populist 领导者是治理结构中某种意义上失去了"方向匹配"的症状,就像洗过的衣服缩水了,或者物种处于其进化领域之外。


中国执政阶层对埃及和突尼斯因互联网而引发的革命密切关注。作为优秀的历史唯物主义者,中国共产党理解了生产方式的变化如何导致社会关系结构的变化。因此,他们加大了对互联网监控和其他社会控制的投资,阻止了自己国内的茉莉花革命。


民主化的人工智能是互联网的数倍更大的政权更替威胁,而中国共产党对此也视之如此。最近,中国监管机构发布了要求 ChatGPT 类模型进行用户验证和安全审查的草案规则。这些规则还将禁止"任何内容,旨在颠覆国家权力、鼓吹推翻社会主义制度、煽动分裂国家或破坏国家统一。"


美国和西方的自由民主国家是开放的社会,不太可能对人工智能实施如此严格的控制,即使这些控制措施可以实施。与此同时,我们真正意义上的开放是在宏观层面上的。私人服务和组织对他们的用户施加任何数量的条款和条件,包括那些在政府实施时可能会被视为严苛的条款。 从工作场所政策到数字版权管理(DRM)和数据代理,自由宪政传统并不排斥侵入性的监控和社会监管,而是将这些功能转移到竞争的私人手中。


长期以来,美国的外交政策一直隐含地假设,经济自由化和自由贸易将促使专制政权走向民主化。那些赋予沉默人声音的信息技术是这一宏大战略的关键;一种瓶装的 glasnost。这就是为什么国防部门在早期互联网上投入了大量资金,以及为什么我们的国际发展机构在国外推广互联网接入。正如一份美国国际开发署报告所指出的,"连接人。改变国家。""认为技术可以引发政权更迭的想法在美式政治精英中并不陌生;他们只是假设我们的相对开放性会阻止这些动态在国内上演。"


自由贸易和通讯技术促进民主的理论总是不具体。民主本身是一个模糊的概念,有点像临床抑郁症。我们可能知道一个抑郁症患者,但大脑是复杂的系统,因此很可能是抑郁症实际上是一种多种现象的集合,这些现象根据其症状表现而被归类。说"互联网促进民主"就像说"SSRIs 治疗抑郁症"。" 实际上,SSRIs 会阻止血清素重新吸收回特定神经元,这导致了一系列尚未完全理解的影响,其中包括改善情绪。


信息技术对社会的影响同样复杂,可能在不同方向上产生影响。在弱国家面临危机时,中国则通过调整其数字机构来缓解公众不满,并以前所未有的精细度来监管社会。同样地,AI 信号提取的成果可能揭示出一个更加透明的社会;或者,从第二层次来看,社会可能通过提高其防线来应对这种增强的透明度。 在更强大的国家中,对人工智能的访问甚至可能被一个无所不知的巨兽垄断,这将使信息科技的民主目标颠倒过来。

内化成本


洛克对国家机器的论证最终依赖于一种负外部性。随着技术增强和强化了主权个体,边界上冲突的空间就越大。在存在高负外部性以共存的情况下,因此倾向于发现要么是民事冲突,要么是严厉的执法制度来补偿。


在中世纪,自由仅仅意味着不是农奴或奴隶的状态,而更富有的自由概念,到目前为止,仅存在于某些地方,指的是大地产的不可侵犯性。这是一个本质上是集体的概念;管理你的领地------昔日的围墙花园。与之相反,现代、个人主义的自由概念,随着现代国家的形成和非个人法律机构的采纳而出现。 这些机构最终是通过印刷革命和自然和社会的可读性增长而实现的,但只有在一场血腥的辩证法之后。


个人权利、法治和消极自由因此与强大的、集中的政府以及高财政和行政能力密切相关,这在某种程度上具有历史上的不一致性。这使得我们所知的自由民主制度成为一种偶然的技术均衡的结果;一个 AI 几乎肯定会改变的均衡。


可以将现代国家的"工业组织"概念与罗纳德·科斯的《企业理论》联系起来。当信任不足且交易成本高昂时,通常在内部生产比与第三方签订合同更有意义。毕竟,承包商难以监控,且往往不能完全按照你的要求行事,更不用说按时了。 因此,公司存在通过将生产整合到垂直层级结构中来降低交易成本,从而实现更有效的监控和指挥。


政府的存在是为了相似的原因。有些事情,比如国家防御和基本法律制度,接近纯粹的公共物品。其他事情,比如道路和桥梁,可以由私人部门生产,但往往涉及如此多的竞争利益,使得下层协商变得不切实际。同样的情况也适用于许多市场失灵的情况。 污染外部性在理论上可以通过对空气的产权进行界定,并让权利持有人进行谈判来解决,但实践中(即:交易成本较低)更简单(即:税收根据对污染的社会成本进行估算)地对污染者征税。因此,自由民主制度的规模和范围随着工业社会的复杂性而增长。


政府和企业通过创建通用标准和程序来节省交易成本。正如法院确立共同的先例,公司要求其员工使用相同的软件一样,政府协调共享的时间区、计量单位和行业标准。


在企业与政府中,决策者不一定明确理解科斯的理论。相反,组织的形态是由于某种混合的有意规划、竞争和路径依赖所致。在竞争市场中,过度外包或错误地外包的公司比那些不外包的公司利润更低。因此,这些公司要么倒闭,要么从内部重组。政府的竞争压力较弱且间接,但仍然存在。 民主国家必须不断与内部利益相关者进行谈判。吸引有生产力资本和劳动力的机构往往会繁荣,而效率低下、被债权人惩罚并被迫实施结构改革的政府则会受到惩罚。 如果政府在政策内容或领土上扩张得过远,无论是政策层面还是领土上,它可能会面临公众的反抗甚至瓦解,这在美国内战、苏联解体、以及过去几次的殖民地独立中都有所体现。

分享


现代国家是通过制度竞争产生的。在印刷革命时期,欧洲的碎片化王国和领地开始垂直整合,形成统一的国家。他们建立了军队,专业化了税收收集,并开始威胁他们的邻国进行征服和改宗,迫使这些邻国也建立自己的军队。 旧的定居点在几十年的战乱后才得以稳定,最终通过西斯普拉瓦和主权边界相互承认的和平协议得以稳定。因此,现代国家的存在并非出于无政府状态,而是因为无政府状态。


我青少年时期是反动分子,但当我意识到,如果没有巨大的技术变革,一个无政府的世界很快就会回到集中制政府的世界时,我开始爱上了国家。虽然新保守派和反动资本论者幻想出一个由竞争的、可选择的网络国家组成的碎片化系统,但交易成本的存在使得这些司法管辖区容易受到强者凌驾于弱者之上的征服。 在这种系统中,竞争的司法管辖区将受到进化选择压力,促使它们与邻近的司法管辖区合并,协调其法律,生产公共产品,并与剩余的敌对势力签订条约。到目前为止,这与从封建制度向中央集权国家的过渡相吻合,我们已经生活在某种程度的无政府状态中------这是霍布斯理解的。 在国际秩序的现实主义无政府状态与我们国内机构的多中心性之间,我们的当代无政府状态实际上就是以牺牲无与伦比的自由来换取巨大的规模效率。

无政府状态的自由放任


更聪明的激进分子知道这一切,因此将他们的政治哲学与一种技术资本主义加速主义相结合。将 70 年代的反文化运动与哈耶克关于信息理论、货币经济学和感官电子学的工作相结合,早期的技术自由主义者想象了一个未来,互联网、人工智能和数字货币将汇聚,带来一种全新的去中心化自我管理形式。


Timothy Leary 在这一领域可能是最具有预见性的。在 1977 年的自由派党代表大会上,他以"地球上的自由与超地球上的自由"为题发表了一次争议性的演讲,从早期的 ARPANET 发展到"一个连接全球计算机的网络",从而实现了实时通信,推动了对现有秩序的革命。 当时的观众认为他很无能,但莱利的预见性如今已被互联网驱动的运动的日益激进所证实,从阿拉伯之春和伊朗的抗议,到美国在 1 月 6 日的粗暴农民起义。


从 20 世纪 90 年代末到 2000 年代中期,技术自由主义者可以在不知名的互联网论坛上讨论超级智能时间线、寿命延长技术以及理想化的火星政府体制。他们自称是超进化者。 他们之中有众多现在被广泛认可的名字,包括人工智能理论家如埃利希·尤德科夫斯基和尼古拉斯·博斯曼,加密货币先驱如哈里·芬尼和尼古拉斯·萨博,纳米技术先驱如埃里克·德雷尔,以及潜在的脑上传先驱如马克斯·莫尔和罗宾·汉森。


极客们都能预见技术的未来,并欣赏技术与制度演变之间的互动。假设我们的文明能够幸存下来,未来的 AI 历史学家可能会将他们的(通常匿名的)著作视为一种单极主义的文学共和国。


我出生于 1991 年,但自从 1999 年创建了我的第一个 Newgrounds 账户以来,我就一直在网上。那时,我从父母的阁楼里创建了我的第一个 Newgrounds 账户,使用的是 Windows 95。随着我对动画的兴趣从卡通角色转向科学和哲学,我认识到了像大卫·弗里德曼这样的自由派激进分子,以及像雷·库兹韦尔这样的未来主义者,他们看到了像 eBay 和 Wikipedia 这样的自我调节服务的兴起,这证明了它们的生产力融合。 因此,我尽可能多地学习了社会科学,并于 2015 年从加拿大农村搬到华盛顿特区,参加了一个在 Mercatus 中心技术项目的研究生奖学金;这被认为是理性的自由主义者、分析的反叛者,甚至还有几位原始的超进化者"的家"。

狭窄通道


这段关于个人背景的插曲只是为了证明我在 e/acc 社会圈中的合法身份,因为我继承了极客派的遗产。我仍然对人类自由的事业充满热情,但已经意识到政治自由主义存在于 Acemoğlu 和 Robinson 所称的"狭窄走廊"中,这是一种和谐的双轨路径,用于社会和国家的共生进化。 亚当·阿科莫格鲁说:"你需要这种冲突保持平衡......如果社会太弱,会导致独裁。但另一方面,如果社会太强,会导致无力保护公民的弱小国家。"


从:" populism and the 'Narrow Corridor' of Liberty and Justice"(2022)


将瑞士与阿富汗进行比较。瑞士是一个联邦制共和国,由 26 个州组成,具有显著的自治权,使其成为地球上最分散的国家之一。它也经常在各种自由和人类发展指数中名列前茅。相比之下,阿富汗面临着许多地理和文化障碍,阻碍了国家的形成,从可以被反叛分子逃脱的山丘,到由氏族社会网络抑制的包容性机构,如法治。 这导致了一个虚弱的国家,其特征是持续的组织暴力威胁,为塔利班提供了一个作为最后的秩序提供者的市场机会,部分通过压制性的宗教教义来实现,这些教义能够排除免费搭车者并帮助解决可信承诺的问题。


瑞士拥有其山脉和氏族,因此它在一开始就有如此分权。然而,瑞士机构的分散性质揭示了一个隐藏的、扩展的秩序,就像一种晶格材料,其特殊性质取决于原子以一种不可能的低熵配置排列。


削弱国家主权并不意味着促进自由。相反,国家专制与无政府状态之间的适当结合,被古典概念中的"秩序自由"所捕捉。正如哈耶克在《自由宪章》中所指出的,

不是洛克、休谟、斯密、伯克,他们也不可能像贝克莱那样,认为"每一条法律都是对自由的侵犯,因为每一条法律都是对自由的侵犯。"他们的论点从来都不是完全的自由放任论,正如他们所说,这也属于法国理性主义的传统,而从字面上看,他们从未被任何英国古典经济学家所支持。


相反,哈耶克认为,英国的古典自由主义者将自由定位在"'精心构建的制度'的演变中,其中'利益冲突和妥协优势的规则和原则'将得到调和",从而引导"个人努力朝着社会有益的目标"。


自由传统因此被分为两个派别:理想主义的理性主义者和实用主义的怀疑论者。前者是启蒙运动的先驱,意识到其根本的自主性,并渴望从基本原则出发重新设计社会。后者则遵循托马斯·索洛所称的"受限的愿景"。"他们认识到没有完美的解决方案,只有次优的折衷,对社会中介的理性有哈耶克式的------如果不是赫尔格式的------欣赏,而不是个体自我的源泉。

社会中的智能使用


哈耶克对强而有限政府的论点最终在认识论上比规范论上更胜一筹。中央规划者面临知识问题。政府官员无法与价格系统进行平行计算,即使在他们最好的一天也是如此。


然而,正如 Tyler Cowen 之前指出的那样,政府也是自发形成的秩序,因此它们的规模会随着认知条件的变化而变化。经济学家 Nicola Mastrorocco 和 Edoardo Teso 最近通过研究从 1817 年到 1905 年美国联邦政府的演变,测试了这一观点。 通过利用铁路和电报网络的错位扩展,他们发现,政治家能够对整个地区的州官员进行持续监控的能力正在推动官僚机构的增长。他们这样写道,

"结果表明,高监控成本与基于信任网络的小型、个人主义的州组织相关;技术冲击降低了监控成本,促进了现代官僚机构的出现。"


换句话说,监控成本是现代政府规模和范围的核心交易成本。这就是詹姆斯·C·斯科特所说的"像一个国家一样看"。回到第一部分的比喻,"像一个 AI 国家一样看"暗示我们的官僚机构即将获得高分辨率的 X 光眼镜。


这是否会导致官僚机构的扩张是一个问题。一方面,AI 可能能够使监管者制定具有分形特性的规则,对过去难以管理的事物进行微调。另一方面,我们的官僚机构的人类和物理足迹可能会大幅缩小,因为即使是最精细的合规形式也会变得自动化,从而变得不显眼。


然而,我们的法律和宪法中所规定的公民权利和自由将倾向于将最极端的监控转移到私人实体。假设人工智能给我们 99.999%的可靠谎言检测器,从而使得"有罪则被证明有罪"这一原则变得过时。然而,是否能够收集到这样的证据将取决于被告,因为第五修正案保护被告免受自证其罪的义务。然而,大多数私人实体对此并无此义务。 尽管《员工心理测试保护法》禁止雇主强迫进行心理测试,但一旦秘密录制了员工的面部表情或身体语言,这种行为就变得无效。


这些政府固有的约束条件,加上人工智能在私营部门的快速扩散,暗示了相对于社会其他部分,自由政府的总体削弱。我们的遗产机构的迅速退化,可能使一种类似于高科技的混乱突然变得可行,这种混乱是通过潜在的社会秩序和其它公共物品的隐性需求来支撑的。


当政府意识到人工智能威胁到他们的主权时,他们可能会采取极端的独裁方式来应对。作为第三种选择,自由民主国家需要展示出一种机构性共生,以避免堕落的无政府状态和人工智能的暴政。 至少,这将需要在政府的机器中拥抱 AI 工具;对 AI 简直使其无用的政府功能进行痛苦的让步;以及对新社会契约的辩证构建------一个 AI 驱动的自由------希望它比波斯逊更像瑞士。


无论我们选择何种路径,有一件事是确定的:2040 年的美国政府将与 1940 年的美国政府一样,对我们的同代人来说,会显得如此不同。


这系列讨论了人工智能在我们政府和机构中潜在的近期影响。


我的零假设是,强大的人工智能的民主化将至少与印刷机一样具有破坏性。印刷机也是一种简单的信息技术,但它导致了对现有秩序的民变和起义,最终推动了现代国家的统一。


机构是由谈判和协调、搜索和信息、监控和执行等交易成本塑造的。虽然互联网对这些成本结构产生了影响,但短期内,人工智能将大幅改变它们,使我们脱离从 20 世纪初继承下来的最基本机构结构。


俗话说,"没有出路只有通过",但我们选择的路径并不是事先确定的。自由民主存在于"狭小的走廊"之间,即专制与无政府状态之间。在理想的世界里,我们的政治领导人会迅速与人工智能协同进化我们的机构,建立中央集权与分权之间的新平衡------一个受约束的 AI 巨兽。但这只是一个关于第四部分的愿景。

分享


这篇论文,第三部分,探讨了我们的政府在我们习惯了的缓慢和无能的情况下,选择的默认路径。

何处是封建主义?


在默认情况下,AI 技术冲击将导致政府要么分裂,要么退回到少数核心能力,将各种公共产品(包括对抗 AI 滥用的安全措施)推到私人手中。称此为技术封建主义时间线。


将机场视为微型、自愿的监控状态,配备面部扫描仪和尴尬的搜身。作为一种公司城镇,机场基本上是房东。它们主要通过外部合同来雇用员工,而食物总是过价。尽管大多数美国机场由公共实体所有,但富裕国家的常态是将其私有化,因为私有机场通常更友好。机场因此展示了将安全和其他公共物品委托给准封建组织的诸多优势,正如私人公司:

  1. 不必像政府那样尊重你的权利;
  2. 由于声誉机制、市场竞争和明确的合同,它们更容易被信任;
  3. 他们可以利用"排除权"来创建具有垂直整合和高度技术复杂性的用户体验。

确实,我们每天自愿将我们的权利交给私人组织。我们有挑剔的业主协会,有跟踪你饮酒量的赌场,有在门口没收你的手机的喜剧俱乐部,有在午餐前让你签署保密协议的公司,还有雇主在你每秒监控你的生产力。如果你不喜欢这些自然的自由,你可以随时搬家、辞职或离开。


随着 AI 通过显著的负面影响来民主化能力,它将同时解锁新的机构形式来应对这些负面影响。因此,越来越多的社会和经济生活将被限制在封闭的花园中。不同组织将根据不同的偏好提供不同的权利和服务包,并在防御-进攻 AI 战略中竞争,以保持竞争力。例如:


这些版本已经存在,但要么是低技术的,要么是高度的个性化服务。随着人工智能降低成本并扩大财富,对更优质、私人提供的服务的访问将蓬勃发展,从而驱使对传统公共产品的替代。累积效应将是对许多基本政府职能的侵蚀。


像 Uber 和 Lyft 这样的共享出行应用的迅速崛起,是一个动态的缩影。在共享出行之前,每个城市都监管着自己的出租车服务,服务质量低下,只有富人才能负担得起"黑车"风格的选项。然后,互联网和移动革命的到来,彻底改变了交易成本的结构。突然之间,乘客和司机可以直接连接,大大减少了搜索、信息和讨价还价的摩擦。 质量可以通过声誉和监控机制来保证,而不是通过正式的许可制度。价格发现可以通过机器学习来补充,以提高安全性,减少等待时间,并优化旅行路线。今天,Uber 还在探索使用预测性 AI 来"预匹配"基于用户上下文数据的乘车请求。


尽管经常受到暴力抵抗,共享出行的益处最终促成了全球城市微 cosmic 的政权变革。传统出租车服务仍然存在,但往往只是因为潜在的监管特权,如对机场的特殊访问权限。无论如何,在像纽约这样的市场中,出租车所占的行程比例从大约 90%下降到大约 10%仅在五年内,市场治理从公共委员会转变为竞争性的私人平台,这些平台内置了社会信用评分。 下一步是达到第 5 级的自动驾驶。在几个司法管辖区,已经出现了机器人出租车,它们将配备智能监控系统,以确保乘客的行为符合最佳标准。


随着 AI 达到人类水平甚至更高,那些推动集中式监管的组织经济体系将在其他领域也崩溃。从某种角度来看,这过程会像 19 世纪和 20 世纪倒退一样。例如,如果仅靠距离,社区曾经更加封闭。当地学校是常态。社会保险基于互助。假新闻司空见惯,因此信息通过受信任的网络流动。 执法队伍稀少,补充以私人保安。而监管,即便存在,也往往通过独家俱乐部和协会来提供。

默认的未来


为了看看我们从这里到那里会怎样,让我们假设在默认情况下,美国政府的演变非常有限或根本没有变化。预测很难,尤其是在谈论未来时,但有根据的推测总是比什么都没有好,至少可以用于情景规划。

2024 - 2027


根据当前的趋势,未来几年互联网上的大部分内容将变得合成。共享的叙事会崩溃,公众会因为变化的速度而感到困惑、恐慌或娱乐。在版权的黄昏和集中内容分发的破坏之间,传统新闻媒体和好莱坞将成为对抗人工智能的先驱,就像 2010 年代的科技 lash(科技反噬)被放大了十倍。


LLMs 和多模态模型开始进入企业,自动化大量低效的工作、数据收集和监管合规。从本质上讲,这项技术更容易融入现有的流程,至少与那些来自 IBM 等公司的定制自动化相比。经济影响类似于 20 世纪 90 年代末的裁员浪潮。


一些弱有意识的 AI 被泄露到互联网上,感染了带有智能恶意软件的计算机,这些恶意软件让人想起著名的 Morris 病毒。虽然它们不会彻底毁灭世界,但互联网开始分裂,因为人工智能的价值和网络攻击的泛滥推动了全球对国家化计算和电信基础设施的追求。 开放平台开始限制对反 bots 的访问,线上讨论转向安全的渠道,类似于 Signal 或 Telegram,使用零知识协议来验证用户身份。


科学开始加速,但整个社会感觉变得无限不透明,仿佛隐藏在数字山丘后面。

2028 - 2031


根据 EpochAI 研究人员生产的直接方法预测,到 2029 年,通过 brute-force 方法可以构建一个与人类无异的通用人工智能,从而实现大多数任务。起初,这些巨大的模型极其低效,因此仍然需要更窄、更精简的 AI 形式,这些形式需要精心的集成。 然而,随着从真正通用模型中推断的成本下降,统一的人工智能系统能够简单地模仿人类工人,并在特定上下文中学习模仿他们的工作流程,从而导致实施障碍的消失。


认知领域的失业正在加剧。许多企业走向了像 Blockbuster 这样的命运,但大多数知识领域却经历了一种加速的互联网对媒体和出版业的影响。也就是说,这些企业并非一夜之间消失,而是通过破产、新商业模式的崛起、最后的监管干预以及业余创作者的长尾,逐渐在破产的阴影下整合。


到 2030 年代初,剩下的知识型工作高度二元化。一部分企业家获得高报酬,而最赚钱的工作涉及领导大型 AI 团队。这看起来像是一种放大了的互联网对律师收入分配的影响,只扩展到许多其他领域。


其他大多数知识工作要么涉及高度的监控和绩效管理;要么根植于个人关系和其他形式的经济租金;要么本质上是身份或名人驱动的,就像今天的"YouTuber"和"Twitch 流媒体者"一样。不管怎样,认知劳动市场现在越来越呈现出高度不均衡的回报和经常明确的依赖于资助。 认知劳动的分层现在比以前更重要,因此市场范围和因此需要的共同法律和监管框架的范围开始缩小。


二元律师 - 彼得·特鲁钦(2013)


虽然整个股市正在蓬勃发展,但大重定价已经悄然进行------就像 Napster 时刻一样。许多资产价格归零,而少数公司估值却突破了万亿大关。限制因素是能源和资本。现在大多数计算基础设施都转向了推理,而新的数据中心却无法快速建设。


众议院正陷入恐慌。议员办公室被来自 AI 游说者和自动拨号器的电子邮件淹没,这些电子邮件影响了他们选民的方言。每个立法者都有一个特别的领域,对 AI 浪潮感到生死攸关,导致了一系列的临时和反应性提案,这些提案无一例外地无果而终。然而,随着时间的推移,公共选择约束的更广泛重组正在发生,最终解锁了一系列改革,这些改革原本被搁置,但仍然不够激进。


现在,白宫和国会已经采取措施来监管前沿的 AI 公司。虽然最强大的模型必须接受安全评估,以评估其偏见和对 Jailbreak 的脆弱性,但经典对齐问题随着规模的增加变得更容易,因为最大的模型证明了它们的可控制性。而且,通用人工智能(AGI)并不立即导致超级智能的硬起飞,因为数据和计算瓶颈仍然限制了更大模型可能实际收获的交叉熵。


虽然开源生态系统蓬勃发展,但开源与专有模型之间的差距正在扩大,部分原因是神经网络规模定律的对数性质,部分原因是监管和责任风险推动了最雄心勃勃的开源努力向地下转移。因此,注意力转向了由强大 AI 代理引发的计算需求,这些需求导致了训练和运行它们的计算要求逐渐下降。

2032 - 2035


如今,多亿美元的初创公司是由寥寥数人设计的巧妙工作流程,围绕着一组互动的 AI 交互。AI 不推卸责任,日夜不懈地工作,使得即使在循环中有一个人类,也可能成为瓶颈。随着代理和监控成本的下降,AI 自主组织开始通过一个真正智能的合同网络以推理速度相互接口,模糊了不同 AI 企业之间的界限。 人工智能公司的护城河最深的那些拥有者开始模仿社会学家 C. Wright Mills 描述的权力精英 ------ 横向网络中的军事、经济和政治精英,他们坐在 20 世纪中叶的大公司之上的。


2020 年半导体十年计划,SIA(2020)


在新经济时代和大社会时代建立的制度性基础设施开始出现裂缝。总体经济活动正在蓬勃发展,但监管机构却缺乏追踪所有这些数据的能力,有时甚至遭受了实质性的拒绝服务攻击。事实上,现在传感器技术每秒生成的数据量超过了人类集体感知能力的总和。 这需要政府在获取相关数据的方式上进行根本性的转变,但几十年来积累的流程累积和克劳德主义技术债务是不可逾越的约束。在拥有部长制的高信任国家,政府积极推行大规模的公务员改革,而在美国,类似的改革却因跨部门流程、司法审查、参议院的 filibuster、采购和人才获取问题,以及公共部门工会的抗议而陷入停滞。


救命药物和医疗设备在 FDA 的审批管道中停滞不前,引发了灰色市场和州级的"尝试疗法"法律,这些法律绕过了审批过程。像医学和法律这样的封闭行业试图竭尽全力维护其监管特权,但最终不得不拥抱人工智能,蚕食其原有的业务模式。执法机构,从 NLRB 到 FTC,现在只能在日益落后的司法管辖范围内执行其日益落后的司法管辖权。

GAO-23-106020 (2023)


税收收入下降,IRS 的审计比例崩溃,随着收入从劳动转向资本和 AI 税务会计师努力复杂化每个人的负债,如通过复杂的合伙关系。法院系统因 AI 辅助诉讼案件数量激增而不堪重负,被迫根据类型进行纠纷优先级排序。这导致越来越多的民事和商业法律进入私人仲裁,因为 AI 法官可以在一天内消化数以太字节的证据,以作出可证明中立的判决。


私人监管形式开始出现。尽管如 USDA、OSHA 和 CPSC 等机构仍然派遣人类进行商业农场的检查、进行工作场所访问并发布产品召回,但它们的实质监管窗口正变得越来越狭窄。消费者开始对通过自动化合规和声誉系统来保证食品、工作场所和产品安全的 AI 保险人和多边平台更加信任,从而彻底解决了信息不对称的问题。


许多其他联邦责任已经变得毫无意义。例如,如今道路上大多数汽车都是完全自主的,国家公路交通安全管理局感到无所适从。自主传感器的民主化和商业卫星网络的普及甚至取代了国家气象服务的价值。应对自然灾害的反应现在主要通过私营部门的举措来实现,包括通过并行的早期预警系统。

2036 - 2039


强大的通用人工智能(AGI)将应用于运动控制和机器人技术。正如 LLMs 替代了自然语言处理中的多个独立子领域一样,通用的运动动作反馈模型将取代今天机器人中使用的数十个定制的规划和控制算法。也就是说,一个预训练的模型现在可以与任意形状、传感器和执行器的机器人无缝集成,并找到一个带有一定灵活性的最优控制回路。


通用机器人开始大规模制造,从而降低了成本。在知识领域所发生的情况因此开始影响商品生产以及体力劳动形式。服务创新已经在推动国内生产总值增长率超过 5%,但如今,物理生产率真正起飞,尽管这种起飞方式在一定程度上受到滞后的瓶颈影响,导致差异显著。劳动密集型的人类服务,如护理、教育和执法,遭受了鲍莫尔成本病的严重版本。 因此,州和地方政府要么吸收加速的劳动力成本,要么拥抱人工智能替代方案。


鉴于地方治理的不均衡质量,越来越多的人开始选择退出市政服务。廉价且可定制的 AI 教员推动了公众教育系统的大规模撤离,转而支持高科技寄宿学校和家庭及社区教育团体。邻里购买自己的无人机,并使用面部识别技术的门铃摄像头,形成自己的私人监控网络。 包裹盗窃者和入室盗窃者不会进入这些地区,因为当地居民一看到一个被本地数据库熟知的盗窃者的步态,就会收到推特警报。


虽然州政府的某些能力仍然存在,但这种能力在很大程度上依赖于私营部门。1940-70 年代的美国政府内部完成了曼哈顿和阿波罗计划,但现在这些项目已经外包给了像亚马逊、谷歌、微软、Palantir 和 SpaceX 这样的公司。如果美国政府想要自己构建云基础设施,它都无法做到。 面对系统故障,越来越多的行政职能因此被私人提供商接手,联邦政府因此变成了一个盛大的竞争合同的枢纽。

2040 年以后


摩尔定律达到了兰达乌尔极限,但得益于并行计算和低能耗 memristors 的进步,它得以延续。现在,超算已成为常态,导致十年前的 AI 安全监管体系崩溃。然而,在实践中,部署新 AI 系统所需的权限却从政府转移到了私营基础设施提供商手中。


互联网是一个深假和智能恶意软件的丛林,就像早期那样,一个误点击就会引发弹窗和 .exe 下载的洪水。这迫使开发了新的协议、证书颁发机构和访问列表,这些列表使用 AI 监控网络流量以检测安全威胁并拒绝未经过滤的用户和算法的路由。 电信提供商直接与社区和私人城市签订合同,使用地理围栏和网络防火墙来严格控制每个本地网络内的流量进出。这些更富裕的社区甚至有自己的 GPU 集群,以防止网络中断并帮助热化社区池。


现在有个人的力量与当今的大公司相匹敌,而大公司则与当今的国家政权相匹敌。因此,许多城市政府放弃了它们的古老宪章,重新注册为新加坡式的公司城镇。这种企业结构为城市提供了将投资者资本汇集起来,通过土地租金来融资公共物品的手段,其中最重要的就是安全。 进入城市边界内的自动驾驶汽车必须通过自动扫描违禁品并记录乘客身份的检查点;废水持续监测以检测基因工程病原体;电磁脉冲枪扫描空域以检测未经授权的无人机群。除非你足够富有可以支付私人保安,否则很少有人会离开城市边界,除了在安全区域之间进行旅行。 AI 的集聚外溢效应太过于巨大,农村地区的落后者面临被游荡的民兵洗劫或合成毒品贩子的代理人洗劫的风险。


在所有其他方面,这是一个日益缺乏稀缺资源的世界。然而,在核聚变、太阳能和先进地热能等技术的推动下,能源不仅价格低廉且供应充足,而且可以本地化生产。结合机器人劳动力,这使得供应链的重新本地化成为可能,将全球化逆转。


现在各国被划分为三大类:中国式警察统治 / 胡志明市式君主制;无序的失败国家;或高技术开放社会,其中 AI 加固的电子政府模式类似于爱沙尼亚。世界地图因此被重新绘制,强大的国家利用 AI 攻占失败的邻国,重新建立地区安全。


美国之所以没有成为失败国家,是因为它拥有一个由不同程度繁荣的微小司法辖区组成的群岛。因此,美国的军事几乎只关注内部安全威胁,从不断增长的主权运动到国家大部地区的无政府状态。然而,情况并不稳定,因为人工智能复活了如共产主义和 cybernetic 霸权主义等死 ideologies,将国家政治转化为对竞争性乌托邦运动的投票。

Thanks for reading Second Best! Subscribe for free to receive new posts and support my work.


距离雷·库兹韦尔预测的技术奇点只有不到 20 年的时间了。在所有这些政治动荡的背后,向超智能迈进的研究和开发仍在加州索诺玛县进行,这是一片自由城市,是机器学习工程师和其他后 AGI 亿万富翁的首选之地。


城市拥有一个融合动力的超级集群,其计算能力比人类大脑的总和还要多上数十亿倍。它刚刚完成了第一次大规模训练,新的模型准备接受测试。工程师们读过《序列》,知道危险,但他们的傲慢、好奇心和贝克汉姆主义预期价值计算都喊出"开动吧!"


除了,谁会阻止他们?


这就是为什么 AI 风险的顺序很重要。即使 AI 的中间阶段不会杀死我们所有人,它们也可能间接影响 x 风险,通过颠覆我们将在该阶段需要的机构。