对人工智能和人类未来有点太悲观了
第五章中《完全控制》和《富农》小节虽然写得是1930年代的苏联,但是和我们太像了。
所谓信息,就是能够将不同的点联结成网络,从而创造出新的现实。
在人类开始讲故事之前,现实只有两个层次:客观现实与主观现实。第一个层次是客观现实,由石头、山脉、小行星这样的事物组成。不管我们是否能意识到,这些事物都客观存在。举例来说,假设有一颗小行星正在撞向地球,这时候就算根本没人发现,它也依然存在。第二个层次是主观现实,比如痛苦、欢乐、爱等,它们看不见也摸不着,不存在于外界,只存在于我们心里。这些主观现实存在于我们对这些事物的觉察感受中。而像“感觉不到的疼痛”这种说法就是矛盾的。
但有些故事能够创造出第三个层次的现实:存在于主体间的现实(以下简称“主体间的现实”)。主观现实(例如痛苦)只存在于个人的心智之中,但主体间的现实(例如法律、神祇、国家、企业和货币)则存在于许多心智形成的联结里。讲得更具体一点,这样的现实存在于人们相互讲述的故事中。这些主体间的现实,并不是指任何已然存在的事物,而是在人类交换信息的过程中创造出来的。不同于唯物主义者的说法,历史上的大规模身份认同与利益一向都是主体间的现实,而非客观现实。
说到让人们团结起来,相较于真相,虚构的故事在两个方面更有优势。第一,虚构的故事要多简单就可以有多简单,但真相往往很复杂,因为它要呈现现实,而现实是复杂的。以关于国家的真相为例。如果我们所在的国家是一种存在于主体间的实体,只存在于集体想象之中,这种概念并不容易理解。政治人物演讲的时候,你大概很少会听到这种说法。民众更容易相信的,是说我们就是上帝的选民,造物主也赋予了我们某些特别的使命。从以色列到伊朗,从美国到俄罗斯,这套简单的故事就这样被政治人物讲了又讲、说了又说。
第二,真相常常令人痛苦不安,如果我们想让它别那么令人痛苦,变得比较讨人喜欢,真相也就不再是真相了。相较之下,虚构的故事可塑性更高。每个国家总有些黑历史,是国民不想承认也不想记住的。采集者知道水果与蘑菇长在森林里的什么地方,是因为演化让整座森林的组织安排有着一套清晰的生物秩序。果树要进行光合作用,所以需要阳光;蘑菇要摄取死亡有机物的养分,而这些有机物质通常在地上。所以,通常蘑菇生长在土壤层,而水果则会长得高一些。另一个常见的规律是,苹果长在苹果树上,无花果长在无花果树上,所以你如果想找苹果,就该先找到一棵苹果树,然后抬头仰望去找苹果。住在森林里的时候,人类就学到了这样的生物秩序。
这种秩序和档案库的情况大不相同。文件既然不是生物,就不会遵守任何生物法则,演化也不会替我们做什么组织安排。税务报告不是自己从文件架上长出来的,而是需要有人把报告放到那里。所以,需要有人先提出依架位来分类信息的想法,并决定该把哪些文件放到哪个架上。采集者在森林里只需要找出既有的森林秩序,但档案管理员则需要为这个档案世界设计一套新的秩序。这种秩序就被称为官僚制度。如果让思想市场完全自由,就可能鼓励传播各种愤怒与煽情,而牺牲掉真理与真相。
改变教会教义的第一条法则,就是永远不能承认改变了教会教义。
所谓独裁,就是由单一中央信息枢纽决定一切;而所谓民主,则是有不同信息节点持续对话。
所谓民主制度,并不是只要占了多数,就能去消灭那些不受欢迎的少数族群,而是指一种对于中央权力有明确限制的制度。
在民主政体中仍然有两类权利受到保护,并不是多数人说了算。第一类就是人权。
第二类重要的权利则是公民权。按照这种逻辑,到底要怎样分辨某个人算不算是“人民”?这个问题再简单不过:只要支持领袖的,就算是人民。德国政治哲学家扬-威尔纳·穆勒认为,这就是民粹主义的决定性特征。要判断某人是不是民粹主义者,就看他是否声称只有自己能够代表人民,并声称那些不同意他的观点的人(国家官僚制度、少数群体甚至多数选民)肯定都是为虚假意识所迷惑,或者根本不是真正的人民。
极权政权的基础,就是控制一切信息流动,并对所有独立信息渠道保持怀疑。在军官、国家官员或一般公民交换信息的时候,双方可能建立信赖关系,而有了信赖关系,就可能组织反抗行动。所以极权政权有一个关键原则:无论人民在哪里见面、交换信息,都必须受到政权的密切监控。
现代新近的信息技术除了催生大规模的民主,也催生了大规模的极权。
集中式极权网络的最大优势在于秩序一目了然,能够迅速做出决定,并且不带情绪地坚定执行。特别是如果遇到战争或疫情这样的紧急情况,集中式网络能够比分布式网络动作更快、走得更远。
由于极权信息网络的主要目的是创造秩序,而不是找出真相,所以如果出现令人震惊的信息,可能对社会秩序造成破坏,极权政权往往就会把信息压下来。因为中央控制着所有信息渠道,要做到这一点相对容易。
我在2019年参观了切尔诺贝利。介绍这场核事故的乌克兰导游的一句话令我印象深刻。他说:“美国人从小相信的是问题会带来答案,但苏联人从小相信的是问题会带来麻烦。”
所谓历史,指的是生物本能与文化之间的互动,是人类对食物、性、亲密关系这些事物的生物需求,以及与人类的文化创造(如宗教和法律)之间的互动关系。
人类本来就一直受到声誉市场的控制,被约束着要遵守当时的社会规范。在大多数社会,人类甚至宁可丢钱也不想丢脸。被钱逼到自杀的人数要远远小于被羞耻自责逼上绝路的人数。就算有些人因为被开除或企业破产而决定自杀,真正让他们踏出最后那一步的因素通常也不是经济困难本身,而是社会羞辱。
但本质的良善到底是什么意思?如果说有谁试过定义“本质的良善”,代表人物肯定是与克劳塞维茨和拿破仑同一时期的康德。在康德看来,所谓本质的良善的规则,就是那些自己想要将其推广到普世的规则。根据这个观点,如果某个人想要动手杀人,这时应该先停下来,经历以下的思考过程:“我现在正要杀掉一个人。我是不是想要确立一条普世规则,规定允许杀人?要是确立了这样的普世规则,就有可能有人来杀我。所以,不应该有一条允许杀人的普世规则。由此可见,我也不该杀人。”简单来说,康德就是换了一种说法来表达一条古老的黄金法则:“你们愿意人怎样待你们,你们也要怎样待人”(《马太福音》7:12)。
义务论者努力寻找本质的良善的普世规则,而功利主义者则是用行为对痛苦或快乐的影响来判断行为。英国哲学家边沁(与拿破仑、克劳塞维茨和康德同时代的人)认为,世上唯一合乎理性的终极目标,就是尽量让世界减少痛苦,增加快乐。如果是领域专家,绝对值得投入毕生精力来讨论其中细节,至于我们这些普通人,该做的就是了解一下民主政体能够也应该遵循的基本原则。
第一个民主原则是为善。如果计算机网络要收集关于我的信息,必须是用来帮助我,而不是操纵我。
能够保护民主、避免极权监控崛起的第二个原则是去中心化。民主社会绝不该允许所有信息集中在一处,不管是政府还是民间企业。
第三个民主原则是相互性。如果民主制度打算加强对个人的监控,就必须同时加强对政府与企业的监控。
第四个民主原则,是监控系统必须永远保留让人改变与休息的空间。在人类历史上,压迫的形式分为两种:剥夺改变的能力和剥夺休息的机会。对国际关系的这种悲观看法,很像民粹主义对人际关系的看法,即觉得人类只对权力有兴趣。这些观点背后是一套关于人性更深层的哲学理论,灵长目动物学家弗朗斯·德瓦尔称之为“饰面理论”。饰面理论认为,人类本质上仍然是石器时代的狩猎者,看着世界就是个丛林,相信弱肉强食、力量就是正义。它还认为,人类几千年来一直试图用各种神话与仪式形成的薄弱饰面掩盖这个不变的现实,但人类从未真正摆脱丛林法则。事实上,人类的神话与仪式本来就是丛林强者用来欺骗、诱捕弱者的武器。要是没有意识到这一点,只能说是天真到危险的地步,必然成为一些无情掠食者的猎物。
历史唯一不变的,就是改变。
虽然所谓的现实主义者会说历史叙事只是用来促进国家利益的宣传手法,但事实上,正是这些叙事先定义了何谓国家利益。