2024年诺贝尔经济学奖授予了3位研究国家间财富不平等的美国学者。
评审团说，这三位研究人员“因其对制度如何形成和影响繁荣的研究”而获奖。
评审团坚持认为："法治不健全、体制剥削人民的社会不会产生增长或正面的变化。 ”
事实果然如此吗？或者说AI时代也会如此吗？
【传承与未来读书会】第254期推荐阅读尤瓦尔.赫拉利的《智能之上》。
我就从尤瓦尔.赫拉利的视角谈谈2024经济学诺奖获得者和评审团们的观点是否能站得住脚。
一、
尤瓦尔.赫拉利说：这本书提出的一个主要论点是：虽然人类能建立大规模合作网络，以此获取巨大的力量，但这些网络的建构方式注定了人类对这些力量的运用常常并不明智。
讲得更明确一点，这是个信息问题。信息是维持网络联结的黏合剂。
数万年来，以“智人”标榜自己的人类正是靠着发明与传播各种虚构故事、幻想和大量的错觉——内容可能关于神祇、魔法扫帚、人工智能和许多其他事物——来打造并维持诸多的大规模网络。
虽然个人通常认为或者说相信自己所坚持的都是关于自己与世界的真理与真相，但大规模网络却会使用各种虚构故事与幻想将成员联结在一起并创造秩序。
举例来说，我们过去就是这样走向了纳粹主义，纳粹主义形成了格外强大的网络，并由极具迷惑性的想法加以支撑维系。正如乔治·奥威尔的那句名言：“无知就是力量。”
纳粹主义的政权基础，就是一些令人痛苦的幻想和毫无羞耻的谎言，但这在历史上实在称不上特殊，也不代表它们注定崩溃。
纳粹主义可以说是史上人类创造出的最强大网络。从1941年年底到1942年年初，法西斯国家联盟（德、意、日）曾经有望赢得第二次世界大战，而斯大林最终成为二战的胜者。从后来的历史来看，斯大林较之希特勒有过之而无不及。
虽然在20世纪90年代自由民主国家占了上风，但如今看来那可能只是暂时的胜利。
到21世纪，过去希特勒、斯大林等人没做到的，很可能会由一些新的极权主义政权接手完成：创造出一个无所不能的网络，甚至能够阻止后代去尝试揭露其中的虚构与谎言。
一言以蔽之，在极权主义者眼里，信息就是一种武器。
极权主义的世界观认为，只有权力才是唯一的现实。
二、
那么，权力从何而来？
《国家为什么会失败》这本书正是由今年的两位经济学诺奖获得者阿西莫格鲁教授和罗宾逊教授合著的。
这本书的核心内容阐述的是：
造成国家之间贫富差异的是制度，包容性的制度造就繁荣，榨取式的制度则带来衰退。
好吧，姑且让我们先赞同两位教授的观点。
即将到来或者说已经到来的的A I时代，这两种制度究竟谁会占有上风呢？或者说未来世界，世界究竟是会是走向繁荣还是贫困呢？
尤瓦尔·赫拉利在他的书中进一步阐述说：
至少到 2024 年，“我们”人类其实相当部分的人口活在专制或极权政权之下，而且这些政权成立的时间多半是在计算机网络兴起之前。
如果真的要了解算法与人工智能对人类的影响，除了该问它们会对美国与巴西这样的民主政体有何影响，也得看看它们对那些专制政体有何意义。
前现代时代由于信息技术的限制，不可能出现大规模民主或大规模极权。到 20 世纪，新的信息技术让大规模民主与大规模极权都得以兴起，但信息技术最大的问题是即使集中起来，也很难处理。
极权统治者与政党因为超级集中的制度设计因此欠缺发现并修正这些错误的机制。相较之下，民主制度是将信息（与决策权）分散到许多不同的机构与个人手中，不但能够更有效率地处理大量数据，而且如果某个机构做了错误的决定，其他机构也可以提出修正。
然而，机器学习算法的兴起，可能正是独裁者们已经等了太久的好消息。
想想遗传学的例子。
假设几个不同国家的企业都想研发出一套算法，找出基因与各种疾病的关联。新西兰的总人口为 500 万，而且隐私法规严格，基因数据与医疗记录不易获取。中国有 14.1 亿人，隐私法规也较为宽松。你觉得哪个国家的企业更有机会研发出一套遗传算法？
巴西如果打算购买一套遗传算法，提供给国内的医疗保健体系使用，比起向新西兰购买，它会有强烈的动机选择准确度高得多的中国算法。
如果这套中国算法又能用巴西超过 2 亿人的数据继续精益求精，品质就会越来越好，得到更多国家的青睐。很快地，全球大部分的疾病信息都会流向中国，进而让这套遗传算法完全没有对手。
想把所有信息与权力都集中在一个地方，曾经是 20 世纪极权政权的致命弱点，但到了人工智能时代却可能成为决定性的优势。
与此同时，我们前面也提过，人工智能还能让极权政权建立全面监控制度，使人民几乎不可能反抗。
对于这种极权倾向，有些人相信可以用区块链技术制衡，毕竟区块链在本质上有利于民主、不利于极权。要在区块链系统做决策，需要得到 51% 的用户的批准。
虽然这听起来很民主，但区块链技术有一项致命缺陷，问题出在“用户”这个词。某人如果有 10 个账号，就会被算成10 个用户。如果政府控制了 51% 的账号，就能自己构成 51% 的用户。
目前在区块链网络已经有一些例子，政府自己就是 51% 的用户。
读到现在，我们会禁不住非常悲观，那就是以极权主义为特征的榨取型制度将会占据上风，而这种制度的必然结果会使国家贫穷，如果榨取型制度占领了世界，那么世界就会变成一座无形的国家监狱。
三、
.尤瓦尔.赫拉利并没有让人类就此失去信心，他进一步阐述了极权主义控制下的“国家监狱”将会是一个什么样子，他采用了“机器人程序的监狱”这一名词。
他说：
虽然人工智能在许多方面有利于中央集权，但专制与极权政权在人工智能面前也并非无往不利。
一、独裁政权并没有控制非生物行为者的经验。专制信息网络是以恐怖统治为基础的，但计算机并不怕被关进监狱或被杀。
政府当然能够封锁或删除这个程序，并且试着去找出并惩罚写出这个程序的人，但总之要比平常教训人民困难多了。
二、过去，计算机还无法自行生成内容，无法进行有智能的对话。
但现在，虽然人类工程师可以尽最大努力打造出向政府看齐的人工智能，但鉴于人工智能具有自我学习与改变的能力，难保哪天走向政府不乐见的方向。
三、政府如果采取了某项极为失败的政策，后来又改变心意，常常就会把失败推到别人头上，掩饰自己的过错。但他们要怎样才能训练聊天机器人程序，要它赶快忘记那些今天被批得一文不值，但在短短一年前还是国家官方立场的政策？
当然，民主政权也会有类似的问题，但民主政权的优势就在于包容，就算真的碰上反民主言论，大体上也能够包容。
四、
尤瓦尔.赫拉利还提出了极权主义的另外一个更大的挑战，那就是“算法的傀儡”。
他说：
长期而言，极权政权还可能遇上更大的危险：算法并不是仅仅批评这些政权，而是直接控制了这些政权。
纵观历史，专制者最大的威胁常常来自下属。第五章提到过，没有哪个罗马皇帝是被民主革命赶下台的，都是被下属推翻或成了傀儡。
要是 21 世纪的专制者把太多权力交给计算机，就有可能成为计算机的傀儡。
要是算法真的能发展出各种历史上曾经发生过的政变能力，独裁政权成为算法傀儡的风险其实远高于民主政权。
在美国这样的分布式民主体系中，人工智能再不择手段也很难夺权：就算学会了如何操弄美国总统，还是得面对国会、联邦最高法院、州长、媒体、各大企业和各种非政府组织的反对。
读到这里，我们似乎可以为两位获奖教授的结论鼓一下掌。他们的包容型制度会实现国家繁荣的论断即使在AI时代也是经得起推敲的，尽管会面临人工智能巨大的挑战，但人类不必过于自馁。
不过，当你刚想松一口气的时候，尤瓦尔.赫拉利又提出了另外一种担忧，那就是人工智能的进化或许会改变两位经济学诺奖获得者的论断，那就是人类被人工智能控制了，在包容型制度和榨取型制度之外，又有了第三条道路，人类彻底成为人工智能控制的时代，正式进入智能机器人时代。
因为，人工智能如果要夺取权力，最简单的方法不是逃出制造科学怪人的实验室，而是赶快去讨好偏执的独裁者。
这是一条通过独裁者之手成为掌握国家乃至世界控制权的捷径。
尤瓦尔.赫拉利说“这种说法并不是预言，而是提出一种可能。”
所以，包容型制度的优势不仅会使国家繁荣，而且会有效规避人工智能的失控，让人类好好地当好人类。而以极权主义为特征的榨取政府，不仅会令国家贫穷，还会因为独裁者的强大使得人类提早进入智能机器人控制的人类实际灭亡的境地。
华东师范大学吴冠军教授在新书《再见智人》中说：可以操纵人的不是算法，而是权力。
我的心得是，人们与其担心人工智能时代会取代人类，毋宁回到我们的现实中来，那就是防范极权主义的卷土重来，让包容型制度成为世界的绝对主流。因为，独裁者是人工智能攻破人类防线的最薄弱环节，而榨取型制度是人类已经用无数的贫困和苦痛为代价总结出的必须唾弃的制度。
——张家卫阿根廷百日散记（2024.10.11，第40天）
Comments