数据独裁统治兴起,萌芽中的区块链是否是其对手?

链闻看天下 2019-01-02

这个时代,让我们有幸见证了人类前所未有的一次大启蒙。数十年来科术的迅猛发展,使得人类对宇宙和自身的认识都远超前人,而且这些认识还被加速刷新。然而,科学启蒙使我们逐渐看清,人类一直珍视的情感、意义、价值和自由意志,许多都是物理、化学、生物现象,人之所以为人的那些独特性遭遇了还原论的挑战。同时,技术革新又为独裁主义的形成提供了温床,成千上万的人可能在不知不觉中就走向奴役与异化。

今天,各类软件收集着我们的生活数据,一些学校已通过「智能校服」在监视学生的生物数据与 GPS 定位。披着玫瑰色外衣的技术可能下一秒就变成囚禁我们的牢笼。尤瓦尔·赫拉利对技术发展一直保持着敏锐的观察与批判。在本文中,他对人工智能与生物技术的社会影响作了深入反思,值得细细咀嚼。

稿件来源:文化纵横
作者:尤瓦尔·赫拉利,《人类简史》《未来简史》作者

对边缘化(Irrelevance)的恐惧愈发严重

民主并不是必然的。尽管民主国家在过去一个世纪或更长时间内取得了较大成就,但它在历史长河中还只是昙花一现。君主制、寡头政治和其他形式的专制统治才是人类治理的常见模式。

自由民主国家的出现与自由和平等的理想有不少关联。这种理想似乎是不言而喻、不可逆转的,但它们比我们所想的要脆弱得多。它们在 20 世纪的成功取决于独特的、但可能也是转瞬即逝的技术条件。

在 21 世纪的第二个十年,自由主义逐渐受到批评。自由民主对中产阶级的作用越来越受到质疑;政治愈加部落化;在越来越多的国家,领导人越来越热衷于蛊惑人心和专断。这种政治转变的原因很复杂,但它们似乎是与当前的技术发展相互交织的。促进民主的技术正在变革,并且人工智能可能会带来更多改变。

信息技术飞跃发展着;生物技术也为审视我们的内在打开了一扇窗——我们的情感、思想和选择。信息技术和生物技术将给人类社会带来前所未有的动荡,侵蚀政府机构,并可能使我们欲望败坏。基于此,自由民主和自由市场经济可能已经「不合时宜」。

普通人可能不会详细了解人工智能和生物技术,但会感觉到它们正迎面而来。 1938 年,苏联、德国或美国普通民众的日子可能并不好过,但他一直被告知自己有举足轻重的地位,有他才有未来(当然,假设他是一个「普通男性」(an「ordinary man」),而不是一个犹太人或女性)。他看着宣传海报——通常是英勇的煤矿工人和钢铁工人——并看到了自己的影子:「简直身临其境啊!我也要做未来的英雄!」

2018 年,普通人感到自己越来越被边缘化(Irrelevant)。对于在 TED 演讲、政府智囊团以及高科技会议上人们兴奋谈论的那些神秘术语——全球化、区块链、基因工程、人工智能和机器学习——普通人(包括男性和女性)都可能认为这些术语与他们相距甚远。

与反剥削相比,反边缘化要困难得多。信息技术和生物技术革命仍处于起步阶段,在多大程度上将当前的自由主义危机归咎于它们,仍尚待商榷。伯明翰、伊斯坦布尔、圣彼得堡和孟买的大多数人可能些许意识到人工智能的兴起及其对生活的潜在影响。然而,毫无疑问,未来的数十年内,蓄势待发的技术革命将使人类面临前所未有的艰难考验。

一个新的无用阶级?

让我们从工作和收入开始阐述,因为无论自由主义民主哲学诉求如何,它在很大程度上得益于实际优势:在政治和经济领域中,自由主义特有的分权决策方法有助于自由民主国家战胜其他国家,并向其人民供给更多财富。

自由主义向每个人都许诺更大的蛋糕,从而缓和了无产阶级与资产阶级、信教者与无神论者、土著与移民、亚洲人与欧洲人之间的对立。过去,随着蛋糕越做越大,这是可能的。蛋糕很可能会继续增长。然而,经济增长可能无法解决当前技术现状造成的社会问题,因为这种增长越来越多地取决于颠覆性的技术发明。

当然,担心机器引发失业并不是什么新鲜事,过去这种担心没有成为现实。但人工智能与旧机器时代不同。过去,机器主要以体力技能与人类竞争。现在他们开始在认知技能方面与我们竞争。我们不知道在体力和认知之外,是否人类还具备一种有恒久优势的技能。

至少在未来数十年内,人类智能在众多领域可能远优于计算机智能。因此,随着计算机应用于更多的常规认知性工作,新创造性岗位将不断涌现。以上不少新岗位可能有赖于人与人工智能之间的合作而非竞争。人类-人工智能的组合可能不仅优于人类,而且对独立工作的计算机也有优势。

然而,大多数新工作岗位可能需要高水平的专业知识和独创性,因此可能导致非熟练劳动者的失业问题。此外,随着人工智能不断发展,那些需要高智商和创造力的工作机会也可能逐渐消失。这种情况在象棋领域可能已经初露头角。在 IBM 计算机 Deep Blue 于 1997 年击败加里·卡斯帕罗夫(Garry Kasparov)后的几年里,人类棋手仍生机勃勃;AI 被用来训练人类神童,并且人类和计算机的组合胜于独立电脑的表现。然而近年来,计算机在象棋比赛中似如有神助,以至于与它们合作的人类棋手已经无用武之地并可能很快被完全边缘化。2017 年 12 月 6 日,Google 的 AlphaZero 击败了 Stockfish 8,这是一个重要的里程碑。Stockfish 8 曾在 2016 年世界电脑象棋锦标赛中获胜。它拥有人类累积的数百年国际象棋经验,以及数十年的计算机经验。相比之下,AlphaZero 没有被人类教授任何国际象棋策略。相反,它运用最新的机器学习原理在与自己的对弈中自学。尽管如此,AlphaZero 战绩斐然。如果不说是天才的话,它们也是富有创造力的。

国际象棋中人与人工智能的联合在警侦、医学、银行和许多其他领域内也许正勃然兴起。更重要的是,人工智能(AI)享有独特的非人类能力,这在人工智能与人类工作者之间体现为种类差别而不仅是程度差异。互通性和可更新性是 AI 拥有的两个尤为重要的非人类能力。例如,许多驾驶员不熟悉变动不居的交通法规,并因此经常违反它们。此外,由于每个驾驶员都是单一个体,当两辆车行进至同一个交叉路口时,驾驶员有时会误传彼此意图并发生碰撞。相比之下,自动驾驶汽车了解所有交通规则,从不故意违反它们,并且它们都可以相互连接。当它们接近同一个路口时,实际上不是两个独立的实体,而都是受统一控制的。因此,它们误传和碰撞的可能性要小得多。同样,医疗领域也是如此。互联互通和可更新性的潜在优势非常巨大,在某些工作中,计算机代替人类可能意义非凡。

综上,我们会得出一个非常重要的结论:自动化革命不是某个单一的转折事件,且之后就业市场重获均衡。相反,它将是一连串巨大的破坏。旧岗位会消失,新工作岗位会出现、经历巨变并消失。人们需要不断接受培训并重塑自己。

正如政府在 20 世纪为年轻人建立了大规模的教育体系那样,他们在 21 世纪有必要为成年人建立普遍的再教育制度。但仅此而已么?人们是否能应对工作上日益增加不稳定性?到 2050 年,由于工作机会或者相关教育的匮乏,以及人们没有足够耐性不断学习新技能,一个新的无用阶级可能会出现。

数字独裁统治(Digital Dictatorships)的兴起

随着经济财富的失去,许多人也可能失去政治权力。使数十亿人经济边缘化的技术同样也可能使他们更容易被监控。世界上许多国家,包括几个民主国家,正忙于建立前所未有的监视系统。例如,以色列是监视技术领域的领头羊,并在被占领的西岸创建了一个全面监视体系的雏形。巴勒斯坦人可以管理西岸的一些城镇和村庄,但以色列人掌控着天空、电视广播和网络空间。因此,只需极少的以色列士兵就可以监控居住在西岸的大约 250 万巴勒斯坦人。西岸巴勒斯坦人如今的经历,也许只是全球数十亿人最终经历的预演。

想象一下,若朝鲜政权将来掌握了类似更高级的技术,朝鲜人可能被强制要求佩戴生物识别手镯,以监测他们的所做和所说以及血压和大脑活动。利用对大脑日益增多的了解和机器学习的巨大能量,朝鲜政府最终也许能知道每个公民每时每刻都在想什么。如果一个朝鲜人看着金正恩的照片,并且生物识别传感器采集到愤怒的迹象(血压升高,杏仁核活动增加),那个人第二天可能就会被丢进集中营。

在接下来的几十年里,机器不太可能会有情感、也不太可能反叛,但是我们可能不得不面对那些比我们的母亲更知道如何控制我们情感的人工智能。它们听从人类精英的命令,运用这种不可思议的能力向我们推销汽车、政客、意识形态或者其他东西。机器人可能知道我们最深的恐惧、仇恨和渴望,并以此对付我们。在全球最近的选举和公投中,黑客通过分析选民数据和利用他们的偏见来学习如何操纵选举时,我们就对此已有耳闻。

人工智能革命最大和最骇人的影响可能与民主国家和独裁政权的相对效率有关。历史地看,独裁政权面临着创新和经济增长的巨大障碍。20 世纪后期,民主国家通常比独裁统治表现更好,因为它们在信息处理方面要好得多。我们倾向于将民主与独裁之间的冲突视为两种不同道德体系之间的冲突,但它实际上是两种不同数据处理体系之间的冲突。民主分权处理信息并由多人 / 机构决策,而独裁统治将信息和权力集中在一个地方。鉴于 20 世纪的技术,信息和权力过于集中是低效的。没有人能又快又准确地处理众多信息并正确决策。与美国相比,这是苏联决策糟糕透顶以及经济落后的原因之一。

然而,人工智能也许很快将扭转这种态势。AI 可以集中处理大量信息。事实上,它可能使集中式体制比分散式更有效,因为机器学习在有更多可供分析的信息时更高效。20 世纪专制政权的主要障碍——将所有信息和权力集中在某个地方——可能在 21 世纪成为决定性优势。当然,新技术会不断涌现,其中一些技术可能会有助于信息和权力分散而非集中。区块链技术以及其带来的加密货币使用目前被认为是权力集中的可能对手。但区块链技术仍处于萌芽阶段,我们还不知道它是否会真正抵消人工智能的集中化趋势。互联网在早期被夸大为为一种将人们从集权体制下解放出来的自由主义灵丹妙药——但现在它却使得集权比以往都有强有力。

向机器的权力转移

即使某些社会表面上仍是民主的,但算法效率的提高也会将越来越多的权力从个人导向网络化机器。我们可能会心甘情愿地放弃生活的「自主权」,因为经验告诉我们机器算法比情感更可信,最终我们将失去独立决策的能力。Google 搜索算法使得我们独立定位信息的能力降低,这一进程也影响着我们的身体机能,如空间导航。人们要求 Google 不仅要查找信息,还要引导他们。自动驾驶汽车和 AI 医生将是进一步的侵蚀:尽管这些创新将使卡车司机和人类医生失业,但更大的意涵在于权力和责任将不断向机器转移。

人类惯于将生活视为不断的决策。自由民主和自由市场资本主义将个人视为一个不断对世界作出选择的自主个体。艺术作品——无论是莎士比亚戏剧,简·奥斯汀的小说,还是俗气的好莱坞喜剧——通常都是围绕着做某些关键决定的英雄展开的。生存还是毁灭?嫁给柯林斯先生或达西先生?基督教和穆斯林神学同样关注决策的戏剧性,认为永恒的救赎取决于正确的抉择。而当我们日益依靠 AI 决策时,这种生活观会发生什么改变?现在,我们相信 Netflix 会推荐我们喜欢的电影,Spotify 会列出我们喜欢的音乐。但为什么 AI 的益处会止步于此呢?

每年都有数百万大学生需要决定学什么。这是一个非常重要且非常困难的决定,是在父母、朋友和教授的压力下做出的,他们有不同的兴趣和意见。它也受到学生自身个人恐惧和幻想的影响,这些恐惧和幻想本身就是由电影、小说和广告所塑造的。问题是,学生并不真正知道某个职业中成功的要素是什么,并且不一定对他或她自己的优缺点有现实的认识。人工智能有朝一日可以比我们做出关于职业生涯、甚至人际关系更好的决策。但是,一旦我们在学习、工作、约会甚至婚姻上依赖 AI 决策时,我们的生活观念将不得不改变。民主选举和自由市场可能不再有意义。大多数宗教和艺术品也是如此。想象一下,Anna Karenina 拿出智能手机并询问 Siri 是否应该维持与 Karenin 的婚姻,还是与潇洒的 Count Vronsky 私奔。我们还能赋予这样的生活什么意义?

我们将往何处去?

首先,我们需要更加努力地去理解人类思维的运作方式——特别是去关注人类如何培养自己的智慧和同情心。如果我们在人工智能上投入太多而在开发人类思维方面投入太少,那么异常复杂的计算机人工智能可能只会致使人类天生的愚蠢被加强,并造就我们最可怕的(也可能是最强大的)冲动,比如贪婪和仇恨。为了避免这样的事情发生,明智的做法就是把我们投资于研发人工智能的每一美元和每一分钟,投入到探索和发展人类意识的事业上。

更现实而紧急的是,如果我们想要防止所有财富和权力集中在一小群精英的手中,我们必须规制数据的所有权。在古代,土地是最重要的资产,因此政治是关于土地控制权的斗争。到现代,机器和工厂变得比土地更重要,所以政治斗争的重点是这些重要的生产资料的控制权。到了 21 世纪,数据将使曾经最为重要的资产——土地和机械——都成为昨日黄花,政治将是关于数据流控制权的斗争。不幸的是,对于数据所有权方面的问题,历史经验无迹可寻,这个问题的难度,远远超过过往对土地或机器的规制。数据无处不在,同时又看不见摸不着,它们可以以光速移动,而你也可以根据需要随意复制他们。那些被收集的关于我的 DNA、我的大脑和生命的数据是属于我,还是属于政府,公司或人类集体?

积累数据的竞赛早已开始,只是目前的弄潮儿主要是谷歌和 Facebook 以及中国百度和腾讯这样的巨头公司。到目前为止,这些公司中的许多公司都是作为「注意力商人」 ——他们通过向我们提供免费信息、服务和娱乐自愿来吸引我们的注意力,然后他们将我们的注意力转卖给广告商。然而,他们真正的业务不仅仅是销售广告。相反,通过吸引我们的注意力,他们设法集聚了大量关于我们的数据,这些数据的价值远远高于任何广告收入。我们并不是他们的客户,而只是他们的产品。

政府将数据国有化可以算作是一种解决方案;它肯定会遏制大公司的「权力」。但历史表明,在过度强大的政府下,我们不一定过得更好。所以我们最好要求我们的科学家、我们的哲学家、律师、甚至我们的诗人将他们的注意力转向这个大问题:你们将如何规范数据的所有权?

如果你不喜欢生活在数据独裁社会或某种堕落的社会里,那么你可以做的最重要的贡献是找到防止过多数据集中在很少一部分人的手中的方法并且去探寻使分布式数据处理比集中式数据处理更有效的方法。这些不是一件容易的事。但实现这些目标可能是未来民主的最佳保障。

举报

链闻 ChainNews 信息平台,诚邀读者共同监督,坚决杜绝各类代币发行、投资推荐及虚拟货币炒作信息。如您发现这篇文章含有敏感信息,请点击「举报」,我们会及时调查,并进行处理。

你可能感兴趣

    App
    下载链闻 ChainNews Apps

    链闻 App

    扫码下载

    公众号 小程序
    链闻 ChainNews 微信公众号
    链闻 ChainNews 微信小程序