重新工程人类：科技巨头究竟想干什么？

在《被忽略：这批科技巨头的思维和气质好像有点怪异》一文中，我讲了这么一个意思：现在这批科技巨头，总让人感觉其思维、其气质甚至其行为都有点怪异的感觉（如马斯克被称为火星人），而这种怪异是我们在理解什么是人工智能、现在的人工智能为什么是这样子时常常被忽略了的一面。其中，我讲到一种感觉：冷，对人类有些冷，不见得叫冷......本文来自微信公众号： 老孙荐读 ，作者：立平坐看云起，原文标题：《孙立平｜重新工程人类：科技巨头究竟想干什么？》在《被忽略：这批科技巨头的思维和气质好像有点怪异》一文中，我讲了这么一个意思：现在这批科技巨头，总让人感觉其思维、其气质甚至其行为都有点怪异的感觉（如马斯克被称为火星人），而这种怪异是我们在理解什么是人工智能、现在的人工智能为什么是这样子时常常被忽略了的一面。其中，我讲到一种感觉：冷，对人类有些冷，不见得叫冷酷，叫冷漠或许更合适一些，即一种思维飘忽在尘世之外或之上的感觉。今天就想谈谈这个冷。而理解这个冷，最关键的一个词是：重新工程人类。重新工程人类（re-engineering humanity）2018年，维拉诺瓦大学法学教授Brett Frischmann和罗切斯特理工学院哲学教授Evan Selinger合作出版了一本书，书名就叫《重新工程人类》（Re-Engineering Humanity）。可惜的是，这本书在中文中常常被翻译为《重塑人性》，把一个很有冲击力的概念平庸化了。这本书最核心的价值，是提出了这样的一种令人振聋发聩的警告：真正的危险不是机器越来越像人，而是人被“重新工程”得越来越像机器。换言之，人工智能正在对人类进行重新工程化。这个重新工程人类的过程包括两个方面，一方面，技术的力量在影响和重塑着我们思考、感知和行动的过程。另一方面，是为这个日益可预测、可编程的人设计出一个可编程的世界。这意味着把人当作一个可修改的系统，而现代的人工智能做的就是这件事情。在这个过程中，人如同其他任何物品一样，都是可以被拆解为组件、分析其功能，识别其缺陷，然后重新设计以达到更优性能的对象。或者说，人如同其他物品一样，其现有的形态不是神圣的、不是自然的、不是不可改变的。它只是一个版本，而版本是可以迭代和升级的。或者说得更干脆一点，人是一台可以重新编程的机器。由此，我们也就可以理解其背后的那种冷，它不是憎恨人类，不是不关注人类，而是把人作为可拆解和重塑的客体。就像汽车大修一样？以此理解蒂尔身上那个令人困惑的矛盾在《从小孩子为什么要某种玩具看现代科技浪潮的底色》一文中，我曾试图从蒂尔的身上理解这种反人本主义的思想底色，以及这种思想底色对现代科技浪潮走向的影响。在那篇文章中，实际上已经触及蒂尔身上的一个令人困惑的矛盾，但我当时没有能对此进行深入讨论，因为当时我也找不到解释的答案。现在，有了重新工程人类这个概念，问题就比较简单了。这种矛盾表现在，蒂尔认为对他的思想包括技术、商业模式甚至政治理念影响最大的，是吉拉尔的模仿欲望理论。简单概括一下，吉拉尔认为，我们拥有某物的欲望并不是因为某物本身的价值，而是对他人欲望的模仿；模仿导致欲望指向同一方向，并通过竞争争夺共同的目标；这个过程成为社会秩序建构的原则，同时也是冲突与暴力的源泉。显然，吉拉尔对这种由模仿导致的社会过程是持一种批判态度的。但到了蒂尔这里，却催生了一种商业与技术实践：既然催动人类各种行为的是对他人欲望的模仿，那最大的商机一定是在模仿行为汇集的地方。什么地方是模仿行为的汇集地？互联网、社交媒体以及其他可以把人的模仿行为汇聚起来的地方（这是我通俗演义的啊）。于是，就有了他对Facebook（这里是一种可以上瘾的欲罢不能的模仿行为聚集地）的成功投资，就有了这笔投资后来为他带来的超过12800倍的回报。他后来直言不讳地说：“我赌的是模仿”。这似乎是一个以恶赚钱或利用人的弱点赚钱的典型例子。于是有人讽刺说，一个深信“模仿欲望导致恶”的学者，却投资于放大这种“恶”的商业模式。但事情真是这么简单吗？星辰大海：一项最雄心勃勃的改造人类的实践干什么事都是需要钱的，这是最朴素不过的道理。正是因为有了那笔对Facebook的成功投资，正是因为有了那超过12800倍的收益，才有了蒂尔的Palantir Technologies，才有了他在硅谷的精神领袖的地位，才有了他成为万斯塑造者的可能。一句话，才有了后来他轰轰烈烈的商业与政治实践。而这些实践的最终目标指向，就是重新工程人类。其实，解析一下这些科技精英正在实践的星辰大海，大体都离不开这样的三部曲：免费获得芸芸众生的海量数据，通过海量数据聚集大量的资源或资本，实现心目中雄心勃勃的星辰大海。问题是，这个星辰大海与芸芸众生并不存在一种有热度的关系。有人说得更为刻薄，你不过是是实现星辰大海的燃料。因为留给你的可能是失业和财富的被抽取。这突出体现在对人类毁灭话题的谈论上。马斯克和这次的考克森都谈论过这个话题。马斯克说，这个危险的可能性在10%-20%，时间是十年内。考克森说，可能性是10%以上，时间是在本年代内，时间更短。时间和概率的事情我们可以暂且放在一边，关键是立足点和立意的不同。按照马斯克的说法，过了这条黑暗的隧道，就会进入一个物质极大丰富的丰裕社会，甚至一种更优质的新人类就会出现。为此，赌一把，冒个险是值得的，而我正在推进这个事情。考克森则说，这是一种豪赌，是在把我们每个人的生命做赌注，这样做是危险的，不值得的，我宁可放弃巨大的财富，我不干了。可以说，他们二人都关心人，都关心人类，不过一个关心的是一个未来的带有某种神性的新人类，一个关心的是现世中活生生的可能还不怎么优秀的具体的人。我这几天在集中讨论的怪异和寒意是哪里来的？就是从这里来的。如果说得理论化一点，这叫超人类主义或后人类主义，还有一个说法，叫反人本主义。