人工智能时代的价值反思与伦理调节

段伟文  中国社会科学院哲学所研究员

点此查看完整报告

 点此查看视频专辑

点此浏览课件

今天这么多科学家在这里，我们做哲学和社会科学研究的人都比较小心，所以我今天讲的题目很大。我的演讲框架大概是这样的：首先是讲人类现在面临的所谓的生存危机，然后讲述当下人工智能的特征或者说它的特质，接着我们就去试图寻找一些相关的对策，主要是谈一下我自己的思考，看一看有什么样的应对策略，最后是对人工智能未来发展的展望。

一、人工智能来了，未来需要我们吗？

实际上，大家对“人工智能来了，究竟是一个什么样的情况”这个问题有两种不同的观点。一种观点认为人类现在所拥有的这些技术将使人类自身变成一种濒危的物种；但是也有乐观主义者认为，在机器人的帮助下人类能够获得永生。实际上不论是一种乌托邦还是一种反乌托邦，这样一种人文的或者是哲学社会科学的思考，它实际上是让我们在发展科技的时候去找到它的上限或者是下限。

实际上，这个技术很简单，大家都知道，就是所谓的融合科技或者是人类增强。就是说，我们可以通过药物，通过基因，通过认知，甚至达到一种超级的智能。现在已经有很多人在吃一种“能让人变聪明”的药，据说吃了这个药以后，考试的时候成绩就会比较好，确实是有，像日本都有很多这些药在卖。   

另外一种就是所谓的认知介入，用现在的话说就是很多的赛博格。我们最近这两年可以看到，不仅人的记忆可以移植，甚至动物的记忆都可以移植。这样就会带来一个问题，就是我们将来作为人的自主性的一个最重要的因素，即人的认知上的自由还有没有？就是说我能不能够去想这个问题，我把别人的记忆移植到我的大脑里面以后，我怎么知道这是移植过来的还是我自己的？我搞不清楚。这就是我们将要经历的事情。

那么现实层面的话，智能化其实已经带来一些不平等的极端化。我们现在可以看到，人工智能的出现和网络时代的来临以及网络科技的发展是一脉相承的。比如，我们可以看到的一个事实就是，低报酬与高报酬的职位是同等增加的。我们一边可以看到网络的高管可以拿到很高的薪水，另外一方面我们也看到那些外卖小哥，他们的工资是很低的，这是一个值得我们注意的问题。

另外，当下网络和金融的发展已经导致了分配体系的极大扭曲。我们甚至可以说，当下的金融体系或者科技金融并没有创造那么多的价值，这也是值得我们反省的。另外，在这样一个“赢者通吃”的时代，在这样一个“网红经济”的时代，明星们的收入也是拜当下的新媒体或者是智能化的发展所赐。

再就是我们可以看到，智能化时代来临以后，我们可以列一个所谓的“人类剩余优势清单”，就是我们人类还剩下哪些优势？这也可以说是一种危机意识。也许现在我们还可以说我们有创造性和变通性。但是也有人讲，人工智能现在也可以绘画了，或者可以作曲了。然后有人说我们人类有一种社会自觉，所谓社会自觉就是我们能够搞关系。英文中有个词ralation叫“关系”，说的就是我们中国人的这样一种社会关系、社会交往能力。

再就是谈判和所谓的“论证”，哲学家的这样一种论证。当然，我们将来还会有很多新的疾病，比如说虚拟现实成瘾，其实就是我们现在的电子游戏成瘾。我们分不清楚哪些是现实，哪些是虚拟，有一定的障碍；还有身份的认同焦虑等等。说到身份认同，因为我们将来有越来越多的事情是交给智能化的代理去做的。现在有一些微信“大咖”，他们都是在用机器人来帮他发微信的，你不要以为是他本人在发。我们现在想一想，一个人有50个群，他到底是哪个群的群主，恐怕连他自己都搞不清楚，现在就是这么一个情况。

当然还有很多其他情形，有些是科幻性的，比如说机械移植，具有排异性。还有就是吃了聪明药以后，智能增强以后，有时候会导致精神疾患。因为你一旦不吃那个药的时候，马上就会对自己的信心不一样了，甚至会对自己失去信心。还有就是机器人的恐惧症、自我刺激的成瘾，现在还有所谓的性爱机器人。再就是人真正寿命延长以后，你自己都活得不耐烦了，不是没有这种可能。这样的话，未来的社会就会出现两种情况，第一种就是由机器人来掌控世界。它指的不是我们现在科幻电影讲的机器人来主动掌握这个权利，或者人主动放弃这个权利。实际上是什么呢？实际上是人对机器的高度依赖。我们知道，社会发展到今天，需要面对的问题越来越复杂，我们越来越多地依靠智能机器人，依靠这种智能化的机器。实际上最终会出现的一个情况就是，人不得不把自己的决策权让给机器，而且人依赖于机器，等到真正机器本身出现问题的时候，人也不可能再去关闭这个机器，因为关闭机器就意味着自杀，就像现在，如果把网络关了，就意味着这个社会可能会瘫痪。这是第一种未来情景。

第二种未来情景，就是人类继续保持对机器的控制，这种情况也是有的。但是在这种情况下，它实际上和当下是不一样的，它实际上只能是少数精英掌握了技术，而普通人是不太能够掌握技术的。也就是说，有可能大众对整个系统来说不是那么必要，反而成为累赘，这就是所谓“无用阶层”的出现。

“无用阶层”的出现将来会产生一个很大的产业，就是要对他们进行心理疏导和社会管控，要从心理和精神层面对他们进行智能化的引导和校正。由此可能会带来更多的社会问题。

二、数据智能与解析社会的来临

刚才讲了很多科幻的情况，下面我们再来讲一讲现实。现实是什么呢？就是数据智能和解析社会的来临。一方面我们的数据是呈指数增长的，这个大家都知道，我就不多说了。实际上现在是一种什么情况呢？简单一句话就是，数据就是存在。就是不管你是主动还是被动，我们都是数据的贡献者。所谓解析社会，就像我们在近代科学早期出现的解析几何一样的，古典的欧式几何只是解决了平面几何的问题，解析几何才能解决物体轨迹的问题。而现在，解析社会通过数据能够解析什么呢？我们通过数据能够精确地描述每个人的行为轨迹，这是一个极其巨大的变化。就是说，一切都将被记录，一切都将被分析。

13世纪的时候，人们发明了透镜。有了透镜以后，我们才有了眼镜，我们的近视眼和远视眼的问题得到了解决。后来我们有了望远镜，有了显微镜，我们可以看到整个世界自然的图景。但是我们现在是在用数据透镜来改变我们的社会，用数据透镜来进行政治的计算。通过数据的解析，我们甚至可以站在上帝的视角来看整个社会是怎样来发展的，包括我们现在有很多网格的管理，，然后我们还有很多的测绘测时。比如说我们有个技术，把每个人的微表情全部记录下来，然后就告诉你在上课的时候，你在听演讲的时候应该怎么样，你应该怎么样去跟人家互动等等。而且这个东西看起来是非常客观的，所以它对人的控制力应该是很强的。换句话说，数据透镜最后起到了一个什么作用呢？就是对人的行为的一种智能化的调节。它的社会应用实际上是很广泛的，我们知道我们现在所有采集的数据，实际上很多东西本来只有单一目的，但是一旦成为数据被记录下来，就可以有多重目的了，就可以有各种各样的用途。比如，我们可以把你的医院的数据和你犯罪的数据结合在一起，然后判断你可能真的有某种精神疾患，所以才去犯罪。

另外，我们的数据整合有时候会带来意想不到的效果。有好多人，只要上网点击一个什么东西，人家马上就会知道你的电话号码，就会马上给你打电话推荐什么东西，更不要说把所有的数据都整合起来，就会具有这样一种评价社会的功能。实际上，评价社会对我们人类自身的行为也是一种调节。比如说我们去坐滴滴的时候，滴滴的评分是很重要的，因为滴滴是“记仇”的，如果你老是取消订单，那么在你特别想打车的时候它就会不给你派车，因为它给你评分了，它认为你的信用度不够高，还有就是什么人给贷款、什么人不给贷款。有的领导说为什么我的保险高、你的保险低？有可能就是因为你在某一天跟人家路怒，跟人家打架了，然后有摄像头拍下来了，那就表明你在安全上是有问题的，所以你的保险金就高，但是它不会告诉你。另外，现在还有预测犯罪的问题，我们现在就有很多这样的例子。但是预测犯罪跟我们以往的无罪推定还是有些不一样的。   

大家知道，现在有一种运动就是所谓的“可穿戴设备”，就是量化自我，通过一种跑步软件，可以统计每天跑多少步。但是如果我们每天在朋友圈去刷“今天跑了10公里，明天跑了10公里”，实际上这也是我们屈从于机器职能的一种表现。而且，我们要知道，还有很多东西是不可量化的，将来还有很多智能化的生活。我们现在正在进入一个老龄化的社会，很多小孩和老人都可以有自己的智能陪伴。甚至如果我们现在的记忆不够用了，还可以有自己的所谓“记忆管家”，也就是一个智能陪伴，它从小就陪伴在你身边，对你生活的所有细节进行录像。有时候你可能很多东西都记不起来。比如说“我上次见到我爸爸是什么时间”“我送了他什么礼物”，或者“我见到领导讲了什么话”，它都能帮你记下来。再就是我们现在身体的数据也是透明的，这个透明的数据包括基因检测等资料，但是这些数据已经跟以往不一样了，它看起来是属于你的，但是实际上是属于整个社会的，因为你的基因检测，只有每一个数据都拿来共享、都拿来分析的时候才有价值，才能看出来它们之间的差距。不能说你的数据不用，他的数据也不用，全部都成为数据的“孤岛”，那这些数据就没有意义了。这是我要讲的一个情况。

实际上，我们现在正在经历一种控制革命2.0。什么意思呢？就是从近代以来人类社会经历了一种控制的革命。我们以前从熟人社会到了一个陌生人的社会，进入工业社会以后，大工业化的生产需要进行管理。所以不论是科学管理，还是电报、电信技术的出现，都是为了对这个社会进行某种控制。我们现在有了一种新的控制，有了数据以后，我们就要对这个社会进行一种最大限度的解析，进行一种观测、监视、预测、评价、诱导。一个很典型的例子就是澳门的赌场，它是一个绝对精细化的智能化的设计，你进去以后上演的行为，全部都是它给你设计好了的。