人工智能及其风险的大众认知

王彦晶 北京大学副教授

点此浏览完整视频

点此浏览精彩观点

点此浏览课件

感谢“两界”高峰论坛的邀请，让我有机会跟大家交流最近我的一些想法。我们先来看一段话，这是从英文翻译过来的，大意是：“我不想吓唬各位，但是简单地总结一下：这世界上已经有了能思考、学习和创造的机器。而且它们做这些事的能力正在飞速地增长，在可见的未来，它们解决问题的能力会与人类旗鼓相当。”

这是谁说的呢？他是一位诺贝尔奖获得者，也是一位图灵奖获得者，他的名字叫赫伯特·西蒙。他是人工智能技术之父，是一个很著名的跨领域的天才。这段话是他在1957年说的，那时候人工智能刚刚发端，人工智能给我们带来了很多乐观的情绪。然而60多年过去了，赫伯特·西蒙当时很多的预计和设想并没有成为现实。

近年来，深度学习的进展又让我们看到了在不远的未来又能实现这些事情了，这样乐观的情绪在人工智能领域发展史中出现过很多次。我们乐观，我们被现实打败；我们继续乐观，我们又被现实打败。但是，这一次热潮不仅局限在计算机界，工业界、政府、学术界、教育界都在非常热烈地讨论人工智能的未来。历史会重演吗？这个我不敢说，也许是既会又不会。我们都希望这次人工智能技术进步是一次不同于往常的进步。

一、对于人工智能的认知

现在，工业界人工智能的领军人物是吴恩达，他把人工智能称作“新电力”。所谓新电力，是说它能像电力一样驱动很多已有行业或产业发生巨大变革和升级。大众对什么是“电”、它能做什么、有什么危险了解很多，但对于人工智能技术及其风险可能了解得很少。我们看到的人工智能产品是扫地机器人、自动驾驶车、对话助手等。人工智能本身究竟指的是什么？不同受众，不仅是大众，而且各个行业包括工业界、投资界、政府、哲学家、自然科学家和社会科学家，可能对人工智能技术及其发展的阶段都会有非常不一样的认知。事实上，如果我们能够推动大众对于人工智能技术及其风险的认知，很多事情做起来可能会更容易一些。

什么是人工智能？大众对于人工智能可能听到最多的是机器学习或者更具体的深度学习。事实上，我们去看权威的人工智能教科书，比如2011年出版的《人工智能：一种现代方法（第3版）》，一共有1095页，其中介绍深度神经网络核心算法只有10页。人工智能是一个非常大的领域，包含了各种各样的技术和问题的不同的搜索求解、知识表示与推理、自动规划、机器学习、感知觉与运动、自然语言处理等，但大众看到最多的可能是在人工智能领域机器学习中基于神经网的所谓深度学习的一小块的工作。

二、人工智能发展的现状

由于大量数据的获取、硬件上的升级、算法也有很多的想法，机器学习的效果确实有了极大的进步。同时，大量的资金和大量的聪明人涌入，当然会做出更多更好的东西来。事实上，很多学术界的成果，到目前为止还没有完全转化到工业界。工业界的应用主要还是以传统的、基于神经网所谓的监督学习为主。当然，搜索算法、贝叶斯网、知识图谱、逻辑推理等也在发挥作用，但是还没有出现通用人工智能的真正理论突破，因为欠缺可解释性、可迁移性与小样本的学习能力，未来可能属于符号主义与联结主义的融合互补。

三、人工智能发展的远虑与近忧

在人工智能发展中，远虑是指技术如果达到强人工智能或者类似于那种程度，会有很多威胁人类生存的问题。中期的忧虑是指由于自主决策的人工智能系统分担责任，人类可能面临失业问题。事实上，根据吴院士的说法，更多的是产业重组和旧工作的淘汰、新工作的出现。对于大众来说，更关心的是人工智能带来的近忧，也就是与切身利益相关的安全问题，用英文表达是safety和security。safety指是否能够安全地实现系统的目的，security更多地是指在外来恶意入侵或者破坏的情况下如何保证系统的安全性。我们要引导和提高全社会的安全意识，这是人文学者、技术专家、立法者共同面对的急切问题。

主要的机器学习的算法需要大量的人工数据，这些数据的采集和使用、保护是和我们每个人的生活息息相关的。最近大家都听说过剑桥分析公司在facebook上非法收集数据做了一些不好的事情，这是一件非常糟糕的事情。

在中国呢？有人说“中国人不介意用隐私交换方便”。当然，你得看这句话的前因后果。现实中，你生个孩子就立刻收到母婴产品的广告，你转了一笔帐就有人打电话问你要不要投资，你在网上发了一封电子邮件就收到很多在线广告，这些都是隐私的泄露。事实上，中国人在多数情况下还是很介意隐私的。最近我发现一个现象，我收到很多学生的来信都是没有署名的。当然，你可能觉得这是个礼貌问题，事实上很多学生跟我说，有时候就想问一个问题，但不想让老师知道是我问的。在互联网上，名字也是一种隐私，因为知道名字就可以搜索到关于这个人的各种各样的信息。

现在，中国人越来越有意识地去保护信息，比如在身份证复印件上加备注。前段时间发生了一件比较糟糕的事情，支付宝在帮助大家晒年度账单的时候，在很小的地方有一个默认勾选《芝麻服务协议》，当你在朋友圈高兴地分享年度账单的时候，同时也接受了《芝麻服务协议》把你的数据分享给相应的机构。

现实中，很多时候我们是没有选择的。大家在下载各种各样的APP时，它总会问你是不是接受那些条款。我想问大家，哪些朋友真的去阅读了那些条款？大家是不是也都选了同意？为什么？一个是服务协议太长看不懂，另外就是你有别的选择吗？不提供身份证号、不提供个人信息，这个APP你就没法使用。

对于人工智能的很多事情，为什么看上去是我们在用隐私交换方便？是因为我们不知道隐私交出去之后会有什么样的糟糕后果。