人工智能时代：发展逻辑与治理挑战

伴随此轮人工智能发展高潮，社会中普遍存在这样的担忧与疑虑：机器是否会取代人类，人工智能是否会成为人类文明史的终结？

在未来的人类生活中，人工智能也必将扮演越来越重要的角色。对于这样的图景，我们自不必惊慌，但也不可忽视。监管人工智能，找到正确的方向并采取合理的措施，正是当下所应该重视的政策议题。

人工智能在其60余年起起伏伏的发展史中，再次迎来了高潮。但伴随此轮发展高潮的，同样还有社会中普遍存在的担忧与疑虑：机器是否会取代人类，人工智能是否会成为人类文明史的终结？

这样的担忧自有其合理性所在，而也正是基于此，要求政府介入并对人工智能的发展进行监管的呼声不绝于耳。可问题在于：对于一个尚未成为现实而仅存在于想象中的“威胁”，究竟应该如何施以监管，以避免“孩子跟洗脚水一起倒掉”？

事实上，监管的难题并不在于如何平衡技术发展的利弊两端，而是如何准确定位技术的潜在威胁并有针对性地施以监管。换句话说，人工智能的危害真的是“取代人类”么？若如此，唯一合理的监管方式可能就是完全禁止该项技术的研发。考虑到人工智能技术的应用已经遍及生活的方方面面，从搜索引擎到社交网络再到定制新闻，不一而足。也正因为此，我们可能需要重新反思当前对于人工智能的担忧是否成立。如果不成立，其真正的威胁又是什么？在回答这些问题的基础上，我们才有可能找到监管人工智能的合理路径，并使之更有效地服务于人类、服务于未来。

人工智能：究竟应该担心什么

2016年10月19日，霍金在剑桥大学Leverhulme未来智能中心的开幕仪式上发表演讲，声称“人工智能可能是人类文明史的终结……其在人类历史上，可能是最好的，也可能是最糟糕的”。这并不是霍金第一次对人工智能的发展发出警告。2014年在接受BBC的采访时，他也表达了类似的观点。自那之后，霍金也积极投入到宣传、推动对人工智能研究进行合理规范的行动当中。事实上，Leverhulme未来智能中心成立的重要使命之一便是化解AI（人工智能）可能带来的风险。

霍金并非“杞人忧天”的唯一，特斯拉、SpaceX的创始人埃隆·马斯克同样屡次警告人工智能潜藏的巨大风险。在霍金、马斯克等人的推动下，超过892名人工智能研究人员以及另外1445名专家共同签署并发布了《人工智能23条原则》，以确保人工智能的发展行进在正确轨道上。

人工智能是否会取代甚至“奴役”人类的可能性并非是针对其的唯一担忧，人工智能对于就业的冲击、社会不平等状况的加剧同样是引起人们焦虑的重要原因。《未来简史》的作者尤瓦尔·赫拉利就直接指出：人工智能的发展将导致大量失业等社会问题的出现，并使得少数个体成为“超人”中的新精英而大部分人类都将沦为在经济、政治意义上毫无价值的个体，由此人类将进入最不平等的时代。

我们是否应该相信霍金、马斯克和赫拉利等人对于人工智能的担忧呢？不同的人有不同的观点。扎克伯格就曾批评过马斯克，他认为“现在对于人工智能安全性的担忧，就如同两百年前担心飞机坠毁怎么办一样。如果我们总是过度担心安全性，我们就不可能造出飞机。”事实上，历史上任何一项颠覆性的技术进步都伴随着诸多质疑，无论是原子能技术的发明，抑或是基因工程的突破，无不如此。但历史最终证明，人类社会的发展并未陷入混乱或终结，这也说明当前对于人工智能的担忧或许存在一定的夸大成分。

不过另一方面，人工智能的发展又的确潜藏了巨大风险，放任自流的监管态度明显不是最优选择。同样需要指出的是，自1960年代OECD提出“知识社会”的概念之后，技术发展就成为了与土地、人口并重的国家竞争力的重要体现之一。如何通过合理监管以有效引导本国人工智能技术的发展，自然成为各国政府绕不开的难题。也正因为此，当前争议的核心并非“是否应该对人工智能的发展进行监管”，真正的挑战在于“监管什么”，以及“如何监管”。

事实上，只有回到人工智能技术本身并从其基本原理出发，才能正确理解什么是人工智能，它能干什么、不能干什么，潜藏的价值和风险又是什么。只有建立在对这些问题正确理解的基础上，我们才能为未来的监管政策提出有益建议。