AIGC对社会治理的机遇和挑战

马亮 中国人民大学国家发展与战略研究院研究员、公共管理学院教授

黄璜 北京大学政府管理学院副院长、教授

段伟文 中国社会科学院哲学所科学技术哲学研究室主任、研究员

闵勇 北京师范大学新闻传播学院计算传播学研究中心副主任

点此查看完整报告

马亮：大家好，本次圆桌论坛的主题是“AIGC对社会治理的机遇和挑战”。今天请到三位专家来到现场，三位专家关注人工智能技术在数字政府建设和社会治理创新方面的不同领域。AIGC（生成式人工智能）技术是人工智能技术的一种重要应用，它具有广泛的应用前景，可以为人们带来更多的便利和创新。我们特别关心的是，AIGC技术在数字政府建设和社会治理方面有哪些应用？首先请段老师为我们分享，您长期关注技术哲学的问题，谢谢。

段伟文：谢谢主持人，我认为AIGC可以被视为一种尝试性的表述。从对话式和生成式人工智能的发展态势来看，这次人工智能革命的重点并不在于其内容，而在于它作为一个新的知识生产引擎。如果从知识生产引擎的角度来理解，我们可以更全面地把握这次人工智能革命的真正意义。从数字治理和公众使用的角度，人工智能可以成为我们的助手，提高效率，但也可能会导致就业替代。然而，这次的人工智能革命也面临着巨大的挑战。由于它基于跨模态或多模态的基础大模型，在全域应用中，其准确性和恰当性面临着巨大的挑战。换言之，人工智能的发展已经采取了许多技术手段，但在治理环节中仍可能存在一些疏漏。因此，这种技术最大的挑战在于其稳健性，而稳健性又与其规模密切相关。如果某项技术只应用于某个垂直领域，其影响较小，可是一旦在全方位铺开，某些事件可能会放大其影响。

马亮：非常感谢段老师的分享，下面有请黄老师分享您的观点。

黄璜：我们从数字政府的角度，在调研过程中发现各级领导干部对人工智能都非常关注。尤其是ChatGPT的出现，引起大家对这项技术的重视和思考。其实，ChatGPT只是一种标志性技术，它的出现引起大家对人工智能的关注和重视，并引发对未来可能带来的变化的思考。随着技术的不断发展，我们需要传递正确的声音，让大家知道，现在很多人对AIGC和ChatGPT的畅想，是建立在整个人工智能技术的基础上的。虽然这种畅想很有意义，但是目前我们更需要思考的是如何使用这项技术解决现实问题。我们需要从实际出发，利用这项技术去解决具体的问题，这是我们后面需要开展的工作。

马亮：对，大家刚才谈得特别好。我现在想问各位老师，人工智能技术在哪个典型场景的应用是你特别期待的？首先请教黄老师，特别是在政府领域，您可以谈一下。

黄璜：从AIGC的角度考虑，其场景需要考虑到政府治理或社会治理中的生成需求，这可能涉及到对外部的智能问答和对内部的知识集成。政府本身也是一个知识系统，需要一套知识来指导其政策制定，因此AIGC可以发挥一定作用。至于使用这种技术来公文写作或制定政策，我想用ChatGPT辅助公文写作可能有一定作用，但在体制内的同志应该知道，制定政策是一项非常复杂的工作，不能简单地通过数据集成来完成。虽然未来可能有所期待，但至少目前还不用担心。

马亮：谢谢，接下来有请段老师。

段伟文：目前所谓的AIGC或类似ChatGPT的应用实际上主要是一种演示，展示了一个样本。它们之所以能够进行大规模的演示，是因为背后调动了巨大的算力。这些应用是资本竞争的产物，资本和技术紧密结合，旨在抢占市场。在某些领域，例如翻译，这些应用确实能够为外语水平不高的人提供帮助。因此，从大的方向来看，我们可以借助这个机会反思并改变以往对互联网内容的管理方式，将其真正转变为以信息搜索引擎作为知识生产引擎的基础。在这种情况下，一个大的应用领域是AI驱动的科学研究平台。这个平台中，大量的国内外文献本身质量较高，如果能够善于运用机器翻译并与专业人士相结合，就可以充分利用这个机会，推动科学研究的发展。

马亮：对，这点我觉得也特别重要。下面请闵老师分享。

闵勇：我想回顾一下社会中应用比较广泛的几个人工智能领域。第一个是人脸识别，这个现在大家经常都会碰到，比如坐车和进出单位可能都会有这个应用。第二个是算法推荐，这是中国本土原生态比较成功的一个人工智能应用。第三个是以ChatGPT为代表的内容生成应用。这三个应用有一个共同的特点，我把它叫做容错性。即使人脸识别系统有时刷不出或认错人，一般都会有保安或工作人员进行人工干预。算法推荐可能会推送错误的内容，但一般不会对用户造成太大的损害。ChatGPT的应用场景是在搜索引擎上，搜索引擎产生错误是被允许的。

从这些已经成功应用的人工智能领域来看，我们需要对人工智能有一定的宽容度。企业应该适度放宽对人工智能的要求，不要期望其完全替代劳动者。如果我们能够对人工智能的要求适度放宽，把它作为一个信息辅助和知识采集的角色，这样我们能够看到更多人工智能的应用领域。