当机器开始思考，人类如何与之相处

习近平总书记在2026世界人工智能大会暨人工智能全球治理高级别会议开幕式上发表主旨讲话，提出人工智能的四大时代之问，首问便是：“当机器开始思考，人类如何与之相处？”这一问，既是技术之问，更是哲学之问、文明之问。它指向人机关系的现实课题，更触及人的主体性。四问之中，第一问是总纲：人的主体性立住了，安全、治理、普惠三问才有依归。人工智能加速走进生产生活，答好这一问，才能为智能时代立心、为技术发展定向。

要回答“如何相处”，先要弄清机器“思考”意味着什么。从图灵测试到“中文屋”之争，机器能否真正思考，是贯穿人工智能发展史的追问。今天的大模型能写诗作画、推理论证，展现出前所未有的思考能力，但“中文屋”揭示的问题并未过时：机器做的是符号层面的模式匹配，还是对意义的真正理解？从机制看，这种思考仍是对海量数据的统计拟合与重组生成。按照马克思主义认识论，意识是人脑的机能、社会实践的产物；人工智能本质上是人类智能的物化，能模拟思维的部分形式，却不具备在社会实践中生成的自我意识。可以确定的是，无论机器多聪明，它都不承担自身行为的责任与后果——意义的生产者、价值的尺度，始终是人。承认机器思考的能力，才不会低估技术变革的深刻程度；认清机器思考的边界，才不会在智能浪潮中迷失人的位置。

纵观人类技术史，人与机器从来不是对立关系，而是延伸与成就的关系。石器延伸了人的肢体，蒸汽机放大了人的体力，计算机强化了人的计算与记忆，而人工智能第一次逼近推理、判断与创造等曾被认为专属于人的高阶认知能力，人机关系由此从“体能外包”迈入“智能协同”。每一次技术跃迁都引发过机器取代人的忧虑。历史表明，机器取代的是部分劳动，而技术红利能否转化为人的更大发展，取决于社会制度和治理方式。人机关系如何安排，不仅关乎技术路线，更关乎人类文明走向。这决定了讨论人机相处，既不能沿用工具中立的旧眼光——算法负载着价值；也不能陷入技术恐惧的旧窠臼——把伙伴当作对手。

从现实看，人机相处的课题已摆在每个人面前。智能助手深度参与学习和工作，有人把记忆、判断乃至决策让渡给算法；智能陪伴让一些青少年和老年人对虚拟关系产生情感依赖；算法调度支配下的新就业形态劳动者，面临人围着机器转的异化风险；人机混合决策出错，责任如何界定仍在探索。这些问题的实质，是技术快速迭代中人的主体地位被悄然消解。治理的着力点不能仅停留在技术安全层面，更要守住人在劳动、认知和决策中的主体性。

对于这个课题的回答，习近平总书记强调，各国应当秉持以人为本、向上向善理念，并明确指出“人工智能应当成为人类的可信工具”，“确保人工智能始终处于人类控制之下”。在我国实践中，这一立场贯穿人工智能发展和治理全过程：从2023年《全球人工智能治理倡议》把“以人为本”确立为核心理念，到《互联网信息服务算法推荐管理规定》《生成式人工智能服务管理暂行办法》把人的权益保护嵌入算法治理；从实施“人工智能+”行动、让智能技术服务教育医疗养老等民生领域，到加强新就业形态劳动者权益保障。机器越聪明，制度越要兜住人的权益、守住人的主体地位，这正是“以人为本”从理念落到实践。

答好这一问，还要在实处用力。一是守住人在关键环节的最终决定权。司法、医疗、公共安全等攸关权利与生命的领域，必须确保“人在回路”，机器辅助判断而非替代决断，责任链条清晰可溯。二是提升社会成员作为技术使用者的智能素养，把人工智能通识教育融入国民教育各阶段，引导公众既善用智能工具，又保持独立思考，防止“认知外包”弱化思维能力。三是让青年一代作为技术创造者担当主角。习近平总书记指出，“人工智能是年轻的事业，也是年轻人的事业”。青年既是智能工具的创造者，也是人机关系的塑造者，要在技术创新中坚守人文关怀、在创造机器的过程中守护人的主体性。青年如何选择，很大程度上决定人机关系的未来走向。四是在全球治理中凝聚人机相处的人类共识。人工智能是全人类共同的智慧结晶和宝贵财富，如果少数国家垄断规则、平台垄断红利，甚至泛化国家安全概念、把本国安全凌驾于他国安全之上，人机协同就会异化为少数人对多数人的支配，发展中国家人民可能连选择的机会都没有。我国践行真正的多边主义，切实发挥联合国的重要作用，帮助全球南方国家加强能力建设，让各国人民有条件参与塑造人机关系，而非被动接受他人设定的技术秩序。

“天地之性，人为贵。”机器可以越来越会思考，但人的主体地位不可让渡，人的价值尊严不可化约。坚持以人为本、向上向善，让机器的思考拓展而非压缩人的发展空间，人工智能就能成为促进共同繁荣、维护共同安全的动力源。“当机器开始思考，人类如何与之相处”？以人的主体性驾驭智能之变——这个问题的答案，不在算法里，而在人自己的选择与行动中。

（作者系南京大学至诚特聘教授、复杂系统管理研究院院长）