无人智能武器装备的伦理风险及其治理

无人智能武器装备的伦理风险及其治理

由于无人智能装备的大量使用,现代战争中无人武器装备对有生力量的杀伤情况已经越来越普遍。特别是随着参战武器装备智能化的不断提高和一些技术领先国家的选择性无视,一直存在巨大争议的机器对人的“自主杀戮”行为事实上已经出现。这些机器“自主杀戮”行为的出现不只在伦理上对人类的战争观形成了巨大冲击,对战场支援特别是对有生力量的保护和救护工作也形成了全新的挑战。

技术优势与人道代价的博弈

有些国家对“自主杀戮”智能装备的开发讳莫如深,具备“自主杀戮”功能的武器装备不但已经出现,而且正越来越多地用于各种军事行动。这些“自主杀戮”装备承担的任务,从早期对特定目标的暗杀,已发展到对局部战场的优势争夺,未来将向达成战役目标的主力方向发展。

2025年2月,100多个国家和地区的政府领导人、国际组织和科学家代表参加了在法国巴黎召开的人工智能行动峰会,峰会发布了《关于发展包容、可持续的人工智能造福人类与地球的声明》,声明提出人工智能技术发展与应用应开放、包容、透明、合乎道德、安全、可靠且值得信赖,鼓励有利于未来劳动力市场和可持续发展的人工智能部署,加强国际协调治理等。即使这样一份缺乏强制约束力的愿景声明,一些在全球AI技术发展和应用处于领先地位的与会国家仍未签署。

这一事实凸显了世界智能技术强国间对于AI技术治理的分歧与博弈。而这种分歧的存在必将加剧大国间智能武器装备发展与应用的竞争。如果技术领先国家不愿对先进智能技术军事应用的安全风险加以约束,那么其他技术跟随国家,即使自身“甘为鱼肉”实现严格的技术安全承诺,也会因竞争对手的技术发展而承受技术失控风险。军备竞赛和恶性技术竞争正是由此而来。正如著名作家与历史学家尤瓦尔·赫拉利在其新作《智人之上》中指出的,“人工智能的危险不在于机器拥有自主意识,而在于人类自身的弱点会被算法无限放大。”

因此,如果在大国竞争的背景下,只在伦理与道德层面讨论或谴责“自主杀戮”装备出现的挑战是远远不够的,更要为面对这些“自主杀戮”武器装备可能造成的人类伤亡,切实做好包括技术与装备发展的各方面应对准备。

改变战场救治模式

在最近的几场战争中,由于无人作战装备的大量使用,战场伤员救护已经呈现出一些新特征。例如,当前局部战争的创伤数据与十年之前的数据相比,由于无人机的大量使用,战场上爆炸贯通伤比例大幅增加,约占战场创伤比例的75%。这是因为目前无人机对步兵的作战方式以精准投弹或自杀攻击为主。而远程精确制导武器的使用,也使得爆震伤比例有较大幅度提升。

相应地,由于大量无人武器的使用隔绝了双方士兵的直接对抗,枪弹伤和烧伤比例都出现了较大幅度下降。由于无人武器的精确打击,形成了对前线战场支援的有效压制,也进一步导致伤员的骨缺失和肢体丢失情况更为普遍,使伤员截肢率有较大幅度提升。而这些新的创伤模式也对战场救治提出新要求,必然需要新的救治技术加以应对,特别是高技术装备的支持和救护措施的调整。

上述事例,只是当前无人装备扩大使用后对人员救护的一个阶段性影响。无人装备的使用和对抗形式仍处于快速演变过程中,这必将导致救治伤员时面对的情况持续变化。目前,无人装备主要袭击的对象仍是敌方的有生力量。虽然已经有无人装备间的相互对抗,但都是小规模的,且大部分无人武器还是受人遥控指挥,人类参与程度比较高。但必须看到的是,在当前局部战争中,随着无人装备间对抗的加剧,高度自主的“自主杀戮”武器已经投入使用,并且造成包括平民在内的人员伤亡。

可以预见,不远的将来,随着去中心化的集群式无人装备应用越来越广泛,此类伤及平民的事件也将在现代战争中越来越普遍,对战场有生力量的保全和救助都造成了巨大挑战。鉴于无人技术装备体系的发展特点和无人作战装备多样化,未来“自主杀戮”武器对有生力量的杀伤特点也会变化,而这种变化将是一种常态。需要认识到,在体系竞争与对抗的时代,这种挑战的快速变化才是需要认真面对的最大挑战。

坚持一体化的能力建设方向

如前所述,技术发展并无善恶,但是使用者对新技术的应用方向,决定了新技术投入使用后积极或消极的影响。当参战一方把“自主杀戮”智能装备作为主力装备规模化使用后,如果对手没能力把有生作战力量从战场一线撤出的话,那么应用方就会取得巨大的不对称优势,但同时也可能造成巨大的人道灾难。目前,受制于一些关键技术,定向能武器等反“自主杀戮”武器集群的技术装备体系建设尚不成熟。

对于某些军事强国以大量应用“自主杀戮”武器获取战场优势的企图,导致其他国家只能通过发展更多样化的、更大规模的“自主杀戮”武器装备体系加以应对。而负责任的大国,需要对这种技术装备恶性竞争产生的后果有充分认识,“自主杀戮”武器大量应用带来的巨大改变绝不限于作战方式,对于人道主义的巨大冲击也是必须面对的,并为减少相应的人道主义危害做好相应的技术与装备准备。

完整且充分融合的正向科技工业体系基础,是新质生产力和新质战斗力萌生发展的来源。也只有科技工业持续保持正向发展的活力,才能高效应对体系竞争变化带来的挑战。特别需要指出的是,智能作战体系的构建需要多个人工智能的集成,但这些人工智能基本是专业智能而非类人智能,在军事智能体系构建中,需要建立包括人道救助所需的更广泛的专业智能。坚持一体化的能力建设方向,促进包括医疗救护装备在内的各种非作战技术装备与相关专业智能发展相融合,从体系建设的长远角度看也是更具优势的做法。

归根结底,面对“自主杀戮”武器大规模投入使用的潜在风险,需要加速构建充分一体化且高效协同的智能装备产业体系和能力。

责任编辑:王梓辰校对:张弛最后修改:
0

精选专题

领航新时代

精选文章

精选视频

精选图片

微信公众平台:搜索“宣讲家”或扫描下面的二维码:
宣讲家微信公众平台
您也可以通过点击图标来访问官方微博或下载手机客户端:
微博
微博
客户端
客户端
京公网安备京公网安备 11010102001556号