关注智能化武器装备运用风险
■罗兆成
当前，世界主要国家都在大力推进军事智能化建设，智能化武器装备已逐渐覆盖到各个作战域。然而，新技术在极大提升战斗力的同时，也可能会带来极大的风险。为此，我们应当前瞻预见智能化武器装备在战场上的运用风险，从而未雨绸缪，有效规避。
智能化武器装备的迅速发展，使得装备使用的物化技术所存在的风险明显加大。首先，智能化武器装备的抗干扰能力弱，其作战运用存在失控风险。当前阶段，各国使用的智能化武器装备往往需要后方人员指挥控制，极度依赖通信链路，一旦受到干扰，其作战效能就难以发挥甚至被对方所利用。近年伊朗利用干扰技术成功捕获美军无人机便是典型案例。此外，智能化武器装备赖以发展的人工智能技术其可靠性仍然存疑。在某些特定领域人工智能技术表现了其远超人类的“智能”，但其可靠性、可解释性仍然受到质疑。由于智能算法使用的训练数据存在偶然、甚至人为的数据偏差，使得该技术在运用时较为容易出现“偏见”。目前各国在智能化武器装备运用前都会对其进行反复的模拟测试甚至实战检验，但在理论上仍然没有一种可靠的测试方法，可以确保其一旦在复杂战场环境中运行不会出现故障。2019年11月，《纽约时报》就报道了一起美军在阿富汗的误炸事件，由于其空袭行动依据某个基于技术手段的单一源头信息，在实施打击之前美军也未进行重新核查，因而错误地将一场婚礼庆典当作空袭目标，导致数十名平民伤亡。
智能化武器装备大规模运用可能引发军备竞赛，导致不安全的人工智能系统存在被部署的风险。可以预见，智能化武器装备将是未来智能化战争的物质基础和必备手段。为获得优于竞争对手的军事优势，世界主要军事大国纷纷加大智能化武器装备的研究投入与装备数量，这种竞相发展智能化武器装备的做法使得各国陷入军备竞赛的可能性不断上升。随着智能化武器装备参与实战的比例不断升高，在武装冲突的危急情况下，以目前的技术而言，区分平民与作战人员的算法仍然难以保证其可靠性。对于各国而言，即使竞争对手实际上并没有实现人工智能技术的重大突破，但由于对技术落后的猜测和担忧，会促使各国急于部署并不完善且不可靠的人工智能系统以便争夺制胜优势，这可能会对所有参与其中的人与国家造成灾难性的后果。
智能化武器装备运用影响国际战略平衡，增加军事冲突爆发的风险。智能化武器装备运用增加了“打响第一枪”的风险。随着未来战场智能化武器装备的部署与运用的增多，其自主能力将进一步得到加强，其攻击的速度与强度将是难以预料的。发生争端的双方很大程度上会将智能化武器装备部署到最前沿，其对敌方行动的任何错误判断都可能导致冲突升级。一旦交火开始，由于担心己方部队遭受对手的打击，极有可能会促使一方实施先发制人的攻击。
智能化武器装备运用增加了危机失控的风险。大量智能化武器装备运用于作战，军事行动的速度可能超过政治决策的速度，决策者危机管控的能力可能被削弱。随着作战时间压缩、作战节奏加快，战场态势变化的时域切分更加精细，时隙越来越短、颗粒度越来越小，各方交换信息与评估选择的时间将被大大压缩。目前，智能化武器装备主要运用于常规作战，但对于在该领域处于弱势的一方，可能会认为其改变了军事平衡，极有可能促使弱势一方采用常规战争以外的手段进行应对。
智能化武器装备运用导致的军事文化、道德伦理和法律风险。目前，不同国家、民族和军队对使用智能化武器装备的认可程度不同。例如，斯蒂芬·霍金就认为“人工智能可能导致人类毁灭”。2018年，美国谷歌公司多名员工联合抵制参与军用人工智能研发，最终导致谷歌公司退出相关计划。即便如此，2019年美国仍然制定了军用人工智能伦理准则，为其发展智能化武器装备扫清障碍。
未来战争，智能化武器装备一旦大规模运用于作战，不同国家、民族之间的隔阂和争端有可能会越来越大，由于智能化武器装备使参战人员越来越远离战场，人们对于杀戮的排斥心理会随着距离的增加而逐渐变弱，谨慎决策和正当防卫的心理被逐步移除或降低，杀戮将不再是完全出于自保或特定政治目的，而是越来越取决于智能化武器装备在作战环境中运用的逻辑规则。另外，由于智能技术是一种典型的军民两用技术，技术扩散较难控制，容易被恐怖主义或非法武装利用。叙利亚战争中，恐怖组织就曾改装民用无人机，将其投入实战实施空袭。总之，智能化武器装备的诸多优势，使其发动袭击的门槛空前降低，极易导致暴力冲突频发，与战争伦理诸原则相悖，并有可能打破国际战争法的基本交战规则。
