十多年来，各国一直在日内瓦的联合国开会讨论自主武器系统（AWS）的治理问题。一次疫情，几次人工智能（AI）在现实世界中被用于目标决策的案例，以及后来的多次会议，各国越来越一致认为，应该通过禁止和限制来应对AWS带来的挑战，即所谓的“双层”方法。但是，尽管在基本结构（即两个层次）上取得了进展，但这些层次的实际内容仍存在争议

为了帮助各国详细说明两级管理自动武器系统的可能要素，斯德哥尔摩国际和平研究所（SIPRI）的Laura Bruun从过去的军备控制谈判中指出了三个教训，这些教训可以应用于自动武器系统辩论：第一，禁止不需要以明确定义的武器类别为基础，第二，限制可以用来澄清国际人道主义法在自动武器系统特定背景下的要求，第三，如果有意愿（和需要），两级文书可以基于国际人道主义法以外的关切

红十字国际委员会人道主义法；政策博客·重塑轮子：AWS辩论可以从现有的军备控制协议中吸取的3个教训

武器系统自主性的进步——在很大程度上是由人工智能的进步促成的——正在迫使政府深入思考人类和技术不仅可以，而且应该如何在瞄准决策中相互作用。十多年来，各国一直在日内瓦开会，讨论如何管理AWS的大问题：一旦激活，就可以在没有进一步人类干预的情况下选择和使用武力的武器系统

尽管各州对如何应对AWS带来的挑战仍有截然不同的看法，但各州之间现在越来越一致地认为，AWS至少应该通过“两层”来管理。一方面，“两层方法”旨在禁止某些类型和使用AWS，另一方面，对所有其他AWS的开发和使用进行限制和要求

现在，一项关键任务是就这两个层次的实际内容达成一致。什么技术特征（如果有的话）会使AWS的设计和使用成为禁区？为了确保允许使用AWS并确保保留人的责任，需要哪些限制

虽然就两个层次的内容达成一致确实是一项复杂的工作，但这不是各国第一次处理这样的任务。许多现有的军备控制协议遵循两层结构——问题是我们可以将什么教训应用到AWS的辩论中

AWS对军备控制界来说可能是新的，但两级方法并不是

在军备控制的整个历史上，外交官们都采用两级方法来应对特定战争手段和方法带来的人道主义和安全挑战。例子包括《生物武器公约》、《化学武器公约》，《特定常规武器公约》五项议定书中的三项（经修正的关于地雷、诱杀装置和其他装置的第二号议定书、关于燃烧武器的第三号议定书和关于致盲激光武器的第四号议定书），《集束弹药公约》和《禁止杀伤人员地雷条约》

尽管所有这些文书在法律地位、内容和目的上都有所不同，但它们都是相对较新的两级军备控制协议的例子，包括完全禁止和限制（后者通常包括对使用的具体限制和/或积极要求）

为了推进已经很复杂的关于自动武器系统的讨论，各国退一步，将自动武器系统辩论置于军备控制的历史中是有帮助的；具体来说，现有的两级工具是如何建立的，这至少为AWS的政策过程提供了三个有用的教训

AWS辩论可以从过去的两级法规方法中学到三件事

第1课：禁令不需要以明确定义的武器类别为基础

辩论中的一个核心问题是如何定义AWS，以及就定义达成一致是否是开发工具的先决条件。一些国家，如印度，认为这是必要的，因为否则，国家就无法知道自己在监管什么。其他国家，如巴基斯坦和巴勒斯坦认为不应该这样做，特别是因为AWS被认为是一种能力，可以添加到现有武器中，而不是一种独特的武器类别，还因为AWS代表了一组正在发展的技术

为了推进关于AWS是否应被视为一类明确定义的武器的讨论，考虑一下过去哪些成为了两级法规的主题是有帮助的。在这里，我们看到，各国围绕以下四类制定了禁令：

武器的物理描述，例如化学和生物武器、致盲激光武器、不可探测、非自毁或非去激活地雷、集束弹药和杀伤人员地雷
某些功能，例如，“由于人员或车辆的存在、接近或接触”或“投放到目标上的物质发生化学反应”而引发爆炸的武器
某些效果，例如设计用于“点燃物体或燃烧人员”的武器，或导致未增强视力永久失明的武器；和
某些用途，例如在平民集中区内使用空投燃烧武器进行攻击或部署针对平民的杀伤人员地雷

这表明，禁令确实可以灵活变通，以解决不同类型的关切，而不仅仅是特定类别武器造成的关切

回到AWS的辩论中，需要解决的问题是，这些因素的组合是合适的。这需要更深入地讨论AWS的关注点：是特定的技术特征、特定的用例、特定的效果，还是其他什么

考虑到政策辩论中表达的关切，在目标决策中解决与自主功能相关的关切似乎特别重要。也就是说，人们担心某些自主功能是否会损害人类履行国际人道主义法规定的义务的能力，以及在发生非法行为时调查和追究责任的能力

这表明，在AWS的背景下，与进一步探索相关的类别类型与某些功能有关。例如，各国可以探讨制定禁止类型的自主功能的可行性，这些功能会造成不允许的人机交互配置，并且不允许用户对目标确定决策行使必要的控制

第2课：可以使用限制来澄清在AWS的特定上下文中IHL的要求

各州之间无可争议的是，必须开发和使用AWS以符合IHL。然而，国际人道主义法如何适用于AWS尚不确定。这种争论很大程度上源于许多国际人道主义法义务的开放性，为不同的解释留下了空间。在攻击中采取可行预防措施的义务（保护平民、平民和民用物体等）就是这场辩论的一个很好的例子。虽然在AWS的背景下，遵守这一规则被认为是特别关键的，但尚不清楚AWS用户需要什么“可行的预防措施”，以及它对AWS的使用地点、使用内容和使用方式有什么限制

然而，这远不是各国第一次就国际人道主义法如何适用于特定的战争手段或方法进行辩论——这是现有文书中的限制（通常是第二层的一部分）提供一些有用经验的地方。过去，各国曾利用限制提供机会，就国际人道主义法规定的现有义务如何适用于武器的具体情况提供更具体的指导。例如，现有文书对使用的地理范围（经修正的第二号议定书中的“明确标记区域”）或通过某些手段（第三号议定书中“空运”）进行了限制。其他例子包括具体说明国际人道主义法对用户在特定情况下的义务要求（经修正的第二号议定书中关于“标记、围栏和清除”的义务），以及具体说明采取可行预防措施的义务（经修正后的第二议定书中的“保护区域标记”和《第四号议定书》中的“武装部队训练”）

鉴于IHL在AWS环境中的应用尚不明确，各州可以效仿现有协议，使用第二层来规定IHL对AWS的开发和使用的限制和要求。事实上，参与AWS辩论的国家，尤其是GGE内部，已经为此迈出了第一步

虽然这两层的具体元素还远未确定讨论已经反映出一种协议，即第二层可以围绕操作限制（特别是目标类型、持续时间、地理范围、使用规模）和具体要求（例如，围绕用户培训和国家采取的国家措施）制定。为了进一步推动确定第二层次要素的努力，现有文书中反映的方法和细节提供了一些有用的共同参考点

第3课：如果有意愿（也有需要），两级文书可以基于国际人道主义法之外的关切

除了讨论两个层次的内容外，各州还讨论了AWS监管的两个层次方法是否应该只反映对国际人道主义法合规性的担忧，或者是否也应该考虑与国际人权法、道德或国际安全相关的更广泛的担忧。围绕哪些担忧应该——或者不应该——影响文书内容的紧张关系远不是AWS独有的。这在过去是如何解决的

首先，大多数现有的军备控制都是出于对遵守国际人道主义法的广泛关注：禁止使用致盲激光武器、杀伤人员地雷和燃烧武器就是这样的例子，因为人们担心这些武器本身就是滥杀滥伤或造成不必要的痛苦和过度伤害。此外，还有一些条例是出于更普遍的人道主义关切。例如，杀伤人员地雷的使用受到限制，不仅因为这将违反国际人道主义法，而且因为它们被认为是不人道的

然而，似乎没有什么比国家利益和战略关切更能影响最终文书了：从历史上看，各国对武器军事用途的看法似乎是决定如何构建和定义法规的最重要因素之一。这一点尤其反映在《特定常规武器公约》的议定书中，其中彻底禁止主要适用于各国无论如何都没有表现出军事兴趣的武器，例如永久致盲武器

事实上，正如民间社会组织第36条所说，《特定常规武器公约》尚未显示出解决与“实际军事相关”武器有关的人道主义关切的能力。在各国未能就如何解决具体人道主义问题达成一致的情况下，谈判已转移到《特定常规武器公约》等基于共识的论坛之外。《禁止杀伤人员地雷条约》和《集束公约》就是这样的例子

对于参与AWS辩论的国家来说，这更多的是一个提醒，而不是一个教训：提醒人们军备控制不是一种客观的做法，它本质上是一个政治驱动的过程。从历史上看，就如何平衡军事必要性和人道主义关切达成一致一直是军备控制界面临的挑战，只要AWS（至少在一些人看来）具有军事效用，解决平行人道主义关切的政治意愿可能会受到限制

参与正在进行的AWS辩论的国家对AWS带来的法律、道德、运营和安全挑战有着根本不同的看法，推进两层讨论的一个关键起点是确定他们共同希望或不希望在文书中解决哪些问题

监管流程而非技术

将AWS的辩论置于军备控制的历史中提醒我们，各州不需要完全重新发明两层轮子。外交官们以前也面临并解决过类似的挑战

话虽如此，一些挑战也是新的。AWS带来的困境似乎比以前监管的战争手段和方法带来的困境更为复杂。例如，自动武器系统不会产生被视为天生非法的特征效果，也不一定能被定性为化学或生物武器等天生非法的武器类别

AWS的独特特征提出了关于如何确保人类在目标定位中发挥（有意义的）作用的关键法律和伦理问题。有鉴于此，军备控制界被迫考虑，也许是第一次，它是否想扩大军备控制，以规范决策过程，而不是特定的技术；也就是说，它是否正在寻求建立一项文书，通过禁令和限制，旨在将人类遵守国际人道主义法的要求编纂成文，并反过来定义这些要求对自主功能的使用的限制

另请参阅：

Alexander Blanchard，人迹罕至的道路：国际监管辩论中的道德自主武器系统，2024年4月25日
Ingvild Bode，Tom F.A.Watts，《游荡的弹药：迫切需要具有法律约束力的武器系统自主规则》2023年6月29日
Vincent Boulanin，Marta Bo strong>，21年11月11日

简介