致命自主武器:AI控制的无人机群杀手离我们有多远(图)

ShieldAI公司的新技术创造了通过人工智能协同工作的无人机。该公司正在与国防部合作，但目前还没有武装无人机。 Erin Schaff/The New York Times

成群结队的无人机杀手可能很快就会成为世界各地战场的标配。这引发了如何或是否对其使用进行监管的讨论，并引发了人们对最终将生死决定权交给人工智能程序这一前景的担忧。以下是该技术的发展简史、正在开发的武器类型，以及相关讨论是如何展开的。

这些武器是新生事物吗？

人工智能终将使得武器系统可以自行选择特定类型的目标，并发起打击。人工智能技术的最新发展推进了围绕这种被称为“致命自主武器”系统的讨论。

但在某种程度上，自主武器并非新鲜事物。

在人或物体从地雷上方经过时，它会自动爆炸，这种设计早在19世纪的美国内战期间就开始使用，据信是由一位名叫加布里埃尔·雷恩斯的南方军将军首先发明的，他把地雷称为“地下炮弹”。



在泰国，士兵们在受控引爆前处理地雷。 Lillian Suwanrumpha/Agence France-Presse — Getty Images

虽然这些武器的首次使用远早于人们对人工智能的想象，但它们与今天的辩论存在关联，因为它们一旦投入使用，就不会受到人为干预，也不会区分预期目标和意外受害者。

五角大楼几十年前就开始扩充自动化武器。

从20世纪70年代末开始，美国开始扩展这一概念，推出了一种名为“捕获者反潜地雷”的武器。这种水雷可以从飞机或船只上投下，放置在海底，直到装置上的传感器探测到敌方目标时自动引爆。

从20世纪80年代开始，数十艘海军舰艇开始使用宙斯盾武器系统，该系统使用高功率雷达系统搜索和跟踪任何来袭的敌方导弹。它可以设置为自动模式，这样在人类介入之前，它就会发射防御性导弹。

制导武器系统是接下来的一步。

朝着更复杂的自主武器发展的下一步以“发射后可以不管”的制导武器形式出现，比如AIM-120先进中程空对空导弹，这种导弹有一个雷达导引头，可以在导弹发射后试图摧毁敌机时，精确定位导弹的轨迹。

前五角大楼高级官员、《无人军队》(Army of None)一书的作者保罗·沙雷写道，制导武器在发射后通常无法召回，就像“警察派去追捕嫌疑人的警犬”。它们在完善自身路径方面有一定程度的自主权，但沙雷将其定义为“有限的自主权”。鱼叉反舰导弹的操作方式与此类似，是有限的自主权。



2003年，美军在波斯湾的小鹰号航空母舰上操作AIM-120导弹。 Steve Helber/Associated Press

“游荡武器系统”可以高度自动化。

在乌克兰战争中，被称为“游荡武器系统”的自动化武器颇为醒目。这些设备至少可以追溯到1989年，当时一家以色列军事承包商推出了一种名为“哈比”(Harpy)的无人机，可以在空中停留大约两个小时，在数百公里的高空搜索敌人的雷达系统，然后对其进行攻击。

最近，加州的AeroVironment公司等美国军事承包商也推出了携带爆炸弹头的类似游荡武器系统。这种装置被称为“弹簧刀600”，它在半空飞行，直到发现坦克或其他目标，然后发射一枚反装甲弹头。

在武器击中目标前仍然需要人类签字。但是，将人类“排除在外”，使设备完全自主是相对简单的。

“现在的技术可以让你对这个设备说，‘去给我找一辆俄罗斯T-72坦克，别跟我说话，我要发射你了，去找它吧，’”AeroVironment公司董事长瓦希德·纳瓦比说。“如果它有80%以上的把握，认为找到了那辆坦克，它就会把目标干掉。整个端到端任务都可以是完全自主的，除了一开始的发射。”



AeroVironment公司的Switchblade 600在马里兰州国家港口举行的海军博览会上展出。 Jason Andrew for The New York Times

释放无人机群可能是一个更大的转变。

下一步的方向毫无疑问。

根据今年早些时候发布的一份通告，五角大楼正在努力建造无人机群。

预计最终结果将是一个由数百甚至数千架搭载监视设备或武器的人工智能增强型自主无人机组成的网络。无人机最有可能部署在中国附近，这样一旦冲突爆发，它们就可以迅速部署，并用来摧毁或至少削弱中国在其沿海和南中国海的人工岛屿上建立的广泛的反舰和防空导弹系统网络。

这只是五角大楼目前正在进行的一系列努力之一，其目标是在未来一两年部署数千架廉价、自主、有时甚至致命的无人机，它们即使在GPS信号和通信受到干扰时也能继续运行。

一些军事承包商，包括主要的人工智能军事承包商Palantir科技的高管在内，曾认为完全自主的人工智能控制的致命攻击可能还需要数年时间，因为最先进的算法还不够可靠，因此不能放心让它来自主做出生死攸关的决定，而且可能在一段时间内都不会。

Palantir的高管考特尼·鲍曼在今年的一次听证会上对英国议员说，Palantir认为，人工智能将允许军方官员通过快速分析传入的数据，做出更快、更准确的目标决策。

但在联合国内部，人们普遍担心新系统的风险。虽然一些武器早就内置了一定程度的自主性，但新一代武器却有着根本的不同。

“大约十年前，当这个话题开始的时候，它真的有点像科幻小说，”沙雷说。“现在一点也不是了。这项技术非常、非常真实。”

阅读原文