报告由驻耶路撒冷的调查记者发表于+972该杂志发现，人工智能定位系统在识别（甚至可能误识别）加沙数以万计的目标方面发挥了关键作用。这表明自主战争不再是未来的场景。它已经在这里了，后果是可怕的。

有两种技术受到质疑。第一个，“薰衣草”，是一个人工智能推荐系统，旨在使用算法将哈马斯特工识别为目标。第二个，名字奇葩“爸爸在哪儿？”，是一种对目标进行地理跟踪的系统，以便在受到攻击之前跟踪他们进入其家庭住所。这两个系统共同构成了自动化查找修复跟踪目标现代军事所称的组成部分“杀戮链”。

像 Lavender 这样的系统不是自主武器，但它们确实加速了杀伤链，并使杀戮过程逐渐变得更加自主。人工智能瞄准系统利用计算机传感器和其他来源的数据来统计评估潜在目标的构成。以色列情报部门通过对加沙 230 万居民的监视收集了大量此类数据。

此类系统接受一组数据的训练，以生成哈马斯特工的档案。这可能是有关性别、年龄、外表、运动模式、社交网络关系、配饰和其他“相关功能“。然后，他们努力根据适合程度将实际的巴勒斯坦人与此特征相匹配。构成目标相关特征的类别可以根据需要严格或宽松地设置。就薰衣草而言，它似乎是关键方程式是“男性等于好战”，这与臭名昭著的说法相呼应。“所有军龄男性都是潜在目标”2010 年美国无人机战争的授权，奥巴马政府在这场战争中识别并暗杀了数百名被指定为敌人的人”基于元数据”。

人工智能的不同之处在于通过算法确定目标的速度以及行动的授权。+972 报告表明，该技术的使用已导致数以千计的合格和不合格目标在没有太多人为监督的情况下被快速消灭。

以色列国防军（IDF）迅速否认使用此类人工智能瞄准系统。而且很难独立验证它们是否被使用，如果是的话，它们被使用的程度以及它们的功能到底如何。但报告中描述的功能是完全合理的，特别是考虑到以色列国防军自己吹嘘的“最具技术性的组织之一“并且是人工智能的早期采用者。

随着世界各地的军事人工智能项目努力缩短美国军方所说的“传感器到射击者的时间线”和“增加杀伤力”为什么像以色列国防军这样的组织在行动中不利用最新技术？

事实是，诸如《Lavender》和《爸爸在哪儿？》等系统。是十年来一直在发生的更广泛趋势的体现，以色列国防军及其精锐部队远非唯一寻求在其流程中实施更多人工智能瞄准系统的部队。

当机器战胜人类

今年早些时候，彭博社报道了最新版本的Maven 项目，美国国防部人工智能探路者计划，该计划已从 2017 年的传感器数据分析计划发展成为为速度而构建的成熟的人工智能目标推荐系统。正如彭博社记者卡特里娜·曼森报告，操作员“现在可以在一个小时的工作中签署多达 80 个目标，而没有它时只能签署 30 个”。

曼森引用了一名负责学习该系统的美国军官的话，描述了同意算法结论的过程，并用快速断断续续的语气说道：“接受。接受，接受”。很明显这里是如何人工操作员深深植根于难以抗衡的数字逻辑中。这就产生了超越一切的速度和增加产量的逻辑。

死亡的高效生产也体现在+972账户上，这表明加速和增加目标的生产以及对这些目标的杀戮的巨大压力。正如一位消息人士所说，“我们不断受到压力：给我们带来更多目标。他们真的对我们大喊大叫。我们很快就完成了[杀死]我们的目标”。

内置偏见

像薰衣草这样的系统可以养育许多道德问题有关训练数据、偏差、准确性、错误率，以及更重要的是自动化偏差问题。自动化偏见将所有权威，包括道德权威，让给统计处理的冷静界面。

速度和杀伤力是军事技术的口号。但在优先考虑人工智能时，人类能动性被边缘化。由于人类的认知系统相对较慢，系统的逻辑需要这样做。它还消除了人类对计算机产生的结果的责任感。

我已经写在别处这使我们必须考虑的控制概念（在各个层面）变得复杂化。当人工智能、机器学习和人类推理形成一个紧密的生态系统时，人类的控制能力是有限的。人类倾向于相信计算机所说的一切，尤其是当它们移动得太快而我们无法跟上时。

速度和加速度的问题也产生了一种普遍的紧迫感，这种紧迫感优先于行动而不是不行动。这使得“附带损害”或“军事必要性”等本应限制暴力的范畴，变成了制造更多暴力的渠道。

我想起军事学者克里斯托弗·科克的字：“我们必须谨慎选择我们的工具，不是因为它们不人道（所有武器都是），而是因为我们越依赖它们，它们就越能塑造我们的世界观”。显然，军事人工智能塑造了我们的世界观。可悲的是，拉文德让我们有理由认识到这种观点充满了暴力。

本文转载自对话根据知识共享许可。阅读原创文章。