報告由駐耶路撒冷的調查記者發表於+972該雜誌發現，人工智慧定位系統在識別（甚至可能誤識別）加薩數以萬計的目標方面發揮了關鍵作用。這顯示自主戰爭不再是未來的場景。它已經在這裡了，後果是可怕的。

有兩種技術受到質疑。第一個，“薰衣草”，是一個人工智慧推薦系統，旨在使用演算法將哈馬斯特工識別為目標。第二個，名字奇葩“爸爸在哪裡？”，是一種對目標進行地理追蹤的系統，以便在受到攻擊之前追蹤他們進入其家庭住所。這兩個系統共同構成了自動化尋找修復追蹤目標現代軍事所稱的組成部分“殺戮鏈”。

像 Lavender 這樣的系統不是自主武器，但它們確實加速了殺傷鏈，並使殺戮過程逐漸變得更加自主。人工智慧瞄準系統利用電腦感測器和其他來源的數據來統計評估潛在目標的組成。以色列情報部門透過對加薩 230 萬居民的監視收集了大量此類數據。

此類系統接受一組資料的訓練，以產生哈馬斯特工的檔案。這可能是有關性別、年齡、外表、運動模式、社交網絡關係、配件和其他“相關功能「。然後，他們努力根據適合程度將實際的巴勒斯坦人與此特徵相匹配。構成目標相關特徵的類別可以根據需要嚴格或寬鬆地設置。就薰衣草而言，它似乎是關鍵方程式是「男性等於好戰”，這與臭名昭著的說法相呼應。“所有軍齡男性都是潛在目標”2010 年美國無人機戰爭的授權，歐巴馬政府在這場戰爭中識別並暗殺了數百名被指定為敵人的人”基於元數據」。

人工智慧的不同之處在於透過演算法確定目標的速度以及行動的授權。+972 報告表明，該技術的使用已導致數以千計的合格和不合格目標在沒有太多人為監督的情況下被快速消滅。

以色列國防軍（IDF）迅速否認使用此類人工智慧瞄準系統。而且很難獨立驗證它們是否被使用，如果是的話，它們被使用的程度以及它們的功能到底如何。但報告中描述的功能是完全合理的，特別是考慮到以色列國防軍自己吹噓的“最具技術性的組織之一「並且是人工智慧的早期採用者。

隨著世界各地的軍事人工智慧計畫努力縮短美國軍方所說的“感測器到射擊者的時間線”和“增加殺傷力”為什麼像以色列國防軍這樣的組織在行動中不利用最新技術？

事實是，像是《Lavender》和《爸爸在哪裡？是十年來一直在發生的更廣泛趨勢的體現，以色列國防軍及其精銳部隊遠非唯一尋求在其流程中實施更多人工智慧瞄準系統的部隊。

當機器戰勝人類

今年早些時候，彭博社報導了最新版本的Maven 專案，美國國防部人工智慧探路者計劃，該計劃已從 2017 年的感測器數據分析計劃發展成為為速度而構建的成熟的人工智慧目標推薦系統。正如彭博社記者卡特里娜·曼森報告，操作員「現在可以在一個小時的工作中籤署多達 80 個目標，而沒有它時只能簽署 30 個」。

曼森引用了一名負責學習該系統的美國軍官的話，描述了同意演算法結論的過程，並用快速斷斷續續的語氣說道：「接受。接受，接受」。很明顯這裡是如何人工操作員深植於難以抗衡的數位邏輯。這就產生了超越一切的速度和增加產量的邏輯。

死亡的高效生產也體現在+972帳戶上，這表明加速和增加目標的生產以及對這些目標的殺戮的巨大壓力。正如一位消息人士所說，「我們不斷受到壓力：給我們帶來更多目標。他們真的對我們大喊大叫。我們很快就完成了[殺死]我們的目標」。

內建偏見

像薰衣草這樣的系統可以養育許多道德問題有關訓練資料、偏差、準確性、錯誤率，以及更重要的是自動化偏差問題。自動化偏見將所有權威，包括道德權威，讓給統計處理的冷靜介面。

速度和殺傷力是軍事技術的口號。但在優先考慮人工智慧時，人類能動性被邊緣化。由於人類的認知系統相對較慢，系統的邏輯需要這樣做。它也消除了人類對電腦產生的結果的責任感。

我已經寫在別處這使我們必須考慮的控制概念（在各個層面）變得複雜化。當人工智慧、機器學習和人類推理形成一個緊密的生態系統時，人類的控制能力是有限的。人類傾向於相信電腦所說的一切，尤其是當它們移動得太快而我們無法跟上時。

速度和加速度的問題也產生了一種普遍的緊迫感，這種緊迫感優先於行動而不是不行動。這使得「附帶損害」或「軍事必要性」等本應限制暴力的範疇，變成了製造更多暴力的管道。

我想起軍事學者克里斯托弗·科克的字：「我們必須謹慎選擇我們的工具，不是因為它們不人道（所有武器都是），而是因為我們越依賴它們，它們就越能塑造我們的世界觀」。顯然，軍事人工智慧塑造了我們的世界觀。可悲的是，拉文德讓我們有理由認識到這種觀點充滿了暴力。

本文轉載自對話根據知識共享許可。閱讀原創文章。