以色列出版物的一項調查顯示,以色列軍方一直在使用人工智慧來幫助選擇在加薩的轟炸目標,為了速度而犧牲了準確性,並在此過程中造成了數千名平民死亡+972 雜誌本地通話

報導稱,該系統名為 Lavender,是在哈馬斯 10 月 7 日襲擊事件發生後開發的。在鼎盛時期,拉文德將加薩的 37,000 名巴勒斯坦人標記為可疑的“哈馬斯武裝分子”,並授權對他們進行暗殺。

以色列軍方在聲明中否認有這樣的殺戮名單+972本地通話一位發言人告訴美國有線電視新聞網人工智慧沒有被用來識別恐怖分子嫌疑人,但對薰衣草系統的存在沒有異議,發言人稱該系統「只是分析人員在目標識別過程中的工具。」分析人員「必須進行獨立檢查」發言人告訴CNN ,他們在其中驗證所確定的目標是否符合國際法的相關定義以及以色列國防軍指令中規定的附加限制。以色列國防軍沒有立即回應邊緣— 請求發表評論。

在訪談中+972本地通話然而,以色列情報官員表示,他們不需要在轟炸薰衣草目標之前對其進行獨立檢查,而是有效地充當機器決策的「橡皮圖章」。目標是否為男性。 

選擇目標

為了建構Lavender 系統,已知的哈馬斯和巴勒斯坦伊斯蘭聖戰人員的資訊被輸入到資料集中,但據一位與訓練Lavender 的資料科學團隊合作的消息人士稱,與哈馬斯有鬆散關係的人員的數據也被輸入到資料集中,例如加薩內部安全部的員工。「令我感到困擾的是,當拉文德接受訓練時,他們寬鬆地使用了『哈馬斯特工』一詞,並將民防工作者納入了訓練資料集中,」消息人士告訴記者。+972。 

拉文德接受過培訓,可以識別與哈馬斯特工相關的“特徵”,包括與已知武裝分子在 WhatsApp 群組中、每隔幾個月更換一次手機,或經常更換地址。然後,這些數據被用來根據加薩其他巴勒斯坦人與初始數據集中已知的哈馬斯特工的相似程度,按照 1-100 的等級對他們進行排名。達到一定閾值的人就會被標記為罷工目標。一位軍方消息人士告訴記者,這個門檻總是在變化,因為這取決於你對哈馬斯特工的標準設定在哪裡。+972。

消息人士稱,該系統的準確率高達 90%,這意味著在被確定為哈馬斯特工的人中,約有 10% 根本不是哈馬斯軍事部門的成員。拉文德標記為目標的一些人恰好與已知的哈馬斯特工的名字或暱稱相同。其他人則是哈馬斯特工的親戚或使用曾經屬於哈馬斯武裝分子的手機的人。 「錯誤被統計處理,」一位使用薰衣草的消息人士告訴+972。– 由於範圍和規模,協議是即使您不確定機器是否正確,您也可以從統計數據上知道它沒問題。所以你就努力吧。

附帶損害

消息人士稱,情報官員在處理平民傷亡問題時擁有廣泛的自由度+972。在戰爭的最初幾週,拉文德針對每一個較低級別的哈馬斯特工,軍官就被允許殺害最多 15 到 20 名平民。報告稱,對於哈馬斯高級官員來說,軍方授權造成「數百名」平民傷亡。 

警方稱,疑似哈馬斯特工的家中也遭到了名為「爸爸在哪裡?」的系統的攻擊。+972。官員表示,該系統對「薰衣草」產生的目標進行持續監視,追蹤他們直到他們到達家中,此時他們通常會與他們的整個家人一起遭到轟炸。然而,有時,警察會在沒有核實目標是否在屋內的情況下轟炸房屋,在此過程中消滅了數十名平民。「我曾多次遇到過,我們襲擊了一所房子,但那個人甚至不在家,」一位消息人士告訴記者+972。“結果就是你無緣無故地殺死了一個家庭。”

人工智慧驅動的戰爭

解放中東政策研究所非常駐研究員莫娜‧什塔亞 (Mona Shtaya) 表示邊緣薰衣草系統是以色列對加薩走廊和西岸巴勒斯坦人使用監視技術的延伸。 

居住在約旦河西岸的什塔亞(Shtaya)告訴邊緣鑑於以色列國防新創公司的報導,這些工具尤其令人不安希望出口他們在國外經過實戰考驗的技術。 

自從以色列開始對加沙發動地面進攻以來,以色列軍方依靠並開發了一系列技術來識別和瞄準可疑的哈馬斯特工。三月, 紐約時報報道那個以色列部署大規模臉部辨識加薩地帶的計劃——在巴勒斯坦人不知情或未同意的情況下創建一個資料庫——然後軍方用它來識別可疑的哈馬斯特工。在一個例子中,臉部辨識工具將巴勒斯坦詩人莫薩布·阿布·托哈 (Mosab Abu Toha) 識別為可疑的哈馬斯特工。阿布·托哈在以色列監獄被拘留了兩天,在被送回加薩之前他遭到毆打和審訊。

另一個名為「福音」的人工智慧系統被用來標記哈馬斯據信運作的建築物或結構。根據一個+972本地通話報告從11月開始,福音還造成大量平民傷亡。「當一名 3 歲女孩在加薩的一戶人家中被殺時,這是因為軍隊中有人認為,被殺對她來說並不是什麼大不了的事情,這是值得付出的代價」一位軍方消息人士當時告訴媒體,「付費才能擊中[另一個]目標」。

「我們需要將其視為幾十年來針對巴勒斯坦人的集體懲罰政策的延續,」施塔亞說。“我們需要確保戰爭時期不被用來為加薩等地的大規模監視和大規模屠殺辯護,特別是對平民。”