이스라엘 언론의 조사에 따르면, 이스라엘군은 가자지구에서 폭격 목표를 선택하기 위해 인공지능을 이용해 속도를 희생하고 정확도를 희생했으며 그 과정에서 수천 명의 민간인을 죽였다고 한다.+972 매거진그리고지역 전화.

라벤더라고 불리는 이 시스템은 하마스의 10월 7일 공격 이후 개발되었다고 보고서는 주장합니다.절정에 이르렀을 때 라벤더는 가자 지구의 팔레스타인인 37,000명을 '하마스 무장세력'으로 의심하고 이들의 암살을 승인했습니다.

이스라엘군은 성명을 통해 그러한 살인 목록의 존재를 부인했습니다.+972그리고지역 전화.대변인은 CNN에 이렇게 말했다.AI가 테러 용의자를 식별하는 데 사용되지는 않았지만 대변인은 "단순히 표적 식별 과정에서 분석가를 위한 도구일 뿐"이라고 설명하는 라벤더 시스템의 존재에 대해 이의를 제기하지 않았습니다. 분석가는 독립적인 조사를 수행해야 합니다.대변인은 CNN에 식별된 표적이 국제법 및 IDF 지침에 규정된 추가 제한 사항에 따라 관련 정의를 충족하는지 확인한다고 말했습니다.이스라엘 방위군은 즉각 대응하지 않았다.더 버지의견을 요청합니다.

인터뷰에서+972그리고지역 전화그러나 이스라엘 정보 장교들은 라벤더 표적을 폭격하기 전에 독립적인 조사를 수행할 필요가 없으며 대신 기계의 결정을 위한 '고무 도장' 역할을 효과적으로 수행했다고 말했습니다.어떤 경우에는 경찰관이 그 과정에서 유일한 역할은 대상이 남성인지 여부를 결정하는 것이었습니다. 

대상 선택

라벤더 시스템을 구축하기 위해 알려진 하마스와 팔레스타인 이슬람 지하드 요원에 대한 정보가 데이터 세트에 입력되었습니다. 하지만 라벤더를 교육한 데이터 과학 팀과 협력한 한 소식통에 따르면 하마스와 느슨하게 연결된 사람들에 대한 데이터도 마찬가지였습니다.가자 지구 내부 보안부 직원과 같은 것입니다.라벤더가 훈련을 받을 때 '하마스 요원'이라는 용어를 느슨하게 사용하고 훈련 데이터세트에 민방위 요원이었던 사람들을 포함했다는 사실이 괴로웠습니다.'라고 소식통은 말했습니다.+972.에이 

라벤더는 알려진 무장 세력과 WhatsApp 그룹에 속해 있거나, 몇 달에 한 번씩 휴대폰을 바꾸거나, 주소를 자주 바꾸는 등 하마스 요원과 관련된 '특징'을 식별하도록 훈련받았습니다.그런 다음 해당 데이터는 가자지구의 다른 팔레스타인인들이 초기 데이터세트에서 알려진 하마스 요원과 얼마나 유사한지를 기준으로 1~100점 척도로 순위를 매기는 데 사용되었습니다.특정 기준에 도달한 사람들은 파업 대상으로 표시되었습니다.한 군사 소식통은 하마스 요원이 무엇인지에 대한 기준을 어디에 설정하느냐에 따라 그 기준점이 항상 바뀌었다고 말했습니다.+972.

소식통에 따르면 이 시스템의 정확도는 90%였으며 이는 하마스 요원으로 확인된 사람 중 약 10%가 하마스 군부대원이 전혀 아니었음을 의미합니다.라벤더가 표적으로 지목한 사람들 중 일부는 우연히 알려진 하마스 요원과 동일한 이름이나 별명을 갖고 있었습니다.다른 사람들은 하마스 요원, 즉 친척이거나 한때 하마스 무장단체 소유였던 휴대폰을 사용했던 사람들이었습니다. '실수는 통계적으로 처리됐다'고 라벤더를 사용한 소식통은 말했다.+972.범위와 크기 때문에 기계가 올바른지 확실히 알지 못하더라도 통계적으로는 괜찮다는 것을 알 수 있다는 것이 프로토콜이었습니다.그러니 당신은 그것을 하러 갑니다.…

부수적 피해

소식통에 따르면 민간인 사상자에 대해서는 정보관에게 폭넓은 권한이 부여됐다고 한다.+972.전쟁의 처음 몇 주 동안 장교들은 라벤더가 표적으로 삼은 하급 하마스 요원 한 명당 최대 15~20명의 민간인을 살해할 수 있었습니다.보고서는 하마스 고위 간부들에 대해 군이 부수적인 민간인 사상자 수백 명을 승인했다고 주장했습니다. 

하마스 요원으로 의심되는 사람들도 집에서 '아빠는 어디 있지?'라는 시스템을 사용하여 표적이 되었습니다.+972.이 시스템은 라벤더가 생성한 목표물을 지속적으로 감시하고 그들이 집에 도착할 때까지 추적하며, 그 시점에서 그들은 종종 가족 전체와 함께 폭격을 당한다고 경찰은 말했습니다.그러나 때때로 경찰은 목표물이 내부에 있는지 확인하지 않고 집을 폭격하여 그 과정에서 수많은 민간인을 학살했습니다.한 소식통은 우리가 집을 공격했지만 그 사람은 집에도 없는 일이 여러 번 발생했다고 말했습니다.+972.â결과는 당신이 이유 없이 가족을 죽였다는 것입니다.â

AI가 주도하는 전쟁

타흐리르 중동 정책 연구소의 비거주 연구원인 모나 슈타야(Mona Shtaya)는 다음과 같이 말했습니다.더 버지라벤더 시스템은 이스라엘이 가자 지구와 서안 지구의 팔레스타인에 대한 감시 기술을 사용하는 것을 확장한 것입니다. 

서안 지구에 거주하는 Shtaya는 다음과 같이 말했습니다.더 버지이스라엘 국방 스타트업이수출을 희망하고 있다해외에서 전투 테스트를 거친 기술입니다. 

이스라엘의 가자지구 지상공격이 시작된 이후, 이스라엘군은 하마스 요원으로 의심되는 이들을 식별하고 표적으로 삼기 위해 다양한 기술에 의존하고 개발해왔습니다.3월에는그만큼 뉴욕 타임즈보고됨그 이스라엘대량 안면인식 시스템 도입가자지구에서 팔레스타인인의 지식이나 동의 없이 데이터베이스를 생성하는 프로그램을 사용하여 군대는 이를 하마스 요원으로 의심되는 사람을 식별하는 데 사용했습니다.한 예로, 얼굴 인식 도구는 팔레스타인 시인 모사브 아부 토하(Mosab Abu Toha)를 하마스 요원으로 의심되는 인물로 식별했습니다.아부 토하(Abu Toha)는 이스라엘 감옥에 이틀 동안 구금되어 구타를 당하고 심문을 받은 뒤 가자지구로 송환되었습니다.

'The Gospel'이라는 또 다른 AI 시스템은 하마스가 활동하는 것으로 여겨지는 건물이나 구조물을 표시하는 데 사용되었습니다.에 따르면+972그리고지역 전화보고서11월부터 복음은 수많은 민간인 사상자를 발생시키는 데에도 기여했습니다.가자지구의 한 집에서 3세 여아가 살해당했을 때, 군대의 누군가가 그 아이가 죽는 것이 큰 문제가 아니며, 그만한 대가를 치렀다고 판단했기 때문입니다.[다른] 목표물을 공격하기 위해 비용을 지불했다고 군 소식통이 당시 출판물에 말했습니다.

“우리는 이것을 수십 년 동안 팔레스타인에 대해 무기화해 온 집단적 처벌 정책의 연속으로 보아야 합니다”라고 Shtaya는 말했습니다.'우리는 가자지구와 같은 곳에서 사람들, 특히 민간인에 대한 대규모 감시와 대량 학살을 정당화하는 데 전쟁 시간을 이용하지 않도록 해야 합니다.'