全球的政策制定者正在努力應對人工智慧技術進步的巨大影響，包括國際組織將如何使用這些工具。

維吉尼亞大學數據科學學院助理教授 Aaron Martin 最近受邀在研討會上分享他對這個關鍵主題的見解。小組討論國際組織資料保護研討會在華盛頓世界銀行舉行，由歐洲資料保護監督員共同主辦。今年的聚會標誌著該會議首次在歐洲以外舉行。

Martin 於 2023 年加入資料科學學院，並在 UVA 媒體研究系聯合任職，專門研究資料治理以及國際機構如何制定跨國政策，特別是與技術相關的政策。

在小組討論中，馬丁分享了他對全球機構在資料保護方面面臨的挑戰的看法，以及為什麼他們必須努力解決這些挑戰。

他最近談到了他在會議上的經歷以及他對這個迅速發展的全球問題的許多方面的看法。

你們的小組重點關注國際組織對人工智慧的使用。從廣義上講，您對這些機構廣泛使用人工智慧系統的印像如何？

只要說。國際組織——包括那些參加華盛頓特區研討會的代表——他們的使命和任務非常多樣化。

這些組織包括具有發展或人道主義使命的聯合國機構，以及促進國際安全和執法合作的北約或國際刑警組織等組織。他們每個人都在以不同的方式探索人工智慧的使用，我的印像是，目前他們的做法是謹慎的，這是令人鼓舞的。

IO 的一個關鍵特徵是他們享有所謂的法律豁免權和特權，這有助於確保他們的獨立性和有效運作。這在實踐中意味著資料保護（如《一般資料保護條例》）和人工智慧（如《歐盟人工智慧法案》）的國家法律和法規不會像適用於政府機構或商業公司那樣適用於國際組織。

這成為一個真正的治理問題——我們如何確保IO負責任地處理資料和使用新技術？大多數這些組織都制定了隱私權政策和資料保護，但人工智慧帶來了他們需要應對的一系列新挑戰。本次研討會的目的是讓各組織共同努力，為數據以及越來越多的人工智慧制定良好的指導和實踐。

討論部分集中在這些系統的風險。在減輕人工智慧對受其工作影響的眾多群體帶來的風險時，國際組織應該優先考慮什麼？

最近，有關人工智慧公司在獲取新的高品質資料來源方面面臨的挑戰的新聞報導令我震驚。人們越來越擔心，如果人工智慧模型無法獲得越來越多的數據，它們將變得越來越不有用、越來越不可靠——正如我的一位共同小組成員所描述的那樣，這些模型「飢餓」。人們擔心，如果人工智慧模型接受太多合成（即虛假）或人工智慧生成的資料的訓練，它們就會開始崩潰，因此人工智慧公司正在爭先恐後地尋找新的資料合作夥伴。

在研討會上，我的介入重點是提高人們對國際組織與人工智慧公司過度共享資料的各種風險的認識。IO 擁有極其豐富和多樣化的數據，例如有關發展指標、全球衝突和人道主義事務的數據。

他們還擁有來自世界上線上比例非常低的地區的數據，這是人工智慧公司通常去抓取數據的地方。IO 需要仔細考慮如何確保這些資料的機密性，並採取措施保護其免受濫用和有毒的人工智慧商業模式的影響。

正如您所提到的，國際組織並不是一個整體，您的小組的聽眾由來自不同群體的代表組成。不同類型的國際組織應根據其使命在多大程度上對這些問題進行不同的思考？

將會存在一些常見的挑戰，例如，每個 IO 都有一個人力資源部門，因此企業應用程式存在於 IO 中，就像它們存在於任何其他組織中一樣。許多（如果不是大多數）IO 都有重要的預算考慮因素，這將影響並可能限制他們對人工智慧工具（包括生成式人工智慧）的使用。

我特別感興趣的是，包括我的研究在內，人道主義國際組織對人工智慧的使用可能會如何影響援助的接受者（即所謂的受益者）。例如，國際組織是否應該完全依賴人工智慧來決定誰接受糧食援助？這樣做有什麼風險？這些都是難題，需要一系列利害關係人的參與，包括直接受這些決策影響的人。

您做了很多工作來研究科技對歷史上邊緣化社區（尤其是難民）的影響。當具體到人道主義組織和人工智慧時，您最擔心的是什麼？

人道主義組織通常對他們的人工智慧方法非常深思熟慮。「不造成數位傷害」是他們的座右銘，這意味著他們對人工智慧可能對難民和其他受衝突和危機影響的人造成的潛在和實際傷害非常敏感。

我確實擔心援助領域所謂的“人工智慧萬金油”，以及出售的技術根本無法兌現宣傳的組織。重要的是，我們繼續與這些組織合作，幫助他們了解可能性和風險。

您從小組的其他發言者以及您在會議上聽到的其他發言者那裡得到的主要收穫是什麼？

嗯，這是查塔姆宮規則，所以我在這裡應該小心，但資訊辦公室正在將人工智慧納入其組織的戰略思維給我留下了深刻的印象。我參加過其他會議，感覺人們在盲目地尋找人工智慧用例，這通常是錯誤的方法。

另一位小組成員解釋了他的組織如何使用人工智慧來記錄人權這是一個令人著迷的應用程序，說明了人工智慧對世界產生積極影響的潛力。