全球的政策制定者正在努力应对人工智能技术进步的巨大影响，包括国际组织将如何使用这些工具。

弗吉尼亚大学数据科学学院助理教授 Aaron Martin 最近受邀在一次研讨会上分享他对这一关键话题的见解。小组讨论国际组织数据保护研讨会在华盛顿世界银行举行，由欧洲数据保护监督员共同主办。今年的聚会标志着该会议首次在欧洲以外举行。

Martin 于 2023 年加入数据科学学院，并在 UVA 媒体研究系联合任职，专门研究数据治理以及国际机构如何制定跨国政策，特别是与技术相关的政策。

在小组讨论中，马丁分享了他对全球机构在数据保护方面面临的挑战的看法，以及为什么他们必须努力解决这些挑战。

他最近谈到了他在会议上的经历以及他对这个迅速发展的全球问题的许多方面的看法。

你们的小组重点关注国际组织对人工智能的使用。从广义上讲，您对这些机构广泛使用人工智能系统的印象如何？

只要说。。。就够了，国际组织——包括那些参加华盛顿特区研讨会的代表——他们的使命和任务非常多样化。

这些组织包括具有发展或人道主义使命的联合国机构，以及促进国际安全和执法合作的北约或国际刑警组织等组织。他们每个人都在以不同的方式探索人工智能的使用，我的印象是，目前他们的做法是谨慎的，这是令人鼓舞的。

IO 的一个关键特征是他们享有所谓的法律豁免权和特权，这有助于确保他们的独立性和有效运作。这在实践中意味着数据保护（如《通用数据保护条例》）和人工智能（如《欧盟人工智能法案》）的国家法律和法规不会像适用于政府机构或商业公司那样适用于国际组织。

这成为一个真正的治理问题——我们如何确保IO负责任地处理数据和使用新技术？大多数这些组织都制定了隐私政策和数据保护，但人工智能带来了他们需要应对的一系列新挑战。本次研讨会的目的是让各组织共同努力，为数据以及越来越多的人工智能制定良好的指导和实践。

讨论部分集中在这些系统的风险上。在减轻人工智能给受其工作影响的众多群体带来的风险时，国际组织应该优先考虑什么？

最近，有关人工智能公司在获取新的高质量数据源方面面临的挑战的新闻报道令我震惊。人们越来越担心，如果人工智能模型得不到越来越多的数据，它们将变得越来越不有用、越来越不可靠——正如我的一位共同小组成员所描述的那样，这些模型“饥饿”。人们担心，如果人工智能模型接受太多合成（即虚假）或人工智能生成的数据的训练，它们就会开始崩溃，因此人工智能公司正在争先恐后地寻找新的数据合作伙伴。

在研讨会上，我的干预重点是提高人们对国际组织与人工智能公司过度共享数据的各种风险的认识。IO 拥有极其丰富和多样化的数据，例如有关发展指标、全球冲突和人道主义事务的数据。

他们还拥有来自世界上在线比例非常低的地区的数据，这是人工智能公司通常去抓取数据的地方。IO 需要仔细考虑如何确保这些数据的机密性，并采取措施保护其免受滥用和有毒的人工智能商业模式的影响。

正如您所提到的，国际组织并不是一个整体，您的小组的听众由来自不同群体的代表组成。不同类型的国际组织应根据其使命在多大程度上对这些问题进行不同的思考？

将会存在一些常见的挑战，例如，每个 IO 都有一个人力资源部门，因此企业应用程序存在于 IO 中，就像它们存在于任何其他组织中一样。许多（如果不是大多数）IO 都有重要的预算考虑因素，这将影响并可能限制他们对人工智能工具（包括生成式人工智能）的使用。

我特别感兴趣的是，包括我的研究在内，人道主义国际组织对人工智能的使用可能会如何影响援助的接受者（即所谓的受益人）。例如，国际组织是否应该完全依赖人工智能来决定谁接受粮食援助？这样做有什么风险？这些都是难题，需要一系列利益相关者的参与，包括那些直接受这些决策影响的人。

您做了很多工作来研究技术对历史上边缘化社区（尤其是难民）的影响。当具体到人道主义组织和人工智能时，您最担心的是什么？

人道主义组织通常对他们的人工智能方法非常深思熟虑。“不造成数字伤害”是他们的座右铭，这意味着他们对人工智能可能对难民和其他受冲突和危机影响的人造成的潜在和实际伤害非常敏感。

我确实担心援助领域所谓的“人工智能万金油”，以及出售的技术根本无法兑现宣传的组织。重要的是，我们继续与这些组织合作，帮助他们了解可能性和风险。

您从小组的其他发言者以及您在会议上听到的其他发言者那里得到的主要收获是什么？

嗯，这是查塔姆宫规则，所以我在这里应该小心，但信息办公室正在将人工智能纳入其组织的战略思维给我留下了深刻的印象。我参加过其他会议，感觉人们在盲目地寻找人工智能用例，而这通常是错误的方法。

另一位小组成员解释了他的组织如何使用人工智能来记录人权这是一个令人着迷的应用程序，说明了人工智能对世界产生积极影响的潜力。