雖然人工智慧（AI）帶來了巨大的好處，但它也帶來了巨大的風險。其中一些——加速錯誤訊息、複雜的網路攻擊和飆升的能源消耗——已經到來。其他的技術，包括獨立於人類監督做出決策的超級智慧機器，可能還需要幾年的時間。儘管人們對這些風險的認識不斷增強，但還有許多其他風險尚未明確。人工智慧提供了無數的機會，尤其是在開發中國家，這是一項有風險的生意。

人們越來越擔心人工智慧的快速採用將如何發展。負面影響社會，包括南半球國家。去年我的研究所與新美國，召開了全球工作小組由來自美洲、非洲和亞洲的人工智慧專家組成，旨在審查提高人工智慧安全性和一致性的方法。到 2024 年，工作小組發出了底漆實際降低風險並提高彈性，同時關閉治理和監管差距全球北方和南方之間。

人工智慧風險

該小組發現的最重大風險之一是大規模自動化和工作流失。人工智慧預計將影響農業、製造業、零售業、法律、醫藥、金融等各領域的大量工人。雖然新的就業形式無疑會出現，但多達8億到 2030 年，人們將面臨自動化的風險，包括3億在富裕國家。國際勞工組織估計超過 56% 的工作位於低收入和中中等收入國家面臨自動化的「高風險」。如果沒有到位的保障措施，這可能會加劇經濟不平等並排斥低技能工人。

另一個風險涉及數位落差加深和不平等加劇。能夠獲得先進技術的人和不能獲得先進技術的人之間的差距是預計會擴大未來幾年，這將導致生產力下降、經濟成長放緩以及社會和經濟不平等加劇。尤其是在中低收入環境已經面臨數位人才和相關服務的短缺。

偏見和歧視是與人工智慧相關的另一個風險。美國、中國和歐盟設計的先進技術和模型可以延續並放大已經存在的偏見訓練資料。這可能會導致歧視性結果從信用評分到治安的各個面向。由於演算法存在偏見，它也可能導致就業市場、信貸和醫療服務的機會被不公平地排除。

人工智慧也導致了監控和隱私侵犯的加劇。人工智慧融入一切智慧城市到執法可能侵犯隱私、公民自由和人權。在民主制度較弱的國家尤其如此。事實上，獨裁政權已經在部署支援人工智慧的系統追蹤政治對手、鎮壓異見並針對基於種族、宗教或意識形態的邊緣化社群。

更重要的是，對外國技術和專業知識的依賴也對南半球構成了風險。對美國、中國和歐洲創新的過度依賴可能會減少激勵措施在低收入環境中建立國內科技業。它也可能降低地方政府的議價能力，從而導致成本更高為了技術而減少對標準的控制。對外國供應商的依賴也可能導致資料更容易被外國參與者存取、控制、操縱和利用，引發對隱私、財產盜竊和關鍵基礎設施完整性的擔憂。

新興解決方案

考慮到所有這些風險，南半球國家正在考慮哪些解決方案？其一，越來越多的人呼籲發展中國家政府和專家更多參與全球標準的發展。這是在最近舉行的 2024 年聯合國大會上呼應的呼籲關於人工智慧包容性的決議以及最近商定的數位緊湊型旨在克服數位、數據和創新鴻溝。人們正在形成共識，以確保人工智慧更加公平、更具包容性，並且對南半球的具體挑戰更加敏感。

實際上，對教育和職業培訓的更多投資對於為即將到來的自動化和失業做好準備至關重要。這需要開發培訓中心和線上課程、再培訓補助金、就業安置服務、漸進式失業救濟金以及全民基本收入（全民基本收入）計劃。有希望的例子正在出現：印度全民人工智慧倡議, 盧安達數位大使，以及巴西的康內克塔計劃都在幫助人們和公司過渡到數位經濟。各國的情況各不相同肯亞,納米比亞和印度正在試行全民基本收入，但還需要採取更多行動。

公共和私人參與者需要大幅擴大對數位基礎設施的投資，以縮小全球南方的數位落差。這包括擴大網路存取以及寬頻存取26億人仍然沒有連接的人。促進數位中心、公平獲取數位服務和低成本技術計劃的政策至關重要。如何擴大此類活動的一個例子是智慧非洲聯盟的人工智慧促進發展(AI4D) 計劃，正在為治理、農業和醫療保健建立道德人工智慧框架。

透過改進人工智慧開發和部署的指導和標準，可以最大限度地減少偏見和歧視。國家、公司和數位活動人士需要製定和執行監管框架，要求演算法透明度和定期審計。還有重大機會要求用於訓練人工智慧系統的數據更加多樣化和代表性。全球工作小組確定接近700 個這樣的策略，儘管超過三分之二的人是在富裕國家提出的，這表明需要做更多的工作來縮小差距。

遏制監視和隱私侵犯需要強而有力的資料保護和隱私法來保護個人資訊。這歐洲聯盟以及像這樣的國家巴西,印度,肯亞,南非， 和坦尚尼亞，正在開發適合其具體情況的敏捷監管框架。還需要製定明確的法規來管理人工智慧的監控，以盡量減少侵入性做法，還需要進行公眾意識宣傳活動，並由民間社會倡導加強保護。

減少對外國技術提供者的過度依賴需要對當地人工智慧政策和研究進行投資，同時為當地加速器、新創公司和實驗室提供補助和激勵措施。國際夥伴關係和協作也發揮關鍵作用，例如由以下人員領導的立法者和公務員技能提升計劃國際電聯,聯合國教科文組織,聯合國開發計劃署- 諸如此類的團體提供的專門勞動力培訓和教育中心也是如此Google,英特爾， 和微軟。

降低人工智慧風險的措施必須解決全球南北之間巨大的人工智慧治理鴻溝。這種差距不僅體現在資料科學家和資料中心方面，也體現在監管方面。一個關鍵優先事項涉及加強參與力度人工智慧政策制定的全球南方決策者和專家，包括在G20和經合組織上下文。儘管有合理的擔憂監管碎片化，人工智慧治理框架也需要與當地情況保持一致。最近商定的人工智慧策略和數位轉型策略非洲聯盟建立的機制提供了一個有希望的路標。

好消息是，最近聯合國關於包容性人工智慧的決議,人工智慧高階小組， 和全球數位契約正在製定積極的前進道路。該契約明確呼籲制定更具包容性的人工智慧政策、成立獨立的人工智慧科學小組以及開展全球對話以將人工智慧納入人權。也許最重要的是，它還建議設立一個全球基金來支持數位基礎設施和技能發展。這樣的基金需要下大賭注（類似私人主導的倡議中所設定的賭注，例如最近由IBM 和貝萊德如果它是為了幫助縮小人工智慧治理和能力差距。

本文轉載自對話根據知識共享許可。閱讀原創文章。