인공지능(AI)은 엄청난 이점을 약속하지만 동시에 엄청난 위험을 초래합니다.그 중 일부는 잘못된 정보를 가속화하고, 정교한 사이버 공격을 가하며, 에너지 소비를 급증시키는 등 이미 도래했습니다.인간의 감독과 독립적으로 결정을 내리는 초지능 기계를 포함한 다른 것들은 아직 몇 년이 걸릴 것 같습니다.이러한 위험에 대한 인식이 높아지고 있지만 아직 정의되지 않은 위험도 많이 있습니다.그리고 특히 AI가 제공하는 헤아릴 수 없는 모든 기회에 대해개발 도상국, 위험한 사업입니다.

AI의 급속한 도입이 어떻게 진행될지에 대한 우려가 커지고 있습니다.부정적인 영향을 미치다남반구를 포함한 사회.작년에 우리 연구소와 함께뉴 아메리카, 소집글로벌 태스크 포스AI 안전성과 정렬을 개선하는 방법을 검토하기 위해 미주, 아프리카, 아시아 전역의 AI 전문가로 구성되었습니다.그리고 2024년에는태스크 포스발행뇌관실질적으로 위험을 완화하고 회복력을 향상시키는 동시에 폐쇄도 가능합니다.거버넌스 및 규제 격차글로벌 북반구와 남반구 사이.

AI 위험

그룹이 확인한 가장 중요한 위험 중 하나는 대량 자동화와 일자리 대체입니다.AI는 농업, 제조, 소매부터 법률, 의료, 금융에 이르기까지 다양한 분야의 수많은 근로자에게 영향을 미칠 것으로 예상됩니다.새로운 형태의 고용이 분명 등장할 것이지만,8억2030년까지 사람들은 자동화의 위험에 처해 있습니다.3억부유한 나라에서는.국제노동기구견적전체 일자리 중 56% 이상이 저소득층 일자리입니다.중간 소득 국가자동화의 "위험"이 높습니다.안전 장치가 마련되지 않으면 경제적 불평등이 심화되고 저숙련 근로자가 배제될 수 있습니다.

또 다른 위험은 디지털 격차를 심화시키고 불평등을 심화시키는 것입니다.첨단 기술에 접근할 수 있는 사람과 접근할 수 없는 사람의 격차는 다음과 같습니다.확대될 것으로 예상이는 향후 몇 년 동안 생산성 저하, 경제성장 감소, 사회적, 경제적 불평등 심화로 이어질 것입니다.특히나 그러하다.저소득층 및 중산층 환경이미 디지털 인재 및 관련 서비스 부족에 직면해 있습니다.

편견과 차별은 AI와 관련된 또 다른 위험입니다.미국, 중국, EU에서 설계된 첨단 기술과 모델은영속하다이미 존재하는 편견을 증폭시킵니다.훈련 데이터.이는 다음으로 이어질 수 있습니다.차별적인 결과신용 점수부터 경찰 조사까지 모든 분야에서요.또한 편향된 알고리즘으로 인해 취업 시장, 신용 및 대출, 의료 서비스 기회에서 부당하게 배제될 수도 있습니다.

감시와 개인정보 침해가 강화되는 것도 AI 덕분이다.AI를 모든 것에 통합스마트 도시에게법 집행사생활, 시민의 자유, 인권을 침해할 수 있습니다.특히 민주주의 제도가 취약한 국가에서는 더욱 그렇습니다.실제로 권위주의 정권은 이미AI 지원 시스템정치적 반대자를 추적하고 반대 의견을 진압하며 인종, 종교, 이념적 근거를 바탕으로 소외된 공동체를 표적으로 삼습니다.

더욱이 외국 기술과 전문 지식에 대한 의존도 남반구에서는 위험을 초래합니다.미국, 중국, 유럽의 혁신에 대한 과도한 의존은 잠재적으로인센티브를 줄여라저소득 환경에서 국내 기술 부문을 구축합니다.지방정부의 교섭력도 저하될 수 있다.더 높은 비용기술을 위해표준에 대한 통제 감소.또한 외국 공급업체에 대한 의존으로 인해 외국 행위자가 데이터에 더 쉽게 접근, 제어, 조작 및 악용할 수 있어 개인 정보 보호, 재산 절도 및 중요 인프라의 무결성에 대한 우려가 높아질 수 있습니다.

새로운 솔루션

이러한 모든 위험을 고려할 때 남반구에서는 어떤 솔루션을 고려하고 있습니까?우선, 글로벌 표준 수립에 개발도상국 정부와 전문가의 더 많은 참여를 요구하는 목소리가 커지고 있습니다.이는 최근 2024년 UN 총회에서 반복된 요청입니다.AI 포함 결의안그리고 최근 합의한디지털 컴팩트디지털, 데이터, 혁신 격차를 극복하기 위한 것입니다.AI가 남반구의 특정 과제에 더욱 공평하고, 포용적이며 민감하다는 점을 보장하기 위한 합의가 나타나고 있습니다.

실제로, 다가오는 자동화와 일자리 상실에 대비하려면 교육과 직업 훈련에 더 많은 투자가 필수적입니다.이를 위해서는 교육 센터 및 온라인 강좌 개발, 재교육 보조금, 취업 알선 서비스, 점진적인 실업 수당뿐만 아니라보편적 기본 소득(UBI) 계획.그리고 유망한 사례가 나타나고 있습니다.모두를 위한 AI 이니셔티브, 르완다의디지털 홍보대사, 그리고 브라질의코넥타프로그램은 모두 사람과 기업이 디지털 경제로 전환하는 데 도움이 됩니다.그리고 국가는 다양합니다.케냐,나미비아그리고인도더 많은 조치가 필요하지만 UBI를 시험하고 있습니다.

공공 및 민간 행위자는 남반구의 디지털 격차를 해소하기 위해 디지털 인프라에 대한 투자를 대폭 확대해야 합니다.여기에는 확장이 포함됩니다.인터넷 접속그리고 광대역 접속26억 명아직 연결되지 않은 사람.디지털 허브, 디지털 서비스에 대한 공평한 접근, 손실 비용 기술 프로그램을 촉진하는 정책이 필수적입니다.그러한 활동을 증폭시키는 방법의 한 예는 다음과 같습니다.Smart Africa Alliance의 개발용 AI(AI4D) 거버넌스, 농업 및 의료를 위한 윤리적인 AI 프레임워크를 구축하는 프로그램입니다.

AI 개발 및 배포에 대한 향상된 지침과 표준을 통해 편견과 차별을 최소화할 수 있습니다.국가, 기업, 디지털 활동가는 알고리즘 투명성과 정기 감사를 요구하는 규제 프레임워크를 만들고 시행해야 합니다.AI 시스템을 교육하는 데 사용되는 데이터가 더욱 다양하고 대표성을 갖도록 의무화할 수 있는 주요 기회도 있습니다.글로벌 태스크 포스(Global Task Force)는 가까운 것으로 확인되었습니다.700가지 전략2/3 이상이 부유한 국가에서 공식화되었지만 격차를 줄이기 위해 더 많은 작업이 수행되어야 함을 시사합니다.

감시 및 개인 정보 침해를 억제하려면 개인 정보를 보호하기 위한 강력한 데이터 보호 및 개인 정보 보호법이 필요합니다.그만큼유럽연합그리고 같은 나라브라질,인도,케냐,남아프리카공화국, 그리고탄자니아, 특정 현실에 맞는 민첩한 규제 프레임워크를 개발하고 있습니다.또한 침입 행위를 최소화하기 위한 감시용 AI 사용과 더 강력한 보호를 위한 시민 사회의 옹호와 함께 대중 인식 캠페인을 관리하는 명확한 규정이 필요합니다.

그리고 외국 기술 제공업체에 대한 과도한 의존을 줄이려면 현지 액셀러레이터, 스타트업 및 연구소에 대한 보조금 및 인센티브와 함께 현지 AI 정책 및 연구에 대한 투자가 필요합니다.국회의원과 공무원의 역량 강화를 위한 프로그램 등 국제 파트너십과 협력도 핵심적인 역할을 한다.ITU,유네스코,UNDP- 다음과 같은 그룹이 제공하는 인력 훈련 및 교육 전용 센터도 마찬가지입니다.Google,인텔, 그리고마이크로소프트.

AI 위험을 줄이기 위한 조치는 북반구와 남반구 간의 AI 거버넌스 격차를 해결해야 합니다.이러한 격차는 데이터 과학자와 데이터 센터 측면뿐만 아니라 규제 측면에서도 표현됩니다.핵심 우선순위에는 다음이 포함됩니다.참여를 강화하다남반구의 의사 결정자 및 AI 정책 개발 전문가G20그리고OECD컨텍스트.정당한 우려에도 불구하고규제 단편화, AI 거버넌스 프레임워크도 지역 상황에 맞게 조정되어야 합니다.최근 합의한AI 전략그리고디지털 혁신 전략아프리카 연합이 설립한 이정표는 유망한 이정표를 제공합니다.

좋은 소식은 최근에포용적 AI에 관한 UN 결의안,AI에 관한 고위급 패널, 그리고글로벌 디지털 협약앞으로 긍정적인 길을 계획하고 있습니다.이 협약은 보다 포괄적인 AI 정책 개발, AI에 대한 독립적인 과학 패널의 설립, AI를 인권에 고정시키기 위한 글로벌 대화를 명시적으로 요구합니다.아마도 가장 중요한 것은 디지털 인프라와 기술 개발을 지원하기 위한 글로벌 기금의 출범을 권장한다는 점일 것입니다.그러한 펀드는 대규모 투자를 해야 할 것입니다(최근 펀드가 출시한 펀드와 같은 민간 주도 이니셔티브에서 설정한 것과 유사함).IBM과 블랙록AI 거버넌스와 역량 격차를 해소하는 데 도움이 된다면 말이죠.

이 기사는 다음에서 재출판되었습니다.대화크리에이티브 커먼즈 라이센스에 따라.읽기원본 기사.