유엔 전문가들은 목요일 인공지능의 개발이 시장의 힘에 의해서만 주도되어서는 안 된다고 경고하며 글로벌 협력을 위한 도구를 만들 것을 촉구했습니다.

그러나 그들은 기술의 출시와 발전을 감독하기 위해 강력한 전 세계 통치 기구를 창설하자는 제안을 주저했습니다. 기술의 확산으로 인해 편견, 오용 및 의존에 대한 우려가 높아졌습니다.

기술, 법률, 기술 분야 전문가 40여 명으로 구성된 패널데이터 보호지난 10월 안토니오 구테흐스 유엔 사무총장이 설립했다.

세간의 이목을 끄는 "미래 정상회담"이 시작되기 며칠 전에 발표된 그들의 보고서는 AI에 대한 글로벌 거버넌스가 부족하고 기술의 미래에 대한 논의에서 개발도상국을 효과적으로 배제하고 있다는 경고를 제기합니다.

UN의 193개 회원국 중 단 7개만이 AI와 관련된 7가지 주요 이니셔티브에 포함되어 있고, 118개는 전혀 존재하지 않습니다. 대부분 남반구 국가입니다.

전문가들은 보고서에서 “오늘날 AI와 관련해 글로벌 거버넌스 부족이 존재한다”고 경고했다. AI는 그 성격상 국경을 초월한다.

구테레스는 이번 주에 "AI는 인류에게 공평하고 안전하게 봉사해야 한다"고 말했다.

"확인하지 않은 채 놔두면 다음과 같은 위험이 발생합니다.인공지능민주주의, 평화, 안정에 심각한 영향을 미칠 수 있다”고 말했다.

'너무 늦었다'?

그의 명확한 요청을 배경으로 전문가들은 UN 회원국들에게 자동차 바퀴에 윤활유를 바르는 메커니즘을 마련할 것을 촉구했습니다.글로벌 협력문제를 해결하고 의도하지 않은 확산을 방지합니다.

보고서는 "이러한 기술의 개발, 배포 및 사용은 시장의 변덕에만 맡길 수 없다"고 밝혔습니다.

먼저 기후 변화에 관한 정부 간 패널(IPCC) 전문가 포럼을 모델로 한 AI 과학 전문가 그룹의 창설을 촉구했습니다.기후 변화.

패널은 국제 사회에 새로운 위험에 대해 간략히 설명하고, 연구 요구 사항을 식별하며, 기아, 빈곤, 성 불평등을 완화하는 데 어떻게 사용될 수 있는지 등의 목표를 제시합니다.

이 제안은 아직 논의 중인 글로벌 디지털 컴팩트(Global Digital Compact) 초안에 포함되어 있으며 일요일 "미래 정상회담"에서 채택될 예정입니다.

보고서는 UN 사무국 내에 가벼운 "조정" 구조를 수립하는 것을 지지합니다.

그러나 이는 유엔의 핵감시기구인 IAEA의 모델에 기초한 구테레스가 추구했던 것과 같은 완전한 국제 거버넌스 기구에는 미치지 못합니다.

보고서는 "AI 위험이 더욱 심각해지고 집중되면 회원국은 모니터링, 보고, 검증 및 집행 권한을 갖춘 보다 강력한 국제 기관을 고려하는 것이 필요할 수 있다"고 밝혔다.

저자들은 AI의 변화 속도로 인해 끊임없이 진화하는 기술로 인해 발생하는 위험에 대한 포괄적인 목록을 작성하는 것이 무의미하다는 점을 인정합니다.

그러나 그들은 민주주의에 대한 허위 정보, 점점 더 현실적으로 변하는 딥페이크(특히 음란물), 자율 무기의 진화, 범죄와 범죄에 의한 AI 사용의 위험을 지적했습니다.테러리스트 그룹.

보고서는 "그러나 AI 시스템의 속도, 자율성, 불투명성을 고려할 때 위협이 나타날 때까지 기다리는 것은 대응이 너무 늦어질 수 있다는 것을 의미할 수 있다"고 말했습니다."지속적인 과학적 평가와 정책 대화를 통해 세계가 놀라지 않을 것입니다."

© 2024 AFP