호주 정부가 발표한자발적인 인공지능(AI) 안전 표준, 옆에제안서 종이고위험 상황에서 빠르게 성장하는 기술의 사용에 대한 더 큰 규제를 요구합니다.

그만큼집에 가져갈 메시지연방 산업과학부 장관인 Ed Husic은 다음과 같이 말했습니다:

"AI를 사용하려면 더 많은 사람이 필요하고 이를 위해서는 신뢰를 구축해야 합니다."

그런데 사람들이 정확히 왜 이것을 신뢰해야 하는가?기술?그리고 정확히 왜 더 많은 사람들이 그것을 사용해야 합니까?

AI 시스템은 대부분의 사람들이 이해하지 못하는 고급 수학을 사용하여 이해할 수 없을 정도로 큰 데이터 세트에 대해 훈련됩니다.그들은 우리가 확인할 수 없는 결과를 만들어냅니다.심지어 주력 제품인 최첨단 시스템도 오류가 가득한 출력을 생성합니다.

ChatGPT는 시간이 지남에 따라 정확도가 떨어지는 것으로 보입니다..최선의 순간에도무슨 글자인지는 말할 수 없어"딸기"라는 단어에 있습니다.그 동안에,Google의 Gemini 챗봇은 피자에 접착제를 바르는 것을 권장했습니다., 다른 코믹한 실패 중에서도.

이 모든 것을 고려하면 AI에 대한 대중의 불신은 전적으로 타당해 보입니다.더 많이 사용하는 경우는 매우 약하고 잠재적으로 위험해 보입니다.

AI 위험

많은 것이 만들어졌습니다.AI의 '실존적 위협', 그리고 그것이 어떻게 일자리 손실로 이어질지.AI가 초래하는 피해는 다음과 같이 명백하게 다양합니다.보행자와 충돌하는 자율주행차과 같이 더 미묘한 것까지여성에 대한 편견을 보여주는 AI 채용 시스템또는 AI 법률 시스템유색인종에 대한 편견이 있는 도구.

다른 피해에는 딥페이크 사기가 포함됩니다.동료그리고사랑하는 사람.

신경쓰지 마세요.연방정부의 최근 보고인간이 AI보다 더 효과적이고 효율적이며 생산적이라는 것을 보여주었습니다.

하지만 만약당신이 가진 건 망치뿐이에요, 모든 것이 못처럼 보입니다.

기술 채택은 여전히 ​​이러한 친숙한 비유에 속합니다.AI가 항상 업무에 가장 적합한 도구는 아닙니다..그러나 흥미로운 신기술에 직면했을 때 우리는 종종 그것을 사용해야 할지 고려하지 않고 사용합니다.

더 많은 사람들이 AI를 사용하도록 장려하는 대신 우리 모두는 AI의 좋은 사용법과 좋지 않은 사용법을 배워야 합니다.

우리가 신뢰해야 할 것은 기술인가, 아니면 정부인가?

더 많은 사람들이 AI를 사용함으로써 호주 정부는 무엇을 얻나요?

가장 큰 위험 중 하나는개인정보 유출.이러한 도구는 이전에 볼 수 없었던 규모로 개인 정보, 지적 재산 및 생각을 수집하고 있습니다.

ChatGPT, Google Gemini, Otter.ai 및 기타 AI 모델의 경우 이 데이터의 대부분은 호주 내륙에서 처리되지 않습니다.

이 회사들은 설교한다투명성, 개인 정보 보호 및 보안.하지만 다음과 같은 경우 발견하기 어려운 경우가 많습니다.귀하의 데이터가 사용됩니다최신 모델을 교육하기 위해그들이 그것을 보호하는 방법, 또는 다른 조직이나 정부가 해당 데이터에 액세스할 수 있는 대상.

최근 연방 정부 서비스 장관인 Bill Shorten은 정부가 제안한 Trust Exchange 프로그램을 발표했는데, 이는 다음과 같은 우려를 불러일으켰습니다.호주 시민에 대한 더 많은 데이터 수집.National Press Club에서의 연설에서 Shorten은 대규모 기술 회사의 지원을 공개적으로 언급했습니다.구글을 포함한.

호주인에 대한 데이터가 AI를 포함한 다양한 기술 플랫폼을 통해 수집된다면 광범위한 대규모 감시를 볼 수 있습니다.

그러나 더욱 걱정스럽게도 우리는 기술이 정치와 행동에 영향을 미치는 힘을 관찰해 왔습니다.

자동화 편향사용자가 기술이 실제보다 "더 똑똑하다"고 믿는 경향에 대해 우리가 사용하는 용어입니다.AI에 대한 지나친 신뢰는 호주인들에게 훨씬 더 큰 위험을 초래합니다. 적절한 교육 없이 더 많은 기술 사용을 장려함으로써 호주인들이 자동화된 감시 및 통제라는 포괄적인 시스템을 받게 될 수 있습니다.

그리고 비록 이 시스템에서 벗어날 수 있다고 해도 사회적 신뢰와 결속력을 약화시키고 사람들이 모르는 사이에 영향을 미치게 될 것입니다.

이러한 요인들은 현재 호주 정부가 추진하고 있는 것처럼 AI 사용을 규제해야 하는 더 많은 이유입니다.그러나 그렇게 할 때 그것을 사용하도록 강력히 권유할 필요는 없습니다.

맹목적인 과대광고를 줄여보자

AI 규제라는 주제가 중요하다.

국제표준화기구(International Organization for Standardization)에서는 다음과 같은 표준을 제정했습니다.AI 시스템의 사용 및 관리.호주에서의 구현은 AI의 더 나은, 더 합리적이고 규제된 사용으로 이어질 것입니다.

이 표준과 기타 표준은 정부가 제안한 자발적 AI 안전 표준의 기초입니다.

이번 주 연방 정부의 발표에서 문제가 된 것은 더 큰 규제를 요구한 것이 아니라 AI 사용에 대한 맹목적인 과대광고였습니다.

호주인의 사용 필요성을 의무화하는 것이 아니라 호주인을 보호하는 데 집중합시다.신뢰하다, AI.

이 기사는 다음에서 재출판되었습니다.대화크리에이티브 커먼즈 라이센스에 따라.읽기원본 기사.