인간만큼 똑똑하거나 적어도 사람만큼 많은 일을 할 수 있는 미래형 기계인 일반 인공 지능(AI)을 구축하려는 경쟁이 진행 중입니다.

일반적으로 AGI라고 불리는 이러한 개념을 달성하는 것은 ChatGPT 제조사 OpenAI의 주요 임무이자 거대 기술 기업인 Amazon, Google, Meta 및 Microsoft의 엘리트 연구 부문의 우선 순위입니다.

이는 또한 세계 정부의 우려를 불러일으키는 원인이기도 합니다.주요 AI 과학자출판됨목요일에 저널에 실린 연구과학"장기 계획" 능력을 갖춘 검증되지 않은 AI 에이전트가 인류에게 실존적 위험을 초래할 수 있다고 경고합니다.

그러나 AGI란 정확히 무엇이며, AGI가 언제 달성되었는지 어떻게 알 수 있습니까?한때 컴퓨터 과학의 변두리였던 컴퓨터 과학은 이제 그것을 실현하려는 사람들에 의해 끊임없이 재정의되는 전문 용어가 되었습니다.

AGI란 무엇입니까?

새로운 문서, 이미지, 사운드를 '생성'하는 도구 뒤에 있는 AI 시스템을 설명하는 생성적 AI(생성 AI)와 혼동하지 마세요.인공일반지능더 모호한 생각이다.

"AI의 대부"로 불리는 선구적인 AI 과학자 제프리 힌튼(Geoffrey Hinton)은 "이것은 기술적인 용어가 아니라 "심각하지만 잘 정의되지 않은 개념"이라고 말했습니다.

힌튼은 이번 주 이메일을 통해 “이 용어가 무엇을 의미하는지에 대한 합의가 없다고 생각한다”고 말했다."저는 인간이 수행하는 거의 모든 인지적 작업에서 적어도 인간만큼 뛰어난 AI를 의미하는 데 사용합니다."

Hinton은 "인간보다 나은 AGI"에 대해 다른 용어인 초지능(superintelligence)을 선호합니다.

AGI라는 용어의 초기 지지자들로 구성된 소규모 그룹은 20세기 중반 컴퓨터 과학자들이 지능형 기계를 어떻게 구상했는지를 상기시키려고 했습니다.그것은 AI 연구가 얼굴 인식부터 Siri 및 Alexa와 같은 음성 인식 음성 비서에 이르기까지 전문화되고 상업적으로 실행 가능한 버전의 기술을 발전시키는 하위 분야로 확장되기 전이었습니다.

템플 대학교에서 AGI 과정을 가르치고 2008년 첫 번째 AGI 컨퍼런스를 조직하는 데 도움을 준 페이 왕(Pei Wang) 교수는 주류 AI 연구는 "처음에는 매우 야심찬 인공 지능의 원래 비전에서 외면했습니다"라고 말했습니다.

AGI에 'G'를 넣은 것은 "여전히 큰 일을 하고 싶은 사람들에게 신호였다. 우리는 도구를 만들고 싶지 않고 생각하는 기계를 만들고 싶다"고 Wang은 말했다.

우리는 아직 AGI에 있나요?

명확한 정의가 없으면 기업이나 연구자 그룹이 언제 인공 일반 지능을 달성할지, 아니면 이미 달성했는지 알기 어렵습니다.

"20년 전만 해도 사람들은 GPT-4나 (구글) 제미니(Gemini)의 능력을 갖춘 시스템이 인간과 비슷한 일반 지능을 달성했다는 사실에 기꺼이 동의했을 것입니다."라고 Hinton은 말했습니다."어떤 질문에든 합리적으로 답할 수 있다면 테스트를 통과했을 것입니다. 하지만 이제 AI가 그렇게 할 수 있으므로 사람들은 테스트를 바꾸고 싶어합니다."

시퀀스에서 가장 그럴듯한 다음 단어를 예측하는 "자동회귀" AI 기술의 개선과 엄청난 양의 데이터로 해당 시스템을 훈련시키는 엄청난 컴퓨팅 성능이 결합되어 인상적인 챗봇이 탄생했지만 여전히 많은 사람들이 생각하는 AGI에는 미치지 못합니다.염두에 두었습니다.AGI에 도달하려면 추론, 계획, 경험을 통해 학습하는 능력 등 다양한 작업에서 인간만큼 수행할 수 있는 기술이 필요합니다.

일부 연구자들은 이를 측정하는 방법에 대한 합의를 찾고 싶어합니다.이는 다음 달 오스트리아 비엔나에서 열리는 주요 AI 연구 컨퍼런스의 첫 번째 AGI 워크숍 주제 중 하나입니다.

일리노이 대학 어바나-샴페인 캠퍼스의 조교수인 워크숍 주최자 Jiaxuan You는 "우리가 일종의 AGI 분류에 대해 상호 동의할 수 있도록 하려면 커뮤니티의 노력과 관심이 정말 필요합니다."라고 말했습니다.한 가지 아이디어는 다음과 같은 방식으로 이를 여러 수준으로 분할하는 것입니다.자동차 제조사들은 벤치마킹을 시도한다크루즈 컨트롤과 완전 자율주행차 사이의 경로.

다른 사람들은 스스로 알아낼 계획입니다.샌프란시스코 기업인 OpenAI는 전직 미국 재무부 장관이 포함된 비영리 이사회에 AI 시스템이 "가장 경제적으로 가치 있는 작업에서 인간을 능가하는" 지점에 도달하는 시기를 결정하는 책임을 맡겼습니다.

OpenAI는 거버넌스 구조에 대해 "이사회에서 우리가 언제 AGI를 달성할지 결정합니다"라고 설명합니다.그러한 성과는 회사의 가장 큰 파트너인 Microsoft의 계약 조건이 "AGI 이전 기술에만 적용"되기 때문에 해당 시스템을 상용화할 권리를 박탈하게 됩니다.

AGI는 위험한가요?

Hinton은 작년에 Google을 그만두고 AI의 실존적 위험에 대해 경고하면서 세계적인 헤드라인을 장식했습니다.목요일에 발표된 새로운 과학 연구는 이러한 우려를 강화할 수 있습니다.

이 보고서의 주요 저자는 "일반적으로 지능적인 인공 에이전트의 예상되는 동작", 특히 "우리를 계획하지 않음으로써 우리에게 실질적인 위협을 제시"할 만큼 유능한 인공 에이전트를 연구하는 버클리 캘리포니아 대학교 연구원인 Michael Cohen입니다.

코헨은 목요일 인터뷰에서 그러한 장기 AI 계획 담당자가 아직 존재하지 않는다는 점을 분명히 했습니다.그러나 기술 회사들이 강화 학습이라는 기술을 사용하여 오늘날의 챗봇 기술과 보다 신중한 계획 기술을 결합하려고 하기 때문에 "그들은 그럴 가능성이 있습니다".

공동 논문에 따르면 "고급 AI 시스템에 보상을 극대화하는 목표를 부여하고 어느 시점에서 보상을 보류하는 것은 기회가 있을 경우 AI 시스템이 인간을 루프에서 벗어나도록 강력한 인센티브를 제공합니다."라고 합니다.저자에는 저명한 AI 과학자인 Yoshua Bengio와 Stuart Russell, 법학 교수이자 전 OpenAI 고문인 Gillian Hadfield가 포함되어 있습니다.

코헨은 "정부 관계자들이 이 문제를 해결하기 위해 정확히 어떤 규제가 필요한지 진지하게 생각하기 시작하는 사례가 되기를 바란다"고 말했다.현재로서는 "정부는 이들 기업이 그들에게 무엇을 말하기로 결정했는지만 알고 있습니다."

AGI를 그만두는 것이 너무 합법적인가요?

AI 발전에 대한 약속에 막대한 자금이 투자되면서 AGI가 때때로 준종교적 열정을 불러일으키는 기업 전문 용어가 되는 것도 놀라운 일이 아닙니다.

기술계는 천천히 신중하게 개발해야 한다고 주장하는 사람들과 스스로를 "가속주의" 진영의 일부라고 선언한 벤처 자본가와 래퍼 MC 해머를 포함한 다른 사람들로 양분되어 있습니다.

2010년에 설립되어 현재 Google의 일부가 된 런던 기반 스타트업 DeepMind는 AGI 개발을 명시적으로 시작한 최초의 회사 중 하나입니다.OpenAI는 2015년에 안전에 초점을 맞춘 서약을 통해 동일한 작업을 수행했습니다.

그러나 이제는 다른 모든 사람들도 이 시류에 편승하고 있는 것처럼 보일 수 있습니다.구글의 공동 창업자인 세르게이 브린(Sergey Brin)이 최근 캘리포니아의 AGI 하우스(AGI House)에서 놀고 있는 모습이 목격되었습니다.그리고 가상 세계에 초점을 맞추기 위해 이름을 Facebook에서 변경한 지 3년이 채 안 되어 Meta Platforms는 1월에 AGI도 자사의 최우선 과제에 있다고 밝혔습니다.

Meta CEO인 Mark Zuckerberg는 회사의 장기 목표가 추론, 계획, 코딩 및 기타 인지 능력의 발전이 필요한 "완전한 일반 지능 구축"이라고 말했습니다.Zuckerberg의 회사에는 오랫동안 연구원이 있었지만그 주제에 초점을 맞춘, 그의 관심은 어조의 변화였습니다.

Amazon에서는 음성 비서 Alexa의 수석 과학자가 AGI의 수석 과학자로 직위를 바꾼 것이 새로운 메시지의 징후 중 하나였습니다.

월스트리트에서는 생성 AI만큼 눈에 띄지는 않지만 AGI 야망을 방송하면 자신이 일하고 싶은 곳을 선택할 수 있는 AI 인재를 채용하는 데 도움이 될 수 있습니다.

일리노이 대학 연구원 You는 "구식 AI 연구소"와 "AGI를 구축하는 것이 목표"이고 이를 위한 충분한 자원을 갖춘 기관 중에서 선택할 때 많은 사람들이 후자를 선택할 것이라고 말했습니다.

© 2024 AP 통신.모든 권리 보유.이 자료는 허가 없이 출판, 방송, 재작성 또는 재배포될 수 없습니다.