一場建構通用人工智慧的競賽正在進行中，這是一種未來機器的願景，機器與人類一樣聰明，或至少可以像人類一樣做很多事情。

實現這樣一個概念（通常稱為 AGI）是 ChatGPT 製造商 OpenAI 的推動使命，也是科技巨頭亞馬遜、谷歌、Meta 和微軟精英研究部門的首要任務。

這也是世界各國政府擔憂的原因。領先的人工智慧科學家發表週四在期刊上進行的研究科學警告稱，具有「長期規劃」技能的人工智慧代理若不受控制，可能會對人類構成生存風險。

但 AGI 到底是什麼？它曾經處於電腦科學的邊緣，現在已經成為一個流行詞，並且不斷被那些試圖實現它的人重新定義。

什麼是通用人工智慧？

不要與聽起來相似的生成人工智慧混淆，後者描述了「生成」新文件、圖像和聲音的工具背後的人工智慧系統。通用人工智慧是一個更模糊的想法。

被稱為「人工智慧教父」的人工智慧先驅科學家 Geoffrey Hinton 表示，這不是一個技術術語，而是「一個嚴肅但定義不明確的概念」。

「我認為對於這個術語的含義尚未達成一致，」辛頓本週在電子郵件中表示。“我用它來表示人工智慧在人類所做的幾乎所有認知事物上至少與人類一樣好。”

Hinton 更喜歡用一個不同的術語——超級智慧——「來形容比人類更好的 AGI」。

AGI 一詞的一小群早期支持者希望喚起 20 世紀中葉電腦科學家對智慧機器的想像。那是在人工智慧研究擴展到子領域之前，這些子領域推進了該技術的專業化和商業上可行的版本——從臉部辨識到 Siri 和 Alexa 等語音辨識語音助理。

天普大學教授 AGI 課程並幫助組織 2008 年首屆 AGI 會議的教授王培 (Pei Wang) 表示，主流人工智慧研究「偏離了人工智慧最初的願景，這個願景一開始相當雄心勃勃」。

將「G」放在 AGI 中是向那些「仍然想做大事的人發出的信號。我們不想建造工具。我們想要建造一台思考機器，」王說。

我們已經達到 AGI 了嗎？

如果沒有明確的定義，就很難知道一家公司或一組研究人員何時會實現通用人工智慧，或者是否已經實現。

「二十年前，我認為人們會很高興地同意，具有 GPT-4 或（Google）Gemini 能力的系統已經實現了與人類相當的通用智能，」Hinton 說。“能夠以合理的方式回答或多或少的任何問題就可以通過測試。但現在人工智慧可以做到這一點，人們希望改變測試。”

「自回歸」人工智慧技術的改進可以預測序列中最可信的下一個單詞，再加上利用大量資料訓練這些系統的強大運算能力，已經催生了令人印象深刻的聊天機器人，但它們仍然不是很多人認為的通用人工智慧。實現通用人工智慧需要能夠在各種任務中與人類一樣出色的技術，包括推理、規劃和從經驗中學習的能力。

一些研究人員希望就如何衡量它達成共識。這是下個月在奧地利維也納舉行的 AGI 研討會的主題之一，這是大型人工智慧研究會議的第一次。

研討會組織者、伊利諾伊大學厄巴納-香檳分校助理教授尤嘉軒表示：“這確實需要社區的努力和關注，以便我們能夠就通用人工智慧的某種分類達成一致。”一種想法是以與汽車製造商試圖對標巡航控制和全自動駕駛車輛之間的路徑。

其他人則計劃自己解決這個問題。舊金山公司 OpenAI 已賦予其非營利董事會（其成員包括前美國財政部長）的責任，以決定其人工智慧系統何時達到「在最具經濟價值的工作中超越人類」的程度。

「董事會決定我們何時實現 AGI，」OpenAI 自己對其治理結構的解釋說道。這樣的成就將切斷該公司最大的合作夥伴微軟將此類系統商業化的權利，因為他們的協議條款「僅適用於通用人工智慧之前的技術」。

AGI危險嗎？

去年，辛頓因退出谷歌並就人工智慧的生存危險發出警告而成為全球頭條新聞。週四發表的一項新的科學研究可能會加劇這些擔憂。

該報告的主要作者是加州大學柏克萊分校的研究員邁克爾·科恩（Michael Cohen），他研究“一般智能人工智能體的預期行為”，特別是那些有能力“通過對我們進行計劃而對我們構成真正威脅」的人工智慧體。

科恩在周四的訪談中明確表示，這樣的長期人工智慧規劃代理還不存在。但“它們有潛力”，因為科技公司尋求使用強化學習技術將當今的聊天機器人技術與更深思熟慮的規劃技能結合起來。

該論文表示：「為先進的人工智慧系統設定最大化其獎勵的目標，並在某些時候取消獎勵，這會強烈激勵人工智慧系統在有機會的情況下將人類帶出循環。」作者包括著名人工智慧科學家Yoshua Bengio 和Stuart Russell 以及法學教授、前OpenAI 顧問Gillian Hadfield。

科恩說：“我希望我們已經證明政府人員決定開始認真思考我們到底需要哪些法規來解決這個問題。”目前，“政府只知道這些公司決定告訴他們什麼。”

退出 AGI 太合法了？

由於人工智慧進步帶來瞭如此多的資金，AGI 也成為一個有時會引起準宗教狂熱的企業流行語也就不足為奇了。

科技界的一些人認為科技應該緩慢而謹慎地發展，而另一些人（包括創投家和饒舌歌手 MC Hammer）則宣稱自己屬於「加速主義」陣營。

總部位於倫敦的新創公司 DeepMind 成立於 2010 年，現已成為Google的一部分，是最早明確著手開發 AGI 的公司之一。OpenAI 隨後在 2015 年做出了同樣的承諾，做出了以安全為中心的承諾。

但現在看來其他人都在跟風。谷歌聯合創始人謝爾蓋·布林最近被發現在加州一個名為 AGI House 的地方閒逛。在從 Facebook 更名以專注於虛擬世界後不到三年，Meta Platforms 一月份透露 AGI 也成為其首要議程。

Meta 執行長馬克祖克柏表示，該公司的長期目標是“建立完整的通用智慧”，這需要推理、規劃、編碼和其他認知能力的進步。雖然祖克柏的公司很早就有研究人員專注於這些主題，他的注意力是語氣的變化。

在亞馬遜，新消息傳遞的一個跡像是語音助理 Alexa 的首席科學家更換了職位，成為 AGI 的首席科學家。

雖然對華爾街來說不像生成式人工智慧那樣切實可行，但傳播通用人工智慧的雄心可能有助於招募可以選擇工作地點的人工智慧人才。

伊利諾大學研究員尤表示，在選擇「老式人工智慧機構」還是「目標是建立通用人工智慧」且擁有足夠資源的機構時，許多人會選擇後者。

© 2024 美聯社。版權所有。未經許可，不得出版、廣播、重寫或重新散佈本資料。