[大衛選讀] 近期紐約時報旗下的 Hard Fork 做了一則專訪,訪問 OpenAI 前任資深顧問 Miles Brundage,談 AGI 發展趨勢,以及對於大眾的影響。
過去六年深入參與 AGI Readiness 的研究工作,他認為現在是一個很瘋狂的狀況。一方面 AI 技術發展正在向前不斷加速,但是另一方面政府跟社會似乎都還沒有做好應變的準備,大眾的認知也跟先進實驗室的發展現況有相當落差。
對他來說,趨勢很明顯。不需要幾十年,而是在未來幾年內,人工智慧將能夠全面勝任人類在電腦上能做的各種工作。提早退休的時代將會比我們預期地更早來臨,隨著經濟快速發展,若能搭配好的租稅與社會福利制度,大多數人無需工作也能過活。
變革之大,教育與工作的意義,將需要重新被探索跟定義。在那之前,為了更好的在後人工智慧時代下生活,Miles Brundage 建議,人們應該趁現在,趕快積極儲蓄,並且充分了解人工智慧的能與不能。
本文選讀彙整了多篇文章。內容整理如下,原文連結則放在留言中。
▋我們已經準備好迎接又快、又劇烈的 AGI 變革嗎?
Miles Brundage 曾任牛津大學人類未來研究所的研究員,之後加入 OpenAI,參與通用人工智慧準備 (AGI Readiness) 的研究工作,以確保 OpenAI 在建構更強大的人工智慧系統時,能夠安全地釋出這些系統,讓社會享受到人工智慧帶來的益處,同時減輕風險。
他在 OpenAI 工作六年後,宣布離開的消息引起了很多關注。他一直非常積極地呼籲大家關注這些系統的風險。但他在離職的過程中表示,他不認為 OpenAI 或任何其他先進人工智慧實驗室已經為人工智慧的到來做好了準備,而整個社會也還沒做好準備。
如果去仔細閱讀各個先進人工智慧實驗室發表的東西,會發現他們普遍承認還沒有完全掌控一切。所以這是一個很瘋狂的情況:一方面是技術進步非常快,另一方面是了解最多的人卻說我們還沒做好準備。
▎電腦在未來幾年內,或將全面勝任人類在電腦上能做的各種工作
在未來幾年內,很可能會出現人工智慧系統,在電腦上的工作能力完全超越並可取代人類,無論你是否要稱它為通用人工智慧 (AGI)。
趨勢很明顯,這些系統將能夠操作滑鼠和鍵盤,甚至可以在視訊聊天中看起來像真人。人們應該儘早思考這意味著什麼,政府也應該思考這對稅收、教育投資等意味著什麼。
▎在一個人工智慧可以勝任大部分工作的環境下,教育的意義是什麼?
並不是說所有的工作都會消失,但人工智慧的發展必然會帶來巨大的衝擊,人們需要提前思考這對於教育的深遠影響。
教育的目的是培養人們成為一個努力工作的好公民,還是讓他們能更加了解自身所在的世界?如果教育不是跟過去一樣,主要是為了就業做準備,那麼未來發展時,就會更需要去思考教育的真正意義是什麼。這肯定會變得很不一樣。
▎人工智慧的發展是真實深刻的,但是大眾的認知還沒有跟上
總會有一些人認為這都是科幻小說,他們不相信人工智慧正在接近人類水平的智慧,他們在生活中看不到 ChatGPT 或其他工具的用處,他們認為這基本上是科技巨頭的營銷炒作。
身為科技與社會跨領域研究的專家,Miles Brundage 觀察到科技業界人士與大眾之間的認知差距。這斷差既有趣,又值得深入探討並且試著弭平。
在最先進研究機構工作的人普遍認為,人工智慧現在的發展速度就已經非常快。有些人對此感到非常興奮,有些人則非常擔心。但不可否認的是,整個業界在通用人工智慧的技術上,確實已經取得了重大進展;而且未來一兩年內,肯定會有更大的突破。
Miles Brundage 對人工智能的發展非常有信心,認為這不是炒作。唯一的問題是,大眾的對人工智慧的認知落差仍然很大,我們需要更快地幫助社會做好準備。
閱讀全文 我們已經準備好迎接又快、又劇烈的 AGI 變革嗎?