我們已經準備好迎接又快、又劇烈的 AGI 變革嗎？

[大衛選讀] 近期紐約時報旗下的 Hard Fork 做了一則專訪，訪問 OpenAI 前任資深顧問 Miles Brundage，談 AGI 發展趨勢，以及對於大眾的影響。

過去六年深入參與 AGI Readiness 的研究工作，他認為現在是一個很瘋狂的狀況。一方面 AI 技術發展正在向前不斷加速，但是另一方面政府跟社會似乎都還沒有做好應變的準備，大眾的認知也跟先進實驗室的發展現況有相當落差。

對他來說，趨勢很明顯。不需要幾十年，而是在未來幾年內，人工智慧將能夠全面勝任人類在電腦上能做的各種工作。提早退休的時代將會比我們預期地更早來臨，隨著經濟快速發展，若能搭配好的租稅與社會福利制度，大多數人無需工作也能過活。

變革之大，教育與工作的意義，將需要重新被探索跟定義。在那之前，為了更好的在後人工智慧時代下生活，Miles Brundage 建議，人們應該趁現在，趕快積極儲蓄，並且充分了解人工智慧的能與不能。

本文選讀彙整了多篇文章。內容整理如下，原文連結則放在留言中。

---

▋我們已經準備好迎接又快、又劇烈的 AGI 變革嗎？

Miles Brundage 曾任牛津大學人類未來研究所的研究員，之後加入 OpenAI，參與通用人工智慧準備 (AGI Readiness) 的研究工作，以確保 OpenAI 在建構更強大的人工智慧系統時，能夠安全地釋出這些系統，讓社會享受到人工智慧帶來的益處，同時減輕風險。

他在 OpenAI 工作六年後，宣布離開的消息引起了很多關注。他一直非常積極地呼籲大家關注這些系統的風險。但他在離職的過程中表示，他不認為 OpenAI 或任何其他先進人工智慧實驗室已經為人工智慧的到來做好了準備，而整個社會也還沒做好準備。

如果去仔細閱讀各個先進人工智慧實驗室發表的東西，會發現他們普遍承認還沒有完全掌控一切。所以這是一個很瘋狂的情況：一方面是技術進步非常快，另一方面是了解最多的人卻說我們還沒做好準備。

▎電腦在未來幾年內，或將全面勝任人類在電腦上能做的各種工作

在未來幾年內，很可能會出現人工智慧系統，在電腦上的工作能力完全超越並可取代人類，無論你是否要稱它為通用人工智慧 (AGI)。

趨勢很明顯，這些系統將能夠操作滑鼠和鍵盤，甚至可以在視訊聊天中看起來像真人。人們應該儘早思考這意味著什麼，政府也應該思考這對稅收、教育投資等意味著什麼。

▎在一個人工智慧可以勝任大部分工作的環境下，教育的意義是什麼？

並不是說所有的工作都會消失，但人工智慧的發展必然會帶來巨大的衝擊，人們需要提前思考這對於教育的深遠影響。

教育的目的是培養人們成為一個努力工作的好公民，還是讓他們能更加了解自身所在的世界？如果教育不是跟過去一樣，主要是為了就業做準備，那麼未來發展時，就會更需要去思考教育的真正意義是什麼。這肯定會變得很不一樣。

▎人工智慧的發展是真實深刻的，但是大眾的認知還沒有跟上

總會有一些人認為這都是科幻小說，他們不相信人工智慧正在接近人類水平的智慧，他們在生活中看不到 ChatGPT 或其他工具的用處，他們認為這基本上是科技巨頭的營銷炒作。

身為科技與社會跨領域研究的專家，Miles Brundage 觀察到科技業界人士與大眾之間的認知差距。這斷差既有趣，又值得深入探討並且試著弭平。

在最先進研究機構工作的人普遍認為，人工智慧現在的發展速度就已經非常快。有些人對此感到非常興奮，有些人則非常擔心。但不可否認的是，整個業界在通用人工智慧的技術上，確實已經取得了重大進展；而且未來一兩年內，肯定會有更大的突破。

Miles Brundage 對人工智能的發展非常有信心，認為這不是炒作。唯一的問題是，大眾的對人工智慧的認知落差仍然很大，我們需要更快地幫助社會做好準備。

▎對一般人來說，現在可以做什麼準備？

Miles Brundage 認為至少有三件事可以去做：首先去試用這些系統，如ChatGPT等，你需要知道它能做什麼，不能做什麼。再來，思考這對你的職業意味著什麼，你是否應該考慮一條更能適應未來的職業路徑？第三件事，保護你自己和親人免於深度偽造等技術的侵害，要去了解技術可能做到什麼事，才能避免被騙。

專業判斷上，即使是高科技圈最了解人工智慧的人，也不能準確估算人工智慧發展的速度會有多快。大多數了解情況的業內人士都同意，人工智慧會發展得很快，但會不會突然加速到超級快，那就很難說了。

考量到速度快慢的未知性，技術發展對於社會的影響會有多大，確實很難預測。這在一定程度上是政府政策和社會共識的問題。例如，我們是否要建立規範去保護某些工作，進一步限制只有人類才能做這些工作，例如開立藥方，或是提供法律建議等。這些要靠研究智庫跟政府去合作跟設想。

▎為了更好的在後人工智慧時代下生活，人們應該趁現在積極儲蓄

回到個人，Miles Brundage 認為，人們應該趁現在存錢，而且大多數人的退休時間會比想像中來得早。

很快地，在未來幾年 (而不是幾十年)，人工智慧可能會實現足夠的經濟增長，讓人們在高生活水平下，輕鬆實現提前退休。

理想狀況下，如果政策制定者確實做好他們該做的工作，從技術上和政治上來說，是很有可能讓每個人都能享受到巨大的經濟紅利。進而提前退休，過上高品質的生活

話雖如此，如果你在通用人工智慧到來之前，能夠有一些積蓄，你就可以比別人擁有更多的機器人管家，享受更多科技帶來的好處。所以，錢仍然會是一件很重要的事情。

▎在無需工作的世界來臨前，必然先需要有好的集體設想跟過渡

在這之前，可能會有一段時期，那些可以遠端完成的任務更容易地被自動化。在短期內，Miles Brundage 非常擔心人工智慧會顛覆既有的工作供需，讓需要靠工作賺錢的人被迫失業。但他認為，人類最終應該可以免除掉為了生活而工作的義務 (remove the obligation to work for a living)，在那之前會需要一段調整的過程。

從長遠來看，有些人可能會繼續工作，但整體動機可能比以前弱。 這不是我們在政治、文化或其他方面已經準備好的事情，需要透過公共政策上的對話來尋求共識。 如果只是天真地轉向後工作世界 (post-work world)，可能會帶來文明停滯的風險，就像迪士尼動畫片 WALL-E 裡頭慵懶的人們一樣。對此，我們的社會將會需要更多的思考和辯論。

▎經濟預期將會大幅成長，稅收設計會是社會永續運作的關鍵

假設在通用人工智慧來臨時，我們都能安全健康地好好活著，那麼整個世界的經濟規模會比現在大得多。人工智慧在往後的幾年內，每年都能大幅提高 世界經濟的 GDP 增長率。

Miles Brundage 有一種強烈的直覺，似乎 AGI 在工業中更容易實現，但他還不知道確切的原因。這個直覺來自於，他觀察到研究機構中先進的人工智慧能力，似乎很快地就被導入工業生產上，先進研究與實際的生產應用並沒有太大的差距。

如果經濟快速發展，而我們在稅收等方面做出正確的決策，並建立一個強大的社會安全網，無論是以全民基本收入 (UBI) 還是其他形式發放，人們都能分享到這份紅利。

往後還需要對人工智慧的稅收政策影響，進行創新的分析。例如，有些人建議徵收「機器人稅」，但這到底會有什麼影響？ 我們或許不應該針對人工智慧制定專項的租稅政策，而是要意識到人工智慧加大了既有的不平衡，使得其他類型的稅收顯得更加緊迫。

例如，投入資本和勞動力的回報率，兩者的差距越來越大？怎樣降低獲利往資本集中傾斜，如何鼓勵有意義的勞動投入，這或許才是真正需要再平衡的。

▎AGI 影響的早期訊號，或許是看看在先進研究機構工作的人們，生活是否有了改變

Miles Brundage 一直在觀察人工智慧實驗室發出的早期信號，也就是當在哪裡工作的人們，開始根據他們對人工智慧的看法，而真正改變他們的行為時。

例如，當 OpenAI 取消他們的 401K 員工退休金計劃，或是當人們的行為表現反映出通用人工智慧即將到來，而為自己的生活與工作，做出很激烈的選擇跟改變，而不僅僅是嘴上說說時。

但讓他感到奇怪的是，即使是那些最了解這項技術能力的人，目前為止在調整自己的生活上，似乎仍然存在著某種認知失調。明明可以預見大變當前，但是每天早上醒來後，還是一如過往地上班跟生活，似乎並沒有為了應對這些變化，而做出激烈的選擇？

他認為，人工智慧是一種超級通用的技術，可以滲透到所有領域。它並不是顯而易見的，不會像是有一個機器人走在街上要來殺我們，因此需要在門前堆沙袋來保護自己這樣。它更像是無形的、在網路上悄悄部署的東西。雖感覺不到，但無處不在。

所以除了試著了解它、談論它，設法讓政策制定者能有效地設置防護措施之外，我們真的沒有什麼可以做的。

Miles Brundage 認為，人工智慧是真實存在的，而不是科幻小說。在五年前，你很難想像有一個免費的應用，可以跟它流暢地對談、解決有趣的推理難題、幫忙指正論文內容。但是五年後的今天，這已經變成每天的現實。

所以，他認為最重要的是要充分認識到，從人類的發展歷史來看，近期的技術發展是相當奇特不尋常的 (the weirdness of the situation)。

任何了解這情況的人都同意，雖然我們到目前為止，還沒有做任何事去減緩人工智慧的發展；然而現在正是時候，應該要去認真思考，我們將會遇到什麼問題，又該如何應對了。