分類: AI 人工智能

關於智能的第一性原則，以及對於 AI 人工智能發展的影響

[大衛選讀] 去年底的 AI 熱潮開始後，我就一直在找關於人工智能發展的基礎原則。若能看懂大的原則跟方向，後面要做自我技能的發展，或是特定的投資決策，都會比較容易些。

On some first principles of intelligence 這篇文章，試著寫出了智能的幾個第一性原則，並且用此對比人工智慧的發展。

文中提到了如何建立資訊反饋機制 (feedback mechanism)、善用電腦在儲存與計算上的巨大優勢、以及怎樣發展泛化能力 (generalization capability) 等概念，非常具啟發性。

原文是一篇很簡短，但有點硬的文章。為了讓自己讀懂，我額外讀了不少相關資訊，再擴寫成以下的重點摘要。

內容整理如下，原文連結：https://www.lesswrong.com/posts/oJzHEYL9ztgMwsze9/on-some-first-principles-of-intelligence

關於智能的第一性原則

過去十年中 AI 研究的進展和成功，似乎都可以追溯到上世紀所發現的一些關於智能本質的基本原則。以下就來細談這幾個可以視為是智能的第一性原則，以及這些原則對於 AI 人工智能發展的影響。

由 Robert Wiener 提出的反饋機制 (Feedback mechanism)

一般來說，反饋 (feedback) 是對於資訊迴路的抽象描述，目的是在確保一個系統能夠持續地改善與調適 (improvement/adaptation)。

在真實世界裡，人類和動物都需要收到反饋，以便提高做某件事情的技能水準。同樣的，一個產品或技術，也需要來自於外部環境的反饋資訊，來逐步改進以達到一定的可用性。

我們可以這樣說，任何有用的自動化系統，本身都是封閉迴路的反饋系統 (closed-loop feedback system)。系統會監控輸出，並且用來調整輸入；藉由不斷地回饋本身的狀態，來自行調整運作效能。

從這個角度來看，那些沒有反饋機制的自我監督機器學習，像是設定了很多規則去模擬但卻沒有真實上路的自駕系統，發展到最後並不能產生令人滿意的結果，那就一點也不意外了。因為這樣的系統，缺乏來自於外部環境對於表現好壞的反饋。

這些資訊是非常必要的，可以用來改進跟修正。

從這個角度來看，一個 AGI 通用人工智慧必須要能夠自主與環境互動，透過觀察去收集動作之後的反饋，並通過某種機制去持續地整合所得資訊，進而改寫優化自身的程式碼。

由 Rolf Landauer 提出的蘭道爾原理 (Landauer’s Principle)

Landauer’s Principle 把資訊熵 (information entropy) 與熱力學的熵 (thermal dynamics entropy)，巧妙地連結在一起。兩者同樣都遵循熱力學的第二定律。這個原理認為，當你刪除一個位元的資訊時，會有對應的能量被釋放到環境中，也就是變成熱能。資訊處理和能量消耗之間是密不可分的。

熵在這裡可以被視為一個對不確定性 (uncertainty)，或混亂程度 (disorder) 的度量。在人工智能領域中，降低熵就意味著減少不確定性、提高模型的預測能力或效能。

如果一個演算法被放在封閉系統裡，沒有來自外部環境的資訊反饋，像是加入更多的新數據或是人類的知識，它將無法學習或適應新的狀況。它的智能水平或是預測能力將無法提昇，熵也就不會降低。

目前最常用的反饋方法是，利用工程師自己的理解和判斷，來優化和改進機器學習模型。然而人類的思考速度和處理能力相對較慢，而且可能受到先入為主的偏見影響。隨著數據和模型規模的增長，單單只靠人類工程師的大腦來反饋和優化，可能會變得越來越不切實際。

閱讀全文 關於智能的第一性原則，以及對於 AI 人工智能發展的影響

如何設計一份能自主成長的工作？

[大衛選讀] 最近我一直在想，五到十年後的工作，還是跟現在一樣嗎？肯定不一樣，過去光是遠端協作工具的導入，就已經改變了整個設計溝通的模式以及職能上的需求。未來 AI 大量自動化之後，對於人類工作挑戰上的改變，肯定是巨大而直接的。

How Well-Designed Work Makes Us Smarter 這篇文章，提到了人類認知的兩種關鍵能力，包含結晶智慧與流體智慧 (Crystallized and Fluid Intelligence)。以及如何透過良好的工作設計，去讓工作者自主學習，累加知識，並且促進認知發展。

身處設計顧問業，我們每一個專案的團隊組成、設計流程、甚至專案挑戰，都是可以 (而且需要) 被設計的。當然不可能隨心所欲想幹嘛就幹嘛，但總是有機會去做點工作設計上的努力，讓大家工作開心自主些，在過程中多一點好的挑戰跟反饋。

重點摘要整理如下，全文連結：https://sloanreview.mit.edu/article/how-well-designed-work-makes-us-smarter/

How Well-Designed Work Makes Us Smarter

如何透過精心規劃的工作安排，讓我們變得更聰明

良好的工作設計，讓工作者能自主、目標導向地解決問題，可以增強員工的認知技能，並且有助於持續學習。

推動員工持續學習是一個日益迫切的優先要務。隨著 AI 人工智能系統的發展，越來越多手動和常規工作會被自動化，人類可能會需要轉而去承擔那些更具認知挑戰 (more cognitively challenging) 的工作。這一切使得管理者必須要認知到，如何在工作場所培育認知能力、加速學習成長，變得越來越關鍵。

研究結果發現，並非所有的工作在促進學習方面都有一樣的效果。但差異並不來自工作的類型，而是跟工作設計 (work design) 是否得當有關。

在這篇文章中，我們將提到五個在工作設計上的重要面向。我們也將針對勞動力逐漸老化的影響，並且在管理實踐上提出建議。但首先，我們將先解釋什麼是認知，以及對工作者績效表現有關的兩種關鍵能力。

結晶智慧與流體智慧 (Crystallized and Fluid Intelligence)

人類認知有兩個關鍵的類型，對工作績效都相當重要：結晶知識和流體認知的能力。

知識包括了我們所知的事實、我們如何做事的理解 (程序性知識, procedural knowledge) ，以及所謂的內隱知識 (tacit knowledge)，像是非正式獲得且難以解釋的知識，例如開車的經驗技能。

在整個職業生涯中，隨著人們積累經驗並發展專業，工作相關的知識會隨之增加。這一變化被稱為結晶智慧 (crystallized intelligence) 的增長。

以銷售業務為例，透過持續的銷售活動，他們將更深入了解產品和客戶，形成專業知識。多年下來，大量累積的知識讓他們能夠處理棘手的客戶和複雜的產品問題。銷售業務的知識，也就是結晶智慧，因此累積增加而且能充分運用。

第二種認知是流體認知能力 (fluid cognitive abilities)，也就是我們留意、推理跟處理資訊的能力。以剛剛提到的銷售業務為例，基礎的工作記憶能力 (working memory) 和處理複雜資訊的速度，使他們能夠在第一線妥善解決客戶的問題。

結晶而成的知識會累積並在一生當中持續增長；然而後面這種流體認知能力，又稱為流體智慧 (fluid intelligence)，通常在成年早期達到高峰，然後就隨著年齡開始退化下降。

閱讀全文 如何設計一份能自主成長的工作？

易用性研究發現，AI 可提升員工生產力達 66%

[大衛選讀] 使用者體驗研究先驅 Jakob Nielsen 剛發表文章表示：最新的易用性研究發現，AI 可提升員工生產力達 66%

Jakob Nielsen 是在使用者體驗設計 (User Experience Design) 和易用性 (Usability) 領域中極具影響力的專家。他被認為是網頁易用性概念的教父，同時是專業諮詢公司 Nielsen Norman Group 的共同創辦人。

很少看到 Jakob Nielsen 用如此興奮的口氣發表文章。看著UX領域的大師級人物，對於 AI 提昇工作效能的實證研究成果，有這樣熱切 (手舞足蹈?) 的反應，真是非常新奇。

簡單講，AI 讓生產力瞬間增加了66%，這是很驚人的進步。AI 不只增加了效率，也同時增進了品質。AI 不會取代人類，往後最好的工作結果，將來自 AI 和人類的共同協作。AI 縮小了技能差距，同時也減低了人們在工作記憶上的負載，這將會大量釋放創新突破的可能性。

我盡量在翻譯上保留 Jakob Nielsen 的原意語調了，有興趣感受一下興奮感的，記得閱讀一下原文 🙂

重點摘要整理如下，全文連結：https://www.nngroup.com/articles/ai-tools-productivity-gains/

AI Improves Employee Productivity by 66%

易用性研究發現，AI 可提升員工生產力達 66%

我們終於得到了關於像 ChatGPT 這種生成式 AI系統在實際商業任務中的易用性研究數據。三個最新的研究針對不同領域中非常不同類型的工作者進行了測試，都得出了相同的結論：使用 AI 後的生產力明顯提高 (productivity increased significantly)，技能最低的工作者獲得了最大的收益 (biggest gains for the least-skilled users)。其中一些研究還發現，不只是效能，工作的質量也有所提高。

近幾個月以來，對 AI 無止盡的討論一直在進行，但幾乎所有的結論都是推測性的，充滿了作者的個人觀點。大部分內容都可以看做是胡說八道。

基於特定觀點的猜測經常是錯誤的，並且當公司砸了大筆資源，卻推出了無效的產品時，這將會導致大量的浪費虧損。這就是為什麼這些從用戶實地使用中所蒐集來的實證資料 (empirical data from hands-on use)，會如此地有價值。

生產力研究結果 (Productivity Findings)

最近有三個獨立研究，分別測試了企業軟體公司的客服人員解決客戶查詢、經驗豐富的商業人士撰寫常規商業文件，以及程式設計師編寫一個小型軟體。

研究中最引人注目的結果是： AI 確實適用於真實的商業使用。與沒有 AI 工具相比，用戶在 AI 協助下去執行工作要有效率得多。

• 研究1：使用 AI 的客服人員，每小時能多處理 13.8% 的客戶查詢。

• 研究2：使用 AI 的商業人士，每小時能多撰寫 59% 的商業文件。

• 研究3：使用 AI 的程式設計師每週能多編寫 126% 的程式碼。

從圖表中可以清楚地看到，任務生產力的變化在三個研究的領域中非常不同。似乎越需要認知的任務 (例如：寫代碼 vs. 回答客戶查詢)，越能受益於 AI 的協助。

AI 導致的生產力提升真的有那麼重要嗎？ (Is the AI-Caused Productivity Lift a Big Deal?)

平均而言，在這三項研究中，生成式 AI 工具在執行實際任務時讓企業用戶的生產力增加了66%。我們應該如何評價這個數字？

單純數字本身是沒有意義的。只有當我們將其與其他數字進行比較時，才能得出結論。

作為比較，根據美國勞工統計局的數據，美國的平均勞動生產力增長在 COVID-19 大流行前的 12 年 (2007-2019年) 中，為每年增加 1.4%。根據 Eurostat 的數據，歐盟在同一時期的平均勞動生產力增長為每年 0.8%。

現在我們有了可以比較的東西。AI 帶來的 66% 生產力增長，如果是用自然方式增長，在美國得花上 47 年，在歐洲得花上 88 年。從這點看來，確實，AI 是一件大事！

閱讀全文 易用性研究發現，AI 可提升員工生產力達 66%

AI 即將大幅改變教育與學習，我們必須做好準備

[大衛選讀] AI 對於教育會有什麼影響？這是一個很有急迫感的問題。相較於在企業內，使用人工智能來協助工作，通常是一個正向樂觀的期待；在教育領域上，則充滿了各種挑戰跟不確定性。

史丹福大學 – 以人為本人工智慧研究院 (Stanford HAI, Human-Centered AI Institute) 在今年二月舉辦了AI+Education Summit. 在一整天的工作坊交流中，各方教育專家深入討論了 AI 改變教育的潛力，以及在這過程中可能面臨的風險。

在教育上，AI 可以帶來的改變是很巨大的。用得好的話，將給予老師前所未有、高度個人化的即時支援；同時也逼著學習者必須去重新思考，什麼才是真正重要的東西。

然而，這才剛剛開始。一切都開始快速變化中；現在是時候，在教育上要去做正確的努力了。可以好好細讀想想，怎樣跑在前面，幫我們的孩子去更好地走在 AI 的浪頭上。

重點摘要整理如下，全文連結：https://hai.stanford.edu/news/ai-will-transform-teaching-and-learning-lets-get-it-right

AI 即將大幅改變教育與學習，我們必須做好準備

在 AI+Education Summit上，史丹福的研究人員、學生和產業領袖討論了 AI 改變教育的潛力，以及在這過程中可能面臨的風險。

直到2月15日峰會舉行的時候，ChatGPT已經擁有超過一億個用戶，30%的大學生已經用它完成作業，讓它成為有史以來成長最快的新科技應用，特別是在教育場合中尤其明顯。現在在教育界，教師和學校一直在思考如何應對這種新興技術。

AI+Education Summit 探討了一個核心的問題：如何善用 ChatGPT 和其他的 AI 來促進人類的學習？

很明顯地，新科技可以讓教育變得更加普及，從根本上改變、創造出全新的教學方式；但 AI 也有可能會把很糟的教學模式變得自動化、為更多人帶來負面的影響。這端看我們怎麼運用它。

首先，來看看AI的潛力：

潛力一：為大量教師提供個人化的支援

模擬學生 (Simulating students)：AI 語言模型可以作為模擬的實習生，幫助新進教師進行實務訓練。去反覆模擬教學過程中的混亂狀況，並且主動發問各種延伸問題。

即時反饋和建議 (Real-time feedback and suggestions)：AI 也可以根據實際教學狀況，結合專家教學資料庫，給台上的老師提供即時的反饋跟建議，像是當下合適的幾個引導問句等。

教學後反饋 (Post-teaching feedback)：AI 可以產生課後分析報告，總結這堂課的整體動態。像是：學生的發言時間、辨別出引發最多參與的問題等。

更新專業知識 (Refreshing expertise)：AI 可以幫助教師跟上專業領域的最新進展。例如，生物老師可以讓 AI 幫忙補充他們對最新癌症研究的了解，或利用 AI 來更新課程內容。

閱讀全文 AI 即將大幅改變教育與學習，我們必須做好準備

人工智能會導致內容的超級通膨 (content hyperinflation) 嗎？

[大衛選讀] 這是一個最近經常聽到，但是眾說紛紜的議題。

2010年以前，關於資訊與內容，大家關心的是資訊過載 (information overload) 的問題。電子郵件、內容農場、社群媒體等應用加在一起，造成了資訊量過大，超過人們認知負荷，而有一波焦慮跟反思。

2022年以後，生成式人工智慧，則是帶來另外一波大浪。AI 生成的內容，開始可以大量無限制的產出，而且跟人類撰寫的內容已經開始不分軒輊。這就不只是閱讀接收端的問題了，而是會大幅影響到內容生產端。

Will AI Lead to Content Hyperinflation? 這一篇文章從網路創業者的角度來看，試著去思考：如果內容是網路出版的「貨幣」，那麼開始進入「通貨膨脹」時期的我們，又該如何面對，甚至善用這場大劇變？

我很喜歡他的結論，最終還是回到，大家為什麼要買你的內容。消費者真的是買一本書、訂閱一個頻道嗎；還是為了「信任」、「參與」和「影響力」而付費？

重點摘要整理如下，全文連結：https://copymatic.ai/will-ai-lead-to-content-hyperinflation/

人工智能會導致內容的超級通膨嗎？

ChatGPT 已經證明是 AI 的關鍵突破，它讓大眾為之著迷；同時也讓理解其連鎖影響的人，感到深刻的憂慮。

對於一般大學生或自由撰稿人來說，透過簡單的文字提示，就可以在 30 秒內生出一篇獨特且看起來可信的文章，這聽起來簡直像是天堂一樣 。

直到你開始去想像往後的情境，並開始意識到，這最終將走向何方。未來還是天堂嗎，這就是個問題了。

無論如何，看起來我們最終將不可避免地，得面對 AI 內容的海嘯。讓我們更深入地去想一下，這意味著什麼。到底是挑戰，還是機會。

首先，圖靈測試將會被突破, Passing the Turing Test

Alan Turing 在1950年設計了圖靈測試的思想實驗，用來看機器是否能真正展現出與人類無法區分的行為與溝通。70年後的今天，無論 GPT-4 或其他 LLM 是否能正式通過圖靈測試，我們基本上已經打開了潘多拉的盒子。

AI 創建優質內容的能力，將達到一個難以想像的規模。這樣的內容閱讀起來，就像人類親手寫的一樣。這個現實，已經近在咫尺。

再來，不祥的預兆已經出現, The Writing on the Wall

ChatGPT 推出後只花了兩個月，用戶數就從零增長到1億，成為歷史上成長最快的單一應用。

這成就非常驚人，但同樣令人驚訝的是，大型科技公司如何迅速地面對現實，棄械投降。這當中最引人注目的是 Google 對「自動化內容, automated content」，在態度上的明顯急轉彎。這是讓 SEO領域和出版業界難以接受的事情，因為這跟 Google 先前十幾年來的規範指引，明顯是互相矛盾的。過往這些搜尋相關的規範，明顯地反對任何形式的內容自動化。

這對於網站經營者、SEO產業，甚至對於一般的Google搜尋用戶都有巨大的影響。其中最明顯的影響，就是內容量的問題。

如果 GPT-4 真的可以透過簡單的文字提示，就寫出一本 60,000頁的小說；那麼有什麼可以阻止它在幾分鐘內，就建立起一個真正有用的 60,000 頁權威網站呢？這是一個極端的例子，但確實也是非常可能發生的狀況。

即使出版商很克制地只使用 AI 進行概念發想、內容延伸，或者只使用在頁面的某些區域；其結果仍然會是，每一個利基市場的內容量，以及其中的競爭，將會因此增加好幾個數量級，而且幾乎不需要額外的成本。

我們已經看到像 Red Ventures 這樣的大型出版商，公開揭露他們所發佈的內容，有採用「內容自動化」技術。很確定的是，如果他們的競爭對手，看到他們使用這種策略可以獲得成功，其他出版商將會盡可能快地啟動 AI 引擎。

如果內容是網路出版的「貨幣」，那麼我們確實開始進入「通貨膨脹」時期。

閱讀全文 人工智能會導致內容的超級通膨 (content hyperinflation) 嗎？

Don Norman談人工智能與設計

[大衛選讀] Don Norman是認知科學與使用者體驗設計的重要人物。他是 「情感設計」和 「使用者中心設計」概念的主要推動者，對設計思維、使用者體驗、人機互動等領域產生了深遠影響。

在這個課程影片裡，Don Norman談到人工智能在設計中的應用，以及在人人都可以做設計的年代，專業設計師所需肩負的重責大任。

重點摘要整理如下，全文連結：https://www.interaction-design.org/literature/topics/ai

現在的互動設計師正以各種方式，使用人工智能技術。人工智能改進了網路搜尋、串流服務和其他平台的搜尋演算法。AI 能幫助分析上兆位元組的數據，找出人類大腦無法找出的模式。

毫無疑問的，人工智能將改變用戶與產品和服務的互動方式。

人工智能語音助手和聊天機器人，就是能針對用戶的輸入，做出即時反應的介面範例。使用經驗設計師 (UX Designer) 透過設計語音助手的聲音表徵，以及功能特性，以進一步吸引用戶。儘管聊天機器人僅是以文字呈現，但它們仍然需要在產品使用情境中，貼近人們能感知的常理。就像任何介面一樣，設計師希望創造出，用戶信賴而且喜歡使用的使用者體驗。

「有一個非常簡單的公式，可靠度加上專業度，等於最後感知到的可信賴度 (perceived trustworthiness plus perceived expertise will lead to perceived credibility)。由於人工智能是為了服務人類，我無法想像在哪種情況下，用戶體驗設計會不重要…  如果搞砸了用戶體驗設計，不管你的人工智能技術有多厲害，都是沒有意義的。」- Dan Rosenberg, UX Professor at San Jose University

閱讀全文 Don Norman談人工智能與設計

人工智能已經入侵了人類文明的操作系統

[大衛選讀] 這一期經濟學人當中，有一篇文章吸引了我的注意。標題是：「人工智能已經入侵了人類文明的操作系統」。

近期 AI 工具一波波導入，大家開心擁抱各種研討會新知的時候，我覺得是值得靜下心來去思考的觀點。

重點摘要整理如下，全文連結：https://www.economist.com/by-invitation/2023/04/28/yuval-noah-harari-argues-that-ai-has-hacked-the-operating-system-of-human-civilisation

Yuval Noah Harari 認為，人工智能已經入侵了人類文明的操作系統。這位歷史學家和哲學家指出，會講故事的電腦，將徹底改變人類歷史的進程。

自從計算機時代以來，人工智能(AI) 的發展一直困擾著人類。迄今為止，這些恐懼主要集中在機器通過物理手段殺掉、奴役或取代人類。但在過去幾年中，出現了新的人工智能工具，從意想不到的方向威脅著人類文明的生存。人工智能已經取得了一些驚人的語言操作和生成能力，無論是文字、聲音還是圖像。

人工智能因此入侵了我們文明的操作系統。

語言是幾乎所有人類文化的基石。例如，人權並未刻在我們的DNA上。相反地，人權是我們通過講故事，和制定法律時，所創造的文化產物。上帝神佛也並非物質現實，而是我們通過創造神話，和撰寫經文時，所創造出的文化產物。

貨幣也是一種文化產物。紙幣只是五顏六色的紙張，而目前超過 90% 的貨幣甚至不是紙幣，它只是電腦計算機裡頭的一串數字。賦予貨幣價值的是故事，是銀行家、財政部長和加密貨幣大師們，所告訴我們的故事。Sam Bankman-Fried、Elizabeth Holmes 和 Bernie Madoff 在創造真實價值這方面並不擅長，但他們都是極具說服力的說故事者。

一旦 AI 比普通人更擅長講故事、譜曲、繪圖，以及撰寫法律和經文，那將會發生什麼事呢？

閱讀全文 人工智能已經入侵了人類文明的操作系統