如果連 OpenAI 自己內部的定義都是財務門檻,這代表 OpenAI 憲章裡「超越人類經濟價值」的定義只是說說而已嗎?
不完全是,兩者其實是同一個定義邏輯的兩種呈現方式,只是精細程度不同。OpenAI 憲章裡「高度自主、在大多數具經濟價值的工作上超越人類」這句話,本身就已經是圍繞著經濟產出打轉的定義,只是它沒有具體的數字門檻;跟微軟之間的 1000 億美元利潤條款,某種程度上是把這個抽象的「經濟價值超越」概念,轉譯成一個雙方都能在合約裡具體執行、不會有解釋空間的量化指標。
這也揭露了一個更深層的問題:任何抽象的 AGI 定義,一旦需要落實到具體、可執行的合約或政策裡,都必須被轉換成某種可測量的具體指標,而這個轉換過程,本身就會引入原本定義裡沒有的新假設(例如「用利潤來代表經濟價值」這件事,本身就已經是一種化約,忽略了許多利潤以外的經濟影響方式)。
Demis Hassabis 跟 Marc Andreessen 對 AGI 是否已到來的判斷完全相反,有沒有辦法判斷誰比較可信?
與其問「誰比較可信」,更務實的問法可能是「他們各自預設的判準是什麼」。Hassabis 身為長期投入前沿 AI 研究的科學家,他所謂的「還很遠」,背後的判準很可能更接近學術定義裡強調的多樣性、泛化能力、資料效率這類技術指標;Andreessen 身為長期看好 AI 產業投資潛力的創投家,他所謂的「已經到來」,判準則更可能貼近現有 AI 系統在具體商業應用場景裡展現出的、已經足以創造巨大經濟價值的實用能力。
兩人的判斷放在各自預設的判準底下,都可能是內部一致、有道理的結論——真正的分歧不是誰誤判了證據,而是雙方一開始就用不同的量尺在丈量同一個現象。這也是為什麼看到這類針鋒相對的公開發言時,比起急著選邊站,更值得先弄清楚雙方各自的判準是什麼。
OpenAI o3 在基準測試上拿到 87% 的高分,為什麼還會有人質疑這算不算邁向 AGI 的證據?
這個質疑的核心,在於「拿到高分」跟「用什麼方式拿到高分」是兩件不同的事。根據評論指出,o3 這個成績動用了大量測試時算力才達成——也就是說,模型在回答每一題時,投入了遠超過一般情境的運算資源去反覆推理、驗證。基準測試設計者原本想測量的,通常是模型能不能用相對有效率的方式泛化到新問題,而不是「只要願意砸夠多算力,幾乎任何足夠聰明的模型都能在特定測試上拿到高分」這種能力。
這也是為什麼理解測試時算力這個概念,能幫助讀者更準確地解讀類似「某模型在某基準測試上創下新高」這類新聞:問題不只是這個分數本身,還包括這個分數是用什麼樣的運算成本換來的——如果答案是「動用了平常情境下不會有的巨額運算資源」,這個分數能不能直接等同於「更接近 AGI」,本身就是需要進一步檢視的問題。
既然連專家都無法對 AGI 的定義達成共識,一般讀者是不是乾脆不用太在意「這算不算 AGI」這個問題?
與其說不用在意,不如說需要調整關注的焦點。與其把心力放在「這個系統到底算不算 AGI」這種二元判斷上(畢竟連定義本身都沒有共識,這個問題很可能永遠得不到所有人都同意的答案),更務實的做法,是把焦點放在具體、可觀察的能力變化本身——例如某個模型在特定任務類型上的表現進步了多少、這個進步是靠演算法創新還是靠算力堆疊、這個進步在真實應用場景裡能不能穩定重現。
這也是為什麼本站的內容設計,會更側重像 ARC-AGI 基準測試分數變化、測試時算力如何影響表現、思維鏈監控能不能真正驗證模型的推理過程這類具體、可查證的技術進展,而不是直接斷言「AGI 還有幾年就會到來」——後者這類判斷,終究建立在一個目前仍然沒有共識的定義之上,任何看似確定的答案,都值得先問一句:這是在哪一種定義下成立的?
如果你打算開始關注 AGI 相關新聞,第一件該知道的事,可能有點反直覺:目前根本沒有一個所有人都同意的「AGI」定義。這聽起來像是無傷大雅的用詞歧異,但實際上,這個定義本身的分歧,已經真實影響了數十億美元合約的走向、公司之間的訴訟角力,以及各國政府的政策方向。
OpenAI 憲章對 AGI 的定義是「高度自主、在大多數具經濟價值的工作上都超越人類的系統」——請注意,這個定義完全圍繞著「經濟產出」打轉,跟一般人直覺聯想的「機器有沒有意識」「機器會不會自己思考」幾乎沒有關係。Google DeepMind 執行長 Demis Hassabis 曾公開表示,我們「離 AGI 還很遠」;創投家 Marc Andreessen 則表示 AGI「已經到來」。兩人都是這個領域裡份量十足的專家,但顯然不可能同時都對——這正是因為,他們兩人很可能腦中預設的「AGI」根本不是同一個東西。
這場定義之爭最戲劇性的具體案例,發生在 OpenAI 與微軟之間。根據多家媒體報導,兩家公司在早期合約裡曾納入一項「AGI 條款」:一旦 OpenAI 董事會正式宣告自己的系統已經達成 AGI,微軟原有的技術授權就會自動失效。但要讓這個條款真正可執行,雙方需要一個可具體判定的標準——於是根據《The Information》的報導,兩家公司私下訂出的判定標準,其實跟意識、推理能力、通用性完全無關,而是財務門檻:只要 OpenAI 開發出能產生至少 1000 億美元利潤的 AI 系統,就視為達成 AGI。以 OpenAI 當時仍在大幅虧損、預估要到 2029 年才可能轉虧為盈的財務狀況來看,這個定義代表 AGI 的到來時間,某種程度上取決於財報,而不是取決於任何技術評測。這項條款後續在 2026 年經過多次協商調整,最終雙方於同年 4 月宣布微軟對 OpenAI 技術的授權延長至 2032 年,AGI 條款本身的效力也隨之改變——這場圍繞著「AGI 是什麼」的商業角力,本身就是這個詞彙目前定義有多不穩定的最佳寫照。
拋開商業合約不談,學術與研究社群對 AGI 的定義同樣充滿分歧。2023 年 Google DeepMind 發表的一篇論文,刻意把重點從「經濟價值」移開,改用「多樣性」作為核心判準——例如系統能不能在資料稀少的情況下快速學會新技能,而不只是在特定任務上超越人類。一般大眾最常見的通俗定義,則是「一個能執行人類能做的任何認知任務、至少達到人類水準的系統」——但這個定義同樣模糊:「任何認知任務」具體包含哪些?「人類水準」是指普通人的水準,還是該領域專家的水準?這些問題目前都沒有標準答案。
對於剛開始關注這個領域的讀者而言,理解這場定義之爭最實際的意義是:每當看到「AGI 即將到來」或「我們離 AGI 還很遠」這類新聞標題,第一個該問的問題,不是「這個說法對不對」,而是「說這句話的人,心裡預設的 AGI 定義是什麼」。一家實驗室的執行長,跟一位學術研究者,跟一份商業合約的律師,三者腦中的 AGI 可能完全是三個不同的東西——OpenAI 的 o3 模型在某個公開基準測試上拿到約 87% 的成績,被部分人視為邁向 AGI 的重大突破,但也有人指出,這個成績動用了大量測試時算力才達成,用的方法未必反映基準測試設計者原本想測量的那種「有效率的泛化能力」。這也是為什麼理解 AGI 這個詞背後的定義分歧,是進入這整個領域最基礎、也最必要的第一步——它會直接影響你該怎麼解讀接下來讀到的每一篇相關報導。