📝📝：通用型人工智慧即將於五年內出現？｜ 目前科研人員仍舊沒有 AGI 的明確定義

本文取自《Keep The Future Human》第四章 Chapter 4: What are AGI and superintelligence? 作者是美國理論宇宙家 Anthony Aguirre。

人工通用智慧/通用型人工智慧（Artificial General Intelligence, AGI）長期以來被用來指稱具備「人類等級」的通用型人工智慧。

然而，AGI 這個概念從未有過明確的定義，隨著人工智慧技術的發展，AGI 的定義不僅沒有變得更清晰，反而變得更加模糊且具有爭議。

目前，關於 AGI 的討論主要集中在以下幾個關鍵問題：

「人類等級」的智能如何衡量？

人類的智能分佈極不均勻，且不同領域的專業能力差異極大，因此所謂「人類等級」並非一個統一的標準。

AI 在某些領域表現超越人類（如圍棋、數據分析），但在其他領域仍然落後。

智能是單維度，還是多維度？

人工智慧的發展顯示，智能可能是多維的，AI 在特定能力上可能超越人類，但在某些能力上仍有巨大差距。

例如，現有 AI 在數據處理與模式識別方面表現卓越，但在推理、創造力、情感理解等方面仍有不足。

產業界對 AGI 的「金錢」協商

在 OpenAI 與微軟的合作協議中，AGI 被定義為能夠為 OpenAI 帶來 1000 億美元收入的 AI 系統，這顯示出 AGI 可能更多是一個商業目標，而非技術或科學上的明確概念。

​
​

AGI 的發展趨勢

儘管 AGI 的概念仍然模糊，AI 的發展已經進入一個關鍵時期，並逐步邁向更高級別的通用智能。以下是幾個主要趨勢：

狹義AI（Narrow AI）：專項能力的精準執行者

狹義 AI，也被稱為弱AI（Weak AI），是目前最常見且應用最廣泛的 AI 形式。這類 AI 系統針對特定任務或相關任務家族進行訓練，在其專精領域表現出色，但缺乏通用智能或知識遷移能力。

特點及局限性

• 專項精通：在設計範圍內的任務中表現優異

• 領域侷限：無法將學習遷移到其他領域

• 可控性高：功能與應用範圍明確可預測

• 缺乏自主性：需要人類設定目標和參數

現實應用實例

1. 圖像識別軟件：能夠準確識別特定物體、人臉或場景，廣泛應用於安防監控、醫學影像診斷等領域。

2. 語音助手系統：如Siri、Alexa等，能夠理解並回應特定指令，但難以進行真正的開放性對話。

3. 棋類遊戲程序：如國際象棋競賽，在特定規則框架下表現出超越人類的能力。

4. DeepMind 的 AlphaFold：專注於蛋白質結構預測的 AI 系統，在生物學領域帶來突破性進展。

狹義 AI 雖然在特定領域表現卓越，但其發展形態決定了 AI 始終是執行特定任務的工具，而非具備通用理解能力的智能體。

狹義 AI 的成功建立在海量數據訓練和專門演算法優化的基礎上，是當前AI技術最成熟、應用最廣泛的形式。

​
​

工具型AI（Tool AI）：增強能力的智能助手

工具型 AI 代表了AI 發展的一個重要方向，即增強智能（Augmented Intelligence）或 AI 助手（AI Assistant）。

這類系統提升人類能力而非取代人類，結合了通用性 AI、狹義 AI 和可控性，優先考慮安全性和協作性，支持人類決策過程。

核心特性

• 人機協作：設計用於輔助而非替代人類工作

• 混合智能：結合通用AI與專項AI的優勢

• 安全優先：內置安全機制和人類監督

• 決策支持：提供資訊和建議，最終決策權在人類

實際應用案例

1. 高級編碼助手：如 GitHub Copilot，幫助工程師加速開發過程，提供寫程式的建議和自動完成功能。

2. AI 驅動的研究工具：協助科學家分析複雜數據集、發現模式和生成假設。

3. 數據分析平台：處理和視覺化大規模數據，幫助專業人士做出更明智的決策。

4. 醫療診斷輔助系統：協助醫生分析症狀和醫學圖像，提高診斷準確率。

工具型 AI 強調的是人機合作而非替代，這種發展路徑尊重人類的主導地位，同時最大化AI的輔助價值。

在許多專業領域，工具型 AI 已經成為提高效率和準確性的關鍵因素，代表了一種平衡發展與安全的理想模式。

通用人工智能（GPAI）：跨領域適應的智能系統

通用人工智能（General-purpose AI，GPAI）標誌著AI技術的重要飛躍，這類系統能夠適應各種任務，包括那些並非專門訓練過的任務。

GPAI 具備知識遷移能力，可以在不同領域間應用所學知識，展現出更接近人類思維的靈活性。

關鍵特徵

• 任務適應性：能處理多種不同性質的問題

• 知識遷移：將一個領域學到的知識應用於新領域

• 學習效率：較少樣本即可掌握新任務

• 概念抽象：能夠理解和操作抽象概念

當前代表性技術

1. 大型語言模型：如 GPT-4、Claude、Gemini 等，能夠理解和生成人類語言，完成從創意寫作到寫程式的多種任務。

2. 多模態 AI 模型：能同時處理文本、圖像、音頻等多種輸入形式，進行跨模態理解。

3. DeepMind 的 MuZero：無需事先了解遊戲規則，通過自我學習掌握複雜策略遊戲。

GPAI 的出現使 AI 系統開始具備解決開放性問題的能力，而不僅限於預定義的任務範圍。這代表 AI 正朝著更加靈活、通用的方向發展，雖然當前的 GPAI 系統距離真正的通用智能還有距離，但已經展示出跨領域適應的初步能力。

人類競爭性通用AI（Human-competitive GPAI）：達到平均人類水平的智能系統

人類競爭性通用 AI，也被稱為弱人工通用智能（AGI [weak]），指的是能夠在多個領域達到或超越普通人類水平的 AI 系統。這類系統不僅具備處理多樣化任務的能力，還能在這些任務中展現出與普通人類相當的表現。

標誌性特徵

• 多領域勝任：在多個不相關領域達到普通人類水平

• 通用問題解決：面對新問題時展現合理的解決能力

• 自主學習：能夠在有限指導下學習新技能

• 情境適應：根據不同情境調整行為和策略

現有技術嘗試

1. 高級語言模型：如 O1、Claude 3.5 等，在語言理解和生成方面接近或超越普通人類水平。

2. 某些多模態AI系統：能夠理解和回應複雜的視覺—語言任務，如圖像描述、視覺問答等。

3. 自動化創意系統：能夠生成藝術作品、音樂或創意文本，品質接近人類創作。

人類競爭性通用 AI 代表了 AI 發展的一個重要里程碑，代表了這些系統開始能夠在實際應用場景中替代部分人類工作。

然而，這些系統雖然在特定任務上達到或超越人類水平，但在通用性、創造力和適應性方面仍有局限，特別是在需要深度專業知識或創新思維的領域。

專家競爭性通用AI（Expert-competitive GPAI）：專業領域的智能突破者

專家競爭性通用AI，又稱為部分人工通用智能（AGI [partial]），標誌著 AI 發展的更高階段。這類系統能夠在多數任務中達到人類專家水平，具備相當程度的自主性，但仍存在一定限制。

主要特點

• 專業水平：在多個專業領域達到人類專家表現

• 有限自主性：能夠獨立規劃和執行複雜任務

• 創新能力：在特定領域展現創新解決方案

• 複雜決策：在不確定條件下做出合理決策

潛在發展方向

1. 工具輔助的高級模型：如經過工具增強的O3模型，在數學、程式和某些硬科學領域展現專家級能力。

2. 科研助手系統：能夠提出研究假設、設計實驗方案並分析結果。

3. 複雜系統設計輔助：協助設計高度複雜的工程系統，如芯片設計或城市規劃。

專家競爭性通用AI的出現將對許多專業領域產生長期的影響，可能重塑某些高技能職業的工作方式。這類系統雖然尚未完全實現，但現有技術已經顯示出朝這一方向發展的趨勢。

值得注意的是，即使是專家競爭性 AI，仍然在創造性思維、道德判斷和社會智能等方面存在局限。​
​
​
​

全面人工通用智能（AGI [full]）：超人類能力的自主智能體

全面人工通用智能，也稱為超人類通用AI（Super-human GPAI），代表著AI技術發展的一個理論化高峰。這類系統能夠自主執行幾乎所有人類智力任務，且表現達到或超越專家水平，具備高效學習和知識遷移能力。

核心特質

• 全面超越：在所有認知任務上達到或超越人類專家

• 完全自主：能夠獨立設定目標並發展實現策略

• 高效學習：以極少樣本快速掌握新知識和技能

• 創造性問題解決：能夠解決前所未見的複雜問題

目前，全面 AGI 仍是理論概念，尚無實際存在的系統。其發展面臨諸多技術挑戰，包括通用推理、真正的理解力、自主目標設定和長期規劃等。

同時，全面 AGI 的出現也將帶來重大的倫理、安全和社會挑戰，需要全球協作建立有效的治理框架。

​
​

超級智能（Superintelligence）：超越人類總體能力的智能革命

超級智能，又稱高度超人類通用AI（Highly super-human GPAI），是AI發展的理論終點，指的是在所有領域遠超人類能力，甚至超越人類集體專業知識的AI系統。這種超越可能體現在通用性、質量、速度或其他衡量維度上。

理論特性

• 全面優勢：在所有認知領域全面超越人類集體能力

• 智能爆炸：可能實現自我改進，導致智能快速提升

• 難以預測：其思維和行為可能超出人類理解範圍

• 顛覆性影響：可能從根本上改變人類文明

超級智能目前仍是純理論概念，存在諸多爭議。

一些研究者認為它可能永遠不會實現，而另一些人則擔憂可能在本世紀內出現（像是牛津大學哲學家 Nick Bostrom）。超級智能的出現（如果可能）將帶來前所未有的挑戰和機遇，包括存在風險、控制問題以及可能帶來的福祉等。

AGI 仍在定義，發展仍在進行

目前 AGI 仍然是一個概念模糊且有爭議的領域，技術發展雖然快速，但尚未達到「完整 AGI」的標準。

然而，AI 在多個領域已經達到了人類專家水平，並持續向更高級的通用智能邁進。未來 AGI 的發展不僅是技術突破的問題，更涉及社會、經濟和倫理層面的深遠影響。