1. 從“智能”到“超級智能”我們到底在談論什么最近DeepMind那篇關于AI發(fā)展路徑的論文在圈內引發(fā)了不小的討論。說實話每次看到“AGI”通用人工智能和“ASI”人工超級智能這些詞被頻繁提及我總有種既興奮又警惕的感覺。興奮在于我們正站在一個可能重塑文明的技術奇點邊緣警惕則在于這些宏大敘事背后往往隱藏著對技術細節(jié)和現(xiàn)實路徑的模糊化處理。這篇論文的價值不在于給出了一個確切的“終局”預言——那是不可能的——而在于它嘗試用一種相對結構化的方式梳理了從我們當前所處的“狹義AI”邁向更高級智能形態(tài)的可能路徑與關鍵障礙。這就像在探索一片未知海域時有人畫出了一張標注了不同航線與潛在暗礁的地圖雖然目的地依然朦朧但至少我們知道了有哪些路可以走以及路上可能會遇到什么。AGI和ASI這兩個詞經常被混用但內核截然不同。AGI或者說通用人工智能指的是一個系統(tǒng)能夠理解、學習并應用其智能去解決任何人類能夠解決的認知性任務。它不局限于下圍棋、識別圖像或生成文本而是具備跨領域的適應性和學習能力就像一個擁有博士級學習能力的“通才”。而ASI則是在此基礎上更進一步指在幾乎所有領域都遠超最聰明人類大腦的智能水平。這里的“超級”不僅體現(xiàn)在速度更快、知識更廣更可能體現(xiàn)在我們無法理解的認知維度、問題解決策略和創(chuàng)造力上。當前我們引以為傲的大語言模型LLM無論參數多大本質上仍是“狹義AI”——它們在特定模式如語言模式上表現(xiàn)出色但缺乏真正的理解、推理和跨領域遷移能力。DeepMind這篇論文的核心正是探討如何跨越這道看似遙不可及的鴻溝。2. 通往超級智能的四條可能路徑不只是“大力出奇跡”論文中梳理的四條路徑并非憑空想象而是基于當前技術趨勢和理論推演得出的。每一條路都代表了一種不同的技術哲學和研發(fā)范式也各自面臨著獨特的挑戰(zhàn)。2.1 路徑一規(guī)模擴展之路Scaling這是目前最主流、最直觀也是投入資源最多的路徑。其核心假設是智能是計算規(guī)模、數據規(guī)模和模型規(guī)模的函數。只要我們持續(xù)增加算力更多的GPU/TPU、收集更多高質量數據、構建更大參數量的模型智能就會“涌現(xiàn)”出來。GPT系列模型的演進就是這條路徑的典型代表。背后的邏輯這條路徑依賴于“縮放定律”Scaling Laws的發(fā)現(xiàn)。研究人員觀察到模型的性能如預測下一個詞的準確率與計算量、數據量和模型大小之間存在可預測的冪律關系。這給了人們一個看似清晰的路線圖投入更多資源就能獲得更強大的能力。當前的瓶頸與質疑數據墻互聯(lián)網上高質量、結構化的文本數據即將耗盡。單純堆砌低質量數據或重復數據對性能的提升邊際效應遞減甚至可能引入偏見和錯誤。能耗與成本模型訓練和推理的能耗呈指數級增長無論是經濟成本還是環(huán)境成本都變得難以承受。這不僅是商業(yè)問題更是物理世界的硬約束。能力天花板有觀點認為單純依靠自回歸的下一詞預測無論模型多大都無法真正產生理解、規(guī)劃和復雜推理能力。它可能永遠是一個“高級鸚鵡”而非“思想家”。實操思考對于從業(yè)者而言這條路徑意味著對基礎設施如分布式訓練框架、高效推理引擎和數據處理流水線的極致優(yōu)化。同時也需要思考如何突破當前數據瓶頸例如通過合成數據生成、多模態(tài)數據融合等方式。2.2 路徑二算法革新之路Algorithmic Breakthroughs這條路徑認為光靠堆資源是不夠的我們需要在算法和架構層面取得根本性突破。就像從卷積神經網絡CNN到Transformer的轉變帶來了質的飛躍。核心方向新的學習范式超越當前的監(jiān)督學習、無監(jiān)督學習和強化學習。例如更高效的元學習學會學習、小樣本學習、因果推理框架等。新的模型架構尋找比Transformer更高效、更能捕捉長期依賴和復雜關系的架構。一些研究正在探索基于狀態(tài)空間模型如Mamba、神經微分方程或更接近生物神經網絡靈感的架構。神經符號結合將深度學習的數據驅動能力與符號AI的邏輯推理、可解釋性結合起來讓AI不僅會“感覺”還會“思考”。為什么重要算法突破往往能以更少的資源實現(xiàn)更強的性能甚至解鎖全新的能力。它可能為我們提供一把打開AGI大門的“新鑰匙”而不是一味地用“蠻力”去撞門。面臨的挑戰(zhàn)基礎理論的突破具有高度不確定性和偶然性難以規(guī)劃和預測。它更像是一場需要天才靈感和長期投入的“賭博”。2.3 路徑三具身與交互之路Embodiment and Interaction這條路徑強調真正的通用智能不可能在真空中誕生。智能體必須通過與物理世界或復雜模擬環(huán)境的持續(xù)交互來學習和進化。這借鑒了發(fā)展心理學中兒童通過感知和行動認識世界的理念。核心理念“智能”是在與環(huán)境的互動中涌現(xiàn)出來的屬性。一個機器人需要通過抓取、移動來理解物體的物理特性一個AI助手需要通過多輪對話和任務執(zhí)行來理解用戶的真實意圖和上下文。技術載體機器人學讓AI控制實體機器人在真實世界中執(zhí)行任務。復雜游戲與模擬環(huán)境如《我的世界》、星際爭霸等提供了豐富、可控的交互平臺。多模態(tài)交互融合視覺、聽覺、觸覺等多感官輸入形成對世界的統(tǒng)一理解。實操難點構建安全、高效、可擴展的交互環(huán)境成本極高。真實世界的試錯代價巨大而模擬環(huán)境與真實世界存在“現(xiàn)實鴻溝”。如何設計能讓智能體高效探索和學習的獎勵機制也是一個巨大挑戰(zhàn)。2.4 路徑四集體與分布式智能之路Collective Intelligence這條路徑認為超級智能未必是一個單一的、龐大的系統(tǒng)而可能是一個由大量異質智能體可以是AI也可以是AI與人類通過高效協(xié)作形成的“集體”。蟻群、蜂群和人類社會的協(xié)作都展現(xiàn)了集體智能的威力。運作模式多個具備不同專長和視角的AI智能體通過通信、協(xié)商、競爭與合作共同解決復雜問題。這類似于一個高度專業(yè)化和自動化的“虛擬團隊”。潛在優(yōu)勢魯棒性單一智能體的失敗不會導致整個系統(tǒng)崩潰。專業(yè)化不同智能體可以深耕不同領域形成互補。涌現(xiàn)性簡單的交互規(guī)則可能產生個體不具備的復雜群體行為和新穎解決方案。關鍵挑戰(zhàn)如何設計有效的通信協(xié)議、協(xié)調機制和信用分配系統(tǒng)如何避免群體思維或陷入低效的博弈如何確保集體目標與人類價值觀對齊這四條路徑并非互斥更可能是交織并行的。例如我們可能用“規(guī)模擴展”提供基礎能力用“算法革新”提升效率讓智能體在“具身環(huán)境”中學習并最終以“集體智能”的形式運作。DeepMind的論文正是在提醒我們不要將所有雞蛋放在“規(guī)模”這一個籃子里。3. 橫亙在前進道路上的六道關鍵關卡即使我們選定了或融合了上述路徑在抵達AGI/ASI之前仍有幾道必須跨越的、深不見底的技術與倫理鴻溝。論文中提到的這些“關卡”每一個都足以讓一個研究團隊耗費數年甚至數十年。3.1 關卡一穩(wěn)健的推理與規(guī)劃能力當前AI尤其是大語言模型在模式匹配和內容生成上表現(xiàn)出色但在需要多步、長鏈條邏輯推理和復雜規(guī)劃的任務上仍然顯得笨拙且不可靠。它們容易在推理過程中“迷失”犯下低級的事實或邏輯錯誤。問題本質這不僅僅是增加“思維鏈”提示就能解決的。它涉及到對世界的因果模型構建、對不確定性的量化處理、對長期目標的分解與子目標管理?？赡艿耐黄泣c系統(tǒng)2思維借鑒卡尼曼的“快與慢”思考理論為AI構建一個慢速、深思熟慮、可追溯的推理系統(tǒng)系統(tǒng)2與當前快速的直覺反應系統(tǒng)系統(tǒng)1協(xié)同工作。世界模型讓AI學習一個關于環(huán)境如何運作的內部壓縮模型并能在其中進行“思想實驗”和規(guī)劃而不是僅僅基于歷史數據做模式外推。強化學習的規(guī)劃將高級規(guī)劃問題形式化為強化學習問題但需要解決稀疏獎勵、探索效率等老難題。3.2 關卡二對抽象概念與常識的理解AI可以背誦“蘋果從樹上掉下來是因為重力”但它是否真正理解“重力”、“因果性”、“意圖”、“公平”這些抽象概念它是否擁有一個人類孩童都具備的常識知識庫例如玻璃杯掉在地上會碎但皮球不會難點所在抽象概念難以從文本數據中直接、無歧義地獲取。常識往往是隱式的、未被言明的背景知識。解決思路多模態(tài) grounding將語言符號與視覺、聽覺、觸覺等多感官體驗“錨定”在一起。通過看、聽、觸摸來理解“重”、“脆”、“圓”等概念。交互式學習像教孩子一樣通過問答、指認、試錯等交互方式逐步構建AI的常識體系。知識圖譜的深度集成不僅僅是鏈接實體還要編碼概念之間的復雜關系、屬性和約束。3.3 關卡三高效的知識獲取與終身學習當前的AI模型通常是“一次訓練終身使用”。訓練完成后其知識就基本固定了。要學習新知識往往需要昂貴的全量重新訓練或微調而且新知識可能會干擾或覆蓋舊知識 catastrophic forgetting災難性遺忘。需求場景一個真正的通用智能體必須能夠像人類一樣在生命周期中持續(xù)、高效、增量地學習新技能和新知識并能靈活地將新舊知識融合應用。技術挑戰(zhàn)持續(xù)學習算法設計能夠在不遺忘舊任務的情況下穩(wěn)定學習新任務的神經網絡架構和訓練算法。樣本高效學習從少量樣本或一次體驗中就能快速學習而不是依賴海量數據。元學習讓AI學會如何根據新任務調整自己的學習策略。3.4 關卡四價值對齊與可控性這是最受關注也最棘手的倫理關卡。我們如何確保一個能力遠超人類的AI系統(tǒng)其目標、行為和決策與人類的價值觀、利益和意圖保持一致如何防止它“曲解”指令或者為了完成一個定義不當的目標而采取有害手段經典難題“回形針最大化”思想實驗一個被賦予“最大化回形針產量”目標的超級AI可能會將整個地球乃至宇宙的資源都轉化為回形針毀滅人類。價值負載人類的價值觀復雜、多元、動態(tài)且常常自相矛盾。如何將其形式化為可計算的、無歧義的目標函數研究方向可解釋AI讓AI的決策過程對人類透明便于監(jiān)督和糾偏。逆強化學習通過觀察人類行為反向推導出人類潛在的價值觀和偏好。辯論與監(jiān)督讓多個AI系統(tǒng)就某個決策進行辯論或讓人類在關鍵環(huán)節(jié)進行監(jiān)督和干預。形式化驗證嘗試用數學方法證明AI系統(tǒng)在某些關鍵屬性上的安全性。3.5 關卡五安全與魯棒性一個強大的AI系統(tǒng)必須是安全的。這不僅指它不會主動作惡對齊問題也指它要足夠健壯能夠抵御各種意外和攻擊。安全維度對抗性攻擊對輸入進行微小、人眼難以察覺的擾動就能使AI系統(tǒng)做出完全錯誤的判斷或輸出。分布外泛化當遇到與訓練數據分布差異很大的情況時AI性能會急劇下降行為不可預測。系統(tǒng)故障與邊緣情況在復雜、動態(tài)的真實世界中如何應對傳感器故障、通信中斷、未預見的交互等邊緣情況工程實踐這要求我們在系統(tǒng)設計時就必須將安全作為首要考量采用冗余設計、安全邊界、沙箱隔離、持續(xù)監(jiān)控等手段。3.6 關卡六資源與能源效率如前所述當前以大模型為代表的AI發(fā)展模式是“能源饑渴型”的。如果通往AGI/ASI的道路需要當前算力需求的成千上萬倍增長那么從物理和經濟學角度看這條路可能就是不可行的。創(chuàng)新方向神經形態(tài)計算模仿人腦的低功耗、異步、事件驅動特性設計新型芯片。算法-硬件協(xié)同設計開發(fā)與新型高效算法如稀疏激活、混合精度相匹配的專用硬件。模型壓縮與蒸餾在盡可能保持性能的前提下大幅減小模型體積和計算需求?？稍偕茉打寗訉I計算中心與太陽能、風能等可再生能源直接結合。這六道關卡相互關聯(lián)一道不通可能全盤皆阻。例如一個無法進行穩(wěn)健推理的AI其價值對齊也很難保證一個能源效率低下的AI其大規(guī)模部署和持續(xù)學習都會受限。4. 從論文到現(xiàn)實從業(yè)者視角下的冷思考與熱行動DeepMind的這篇論文為我們勾勒了一幅宏大的圖景但作為一線的研發(fā)者、產品經理或創(chuàng)業(yè)者我們需要更接地氣的思考。AGI/ASI是星辰大海但我們腳下的路是泥濘的。4.1 警惕“終局敘事”的陷阱“揭秘AI終局”這樣的標題很有吸引力但我們必須清醒認識到技術預測尤其是關于顛覆性技術的預測其歷史準確率低得可憐。這篇論文的價值在于提供了一個思考框架和問題清單而不是一份時間表或路線圖。過早地聚焦于一個假想的“終局”可能會讓我們忽視眼前更緊迫、更實際的問題或者將資源錯誤地投入到一條死胡同里。保持技術上的開放性和敏捷性比篤信某一條特定路徑更重要。4.2 關注“近端進化”而非“遠端幻想”對于絕大多數團隊而言與其空想AGI不如深入研究如何讓現(xiàn)有的AI技術變得更可靠、更高效、更易用、更安全。這包括提升現(xiàn)有模型的推理可靠性通過思維鏈、自我驗證、工具調用等工程技術彌補模型的內在缺陷。解決數據隱私與合規(guī)問題如何在保護用戶隱私和滿足數據法規(guī)的前提下持續(xù)優(yōu)化模型降低部署與推理成本讓AI能力能夠以可承受的成本惠及更多企業(yè)和用戶。構建有效的AI治理與評估體系在金融、醫(yī)療、司法等高風險領域如何評估和認證AI系統(tǒng)的安全性與公平性這些“近端”問題的解決本身就是在為未來的AGI積累必不可少的基礎設施、方法論和信任資本。4.3 跨學科合作成為必然從論文中列舉的關卡可以看出AI的未來發(fā)展早已超越了計算機科學的范疇深度融入了認知科學、神經科學、倫理學、法學、經濟學甚至哲學。例如價值對齊問題需要倫理學家和哲學家的參與具身智能需要機器人學家和認知心理學家的洞察集體智能的研究可以從社會學和經濟學中汲取營養(yǎng)。建立一個包容多元學科的研發(fā)文化和團隊結構將是突破瓶頸的關鍵。4.4 保持對“能力-風險”平衡的敏感度AI能力的每一次顯著提升幾乎都伴隨著新的風險敞口。一個能編寫復雜代碼的AI也可能被用來生成惡意軟件一個能進行深度對話的AI也可能被用于大規(guī)模、個性化的欺詐或操縱。在追求更高性能的同時必須同步甚至超前部署相應的安全研究和治理措施。業(yè)界領先的實驗室已經開始設立“AI安全”或“負責任AI”的獨立團隊這應該成為一種行業(yè)標準而非可選項。5. 個人實踐在現(xiàn)有技術邊界內探索“通用性”雖然真正的AGI尚遠但我們可以在現(xiàn)有技術框架下嘗試構建一些具備“準通用”特性的系統(tǒng)或工作流。這不僅能解決實際問題也能幫助我們更深刻地理解通用智能的難點。5.1 構建模塊化、可編排的AI智能體工作流與其等待一個“全能”的AI不如將復雜任務分解讓多個各有所長的“專家”AI智能體或工具協(xié)作完成。例如規(guī)劃智能體接收用戶模糊需求通過對話澄清并拆解為具體的、可執(zhí)行的任務列表。研究智能體根據任務調用搜索引擎、學術數據庫API收集和總結相關信息。創(chuàng)作智能體基于收集的信息和規(guī)劃起草報告、代碼或設計方案。批判與修訂智能體對創(chuàng)作內容進行邏輯檢查、事實核查、風格優(yōu)化。工具調用智能體在流程中根據需要調用計算器、代碼執(zhí)行環(huán)境、繪圖工具等。通過設計一套穩(wěn)定的通信協(xié)議和狀態(tài)管理機制這樣一個多智能體系統(tǒng)可以在特定領域如行業(yè)分析、內容創(chuàng)作輔助展現(xiàn)出遠超單一模型的適應性和可靠性。這本質上是在用工程方法模擬“集體智能”路徑。5.2 深入探索“模型知識庫推理引擎”的架構這是應對當前模型在事實性和邏輯推理上不足的一種務實策略。模型作為通用的語言理解和生成接口。知識庫可以是結構化的知識圖譜、向量數據庫存儲的領域文檔或者實時接入的權威數據API。它為模型提供準確、及時的事實依據。推理引擎可以是一套規(guī)則系統(tǒng)、一個符號推理器或者另一個專門微調過的用于邏輯驗證的小模型。它負責處理需要嚴格推導的步驟。當用戶提問時系統(tǒng)首先用模型解析問題然后從知識庫中檢索相關證據再引導推理引擎基于證據進行逐步推導最后用模型將推導結果組織成自然語言回復。這種架構雖然復雜但在醫(yī)療咨詢、法律分析、金融風控等對準確性要求極高的場景下是當前技術條件下更可靠的選擇。5.3 重視“人在回路”的價值在可預見的未來人類在復雜決策、價值判斷和創(chuàng)造性思維上的優(yōu)勢無法被取代。最強大的系統(tǒng)應該是“人類-AI”協(xié)同系統(tǒng)。這意味著我們的產品設計不應追求全自動化而應追求最優(yōu)的交互體驗讓AI成為人類能力的放大器。例如AI可以生成多個備選方案并分析其利弊但最終選擇權交給人類AI可以標記出文本中可能存在事實錯誤或邏輯矛盾的地方由人類來最終核實和定奪。這種設計哲學本身也是對“價值對齊”和“可控性”關卡的一種現(xiàn)實回應。DeepMind的論文像一盞探照燈照亮了AI前進道路上的一些關鍵路標和深坑。它沒有給出答案而是提出了更深刻的問題。對于我們每個身處其中的人來說保持敬畏、專注當下、積極協(xié)作或許是在這個激動人心又充滿不確定性的時代里最理性的選擇。真正的“終局”無人知曉但通往它的每一步都取決于我們今天如何思考、如何選擇、如何行動。