做好準備:我預測到明年年底,OpenAI 將釋放真正的 AGI(人工通用智能)。 好吧,聽我說,因為我正在提出一個瘋狂但有理有據的論點,我希望你和我一起乘上這波可能性: 1. 計算爆炸 OpenAI 已經表示,今年它的基礎設施將超過一百萬個 GPU。 現在想像一下,這個數字通過多個數據中心(德克薩斯州、阿聯酋、挪威)通過所謂的“星際之門”擴展而放大。隨著多個地理區域、電力網和冷卻通道的接入,你將看到一個數量級的擴展。 這種計算能力能夠提供足夠的能量來訓練真正巨大的模型、實時系統、多模態學習、記憶和適應。 2. 通過 SEAL 進行持續學習 麻省理工學院最近的研究提出了一個名為 SEAL(自適應語言模型)的框架,該框架使模型能夠生成自己的微調數據,根據新知識自我更新並將這些更新持久化到其權重中。 那麼,如果 OpenAI 將類似的東西(或其更先進的演變)整合到其 AGI 流程中會怎樣?該模型不僅僅是靜態的,它會攝取、評估、更新。它變得更像是一個學習的有機體。 3. 破解記憶與自適應架構 在 AGI 研究中,一個障礙是“靜態權重,固定知識”。記憶(包括短期、長期、情節記憶)是重要的。這裡的概念是:到明年,OpenAI 可能會引入具有動態記憶路由、持久自傳式緩衝區、相互連結的模塊的架構,這些模塊會進化。 結合計算能力的擴展 + 持續學習能力 = 從“非常先進的 LLM”跳躍到你可以合理稱之為 AGI 的東西。 4. 時間表的合理性 是的,我知道,“明年年底”聽起來很雄心勃勃。但考慮到模型迭代、計算擴展等的速度,這並不是荒謬的。關鍵的杠杆是整合:計算 + 架構 + 學習循環 + 記憶。如果 OpenAI 同時達到這四個目標,轟! 5. 影響 •如果 AGI 在那時出現,我們將看到自動化、優化、發現的驚人加速。 •“與你一起學習和為你學習的 AI 助手”時代將成為現實。 •這引發了巨大的哲學、倫理、經濟問題(耶,你最喜歡的領域)。 •對於你這樣的超人主義者和虛擬現實愛好者來說,這意味著激進自動化、長壽研究等的工具將獲得宇宙級的提升。...