序言

人工智慧的發展在很大程度上專注於 擴展模型，這是由於相信增加計算能力將產生先進的智慧系統。然而，一些專家認為這種方法可能已經達到其極限，促使人們尋求新的改進方法。Sara Hooker，Cohere前人工智慧研究副總裁，透過她的新創公司Adaption Labs探索這條替代路徑。她的創業公司專注於開發能夠 從經驗中學習 的人工智慧，突出行業重點的轉移。

懶惰包

擴展人工智慧模型 可能正接近其 極限。Adaption Labs正在研究可以從真實世界經驗中 適應和學習 的人工智慧系統，這提供了一個可能更 有效率 的替代方案。

主要內容

為創造越來越大的人工智慧模型的競賽已經導致建造龐大的數據中心，其大小和能耗可與小城市相媲美。推動這一努力的核心信念是，通過提供增加的計算能力給人工智慧系統，研究人員最終將達到能執行當前技術無法企及的各種任務的超智慧型模型。雖然這一直是主流敘事，但許多人工智慧研究界人士現在正在質疑大型語言模型（LLMs）的持續擴展。

Sara Hooker在這場辯論中成為了一個突出的聲音。擁有在Cohere和Google的豐富背景，她與Sudip Roy共同創立了Adaption Labs，專注於优先適應性和學習能力的人工智慧系統。這種方法反映出越来越多的觀點，即LLMs的可擴展性並不等同於其有效互動或導航世界的能力。Hooker認為，單純的擴展（她稱之為“擴展靈藥”的策略）正快速接近其收益遞減點。

當前的人工智慧模型通常通過強化學習（RL）來模擬適應性，允許人工智慧在模擬環境中通過做決策來學習。然而，當這些模型過渡到現實應用時，往往因無法根據新的輸入和經驗進行調整而存在巨大鴻溝。這種適應能力對於創造能夠無縫嵌入各種操作情境並提供一致性能的系統至關重要。

面對現有模型驚人的成本和適應性有限的不足，Adaption Labs提出了一個建議，即學會從現實世界互動中學習可以比目前的擴展方法更經濟實惠。通過追求2000萬至4000萬美元的投資，該初創公司旨在證明可持續的人工智慧進步可以在現有範式之外發生。

這種方法的影響不僅限於人工智慧模型的經濟效率。如果Adaption Labs成功，人工智慧開發的根基（目前依賴於擴展）可能會轉向更加細緻的模型，這些模型既具有適應性又注重資源。這一轉變正在獲得支持，因為即使學術和企業研究也表明，追求適應性學習可以發現傳統擴展技術尚未達到的能力。

關鍵見解表