目錄

• 你可能想知道
• 主要議題
• 關鍵洞見表
• 之後...

你可能想知道

一位有影響力的科技領袖發表冗長且樂觀的論文，會讓人們對人工智慧更感擔憂嗎？

祖克柏對個人化人工智慧的描述，是否誠實地面對這些系統可能造成的真實且正在發生的傷害？

主要議題

週一，馬克·祖克柏發表了一篇約 6,500 字的宣言，聚焦於「個人化人工智慧」，概述 Meta 正在開發的「個人超智慧」系統的潛力。許多內容並不陌生：部分段落數月前已出現在《華爾街日報》的一篇文章中，類似主題也曾在 Meta 的財報電話會議上出現過。不過，這可能是他迄今公開發表中最全面的一次公司願景闡述。

一些評論者將這篇文章標示為對 AI 未來的「反末日論」辯護。但這種描述未能切中要點。該文更像是在解釋為何祖克柏個人認為 AI 帶來的社會變遷是有希望的。然而，同時它一再堅稱利益會超過傷害——卻未充分面對那些傷害已經如何顯現——這種做法往往是凸顯而非緩和公眾的焦慮。

我在許多方面對 AI 抱持樂觀，這也是我經常追蹤與撰寫相關議題的原因。但有很大一部分民眾覺得 AI 令人不安甚至毛骨悚然，檢視為何一篇高知名度的文章會加深這種印象是有用的。社群媒體的近期歷史在這個動態中扮演核心角色。作為產品的 Facebook 以及作為公眾人物的馬克·祖克柏在美國仍然不受歡迎。民調顯示相當多數——約 64% 的近期調查——認為社群媒體損害了民主，並支持更嚴格的監管。這些情緒具有跨黨派性，且像最近因對兒童造成傷害而判罰的 5.67 億美元罰款等法律行動，只會強化負面印象。更廣泛的文化「氛圍」並不理想。

我提出這些觀點並非建議祖克柏應該退出公共生活。相反地，社群媒體造成的傷害的遺緒有助於解釋為何人們對科技高管掌管可能具變革性的技術抱持懷疑態度。當領導者不承認過去的失敗與信任被侵蝕的原因時，他們往前看的論點就較難被接受。不幸的是，這篇宣言反覆展示了那些最初侵蝕信任的模式。

文章中有相當一部分是關於智慧的廣泛、模糊反思——讓人聯想到先前一些科技領袖對言論自由所做的同樣抽象的辯護。那些段落讀來更像哲學上的沉思，而非具體的產品描述。對於原本就傾向不信任祖克柏的讀者而言，這些內容可能被解讀為為了淡化風險而做的合理化，而非基於證據的嚴肅評估。

當文章轉向具體使用案例時，這種疏離感更加明顯。祖克柏舉的個人化 AI 在教育上的例子，描述了能幫助人學習的高度個人化輔導。但這些情境忽略了一個重要且當前的動態：許多 AI 聊天機器人已被用來逃避學習，學生把作業和論文外包給生成模型。因為尚未建立完善、可靠的浮水印或來源追溯系統，教育工作者難以區分人類作品與機器產出。這是一種具體、雖然低風險但真實存在的傷害，源自原本有用的工具。

當有影響力的人士未能完全承認旨在做好事的技術也會產生負面副作用時，公眾的憂慮是可以理解的。問題並非假設性的——這些意外後果已在發生。

祖克柏也假設 AI 能改善法律系統——更好的法律資源接觸與更快的案件處理。雖然增加可及性確實可能帶來好處，但這個例子也帶有複雜性。AI 驅動的法律協助可能使現有的官僚系統更複雜，產生新的低質量或無理訴訟形式，或被用於放大程序上的低效率。潛在的負面影響不僅僅是抽象的；它們可能具有系統性。作者自信地框定為純正面的結果，卻缺乏與潛在風險或緩解策略相稱的討論，這傾向於加劇而非緩和擔憂。

有時，對 Meta 自身商業做法的描述顯得異常抽象。例如，當祖克柏談到透過避免先期運算成本來擴大可及性的 freemium 模式時，高層次的說法看似合理：降低門檻可以擴大使用。然而，大多數消費者 AI 產品刻意將用戶與波動的運算現貨價格隔離，因為突發性價格上漲會造成糟糕的用戶體驗，特別是對每日仰賴的工具而言。文章暗示動態定價機制是自然或不可避免的方法，這引發疑問：作者是否充分理解使用者體驗的現實——或者這種修辭是否掩蓋了可能導致用戶更差結果的商業選擇。

這種哲學性的一般化論述與樂觀且欠詳細的例子形成對比，與其他一些 AI 領袖的溝通方式不同。像 Sam Altman 與 Dario Amodei 等人物有時對風險較為坦率：他們承認危險、描述防護措施，並試圖說服公眾他們正在承擔責任。這種做法不保證信任，且防護措施有時會失敗，揭示技術的內在危害。但更直接地承認風險以及更明確地承諾採取緩解措施，對於重建公眾信心是必要的。

這項關鍵見解顯著影響了對公眾信任脆弱原因的理解：若不明確承認過去的傷害並提出防止未來傷害的具體計劃，來自不受信任領袖的樂觀願景通常會加深懷疑而非降低懷疑。

總之，這篇宣言反映出對 AI 潛力的真誠信念，但對與相關技術已相關聯的社會、倫理與實務問題的處理不夠充分。這一差距有助於解釋為何從公眾感知角度來看，這篇文章可能弊大於利。

關鍵洞見表

之後...

展望未來，重建公眾信任將需要對利益與風險進行更清晰、更坦率的溝通，並配合可具體驗證的獨立防護措施。值得進一步探討的領域包括對 AI 輸出進行強健來源與浮水印機制、對 AI 決策建立標準化稽核記錄，以及在不扼殺創新的情況下處理平台責任的監管框架。同樣重要的是以人為本的設計方法，在定價與部署服務時優先考量使用者體驗與公平性。

我們還應調查能使 AI 行為更可解釋與可控的技術與政策創新，並資助對社會技術影響的獨立研究。對跨學科監督的細緻重視——結合電腦科學、法律、倫理與公共政策——可以幫助確保對 AI 的雄心願景伴隨現實且可執行的措施以保護公眾。只有將具抱負的目標與具體的問責機制結合，這個產業才能有望重獲公眾信心。