序言

生成型 AI 已成為現代搜尋與對話工具的基石，然而即使是最先進的系統也會犯出人意料的基本錯誤。本文檢視近期 Google AI 驅動的搜尋摘要中出現的一波拼字與字元計數錯誤，旨在說明 為何這些系統在對人類而言微不足道的任務上會失手。透過探討大型語言模型（LLM）如何編碼語言並產生輸出，我們希望釐清持續出現拼字異常的技術原因、總結實務上的影響，並說明為何即便 AI 能力在擴展，這些缺陷仍然重要。目標不是取笑技術，而是提供平衡且易理解的說明，讓讀者能更清楚預期 AI 驅動工具的表現。

懶惰分塊

Google 的 AI 有時會產生錯誤的字母計數與拼寫錯誤，這反映了 LLM 如何表示文字的症狀。這些模型將輸入拆分為 token（標記），而不是以字母為單位，並且它們在這些標記上學習統計模式。因此，它們在產出流暢的散文或解決複雜任務方面可能表現出色，但在精確的字元層面問題上仍然容易出錯。這個問題已被注意到、難以修復，並凸顯了應驗證 AI 輸出而非不加批判地接受它們的重要性。

主體

在對其搜尋產品的近期更新中，Google 擴大了生成型 AI 的角色，加入了設計用來摘要並釐清查詢的簡潔 AI 概要。這些概要旨在簡化使用者取得資訊的方式，但偶爾會產生奇怪的結果——從簡單單字的字母計數錯誤到知名字彙被拼錯。例如，一個 AI 生成的回應可能宣稱某個單字包含某個字母的數量與預期不同，或是將熟悉的名字字母重新排列。此類輸出引發了公眾的戲謔與擔憂。

要理解這些錯誤為何發生，有助於深入了解當代 LLM 處理語言的方式。大多數模型建立在 transformer 架構上，會將文字轉換為一連串的標記（tokens）。標記是模型運作的基本單位；依標記化方案不同，它們可能是整個單字、常見子字串、音節，甚至是單一字元。當提供提示時，模型會將每個標記轉換為高維數值編碼，然後透過對這些編碼之間的統計關係建模來預測後續標記。

以標記為中心的方法在很多方面都很強大。它允許模型跨情境泛化、產生流暢且具情境感知的文字，並解決如摘要、翻譯或程式碼生成等任務。但它也引入了一個盲點：模型並不會像人類那樣固有地把文字視為一連串離散字元。它們沒有一種明確的內部表示能直接對應到單字的每個字母。相反地，它們依賴在標記上的學習模式。

計算特定字母出現次數或精確拼寫一個單字需要精確的字元層次推理。由於許多分詞器會將常見字母序列合併為單一標記，模型可能不會把每個單獨字元分開。即使標記很小，學到的編碼也會優先考量語境意義與下個標記的預測，而非精確的字元忠實度。因此，需要精確正字法或字母計數的任務會暴露出弱點。研究人員長期以來常拿問 LLM「'strawberry' 裡有幾個 'r'？」這類問題來測試此類錯誤——這確實是個可靠的方法。

專家表示，這種行為並非簡單的錯誤，而是架構權衡的結果。分詞器被設計來在效率與表達力之間取得平衡：大量小型標記的詞彙能提高粒度，但會增加運算成本與資料稀疏性；較大的標記詞彙可降低複雜度，卻犧牲字元層次的精確性。即便能設計出一個與人類語感對齊的完美分詞器，模型仍可能為統計上的便利而形成內部的分塊。這種模糊性使得單靠分詞化就能完美解決拼字與字元計數準確性的可能性變得不太可能。

Google 與其他組織意識到這些限制，並持續在模型設計與安全層面上進行迭代。在某些情況下，公司會修補特定的問題行為——例如修正一個錯誤回傳的範本助理回覆而非字典定義。但許多與拼寫相關的問題仍然具有韌性，因為它們源自模型架構與訓練目標的基本面向，這些目標強調預測最有可能的下個標記，而非遵守確定性的字元規則。

重要的是，這項限制並不否定 LLM 的巨大效用。這些系統能撰寫連貫的文章、生成可用的程式碼片段，並幫助研究人員探索複雜問題。它們的價值常在於模式識別、綜合與創意生成，而非死板的機械精確性。儘管如此，明顯的錯誤是有用的提醒：AI 系統會犯錯。它們可能產出聽來合理但實際錯誤的內容，如果不經謹慎檢視，使用者可能被誤導。

從實務角度來看，使用者與產品設計者應將 AI 輸出視為有幫助但非萬無一失。驗證策略——交叉檢查事實、對拼寫敏感的任務採用字元層級檢查，或將需要精確度的任務交給專門工具——能降低接受錯誤資訊的風險。對開發者而言，可能的緩解措施包括將基於標記的 LLM 與確定性的字元層模組結合，用於拼寫、計數或格式驗證等任務。另一種方法是透過微調或提示技巧，促使模型採取更謹慎的步驟推理，儘管這些方法並不能保證消除所有錯誤。

簡言之，Google AI 概要中觀察到的拼寫異常說明了現代 AI 的一個更廣泛的真相：在許多領域表現出高層次能力並不保證在低階、離散任務上也能無瑕執行。認清統計語言能力與精確字元操作之間的區別，有助於設定現實的期望並指引在日常情境中更好地使用 AI。隨著研究進展，這些差距中的部分可能會縮小，但就目前而言，最安全的做法是欣賞 AI 的強項，同時對其弱點保持警覺。

重點摘要表