目錄

• 你可能想知道
• 主要議題
• 重點摘要表
• 後續……

你可能想知道

服裝圖案是否能可靠地讓掃描公共空間以尋找人和特定行為的 AI 系統混淆？

此類對抗措施的存在與使用揭示了關於自動監控以及使其成為可能的法律框架的哪些資訊？

主要議題

針對在一個問題多多的柏林路口新部署的 AI 驅動攝影機網絡，藝術家 Simon Weckert 設計了一件圖案鮮明的襯衫，當穿著時會使物體偵測系統無法將穿戴者辨識為人。

柏林當局最近在 Kottbusser Tor 試行一套基於 AI 的影像監控系統，該地區以複雜的公共安全挑戰而聞名。大約安裝了 30 台攝影機以持續監控公共活動，並自動偵測可能的暴力行為——例如拳打、腳踢或拔出武器——當出現這些模式時會觸發警報。官方描述強調系統不進行臉部辨識，且介面中以簡化的骨架輪廓表示被偵測的個體，旨在在公共安全與隱私保護之間取得平衡。

Weckert 的專案直接挑戰了此部署的技術與法律前提。他指出，現代偵測系統並不以概念性、有人類理解的方式真正「識別」人；相反地，它們是從數百萬帶標記的影像中學習統計模式。模型學習大量資料集中人類通常的外觀，並萃取彼此相關的特徵，這些特徵合在一起表明「一個人」。透過擾亂那些已學習的相關性，可以降低系統判定某個可見物體為人的信心。

為了實現這種擾亂，Weckert 使用了研究界所稱的對抗性或基於擾動的材質生成技術（他提到類似 TC-EGA 的方法）。他沒有只貼單一補丁或貼紙，而是產生了無縫、高對比且重疊的圖案覆蓋整件衣物。飽和的色彩過渡和重疊的形狀旨在強烈啟動卷積網路的早期層，同時破碎人類輪廓的視覺連續性。實際而言，襯衫的材質阻止偵測管線穩定地將像素群組為一個連貫的人形物件。

他針對開源物體偵測器（例如 YOLO 系列模型）反覆測試與微調圖案，調整色塊與重疊，直到模型判定穿戴者為人的機率大幅下降。結果是一件當穿著並走過試驗攝影機前時，似乎能減少或消除該人被算法偵測到的襯衫，而不需侵入攝影機系統或更改任何軟體。

這個關鍵見解大幅影響了對 AI 監控的理解：許多系統依賴脆弱的、以學習得來的視覺線索，而非對人類的穩健概念性識別。 那種脆弱性意味著相對低成本、非侵入性的干預方式——如服裝設計——即可改變系統所報告的內容，進而提出關於自動監控在公共空間中可靠性與公平性的質疑。

這個專案不僅具技術性，也具公民性。襯衫在拉脫維亞以 65% 回收聚酯混紡生產，並以創用 CC 授權釋出，按一定價格販售，部分收益捐給反對擴大監控的團體。透過將藝術實驗轉為分散式干預與募款活動，Weckert 將此作品框構為一種強調對持續監控常態化之長期關切的行動主義。

Weckert 的干預延續了早先揭露算法與地圖假設的作品。2020 年他曾在一台推車上裝置 99 部二手智慧型手機，使 Google 地圖誤判一條空街為交通擁堵。那場演出同樣利用自動系統如何聚合與解讀分散信號的方式。在本次案例中，目標更為緊迫：一個已在公共生活中運作並就警報與資源做出即時決策的攝影機網絡。

除了示範之外，還有法律與社會層面需考量。柏林的監管變更允許市府在沒有個別原因下操作這些攝影機——一些批評者形容這是以法定方式編碼的「先拍後問」式監控。試驗與預計成本（多年部署與運營需數百萬歐元）顯示當局視此為一項長期基礎設施投資，並計畫若試驗成功則擴展到其他街道。那種擴展會把一些人認為應屬例外、需嚴格正當化的做法，轉變為例行的市政工具。

從技術上來看，對抗性材質能干擾偵測並不代表系統無力回應。偵測模型會持續演進；未來世代可能會採用防護措施或多模態輸入（深度感測、熱像或時間行為模型），這些較難僅以表面圖案來欺騙。即便如此，該專案達成了一個重要的公民結果：它迫使公眾討論是否應接受自動攝影機成為城市生活的常態物件，以及其錯誤模式與倫理權衡是否已被充分考量。

Weckert 強調一個社會層面的觀點：監控的存在在任何警報響起之前就已改變行為與社會空間。這個實驗提出問題：我們的預設是否應該是接受公共領域的普遍自動觀測？市民是否應有實質選擇去抗議或選擇不被監控？

重點摘要表

後續……

展望未來，社會應集中於若干技術與政策領域，以負責任地因應自動化監控的興起。從技術面，對穩健、可解釋的偵測模型與多感測器融合的研究可減少盲點，但這些改進若無治理平衡，可能會加深監控能力。政策工作應釐清可允許的使用情境、稽核要求與對誤報及公民自由影響的救濟機制。公共參與至關重要：社區必須成為關於監測部署地點與方式的決策一部分。

最後，創意介入——設計、藝術與學術的壓力測試——仍有持續角色，揭露已部署系統的限制與權衡。對民主監督、透明度與抗議算法決策權利的細微強調（style="color: #555555;")，將有助於確保技術進步在不不必要侵蝕隱私與公共信任的情況下，為公共安全服務。