監管

當AI從內容生成走向自主行動，風險與責任也隨之轉移，為監管治理帶來挑戰    卓薇安 中國每年的「兩會」向來是展示經濟增長重點、產業戰略與科技雄心的窗口。但今年，一個主題愈發凸顯：人工智能正被重新定義為一項治理問題。 這一轉變至關重要，過去十年，中國的AI敘事主要圍繞「規模」展開：誰掌握最多數據、誰擁有最強工程人才、誰具備最深厚的產業基礎，以及誰能最快實現商業化。但如今，隨著技術本身的演進，討論的焦點也在改變。AI代理（Agent）的崛起，這類系統能跨應用、設備與服務執行任務，正迫使政策制定者面對更複雜的法律、經濟與社會問題。 在北京推動「AI+」戰略、加速AI在全經濟體落地的背景下，這一挑戰顯得尤為迫切。官方希望AI能提升效率、推動產業升級並支撐經濟增長。但隨著這類系統的應用範圍不斷擴大，相關的治理問題也變得更加複雜。 這種急迫性，已在近期席捲中國的OpenClaw熱潮中顯現。在深圳，大批人潮在騰訊辦公室外排隊，尋求安裝這款爆紅的開源AI代理；而深圳與無錫的地方政府，也迅速推出補貼措施，支持相關項目發展。 與此同時，近期美國一名聯邦法官在「亞馬遜對Perplexity AI」一案中頒布初步禁令，要求該公司停止其Comet瀏覽器AI代理存取受密碼保護的亞馬遜帳戶。法院指出，僅有用戶授權，可能不足以讓AI代理在第三方平台上運作，意味著未來可能同時需要用戶同意與平台授權。這一「雙重授權」原則，或將成為代理式AI新法律框架的起點。 傳統聊天機器人大多只在單一介面內運作，例如整理文件或生成文字。而AI代理則帶來更具影響力的應用場景，它們被設計用來比價商品、管理行事曆、預訂行程、整理會議內容、處理檔案，並在有限人為監督下，與多個應用程式互動。 這看似只是數字助理的自然演進，但其實從根本上改變了風險結構。一旦AI系統能跨應用運作、取得權限、讀取畫面並主動觸發操作，它就不再只是工具，而是介於用戶與數位經濟之間的一個「操作層」。 比聊天機器人更棘手 AI助理應該被允許存取多少數據？在複雜的應用生態中，當各種權限被打包授予時，什麼才算是真正有意義的用戶同意？如果AI代理自行下單購物、取消預訂、誤用敏感資料，或因錯誤建議導致財務損失，法律責任應由誰承擔？開發者、平台、設備商，還是用戶？ 過去幾年，中國監管機構已逐步建立起一套針對新興數字技術的監管框架。無論是推薦演算法、深度合成，還是生成式AI服務的相關規範，都呈現出一個清晰模式：北京通常允許創新推進，但必須納入國家監管、網絡安全合規與內容責任的框架之下。 創新與監管再平衡 這種模式體現了一種熟悉的平衡取向。中國將AI視為機器人、製造業、半導體、消費電子以及長期生產力提升的關鍵戰略領域。一方面，希望本土企業能在全球市場競爭；另一方面，也強調在國內快速落地應用。但如果商業化進程過快、超前於治理能力，強大的數位系統也可能帶來風險。因此，形成了一套監管思路，試圖在快速推廣與政治、制度性管控之間取得平衡。 這種平衡，也使中國的AI討論具有超越本國的意義。在全球範圍內，各國政府仍在摸索同一個核心問題：AI監管究竟應該監管什麼？歐洲在這方面走得最前，透過《歐盟人工智能法案》（EU AI Act）建立以風險為基礎的監管框架；美國則採取較為分散的路徑，依賴行政命令、監管機構介入以及分行業執法。中國並非唯一面對這一挑戰的國家，但其數位經濟的體量，使這個問題具有更大的分量與影響力。 AI時代的治理挑戰 第一項挑戰是數據治理。AI代理的價值，取決於其可取得的資訊範圍，但這同時也帶來過度收集、授權不足與濫用的風險。在代理時代，隱私不再只是資料本身，而是AI系統能夠推論、整合並進一步採取行動的能力。 第二個壓力點在於市場結構。如果AI助理成為用戶搜尋商品、比較服務、預訂行程或管理日常事務的主要入口，中國平台經濟的權力格局可能再次出現變化。搜尋、電商、支付與本地生活服務等領域，都可能被掌握「助理入口」的一方重新塑造，進而引發關於存取權、排序機制、自我偏好，以及大型平台與中小開發者之間流量分配的競爭問題。 第三是責任歸屬。隨著AI系統自主性提高，一旦出現問題，責任的界定也變得更加困難。推薦錯誤或許只是小問題，但若涉及財務損失、隱私洩露或安全事故，性質就完全不同。尤其當AI開始在更敏感的商業或工業場景中做出決策時，監管機構需要劃定更清晰的責任邊界。 安全也是另一項關鍵風險。AI系統可能受到惡意提示操控，或因數據污染與軟體漏洞而被攻破。隨著這些系統進一步應用於企業工具、連網設備與工業場景，其潛在後果也顯著放大。聊天機器人出錯或許只是帶來不便，但若嵌入物流、金融或關鍵基礎設施中的AI代理出現問題，影響將更加嚴重。 更重要的是，中國的AI討論已不再只是關於創新本身，而是關於制度是否準備就緒。隨著AI系統愈發自主，現有的法律與監管框架是否足以應對下一階段的技術發展，正受到考驗。 這也是為何當前這場討論至關重要。當AI不只是生成內容，而開始「行動」時，政策制定者被迫面對一個更現實的問題：真正領先AI的國家，應該是那些最先學會如何有效治理它的國家。 本文僅代表作者個人觀點，不代表詠竹坊的觀點 卓薇安，駐新加坡記者，專注科技方面的報道，也是科技媒體初創公司Tech Tech China的聯合創始人。她的聯絡方式：vivian_toh@techtechchina.com…