AI代理正在重塑中國監管邏輯

當AI從內容生成走向自主行動,風險與責任也隨之轉移,為監管治理帶來挑戰
卓薇安
中國每年的「兩會」向來是展示經濟增長重點、產業戰略與科技雄心的窗口。但今年,一個主題愈發凸顯:人工智能正被重新定義為一項治理問題。
這一轉變至關重要,過去十年,中國的AI敘事主要圍繞「規模」展開:誰掌握最多數據、誰擁有最強工程人才、誰具備最深厚的產業基礎,以及誰能最快實現商業化。但如今,隨著技術本身的演進,討論的焦點也在改變。AI代理(Agent)的崛起,這類系統能跨應用、設備與服務執行任務,正迫使政策制定者面對更複雜的法律、經濟與社會問題。
在北京推動「AI+」戰略、加速AI在全經濟體落地的背景下,這一挑戰顯得尤為迫切。官方希望AI能提升效率、推動產業升級並支撐經濟增長。但隨著這類系統的應用範圍不斷擴大,相關的治理問題也變得更加複雜。
這種急迫性,已在近期席捲中國的OpenClaw熱潮中顯現。在深圳,大批人潮在騰訊辦公室外排隊,尋求安裝這款爆紅的開源AI代理;而深圳與無錫的地方政府,也迅速推出補貼措施,支持相關項目發展。
與此同時,近期美國一名聯邦法官在「亞馬遜對Perplexity AI」一案中頒布初步禁令,要求該公司停止其Comet瀏覽器AI代理存取受密碼保護的亞馬遜帳戶。法院指出,僅有用戶授權,可能不足以讓AI代理在第三方平台上運作,意味著未來可能同時需要用戶同意與平台授權。這一「雙重授權」原則,或將成為代理式AI新法律框架的起點。
傳統聊天機器人大多只在單一介面內運作,例如整理文件或生成文字。而AI代理則帶來更具影響力的應用場景,它們被設計用來比價商品、管理行事曆、預訂行程、整理會議內容、處理檔案,並在有限人為監督下,與多個應用程式互動。
這看似只是數字助理的自然演進,但其實從根本上改變了風險結構。一旦AI系統能跨應用運作、取得權限、讀取畫面並主動觸發操作,它就不再只是工具,而是介於用戶與數位經濟之間的一個「操作層」。
比聊天機器人更棘手
AI助理應該被允許存取多少數據?在複雜的應用生態中,當各種權限被打包授予時,什麼才算是真正有意義的用戶同意?如果AI代理自行下單購物、取消預訂、誤用敏感資料,或因錯誤建議導致財務損失,法律責任應由誰承擔?開發者、平台、設備商,還是用戶?
過去幾年,中國監管機構已逐步建立起一套針對新興數字技術的監管框架。無論是推薦演算法、深度合成,還是生成式AI服務的相關規範,都呈現出一個清晰模式:北京通常允許創新推進,但必須納入國家監管、網絡安全合規與內容責任的框架之下。
創新與監管再平衡
這種模式體現了一種熟悉的平衡取向。中國將AI視為機器人、製造業、半導體、消費電子以及長期生產力提升的關鍵戰略領域。一方面,希望本土企業能在全球市場競爭;另一方面,也強調在國內快速落地應用。但如果商業化進程過快、超前於治理能力,強大的數位系統也可能帶來風險。因此,形成了一套監管思路,試圖在快速推廣與政治、制度性管控之間取得平衡。
這種平衡,也使中國的AI討論具有超越本國的意義。在全球範圍內,各國政府仍在摸索同一個核心問題:AI監管究竟應該監管什麼?歐洲在這方面走得最前,透過《歐盟人工智能法案》(EU AI Act)建立以風險為基礎的監管框架;美國則採取較為分散的路徑,依賴行政命令、監管機構介入以及分行業執法。中國並非唯一面對這一挑戰的國家,但其數位經濟的體量,使這個問題具有更大的分量與影響力。
AI時代的治理挑戰
第一項挑戰是數據治理。AI代理的價值,取決於其可取得的資訊範圍,但這同時也帶來過度收集、授權不足與濫用的風險。在代理時代,隱私不再只是資料本身,而是AI系統能夠推論、整合並進一步採取行動的能力。
第二個壓力點在於市場結構。如果AI助理成為用戶搜尋商品、比較服務、預訂行程或管理日常事務的主要入口,中國平台經濟的權力格局可能再次出現變化。搜尋、電商、支付與本地生活服務等領域,都可能被掌握「助理入口」的一方重新塑造,進而引發關於存取權、排序機制、自我偏好,以及大型平台與中小開發者之間流量分配的競爭問題。
第三是責任歸屬。隨著AI系統自主性提高,一旦出現問題,責任的界定也變得更加困難。推薦錯誤或許只是小問題,但若涉及財務損失、隱私洩露或安全事故,性質就完全不同。尤其當AI開始在更敏感的商業或工業場景中做出決策時,監管機構需要劃定更清晰的責任邊界。
安全也是另一項關鍵風險。AI系統可能受到惡意提示操控,或因數據污染與軟體漏洞而被攻破。隨著這些系統進一步應用於企業工具、連網設備與工業場景,其潛在後果也顯著放大。聊天機器人出錯或許只是帶來不便,但若嵌入物流、金融或關鍵基礎設施中的AI代理出現問題,影響將更加嚴重。
更重要的是,中國的AI討論已不再只是關於創新本身,而是關於制度是否準備就緒。隨著AI系統愈發自主,現有的法律與監管框架是否足以應對下一階段的技術發展,正受到考驗。
這也是為何當前這場討論至關重要。當AI不只是生成內容,而開始「行動」時,政策制定者被迫面對一個更現實的問題:真正領先AI的國家,應該是那些最先學會如何有效治理它的國家。
本文僅代表作者個人觀點,不代表詠竹坊的觀點
卓薇安,駐新加坡記者,專注科技方面的報道,也是科技媒體初創公司Tech Tech China的聯合創始人。她的聯絡方式:vivian_toh@techtechchina.com
欲訂閱咏竹坊每周免費通訊,請點擊這裏