AI Agent regulation

當AI從內容生成走向自主行動,風險與責任也隨之轉移,為監管治理帶來挑戰

  

卓薇安

中國每年的「兩會」向來是展示經濟增長重點、產業戰略與科技雄心的窗口。但今年,一個主題愈發凸顯:人工智能正被重新定義為一項治理問題。

這一轉變至關重要,過去十年,中國的AI敘事主要圍繞「規模」展開:誰掌握最多數據、誰擁有最強工程人才、誰具備最深厚的產業基礎,以及誰能最快實現商業化。但如今,隨著技術本身的演進,討論的焦點也在改變。AI代理(Agent)的崛起,這類系統能跨應用、設備與服務執行任務,正迫使政策制定者面對更複雜的法律、經濟與社會問題。

在北京推動「AI+」戰略、加速AI在全經濟體落地的背景下,這一挑戰顯得尤為迫切。官方希望AI能提升效率、推動產業升級並支撐經濟增長。但隨著這類系統的應用範圍不斷擴大,相關的治理問題也變得更加複雜。

這種急迫性,已在近期席捲中國的OpenClaw熱潮中顯現。在深圳,大批人潮在騰訊辦公室外排隊,尋求安裝這款爆紅的開源AI代理;而深圳與無錫的地方政府,也迅速推出補貼措施,支持相關項目發展。

與此同時,近期美國一名聯邦法官在「亞馬遜對Perplexity AI」一案中頒布初步禁令,要求該公司停止其Comet瀏覽器AI代理存取受密碼保護的亞馬遜帳戶。法院指出,僅有用戶授權,可能不足以讓AI代理在第三方平台上運作,意味著未來可能同時需要用戶同意與平台授權。這一「雙重授權」原則,或將成為代理式AI新法律框架的起點。

傳統聊天機器人大多只在單一介面內運作,例如整理文件或生成文字。而AI代理則帶來更具影響力的應用場景,它們被設計用來比價商品、管理行事曆、預訂行程、整理會議內容、處理檔案,並在有限人為監督下,與多個應用程式互動。

這看似只是數字助理的自然演進,但其實從根本上改變了風險結構。一旦AI系統能跨應用運作、取得權限、讀取畫面並主動觸發操作,它就不再只是工具,而是介於用戶與數位經濟之間的一個「操作層」。

比聊天機器人更棘手

AI助理應該被允許存取多少數據?在複雜的應用生態中,當各種權限被打包授予時,什麼才算是真正有意義的用戶同意?如果AI代理自行下單購物、取消預訂、誤用敏感資料,或因錯誤建議導致財務損失,法律責任應由誰承擔?開發者、平台、設備商,還是用戶?

過去幾年,中國監管機構已逐步建立起一套針對新興數字技術的監管框架。無論是推薦演算法、深度合成,還是生成式AI服務的相關規範,都呈現出一個清晰模式:北京通常允許創新推進,但必須納入國家監管、網絡安全合規與內容責任的框架之下。

創新與監管再平衡

這種模式體現了一種熟悉的平衡取向。中國將AI視為機器人、製造業、半導體、消費電子以及長期生產力提升的關鍵戰略領域。一方面,希望本土企業能在全球市場競爭;另一方面,也強調在國內快速落地應用。但如果商業化進程過快、超前於治理能力,強大的數位系統也可能帶來風險。因此,形成了一套監管思路,試圖在快速推廣與政治、制度性管控之間取得平衡。

這種平衡,也使中國的AI討論具有超越本國的意義。在全球範圍內,各國政府仍在摸索同一個核心問題:AI監管究竟應該監管什麼?歐洲在這方面走得最前,透過《歐盟人工智能法案》(EU AI Act)建立以風險為基礎的監管框架;美國則採取較為分散的路徑,依賴行政命令、監管機構介入以及分行業執法。中國並非唯一面對這一挑戰的國家,但其數位經濟的體量,使這個問題具有更大的分量與影響力。

AI時代的治理挑戰

第一項挑戰是數據治理。AI代理的價值,取決於其可取得的資訊範圍,但這同時也帶來過度收集、授權不足與濫用的風險。在代理時代,隱私不再只是資料本身,而是AI系統能夠推論、整合並進一步採取行動的能力。

第二個壓力點在於市場結構。如果AI助理成為用戶搜尋商品、比較服務、預訂行程或管理日常事務的主要入口,中國平台經濟的權力格局可能再次出現變化。搜尋、電商、支付與本地生活服務等領域,都可能被掌握「助理入口」的一方重新塑造,進而引發關於存取權、排序機制、自我偏好,以及大型平台與中小開發者之間流量分配的競爭問題。

第三是責任歸屬。隨著AI系統自主性提高,一旦出現問題,責任的界定也變得更加困難。推薦錯誤或許只是小問題,但若涉及財務損失、隱私洩露或安全事故,性質就完全不同。尤其當AI開始在更敏感的商業或工業場景中做出決策時,監管機構需要劃定更清晰的責任邊界。

安全也是另一項關鍵風險。AI系統可能受到惡意提示操控,或因數據污染與軟體漏洞而被攻破。隨著這些系統進一步應用於企業工具、連網設備與工業場景,其潛在後果也顯著放大。聊天機器人出錯或許只是帶來不便,但若嵌入物流、金融或關鍵基礎設施中的AI代理出現問題,影響將更加嚴重。

更重要的是,中國的AI討論已不再只是關於創新本身,而是關於制度是否準備就緒。隨著AI系統愈發自主,現有的法律與監管框架是否足以應對下一階段的技術發展,正受到考驗。

這也是為何當前這場討論至關重要。當AI不只是生成內容,而開始「行動」時,政策制定者被迫面對一個更現實的問題:真正領先AI的國家,應該是那些最先學會如何有效治理它的國家。

本文僅代表作者個人觀點,不代表詠竹坊的觀點

卓薇安,駐新加坡記者,專注科技方面的報道,也是科技媒體初創公司Tech Tech China的聯合創始人。她的聯絡方式:vivian_toh@techtechchina.com

欲訂閱咏竹坊每周免費通訊,請點擊這裏

新聞

首程入股兩隻地產投資信託基金

基礎設施投資商首程控股有限公司(0697.HK)周四表示,已投資兩隻房地產投資信託基金(REIT),公司表示,此舉將有助於推動中國經濟高質量發展。 其中一項投資為國泰海通砂之船商業REIT,其底層資產為西安的砂之船(西安)奧特萊斯項目。另一項投資為中信建投首農商業REIT,底層資產為北京市昌平區的龍德廣場。首程控股未披露這兩筆REIT投資的具體規模。 此次投資正值中國鼓勵更多企業將房地產剝離至REITs,從而在開發項目中回收資金,同時為投資者提供一種新的金融產品。 首程控股周四在公告發布後下跌2.3%,該股今年迄今已下跌約19% 陽歌 欲訂閱咏竹坊每周免費通訊,請點擊這裏

味精龍頭阜豐預計上半年錄得虧損

中國味精龍頭阜豐集團有限公司(0546.HK)周三發布盈利警告,預計截至6月30日止六個月將錄得虧損,或稅後利潤大幅減少,遠遜於去年同期錄得的17.9億元盈利。 公司表示,截至今年5月底止五個月,已錄得稅後虧損約5,300萬元(784萬美元),主要由於美元兌人民幣貶值,導致持有的美元資產產生約5.4億元人民幣匯兌損失;同時味精、黃原膠、蘇氨酸及賴氨酸等主要產品售價自去年以來持續疲弱,拖累盈利表現。 根據公司官網所述,阜豐集團為全球最大的穀氨酸和味精製造商之一,其產品暢銷全球逾100個國家與地區。全集團每年銷項物流超過500萬噸,其中出口貿易量約達90萬噸,氨基酸與黃原膠為其出口主力。 阜豐集團股價周四低開,至中午休市報4.52港元,跌16.76%。 李世達 欲訂閱咏竹坊每周免費通訊,請點擊這裏
Miduoduo does e-commerce with TikTok

連年虧損的米多多 搭上TikTok 冀一洗頽風

中國第五大跨境電商服務供應商米多多,正透過加碼社交媒體平台合作及發展自營銷售業務,尋求新的增長動能 重點: 米多多在申請香港IPO前已連續三年錄得虧損,但公司表示,虧損主要源於近年業務轉型所產生的相關成本 這家跨境電商營銷服務供應商表示,去年收入大幅增長,反映其與TikTok深化合作,以及聚焦東南亞市場的策略開始見效   譚英 對於帶著虧損紀錄闖關資本市場的新創企業而言,這樣的故事並不陌生。跨境電商企業米多多集團股份有限公司上周遞交香港上市申請,便是最新一例。 公司2023年、2024年及2025年分別錄得虧損1,640萬美元、16.3萬美元及2,450萬美元;同期收入則分別為7,090萬美元、7,110萬美元及1.38億美元。若按照香港交易所2018年修訂上市規則前的標準,米多多的上市申請很可能因未能滿足IPO前連續兩年盈利的要求而遭拒絕。 若剔除部分非現金項目影響,公司盈利表現則較為理想。經調整後,米多多2023年錄得淨利潤5.9萬美元,2024年虧損8.7萬美元,2025年則轉為盈利230萬美元。 儘管盈利表現起伏不定,米多多仍有不少值得投資者關注之處。首先,公司最新一輪投資者包括主權背景基金中央匯金投資,該機構去年參與增資後,米多多估值達50億港元。 這家公司正試圖將自己塑造成一家炙手可熱的科技新創企業,而非一家成立14年、身處成熟廣告服務產業的老牌業者。其押注的正是近年快速崛起的跨境電商市場,協助中國商家將商品銷售給海外消費者。 公司希望投資者不僅將其視為營銷服務供應商,更將其視為一家經營自有跨境電商平台、聚焦東南亞市場的電商運營商。公司表示,IPO募集資金將用於推動本地化布局,以及在東南亞四個重點市場泰國、印尼、越南及馬來西亞建設電商倉儲設施。近期與短影音平台TikTok的合作,也是公司成長故事的重要組成部分。TikTok同時營運電商平台TikTok Shop。米多多將近年的高速增長部分歸功於與TikTok合作關係持續深化。在2024年收入幾乎持平後,公司2025年收入接近翻倍成長。 轉型之路 米多多從一家專注中國市場的廣告服務商,迅速轉型為跨境電商綜合服務供應商,在某種程度上反映出中國龐大電商產業中一個正在快速崛起的新領域。 2024年中國網路零售銷售額達15.52萬億元(2.3萬億美元),約佔全球網路零售市場的一半。根據申請文件,中國跨境電商市場2024年規模達4,617億美元,預計至2029年期間年均增長率為15.1%。這也為跨境電商服務市場提供廣闊成長空間。該市場規模預計將由2024年的363億美元增至2029年的737億美元,增長超過一倍。 目前跨境電商營銷服務市場前五大業者合計佔有36.5%的市場份額。其中米多多規模最小,2024年排名第五,市場份額僅0.5%。廣東省廣告集團股份有限公司(002400.SZ)以17.2%的市佔率居首;未上市的鈦動科技、東信時代及星谷雲分列其後,合計佔有18.8%的市場份額。 近來,中國跨境電商產業在美國市場面臨壓力。美國去年堵住了一項長期存在的制度漏洞,取消價值低於800美元包裹免關稅入境的待遇,而美國正是中國跨境電商賣家的主要市場之一。類似情況也正在歐洲發生。歐盟計劃自下月起取消價值150歐元(173美元)以下包裹的免稅優惠。 面對上述及其他挑戰,米多多的應對方式堪稱企業靈活調整與把握機遇的典型案例。 公司前身為滙源信息,是一家位於中國福建省的跨境貿易中介服務商,最初與Google合作,協助其拓展中國客戶的廣告業務。2021年,公司聯合創辦人、董事長阮衛星與行政總裁鄧海開始推動業務轉型,由原本提供海外企業進入中國市場的營銷服務,轉向為中國廣告代理商提供出海營銷服務。 自營電商業務 2023年之後,公司除了原有服務廣告代理商的業務外,也開始直接拓展品牌客戶。到了2025年5月,公司進一步與TikTok Shop合作,正式開展自有海外電商運營業務。 自2021年以來,米多多的核心業務一直是海外營銷服務,該業務去年仍佔公司總收入的93.1%。相比之下,公司自營海外電商運營業務在開展首年僅貢獻3.1%的收入。米多多得以突破傳統營銷服務業務、開啟新一輪擴張,關鍵在於其與TikTok自2024年建立的合作關係。如今,這項合作已從單純的廣告代理業務,逐步發展成支撐公司自營電商及電商廣告服務的重要平台。 隨著合作深化,TikTok貢獻的收入佔比由2023年的0.2%大幅提升至2025年的30.3%;其餘大部分收入則仍來自Google。在營銷服務模式下,米多多向Google及TikTok等平台採購廣告資源,再轉售給廣告代理商客戶,並透過平台返點獲取部分收益。然而,自這家美國搜尋巨頭於2023年調整返點政策後,Google提供的返點金額已由2023年的149萬美元降至2025年的83.8萬美元。相比之下,TikTok在雙方合作後的首個完整年度便帶來438萬美元返點收入。 米多多將毛利由2023年的290萬美元增至2025年的1,180萬美元,幾乎完全歸功於與TikTok的合作,儘管公司與Google的合作關係仍持續存在。透過TikTok提供服務所產生的收入,由2024年的970萬美元增至2025年的3,890萬美元;同期活躍客戶數亦由706家增至1,209家。公司的毛利率仍然偏低,反映其作為營銷服務中介商的商業模式特性。不過,隨著TikTok業務規模擴大,以及毛利率較高的自營電商業務逐步成長,公司毛利率已由2023年的4.1%提升至去年的8.6%。 除了廣告服務業務外,公司依託TikTok Shop經營的自營電商業務去年實現420萬美元收入,毛利率更高達72.1%。該業務去年主要向美國、馬來西亞、泰國及越南消費者銷售商品,但目前似乎仍僅與單一品牌合作夥伴合作。不過,公司表示,2026年前四個月已有另外三家品牌合作夥伴加入,顯示這項業務未來具備相當可觀的成長潛力。 現在或許仍言之過早,尚難判斷米多多與TikTok的新合作關係,是否能在更長時間內持續帶來強勁的收入增長及利潤改善。不過,在中國與西方關係日趨緊張,以及Google因AI侵蝕其核心搜尋業務而收緊資源分配的背景下,米多多轉向跨境電商模式,並將重心放在東南亞市場,看來是一項相當明智的策略布局。 欲訂閱咏竹坊每周免費通訊,請點擊這裏

美暫緩制裁 DeepSeek免被納入黑名單

路透報道,因特朗普避免與中國緊張關係升級,美國將暫緩把人工智能與大型語言模型公司DeepSeek列入貿易黑名單。 據報道,除了DeepSeek以外,長鑫存儲及百多家被列為國家安全風險的中國企業,也暫緩納入黑名單中。 美國商務部工業與安全局(BIS)沒有直接作出回應,只表示時刻都會使用包括實體清單在內的政策和執法工具,以打擊不良行為者。 DeepSeek近期剛完成首輪融資,投資者除創辦人梁文鋒外,騰訊、寧德時代分別投資100億及50億元人民幣,京東、網易及IDG亦分別投資30億元,目前DeepSeek估值已超過500億美元。 劉智恒 欲訂閱咏竹坊每周免費通訊,請點擊這裏