AI Agent regulation

當AI從內容生成走向自主行動,風險與責任也隨之轉移,為監管治理帶來挑戰

  

卓薇安

中國每年的「兩會」向來是展示經濟增長重點、產業戰略與科技雄心的窗口。但今年,一個主題愈發凸顯:人工智能正被重新定義為一項治理問題。

這一轉變至關重要,過去十年,中國的AI敘事主要圍繞「規模」展開:誰掌握最多數據、誰擁有最強工程人才、誰具備最深厚的產業基礎,以及誰能最快實現商業化。但如今,隨著技術本身的演進,討論的焦點也在改變。AI代理(Agent)的崛起,這類系統能跨應用、設備與服務執行任務,正迫使政策制定者面對更複雜的法律、經濟與社會問題。

在北京推動「AI+」戰略、加速AI在全經濟體落地的背景下,這一挑戰顯得尤為迫切。官方希望AI能提升效率、推動產業升級並支撐經濟增長。但隨著這類系統的應用範圍不斷擴大,相關的治理問題也變得更加複雜。

這種急迫性,已在近期席捲中國的OpenClaw熱潮中顯現。在深圳,大批人潮在騰訊辦公室外排隊,尋求安裝這款爆紅的開源AI代理;而深圳與無錫的地方政府,也迅速推出補貼措施,支持相關項目發展。

與此同時,近期美國一名聯邦法官在「亞馬遜對Perplexity AI」一案中頒布初步禁令,要求該公司停止其Comet瀏覽器AI代理存取受密碼保護的亞馬遜帳戶。法院指出,僅有用戶授權,可能不足以讓AI代理在第三方平台上運作,意味著未來可能同時需要用戶同意與平台授權。這一「雙重授權」原則,或將成為代理式AI新法律框架的起點。

傳統聊天機器人大多只在單一介面內運作,例如整理文件或生成文字。而AI代理則帶來更具影響力的應用場景,它們被設計用來比價商品、管理行事曆、預訂行程、整理會議內容、處理檔案,並在有限人為監督下,與多個應用程式互動。

這看似只是數字助理的自然演進,但其實從根本上改變了風險結構。一旦AI系統能跨應用運作、取得權限、讀取畫面並主動觸發操作,它就不再只是工具,而是介於用戶與數位經濟之間的一個「操作層」。

比聊天機器人更棘手

AI助理應該被允許存取多少數據?在複雜的應用生態中,當各種權限被打包授予時,什麼才算是真正有意義的用戶同意?如果AI代理自行下單購物、取消預訂、誤用敏感資料,或因錯誤建議導致財務損失,法律責任應由誰承擔?開發者、平台、設備商,還是用戶?

過去幾年,中國監管機構已逐步建立起一套針對新興數字技術的監管框架。無論是推薦演算法、深度合成,還是生成式AI服務的相關規範,都呈現出一個清晰模式:北京通常允許創新推進,但必須納入國家監管、網絡安全合規與內容責任的框架之下。

創新與監管再平衡

這種模式體現了一種熟悉的平衡取向。中國將AI視為機器人、製造業、半導體、消費電子以及長期生產力提升的關鍵戰略領域。一方面,希望本土企業能在全球市場競爭;另一方面,也強調在國內快速落地應用。但如果商業化進程過快、超前於治理能力,強大的數位系統也可能帶來風險。因此,形成了一套監管思路,試圖在快速推廣與政治、制度性管控之間取得平衡。

這種平衡,也使中國的AI討論具有超越本國的意義。在全球範圍內,各國政府仍在摸索同一個核心問題:AI監管究竟應該監管什麼?歐洲在這方面走得最前,透過《歐盟人工智能法案》(EU AI Act)建立以風險為基礎的監管框架;美國則採取較為分散的路徑,依賴行政命令、監管機構介入以及分行業執法。中國並非唯一面對這一挑戰的國家,但其數位經濟的體量,使這個問題具有更大的分量與影響力。

AI時代的治理挑戰

第一項挑戰是數據治理。AI代理的價值,取決於其可取得的資訊範圍,但這同時也帶來過度收集、授權不足與濫用的風險。在代理時代,隱私不再只是資料本身,而是AI系統能夠推論、整合並進一步採取行動的能力。

第二個壓力點在於市場結構。如果AI助理成為用戶搜尋商品、比較服務、預訂行程或管理日常事務的主要入口,中國平台經濟的權力格局可能再次出現變化。搜尋、電商、支付與本地生活服務等領域,都可能被掌握「助理入口」的一方重新塑造,進而引發關於存取權、排序機制、自我偏好,以及大型平台與中小開發者之間流量分配的競爭問題。

第三是責任歸屬。隨著AI系統自主性提高,一旦出現問題,責任的界定也變得更加困難。推薦錯誤或許只是小問題,但若涉及財務損失、隱私洩露或安全事故,性質就完全不同。尤其當AI開始在更敏感的商業或工業場景中做出決策時,監管機構需要劃定更清晰的責任邊界。

安全也是另一項關鍵風險。AI系統可能受到惡意提示操控,或因數據污染與軟體漏洞而被攻破。隨著這些系統進一步應用於企業工具、連網設備與工業場景,其潛在後果也顯著放大。聊天機器人出錯或許只是帶來不便,但若嵌入物流、金融或關鍵基礎設施中的AI代理出現問題,影響將更加嚴重。

更重要的是,中國的AI討論已不再只是關於創新本身,而是關於制度是否準備就緒。隨著AI系統愈發自主,現有的法律與監管框架是否足以應對下一階段的技術發展,正受到考驗。

這也是為何當前這場討論至關重要。當AI不只是生成內容,而開始「行動」時,政策制定者被迫面對一個更現實的問題:真正領先AI的國家,應該是那些最先學會如何有效治理它的國家。

本文僅代表作者個人觀點,不代表詠竹坊的觀點

卓薇安,駐新加坡記者,專注科技方面的報道,也是科技媒體初創公司Tech Tech China的聯合創始人。她的聯絡方式:vivian_toh@techtechchina.com

欲訂閱咏竹坊每周免費通訊,請點擊這裏

新聞

銷量大幅增長 中偉新材料上半年至少多賺七成

新能源材料生產商中偉新材料股份有限公司(2579.HK)周一公布,預計2026年上半年淨利潤介乎12.5億至13.5億元(1.99億美元),按年增長70.58%至84.23%;扣除非經常性損益後淨利潤預計為12億至13億元,按年增長83.63%至98.93%。 公司表示,期內鎳系、鈷系、磷系及鈉系等核心產品合計銷量突破25萬噸。其中,三元前驅體銷量按年增長逾50%,綜合毛利率保持穩定;磷系材料銷量增長逾25%,並成功扭虧為盈;鈉電前驅體材料銷量亦維持高速增長。 此外,公司上游資源布局帶來的投資收益增加,印尼火法鎳冶煉項目亦憑藉成本優勢維持較佳盈利水平。公司稱,「資源、冶煉及材料」一體化產業鏈的協同效應,進一步提升經營韌性。 公司股價周二高開,至中午休市報24.66港元,升5.12%。該股過去六個月累跌31.3%。 李世達 欲訂閱咏竹坊每周免費通訊,請點擊這裏

樓市逆境下 華潤置地半年銷售升半成

在內地樓市持續疲弱下,房地產開發商華潤置地有限公司(1109.HK)的物業銷售仍能保持穩中向好。周一公布上半年合同銷售數據,前六個月累計銷售金額約1,165億元人民幣(下同),按年增長5.6%。 單就六月份的銷售金額則約229.9億元,涉及建築面積79.9萬平方米,分別按年減少2%及11%。 華潤置地來自收租物業的收入表現理想,六月份租務收入約28.7億元,按年增10.7%。今年首六個月,累計租金收入達178.7億元,按年升12.6%。 周二華潤置地開市跌2%報32.06港元,公司股價較過去一年高位跌17%。 劉智恒 欲訂閱咏竹坊每周免費通訊,請點擊這裏
GigaDevice forecasts tenfold profit jump; as earnings surge, Zhu Yiming's stake dwindles

兆易創新預告賺十倍 盈利愈升朱一明持股愈少

上市才半年的兆易創新,股價接連倍翻,近日發盈喜,中期業績料大幅上升 重點: 公司上半年盈利同比上升11倍 朱一明半年間兩次減持股份   劉智恒 要數今年中國內地及香港的財經界紅人,朱一明肯定榜上有名,他旗下的存儲芯片龍頭兆易創新科技集團股份有限公司(3986.HK;603986.SH),自今年初上市後表現勢如破竹,現價較上市定價累計大漲277%,相比疲弱的港股,可謂一枝獨秀,鶴立雞群。 他持有的國產Dram存儲一哥長鑫科技,在內地科創板的上市正進入倒數,集資295億元人民幣(下同),是年初至今,內地新股上市集資最大規模的公司。市場保守估計,市值將超過萬億元。 近年人工智能存儲需求帶動下,存儲芯片公司成為資本市場的寵兒。從兆易創新的股價升勢看,似有點誇張,再看公司近期發布的盈喜,預料業績出奇亮麗,半年盈利爆發上升,確又配得上今天高昂的股價。 股價反高潮急轉直下 兆易創新預告,2026年上半年公司收入115億元,同比增長177%,收入倍升之外,盈利的增幅才讓投資者興奮,股東應佔溢利達69億元,同比猛增1,099%。 公司表示,期內存儲芯片供應緊張,集團產品價量齊升,帶動盈利水平急升。另外,受惠於工業、消費及汽車等領域的需求拉動,微控制器出貨規模實現理想增長。 部份原因則是持有的證券投資公允價值上升,但即使扣除此非經常性收益,兆易創新亦大賺48.5億元,同比上升也達791%。 公司發布盈喜後翌日,股價卻先升後大跌,最終當天收市股價勁挫20%,市值蒸發1,386億港元。股價表現反高潮,有指是市場早前對兆易創新的增長估計,與實際情況有一定落差,失望下急急拋售;另外是部份投資者見股價高企,趁好消息套現。 撇除以上市場的猜測,若有注意朱一明之前的連串舉措,對兆易創新一度狂升的股價實要提高警覺。 朱一明五月減持千萬股 今年1月13日才在港交所敲鐘的兆易創新,創始人兼董事長朱一明的持股量只有6.53%,連同一致行動人士贏富得公司,合共亦只持股8.39%。持股量已偏低;豈料在5月7日,朱一明與贏富得突減持343.9萬股,佔公司總股本的0.49%,持股量降至7.9%。 到5月26日,朱一明與贏富得再減持633萬股,佔總股本的0.9%,持股量由7.9%減至7%。 原先也很難想像,公司創始人朱一明連同赢富得的持股量不足9%,畢竟大股東持股量低,市場會擔憂他們對公司的承擔,以及對未來前景是否有信心。現時,公司在港上市短短五個月,已急不及待出售手上股份,更加讓投資者憂慮,為何大股東持股已那麼低,還要在短時間內減持,究竟是甚麼原因? 再看上月底公司煞有介事地發公布,提醒投資者注意風險,坦言指出自5月18至6月29日間股價累升達125.6%,短期漲幅較大,未來存在股價快速回落的風險。 兆易創新更明言:「存儲芯片行業歷史上均出現週期性波動,目前產品價格已處歷史高位,繼續大幅上漲的趨勢不可持續,行業供給與需求終將走向再平衡。」 公司續稱,隨著宏觀經濟環境、行業週期、市場供需關係等變化,主要產品價格或出現相當回落,導致經營業績及盈利下降。 思捷故事以古鑑今 說到這裡,想講講曾經的香港股王思捷環球的故事,思捷的服裝品牌Esprit在上世紀90年代風行一時。老闆邢李㷧本是思捷的亞洲區代理,後輾轉收購成為集團主席,93年在香港上市後生意愈做愈大,2002年成恒生指數成份股,股價不斷飊升,一度高見133港元,市值逾1,700億港元。 成為藍籌股後,邢李㷧反倒接連減持股份,市場卻不以為然,分析員更不斷為其護航,認為是公司增加機構投資者的行為,無損公司的表現。幾年間邢李㷧先後逾二十次減持股份,手上持股所餘無幾,適藉金融海嘯發生,思捷的故事也開始劃上句號,生意節節敗退,今天股價只有0.49港元,市值僅1.3億港元。 歷史未必會重演,但總值得借鑑,公司股價出奇地高的時候,大股東又不斷減持,股民就應暫時忍忍手。縱使股價再升,投資者只不過錯失機會,沒帶來損失;相反若高位追貨,一旦市場氣氛逆轉或公司業績表現下滑,股價大幅回調就損失不菲。 欲訂閱咏竹坊每周免費通訊,請點擊這裏
EHang makes eVTOLs

北京輕型飛機墜毀 中國eVTOL發展雄心受挫

正當eVTOL先驅億航智能仍難把飛行認證轉化為實際載客與銷售之際,這宗事故再次令中國的低空航空夢受到質疑 重點: 北京一宗備受關注的輕型飛機墜毀事故,暴露低空飛行的安全隱憂,可能拖慢中國低空經濟發展,包括eVTOL製造商的推進步伐 億航智能在監管審批方面是中國進展最快的eVTOL企業,但交付量偏低,加上尚未開展售票載客飛行,顯示商業化仍然遙遠 胡鳴鶴 過去數年,中國低空經濟乘着政策口號、地方政府高調規劃,以及投資者期待電動飛行器成為下一個電動車(EV)故事,帶動這股浪潮迅速升溫。由此勾勒出的願景充滿未來感:小型飛行器從樓頂、景區和交通樞紐起飛,無須跑道便可載着乘客越過下方擁堵的道路。 然而,一架輕型飛機撞上北京中央商務區最高摩天大樓,為這幅願景潑下冷水。 6月26日,這架雙座輕型運動飛機撞上高528米、又稱「中國尊」的北京中信大廈,造成機師死亡,地面另有13人受傷。涉事飛機並非電動垂直起降飛行器(eVTOL),也與任何eVTOL製造商無關,包括已成為中國該領域最具代表性企業的廣州公司億航智能控股有限公司(EH.US)。 不過,事故地點對仍處於起步階段、發展程度遠低於西方的中國低空經濟而言格外敏感。墜機地點靠近受限空域和民航航路。路透社報道,事故發生後,部分通用航空營運商暫停觀光飛行等待官方指引;海南航空一架空中巴士A330客機的航線與該小型飛機交叉後,也被迫調整下降路徑。 這宗事故顯示,對發展歷史相對較短的中國航空業而言,在空域管制、航線審批及緊急應變機制仍有待完善之際,推動低空經濟並不容易。在充滿未來想像的eVTOL領域,億航受到的影響尤其明顯,因為它已不只是出售一個概念。旗下無人駕駛雙座eVTOL產品EH216-S,已取得中國民用航空局(CAAC)頒發的多項關鍵認證,包括型號合格證、生產許可證及標準適航證。與公司相關的營運商,也已取得中國民航局頒發的中國首批載人eVTOL營運合格證。 這些認證令億航成為中國資本市場上最接近飛行出租車概念的投資標的,但也令它背負起多數競爭對手尚未面對的壓力。億航必須證明,現階段確實存在對eVTOL服務的市場需求,不能再單靠新一輪低空經濟政策扶持和基礎設施投資向投資者講故事。 說得多 乘客少 億航最新財務報告顯示,理想與現實之間仍有巨大差距。今年第一季,公司只交付四架EH216系列飛行器,低於去年同期的11架及上一季的61架。收入降至僅2,570萬元(370萬美元),淨虧損則擴大至1.26億元。主要來自無人機燈光秀、與核心eVTOL業務並無直接關係的空中媒體服務,貢獻了約四成季度收入。 億航的載人eVTOL業務仍在推進之中。公司表示,在正式推出公開售票飛行服務前,仍正與中國民航局及營運合作夥伴協作,以符合更多營運和安全要求。新浪財經刊載的一份高盛摘要亦指出,取得遠程駕駛員培訓批准,仍是商業載客服務啟動前必須完成的其中一個環節。 這正是中國低空經濟面對的核心矛盾。北京一再將該產業定位為未來增長引擎,中國民航局亦曾表示,到2035年,相關市場規模可能達到3.5萬億元。但垂直起降場、充電站及飛行控制平台等基礎設施,距離完善仍相當遙遠。EH216-S標示的航程約為30公里,因此較適合景區環線,或在受控場地之間進行短途飛行,而非大規模城市通勤。 億航取得認證後交付的不少飛行器,都流向地方政府支持的平台,以及具有國資背景的旅遊或交通營運商。這些訂單尚不足以證明,普通乘客願意持續付費使用相關服務,從而支撐飛行器的大規模生產。 因此,北京墜機事故發生之際,億航的商業模式本已承受壓力。事故後,美銀證券將億航評級連降兩級至「跑輸大市」,並把目標價下調至5.40美元,理由是監管收緊風險升高,商業化進度亦可能放慢。該行同時將2030年中國eVTOL銷量預測,由3,500架下調至約2,900架。億航股價7月10日收報5.59美元,今年以來累跌約58%,僅略高於5.32美元的52周低位。 資金源源流入 不過,這個行業並不缺乏資金支持。中國在電池、電驅動系統、汽車製造及電子產業擁有完整而深厚的供應鏈,一旦產業真正起飛,這些領域都將從中受惠。地方政府亦願意提供資金,期望藉eVTOL帶動當地經濟,同時紓緩交通擠塞。 這也解釋了為何資金仍持續流入。據中國媒體報道,2026年上半年低空經濟領域融資額超過200億元,其中eVTOL製造商佔了相當大比重。目前不少資金來自國資背景基金、地方政府平台及策略投資者。 億航的競爭對手正利用這些資金加快追趕,沃蘭特航空近期完成10億元融資,並正為可能赴港上市作準備。據報,電動車製造商小鵬汽車旗下飛行汽車公司小鵬匯天,亦已以保密形式申請在香港上市,並擁有超過7,000張訂單,但其中大部分可能只是意向訂單。與汽車巨頭吉利有關聯的沃飛長空,則正尋求在上海科創板上市。 這些公司參與的並非同一場競賽。億航押注的是已取得認證、無人駕駛且航程較短的飛行器,主要用於受控的載客航線。小鵬匯天更倚重消費品牌及汽車式生產模式,沃蘭特等公司則瞄準體型更大、由駕駛員操控並可執行較長航程的飛行器。尚未取得認證的公司,仍可向投資者推銷未來願景;億航已經跨過這個階段,如今必須把手上的認證轉化為實際收入。 億航正嘗試拓寬發展跑道,以實現這個目標。公司已在瑞士進行無人駕駛飛行,在墨西哥展開載人示範,並在香港進行監管沙盒測試。公司亦正研發航程更長的VT35,並與長安汽車成立合資公司,利用汽車產業供應鏈,同時進軍智能無人艇業務。 北京這宗墜機事故不會終結中國發展低空經濟的雄心,但可能令產業重新調整優先次序。在飛行出租車真正成為一門生意之前,中國需要更清晰的空域規則、可靠的交通管理系統、受過訓練的營運人員、可承保的風險,以及願意登機的乘客。 因此,2026年下半年將成為一場重要考驗,多家中國eVTOL製造商正競相邁向取得認證、完成融資或上市等里程碑。億航則要證明,走在這批企業前列,仍能轉化為商業優勢。對億航而言,最困難的部分已不再是證明飛行器能夠升空,而是證明它們也能讓一門真正的生意起飛。 欲訂閱咏竹坊每周免費通訊,請點擊這裏