AI Agent regulation

当AI从内容生成走向自主行动,风险与责任也随之转移,为监管治理带来挑战

  

卓薇安

中国每年的“两会”向来是展示经济增长重点、产业战略与科技雄心的窗口。但今年,一个主题愈发凸显:人工智能正被重新定义为一项治理问题。

这一转变至关重要,过去十年,中国的AI叙事主要围绕“规模”展开:谁掌握最多数据、谁拥有最强工程人才、谁具备最深厚的产业基础,以及谁能最快实现商业化。但如今,随着技术本身的演进,讨论的焦点也在改变。AI代理(Agent)的崛起,这类系统能跨应用、设备与服务执行任务,正迫使政策制定者面对更复杂的法律、经济与社会问题。

在北京推动“AI+”战略、加速AI在全经济体落地的背景下,这一挑战显得尤为迫切。官方希望AI能提升效率、推动产业升级并支撑经济增长。但随着这类系统的应用范围不断扩大,相关的治理问题也变得更加复杂。

这种急迫性,已在近期席卷中国的OpenClaw热潮中显现。在深圳,大批人潮排队到腾讯办公室外,寻求安装这款爆红的开源AI代理;而深圳与无锡的地方政府,也迅速推出补贴措施,支持相关项目发展。

与此同时,美国一名联邦法官近期在“亚马逊对Perplexity AI”一案中颁布初步禁令,要求该公司停止其Comet浏览器AI代理存取受密码保护的亚马逊帐户。法院指出,仅有用户授权,可能不足以让AI代理在第三方平台上运作,意味着未来可能同时需要用户同意与平台授权。这一“双重授权”原则,或将成为代理式AI新法律框架的起点。

传统聊天机器人大多只在单一介面内运作,例如整理文件或生成文字。而AI代理则带来更具影响力的应用场景,它们被设计用来比价商品、管理行事历、预订行程、整理会议内容、处理档案,并在有限人为监督下,与多个应用程式互动。

这看似只是数字助理的自然演进,但其实从根本上改变了风险结构。一旦AI系统能跨应用运作、取得权限、读取画面并主动触发操作,它就不再只是工具,而是介于用户与数位经济之间的一个“操作层”。

比聊天机器人更棘手

AI助理应该被允许存取多少数据?在复杂的应用生态中,当各种权限被打包授予时,什么才算是真正有意义的用户同意?如果AI代理自行下单购物、取消预订、误用敏感资料,或因错误建议导致财务损失,法律责任应由谁承担?开发者、平台、设备商,还是用户?

过去几年,中国监管机构已逐步建立起一套针对新兴数字技术的监管框架。无论是推荐演算法、深度合成,还是生成式AI服务的相关规范,都呈现出一个清晰模式:北京通常允许创新推进,但必须纳入国家监管、网络安全合规与内容责任的框架之下。

创新与监管再平衡

这种模式体现了一种熟悉的平衡取向。中国将AI视为机器人、制造业、半导体、消费电子以及长期生产力提升的关键战略领域。一方面,希望本土企业能在全球市场竞争;另一方面,也强调在国内快速落地应用。但如果商业化进程过快、超前于治理能力,强大的数位系统也可能带来风险。因此,形成了一套监管思路,试图在快速推广与政治、制度性管控之间取得平衡。

这种平衡,也使中国的AI讨论具有超越本国的意义。在全球范围内,各国政府仍在摸索同一个核心问题:AI监管究竟应该监管什么?欧洲在这方面走得最前,透过《欧盟人工智能法案》(EU AI Act)建立以风险为基础的监管框架;美国则采取较为分散的路径,依赖行政命令、监管机构介入以及分行业执法。中国并非唯一面对这一挑战的国家,但其数位经济的体量,使这个问题具有更大的分量与影响力。

AI时代的治理挑战

第一项挑战是数据治理。AI代理的价值,取决于其可取得的资讯范围,但这同时也带来过度收集、授权不足与滥用的风险。在代理时代,隐私不再只是资料本身,而是AI系统能够推论、整合并进一步采取行动的能力。

第二个压力点在于市场结构。如果AI助理成为用户搜寻商品、比较服务、预订行程或管理日常事务的主要入口,中国平台经济的权力格局可能再次出现变化。搜寻、电商、支付与本地生活服务等领域,都可能被掌握“助理入口”的一方重新塑造,进而引发关于存取权、排序机制、自我偏好,以及大型平台与中小开发者之间流量分配的竞争问题。

第三是责任归属。随着AI系统自主性提高,一旦出现问题,责任的界定也变得更加困难。推荐错误或许只是小问题,但若涉及财务损失、隐私泄露或安全事故,性质就完全不同。尤其当AI开始在更敏感的商业或工业场景中做出决策时,监管机构需要划定更清晰的责任边界。

安全也是另一项关键风险。AI系统可能受到恶意提示操控,或因数据污染与软体漏洞而被攻破。随着这些系统进一步应用于企业工具、连网设备与工业场景,其潜在后果也显著放大。聊天机器人出错或许只是带来不便,但若嵌入物流、金融或关键基础设施中的AI代理出现问题,影响将更加严重。

更重要的是,中国的AI讨论已不再只是关于创新本身,而是关于制度是否准备就绪。随着AI系统愈发自主,现有的法律与监管框架是否足以应对下一阶段的技术发展,正受到考验。

这也是为何当前这场讨论至关重要。当AI不只是生成内容,而开始“行动”时,政策制定者被迫面对一个更现实的问题:真正领先AI的国家,应该是那些最先学会如何有效治理它的国家。

本文仅代表作者个人观点,不代表咏竹坊的观点

卓薇安,驻新加坡记者,专注科技方面的报道,也是科技媒体初创公司Tech Tech China的联合创始人。她的联络方式:vivian_toh@techtechchina.com

欲订阅咏竹坊每周免费通讯,请点击这里

新闻

首程入股两只房地产投资信托基金

基础设施投资商首程控股有限公司(0697.HK)周四表示,已投资两只房地产投资信托基金(REIT),公司表示,此举将有助于推动中国经济高质量发展。 其中一項投资为国泰海通砂之船商业REIT,其底层资产为西安的砂之船(西安)奥特莱斯项目。另一項投资为中信建投首农商业REIT,底层资产为北京市昌平区的龙德广场。首程控股未披露这两笔REIT投资的具体规模。 此次投资正值中国鼓励更多企业将房地产剥离至REITs,从而在开发项目中回收资金,同时为投资者提供一种新的金融产品。 首程控股周四在公告发布后下跌2.3%。该股今年迄今已下跌约19% 阳歌 欲订阅咏竹坊每周免费通讯,请点击这里

味精龙头阜丰预计上半年录得亏损

中国味精龙头阜丰集团有限公司(0546.HK)周三发布盈利警告,预计截至6月30日止六个月将录得亏损,或税后利润大幅减少,远逊于去年同期录得的17.9亿元盈利。 公司表示,截至今年5月底止五个月,已录得税后亏损约5,300万元(784万美元),主要由于美元兑人民币贬值,导致持有的美元资产产生约5.4亿元人民币汇兑损失;同时味精、黄原胶、苏氨酸及赖氨酸等主要产品售价自去年以来持续疲弱,拖累盈利表现。 根据公司官网所述,阜丰集团为全球最大的谷氨酸和味精制造商之一,其产品畅销全球逾100个国家与地区。全集团每年销项物流超过500万吨,其中出口贸易量约达90万吨,氨基酸与黄原胶为其出口主力。 阜丰集团股价周四低开,至中午休市报4.52港元,跌16.76%。 李世达 欲订阅咏竹坊每周免费通讯,请点击这里 
Miduoduo does e-commerce with TikTok

连年亏损的米多多 搭上TikTok 冀一洗颓风

中国第五大跨境电商服务供应商米多多,正通过加码社交媒体平台合作及发展自营销售业务,寻求新的增长动能 重点: 米多多在申请香港IPO前已连续三年录得亏损,但公司表示,亏损主要源于近年业务转型所产生的相关成本 这家跨境电商营销服务供应商表示,去年收入大幅增长,反映其与TikTok深化合作,以及聚焦东南亚市场的策略开始见效    谭英 对于带着亏损纪录闯关资本市场的初创企业而言,这样的故事并不陌生。跨境电商企业米多多集团股份有限公司上周递交香港上市申请,便是最新一例。 公司2023年、2024年及2025年分别录得亏损1,640万美元、16.3万美元及2,450万美元;同期收入则分别为7,090万美元、7,110万美元及1.38亿美元。若按照香港交易所2018年修订上市规则前的标准,米多多的上市申请很可能因未能满足IPO前连续两年盈利的要求而遭拒绝。 若剔除部分非现金项目影响,公司盈利表现则较为理想。经调整后,米多多2023年录得净利润5.9万美元,2024年亏损8.7万美元,2025年则转为盈利230万美元。 尽管盈利表现起伏不定,米多多仍有不少值得投资者关注之处。首先,公司最新一轮投资者包括主权背景基金中央汇金投资,该机构去年参与增资后,米多多估值达50亿港元。 这家公司正试图将自己塑造成一家炙手可热的科技初创企业,而非一家成立14年、身处成熟广告服务行业的老牌企业。其押注的正是近年快速崛起的跨境电商市场,协助中国商家将商品销售给海外消费者。 公司希望投资者不仅将其视为营销服务供应商,更将其视为一家经营自有跨境电商平台、聚焦东南亚市场的电商运营商。公司表示,IPO募集资金将用于推动本地化布局,以及在东南亚四个重点市场泰国、印尼、越南及马来西亚建设电商仓储设施。近期与短视频平台TikTok的合作,也是公司增长故事的重要组成部分。TikTok同时运营电商平台TikTok Shop。米多多将近年的高速增长部分归功于与TikTok合作关系持续深化。在2024年收入几乎持平后,公司2025年收入接近翻倍增长。 转型之路 米多多从一家专注中国市场的广告服务商,迅速转型为跨境电商综合服务供应商,在某种程度上反映出中国庞大电商行业中一个正在快速崛起的新领域。 2024年中国网络零售销售额达15.52万亿元(2.3万亿美元),约占全球网络零售市场的一半。根据申请文件,中国跨境电商市场2024年规模达4,617亿美元,预计至2029年期间年均增长率为15.1%。这也为跨境电商服务市场提供广阔增长空间。该市场规模预计将由2024年的363亿美元增至2029年的737亿美元,增长超过一倍。 目前跨境电商营销服务市场前五大企业合计占有36.5%的市场份额。其中米多多规模最小,2024年排名第五,市场份额仅0.5%。广东省广告集团股份有限公司(002400.SZ)以17.2%的市占率居首;未上市的钛动科技、东信时代及星谷云分列其后,合计占有18.8%的市场份额。 近来,中国跨境电商行业在美国市场面临压力。美国去年堵住了一项长期存在的制度漏洞,取消价值低于800美元包裹免关税入境的待遇,而美国正是中国跨境电商卖家的主要市场之一。类似情况也正在欧洲发生。欧盟计划自下月起取消价值150欧元(173美元)以下包裹的免税优惠。 面对上述及其他挑战,米多多的应对方式堪称企业灵活调整与把握机遇的典型案例。 公司前身为汇源信息,是一家位于中国福建省的跨境贸易中介服务商,最初与Google合作,协助其拓展中国客户的广告业务。2021年,公司联合创始人、董事长阮卫星与首席执行官邓海开始推动业务转型,由原本提供海外企业进入中国市场的营销服务,转向为中国广告代理商提供出海营销服务。 自营电商业务 2023年之后,公司除了原有服务广告代理商的业务外,也开始直接拓展品牌客户。到了2025年5月,公司进一步与TikTok Shop合作,正式开展自有海外电商运营业务。 自2021年以来,米多多的核心业务一直是海外营销服务,该业务去年仍占公司总收入的93.1%。相比之下,公司自营海外电商运营业务在开展首年仅贡献3.1%的收入。米多多得以突破传统营销服务业务、开启新一轮扩张,关键在于其与TikTok自2024年建立的合作关系。如今,这项合作已从单纯的广告代理业务,逐步发展成支撑公司自营电商及电商广告服务的重要平台。 随着合作深化,TikTok贡献的收入占比由2023年的0.2%大幅提升至2025年的30.3%;其余大部分收入则仍来自Google。在营销服务模式下,米多多向Google及TikTok等平台采购广告资源,再转售给广告代理商客户,并通过平台返点获取部分收益。然而,自这家美国搜索巨头于2023年调整返点政策后,Google提供的返点金额已由2023年的149万美元降至2025年的83.8万美元。相比之下,TikTok在双方合作后的首个完整年度便带来438万美元返点收入。 米多多将毛利由2023年的290万美元增至2025年的1,180万美元,几乎完全归功于与TikTok的合作,尽管公司与Google的合作关系仍持续存在。通过TikTok提供服务所产生的收入,由2024年的970万美元增至2025年的3,890万美元;同期活跃客户数亦由706家增至1,209家。公司的毛利率仍然偏低,反映其作为营销服务中介商的商业模式特性。不过,随着TikTok业务规模扩大,以及毛利率较高的自营电商业务逐步增长,公司毛利率已由2023年的4.1%提升至去年的8.6%。 除了广告服务业务外,公司依托TikTok Shop经营的自营电商业务去年实现420万美元收入,毛利率更高达72.1%。该业务去年主要向美国、马来西亚、泰国及越南消费者销售商品,但目前似乎仍仅与单一品牌合作伙伴合作。不过,公司表示,2026年前四个月已有另外三家品牌合作伙伴加入,显示这项业务未来具备相当可观的增长潜力。 现在或许仍言之过早,尚难判断米多多与TikTok的新合作关系,是否能在更长时间内持续带来强劲的收入增长及利润改善。不过,在中国与西方关系日趋紧张,以及Google因AI侵蚀其核心搜索业务而收紧资源分配的背景下,米多多转向跨境电商模式,并将重心放在东南亚市场,看来是一项相当明智的策略布局。 欲订阅咏竹坊每周免费通讯,请点击这里

美暂缓制裁 DeepSeek免被纳入黑名单

路透报道,因特朗普避免与中国紧张关系升级,美国将暂缓把人工智慧与大型语言模型公司DeepSeek列入贸易黑名单。 据报道,除了DeepSeek以外,长鑫存储及百多家被列为国家安全风险的中国企业,也暂缓纳入黑名单中。 美国商务部工业与安全局(BIS)没有直接作出回应,只表示时刻都会使用包括实体清单在内的政策和执法工具,以打击不良行为者。 DeepSeek近期刚完成首轮融资,投资者除创始人梁文锋外,腾讯、宁德时代分别投资100亿及50亿元人民币,京东、网易及IDG亦分别投资30亿元,目前DeepSeek估值已超过500亿美元。 刘智恒 欲订阅咏竹坊每周免费通讯,请点击这里