AI Agent regulation

当AI从内容生成走向自主行动,风险与责任也随之转移,为监管治理带来挑战

  

卓薇安

中国每年的“两会”向来是展示经济增长重点、产业战略与科技雄心的窗口。但今年,一个主题愈发凸显:人工智能正被重新定义为一项治理问题。

这一转变至关重要,过去十年,中国的AI叙事主要围绕“规模”展开:谁掌握最多数据、谁拥有最强工程人才、谁具备最深厚的产业基础,以及谁能最快实现商业化。但如今,随着技术本身的演进,讨论的焦点也在改变。AI代理(Agent)的崛起,这类系统能跨应用、设备与服务执行任务,正迫使政策制定者面对更复杂的法律、经济与社会问题。

在北京推动“AI+”战略、加速AI在全经济体落地的背景下,这一挑战显得尤为迫切。官方希望AI能提升效率、推动产业升级并支撑经济增长。但随着这类系统的应用范围不断扩大,相关的治理问题也变得更加复杂。

这种急迫性,已在近期席卷中国的OpenClaw热潮中显现。在深圳,大批人潮排队到腾讯办公室外,寻求安装这款爆红的开源AI代理;而深圳与无锡的地方政府,也迅速推出补贴措施,支持相关项目发展。

与此同时,美国一名联邦法官近期在“亚马逊对Perplexity AI”一案中颁布初步禁令,要求该公司停止其Comet浏览器AI代理存取受密码保护的亚马逊帐户。法院指出,仅有用户授权,可能不足以让AI代理在第三方平台上运作,意味着未来可能同时需要用户同意与平台授权。这一“双重授权”原则,或将成为代理式AI新法律框架的起点。

传统聊天机器人大多只在单一介面内运作,例如整理文件或生成文字。而AI代理则带来更具影响力的应用场景,它们被设计用来比价商品、管理行事历、预订行程、整理会议内容、处理档案,并在有限人为监督下,与多个应用程式互动。

这看似只是数字助理的自然演进,但其实从根本上改变了风险结构。一旦AI系统能跨应用运作、取得权限、读取画面并主动触发操作,它就不再只是工具,而是介于用户与数位经济之间的一个“操作层”。

比聊天机器人更棘手

AI助理应该被允许存取多少数据?在复杂的应用生态中,当各种权限被打包授予时,什么才算是真正有意义的用户同意?如果AI代理自行下单购物、取消预订、误用敏感资料,或因错误建议导致财务损失,法律责任应由谁承担?开发者、平台、设备商,还是用户?

过去几年,中国监管机构已逐步建立起一套针对新兴数字技术的监管框架。无论是推荐演算法、深度合成,还是生成式AI服务的相关规范,都呈现出一个清晰模式:北京通常允许创新推进,但必须纳入国家监管、网络安全合规与内容责任的框架之下。

创新与监管再平衡

这种模式体现了一种熟悉的平衡取向。中国将AI视为机器人、制造业、半导体、消费电子以及长期生产力提升的关键战略领域。一方面,希望本土企业能在全球市场竞争;另一方面,也强调在国内快速落地应用。但如果商业化进程过快、超前于治理能力,强大的数位系统也可能带来风险。因此,形成了一套监管思路,试图在快速推广与政治、制度性管控之间取得平衡。

这种平衡,也使中国的AI讨论具有超越本国的意义。在全球范围内,各国政府仍在摸索同一个核心问题:AI监管究竟应该监管什么?欧洲在这方面走得最前,透过《欧盟人工智能法案》(EU AI Act)建立以风险为基础的监管框架;美国则采取较为分散的路径,依赖行政命令、监管机构介入以及分行业执法。中国并非唯一面对这一挑战的国家,但其数位经济的体量,使这个问题具有更大的分量与影响力。

AI时代的治理挑战

第一项挑战是数据治理。AI代理的价值,取决于其可取得的资讯范围,但这同时也带来过度收集、授权不足与滥用的风险。在代理时代,隐私不再只是资料本身,而是AI系统能够推论、整合并进一步采取行动的能力。

第二个压力点在于市场结构。如果AI助理成为用户搜寻商品、比较服务、预订行程或管理日常事务的主要入口,中国平台经济的权力格局可能再次出现变化。搜寻、电商、支付与本地生活服务等领域,都可能被掌握“助理入口”的一方重新塑造,进而引发关于存取权、排序机制、自我偏好,以及大型平台与中小开发者之间流量分配的竞争问题。

第三是责任归属。随着AI系统自主性提高,一旦出现问题,责任的界定也变得更加困难。推荐错误或许只是小问题,但若涉及财务损失、隐私泄露或安全事故,性质就完全不同。尤其当AI开始在更敏感的商业或工业场景中做出决策时,监管机构需要划定更清晰的责任边界。

安全也是另一项关键风险。AI系统可能受到恶意提示操控,或因数据污染与软体漏洞而被攻破。随着这些系统进一步应用于企业工具、连网设备与工业场景,其潜在后果也显著放大。聊天机器人出错或许只是带来不便,但若嵌入物流、金融或关键基础设施中的AI代理出现问题,影响将更加严重。

更重要的是,中国的AI讨论已不再只是关于创新本身,而是关于制度是否准备就绪。随着AI系统愈发自主,现有的法律与监管框架是否足以应对下一阶段的技术发展,正受到考验。

这也是为何当前这场讨论至关重要。当AI不只是生成内容,而开始“行动”时,政策制定者被迫面对一个更现实的问题:真正领先AI的国家,应该是那些最先学会如何有效治理它的国家。

本文仅代表作者个人观点,不代表咏竹坊的观点

卓薇安,驻新加坡记者,专注科技方面的报道,也是科技媒体初创公司Tech Tech China的联合创始人。她的联络方式:vivian_toh@techtechchina.com

欲订阅咏竹坊每周免费通讯,请点击这里

新闻

渠道放量压低毛利率 周黑鸭上半年少赚15%

卤味连锁品牌周黑鸭国际控股有限公司(1458.HK)周四公布,上半年收入14.61亿元(2.17亿美元),按年增长19.5%;惟净利润按年下跌15.2%至9,150万元,净利润率亦由8.8%降至6.3%。 公司表示,收入增长主要由渠道业务带动。期内线上及线下渠道整体收入增长80.4%,其中线上收入升37.4%,线下渠道更大增207.2%。公司已进驻山姆、胖东来等渠道,全国销售点超过5万个,其中“中保系列”上半年销售额突破5,000万元。 不过渠道快速放量亦压低盈利能力。由于渠道业务毛利率低于门店,加上原材料成本上升,整体毛利率由58.6%降至54.7%;销售及分销开支亦增加24.9%至5.89亿元。至6月底,公司共有2,972家门店,较去年同期增加108家。 公司股价周五平开,至中午休市报1.28港元,升2.4%。 李世达 欲订阅咏竹坊每周免费通讯,请点击这里 

全年增速难达标 泡泡玛特开盘即暴跌

潮玩品牌泡泡玛特国际集团有限公司(9992.HK)周四公布中期业绩,收入同比增长23.8%至171.73亿元,净利润同比升一成至50.38亿元。 公司的毛利率为69.7%,同比下跌0.6个百分点,主要因有较高毛利的海外销售占比下跌,以及原材料价格上涨,导致采购商品的成本增加。 泡泡玛特董事长兼首席执行官王宁预计,今年下半年面对的压力较上半年大,大概率不能完成年初定下收入增长20%的目标。 为应对收入预测不达标,公司急祭出回购一招,王宁透露在未来半年内,将启动20亿至50亿港元的股份回购计划。 泡泡玛特周五开盘跌8%报141.1港元,公司股价较过去一年高位大跌逾五成。 刘智恒 欲订阅咏竹坊每周免费通讯,请点击这里
Biren profit alert

收入暴增18倍 壁仞冲刺盈利进直路

壁仞科技上半年收入暴增逾18倍,亏损亦大幅收窄。随着产品进入规模交付,这家国产GPU新贵正迎来由技术走向商业回报的关键考验 重点: 壁仞上半年收入达11.5亿至13亿元,半年已超去年全年 经调整亏损则收窄35%至47%,规模效应逐步浮现   李世达 中国AI算力需求持续升温,国产GPU厂商也逐渐走过只谈技术和产品的阶段,开始面对出货规模与盈利能力的考验。今年初才登陆港股的上海壁仞科技股份有限公司(6082.HK),交出一份颇具分量的商业化成绩单。 根据周一发布的盈利预告,壁仞科技上半年收入达11.5亿至13亿元人民币(下同),较去年同期的5,890万元暴增18.5倍至21.1倍,半年收入更已超过2025年全年。同时,期内亏损则由去年同期的16.01亿元大幅收窄至3.2亿至4亿元。收入放量与减亏同步,壁仞与盈利线的距离正在缩短。 对于中国国产GPU行业来说,乘着中国的AI自主化浪潮,行业或将摆脱无止尽的烧钱阶段。摩尔线程(688795.SH)上半年归母亏损已缩至1,156万元;沐曦股份(688802.SH)首季亏损亦降至9,884万元。天数智芯(9903.HK)更预告上半年帐面扭亏,不过主要受金融资产公允价值收益带动。 市场对壁仞这次业绩改善亦有正面反应。盈利预告公布后,公司股价周一收升6.97%至38.98港元,较1月上市发行价19.6港元大致翻倍。按券商2026年收入预测计算,壁仞科技目前预测市销率约37倍,与天数智芯约35倍相若,低于摩尔线程约75倍及沐曦股份约90倍。两只A股享有较明显的国产GPU稀缺性溢价,壁仞估值与港股同业相比不算便宜,反映市场对公司收入高速增长的预期。 若细看壁仞业绩变化可发现,壁仞去年上半年收入只有5,890万元,高端产品主要集中在下半年交付,收入约9.76亿元;与去年下半年相比,今年上半年实际增长约18%至33%,仍显示规模交付在提速。 更值得留意的是亏损变化,壁仞预计上半年经调整亏损降至2.9亿至3.6亿元,较去年同期收窄35%至47%。由于上市后赎回负债相关非现金变动消失,经调整亏损更能反映经营改善。公司表示,收入和毛利快速增长,费用增速则明显较慢,显示规模效应开始浮现。若收入持续快过费用增长,壁仞与盈利线的距离将进一步缩短。 从目前的产品布局看,公司较值得关注的一点,是壁仞近年已由单颗GPU走向完整算力系统,2025年完成BR106及BR166规模交付,并落地多个千卡级智算集群,包括2,048卡光互连GPU集群。对大模型客户而言,晶片性能之外,多卡通信、集群稳定性及使用成本同样影响采购选择。 这也解释了壁仞近年为何把更多资源投入软件和系统。其BIRENSUPA软件栈持续增加对PyTorch、vLLM及SGLang等主流框架的支持,公司去年亦完成DeepSeek、千问、智谱GLM等多款模型适配。国产GPU目前面对的一大障碍,正是客户原有工作流程大量建立在英伟达CUDA生态上。迁移愈简单,企业更换硬件的成本便愈低。 高研发投入难避免 系统级交付带来更大的订单,也有助分散早期晶片公司的客户集中风险。壁仞在最新预告中再次提到客户结构多元化,重点应用场景已实现规模部署。这一点值得在正式中报中继续观察。如果增长逐步由更多电信商、智算中心及企业客户支撑,收入的延续性会比依靠少数大型项目更稳定。 毛利率则是另一项试金石,壁仞去年收入增长逾两倍,毛利率仍维持53.8%,若上半年毛利率在收入大增的情况下仍能保持在较高水平,代表公司目前的放量未明显依赖价格换取订单,也能为吸收研发成本留下更多空间。 不过,研发仍会是壁仞短期内最沉重的支出。公司去年研发开支14.76亿元,比全年收入还高,下一代BR20X产品、软件平台、光互连及超节点方案都需要继续投入。GPU行业产品更新速度快,企业很难在一代产品开始卖钱后大幅收缩研发。壁仞能否跨过盈利线,仍取决于收入规模能否跑得比研发和营运费用更快。 从今年上半年的预告看,这个方向已开始出现。只是摩尔线程、沐曦等同行也在同步减亏,国产GPU产业已经走过单纯比较谁能推出晶片的阶段。接下来几年,产品能否形成规模出货、软件能否降低客户迁移成本、集群能否稳定运行,会逐渐反映在收入和利润表上。 欲订阅咏竹坊每周免费通讯,请点击这里
Xiaocaiyuan operates restaurants

小菜园淡出外卖战场 堂食收入逆势增18%

大众便民中式餐饮连锁企业小菜园2026年上半年堂食业务收入增长18.1%,是整体收入7%增幅的一倍以上 重点: 小菜园上半年收入增长7%,但期内利润下跌24.3%;公司主打“以价换量”策略,同时收缩外卖业务 这家大众便民中式餐饮企业放慢门店扩张步伐,在2025年下半年新开135家门店后,最近六个月仅新增17家门店    谭英 小菜园国际控股有限公司(0999.HK)创办人兼董事长汪书高出身农村,进城后曾推着小车谋生长达10年,其后学厨并开设自己的餐厅,取了一个相当贴切的名字——“小菜园”。 他与妻子周桃霞拿出积蓄投资商务酒店,但南京的一次创业失利,让两人重返位于安徽省的家乡铜陵。2013年,他们开设首家徽菜餐厅,凭借家常风味和亲民价格迅速打开市场,连锁业务随后快速扩张。 如今,面对中国餐饮市场不断变化,汪书高夫妇又在为小菜园调制一套新的经营配方,希望为这家连锁餐饮企业注入新动力。小菜园上周公布的中期业绩,已初步显示这套新策略开始见效。公司正淡化已成为中国餐饮业激烈战场的外卖业务,转而将重心放在成本较低的堂食业务。 汪书高去年接受访问时曾预告这场转变,他表示:“2025年下半年至2026年上半年,将是小菜园的转型之年。” 小菜园半年业绩显示,收入增长7%,利润却下跌24%,主要原因是公司降价刺激销量。以一般标准来看,这组数字谈不上十分诱人。汪书高则将降价形容为让利消费者,表示公司需要减少不必要的溢价,把利润回馈给顾客。 他表示,公司正有意收缩外卖业务,强化堂食门店的品牌价值,同时利用位于安徽马鞍山、投资10亿元的先进中央工厂大幅提升成本效率。该工厂可支援3,000家餐厅。此外,公司已在餐厅内部署300台机器人,并计划进一步发展另一项业务,向家庭提供烹饪机器人。 投资者反应积极 尽管利润下滑,投资者似乎认同小菜园正朝正确方向前进。公司公布业绩翌日股价上涨2.2%,此后继续走高,周四收报8.18港元,较业绩公布前上涨4.3%。 分析师同样看好小菜园。雅虎财经调查的八名分析员中,有七人给予“买入”或“强力买入”评级。小菜园目前市盈率为11.5倍,仅略低于知名度更高的竞争对手海底捞(6862.HK),并明显高于绿茶集团(6831.HK)的7.3倍。 面对中国经济放缓、消费者愈趋谨慎,以及餐饮市场进入高度竞争的新常态,各大连锁餐饮品牌都已降价应对,但小菜园的做法有所不同。它选择淡出竞争白热化的外卖战场,去年8月起停止参与专业外卖平台推出的优惠活动,把堂食服务放在更优先的位置。如今,这项策略开始反映在业绩上。 汪书高去年接受访问时表示,外卖业务占比过高会损害品牌形象,也会令餐厅更难兼顾堂食顾客。他认为,外卖收入较理想的占比应在30%左右,而不是2024年和2025年接近40%的水平。公司目前将外卖订单分为繁忙及非繁忙时段处理:繁忙时段优先服务堂食顾客,非繁忙时段则优先处理外卖订单。 整体来看,小菜园的新配方似乎正按计划奏效。公司上半年收入29亿元(4.3亿美元),除同比增长7%外,较去年下半年亦增长10.3%。净利润虽同比下跌24.2%至2.898亿元,但与去年下半年比较的跌幅较小,为13%。 最新报告期内,小菜园外卖业务收入占总收入的比重由去年同期39%降至32.6%,逐步接近汪书高设定的30%目标。随着公司淡化外卖业务,期内外卖业务收入下跌10.6%,但堂食业务收入则增长18.1%。 公司将利润下滑归因于旗下餐厅全面降价,以及策略性收缩外卖业务。堂食收入增加,一方面来自新店开业,另一方面也受惠于汪书高自2023年开始推行的“以价换量”策略。截至6月底,公司共有824家在营“小菜园”门店,较去年同期的672家增加23%。受一般季节性因素影响,今年上半年仅新开17家门店,较2025年下半年新开135家的速度明显放缓。 小城起家 汪书高曾表示,小菜园起家于铜陵这类中国规模较小的三线城市,目前在中国市场的渗透率仅约20%至25%,未来五至10年仍将专注国内市场。今年上半年,公司约40%的收入来自三线及以下城市。 他表示,每家小菜园门店的开店成本约100万元,通常可在10至11个月内收回投资。受降价策略影响,公司上半年同店销售额同比下降12.5%,但新店开业抵消了部分影响。 随着价格下调,堂食顾客人均消费额由2025年上半年的57.1元降至今年同期的50.5元;不过降价亦带动同店翻台率由去年同期每天3.1次升至3.3次。 降价策略亦包括今年1月推出的“88VIP”会员体系,顾客每年支付88元会费,即可享有88折优惠。截至7月,小菜园已有150万名会员,会员复购率达65%,并额外带来189万人次客流。 为提升运营效率,小菜园寄望新建的马鞍山中央工厂,透过机器人生产、AI质量控制及智能仓储调度降低成本。公司举例称,目前红烧肉切块已全部由机器人完成,鸡肉馅料生产线也已接近无人化运作。 有时候,表面的数字未必能反映全貌,小菜园最新报告期内利润大幅下滑或许正是如此。公司显然希望投资者相信,这次盈利受压只是转型过程中的暂时现象,目的是为长期发展打下基础。正如汪书高常说:“做餐饮的都知道,东西好吃,但实惠才是硬道理。一个穷苦出身的人能悟透这个道理,其实并不奇怪。” 欲订阅咏竹坊每周免费通讯,请点击这里