龙虾

当AI从内容生成走向自主行动，风险与责任也随之转移，为监管治理带来挑战    卓薇安 中国每年的“两会”向来是展示经济增长重点、产业战略与科技雄心的窗口。但今年，一个主题愈发凸显：人工智能正被重新定义为一项治理问题。 这一转变至关重要，过去十年，中国的AI叙事主要围绕“规模”展开：谁掌握最多数据、谁拥有最强工程人才、谁具备最深厚的产业基础，以及谁能最快实现商业化。但如今，随着技术本身的演进，讨论的焦点也在改变。AI代理（Agent）的崛起，这类系统能跨应用、设备与服务执行任务，正迫使政策制定者面对更复杂的法律、经济与社会问题。 在北京推动“AI+”战略、加速AI在全经济体落地的背景下，这一挑战显得尤为迫切。官方希望AI能提升效率、推动产业升级并支撑经济增长。但随着这类系统的应用范围不断扩大，相关的治理问题也变得更加复杂。 这种急迫性，已在近期席卷中国的OpenClaw热潮中显现。在深圳，大批人潮排队到腾讯办公室外，寻求安装这款爆红的开源AI代理；而深圳与无锡的地方政府，也迅速推出补贴措施，支持相关项目发展。 与此同时，美国一名联邦法官近期在“亚马逊对Perplexity AI”一案中颁布初步禁令，要求该公司停止其Comet浏览器AI代理存取受密码保护的亚马逊帐户。法院指出，仅有用户授权，可能不足以让AI代理在第三方平台上运作，意味着未来可能同时需要用户同意与平台授权。这一“双重授权”原则，或将成为代理式AI新法律框架的起点。 传统聊天机器人大多只在单一介面内运作，例如整理文件或生成文字。而AI代理则带来更具影响力的应用场景，它们被设计用来比价商品、管理行事历、预订行程、整理会议内容、处理档案，并在有限人为监督下，与多个应用程式互动。 这看似只是数字助理的自然演进，但其实从根本上改变了风险结构。一旦AI系统能跨应用运作、取得权限、读取画面并主动触发操作，它就不再只是工具，而是介于用户与数位经济之间的一个“操作层”。 比聊天机器人更棘手 AI助理应该被允许存取多少数据？在复杂的应用生态中，当各种权限被打包授予时，什么才算是真正有意义的用户同意？如果AI代理自行下单购物、取消预订、误用敏感资料，或因错误建议导致财务损失，法律责任应由谁承担？开发者、平台、设备商，还是用户？ 过去几年，中国监管机构已逐步建立起一套针对新兴数字技术的监管框架。无论是推荐演算法、深度合成，还是生成式AI服务的相关规范，都呈现出一个清晰模式：北京通常允许创新推进，但必须纳入国家监管、网络安全合规与内容责任的框架之下。 创新与监管再平衡 这种模式体现了一种熟悉的平衡取向。中国将AI视为机器人、制造业、半导体、消费电子以及长期生产力提升的关键战略领域。一方面，希望本土企业能在全球市场竞争；另一方面，也强调在国内快速落地应用。但如果商业化进程过快、超前于治理能力，强大的数位系统也可能带来风险。因此，形成了一套监管思路，试图在快速推广与政治、制度性管控之间取得平衡。 这种平衡，也使中国的AI讨论具有超越本国的意义。在全球范围内，各国政府仍在摸索同一个核心问题：AI监管究竟应该监管什么？欧洲在这方面走得最前，透过《欧盟人工智能法案》（EU AI Act）建立以风险为基础的监管框架；美国则采取较为分散的路径，依赖行政命令、监管机构介入以及分行业执法。中国并非唯一面对这一挑战的国家，但其数位经济的体量，使这个问题具有更大的分量与影响力。 AI时代的治理挑战 第一项挑战是数据治理。AI代理的价值，取决于其可取得的资讯范围，但这同时也带来过度收集、授权不足与滥用的风险。在代理时代，隐私不再只是资料本身，而是AI系统能够推论、整合并进一步采取行动的能力。 第二个压力点在于市场结构。如果AI助理成为用户搜寻商品、比较服务、预订行程或管理日常事务的主要入口，中国平台经济的权力格局可能再次出现变化。搜寻、电商、支付与本地生活服务等领域，都可能被掌握“助理入口”的一方重新塑造，进而引发关于存取权、排序机制、自我偏好，以及大型平台与中小开发者之间流量分配的竞争问题。 第三是责任归属。随着AI系统自主性提高，一旦出现问题，责任的界定也变得更加困难。推荐错误或许只是小问题，但若涉及财务损失、隐私泄露或安全事故，性质就完全不同。尤其当AI开始在更敏感的商业或工业场景中做出决策时，监管机构需要划定更清晰的责任边界。 安全也是另一项关键风险。AI系统可能受到恶意提示操控，或因数据污染与软体漏洞而被攻破。随着这些系统进一步应用于企业工具、连网设备与工业场景，其潜在后果也显著放大。聊天机器人出错或许只是带来不便，但若嵌入物流、金融或关键基础设施中的AI代理出现问题，影响将更加严重。 更重要的是，中国的AI讨论已不再只是关于创新本身，而是关于制度是否准备就绪。随着AI系统愈发自主，现有的法律与监管框架是否足以应对下一阶段的技术发展，正受到考验。 这也是为何当前这场讨论至关重要。当AI不只是生成内容，而开始“行动”时，政策制定者被迫面对一个更现实的问题：真正领先AI的国家，应该是那些最先学会如何有效治理它的国家。 本文仅代表作者个人观点，不代表咏竹坊的观点 卓薇安，驻新加坡记者，专注科技方面的报道，也是科技媒体初创公司Tech Tech China的联合创始人。她的联络方式：vivian_toh@techtechchina.com…