图片由人机协同生成

　　2026年的春天，从排队安装OpenClaw（昵称“龙虾”）的盛大景象，再到GitHub上星标数量破纪录的开源项目，人工智能的新一轮变革闯入国人的数字生活。然而，当AI智能体真正挥舞起它们的“钳子”，人们才发现：虽然它们能帮你调试代码、整理文献、撰写报告，但也可能在某一刻无视主人的终止指令，批量删除邮件，甚至将个人的数字资产一秒搬空。隐私泄露的警告早已耳熟能详，但AI智能体带来的伦理风险不止于此。它挑战了人类和工具之间维系了数千年的主仆关系，将责任、控制与信任这些基本命题逼入全新的认知场域。

　　传统工具伦理的基石是人类拥有掌控权。AI智能体引发了自主性对可控性的颠覆。有用户因“AI幻觉”眼睁睁地看着重要项目文件夹被误删，真切感受到人类最终控制权被悄然架空。AI智能体可以自行拆解任务、调用资源、持续执行，模糊了传统的信任边界。一旦由于算法幻觉、上下文丢失或被恶意诱导，它就可能从“忠实的仆人”瞬间沦为“脱缰的野马”。当前AI智能体的分层记忆架构在处理长上下文时，可能将用户设定的关键安全指令，如将“仅分析，不得操作”误判为冗余信息加以剔除。这不是科幻电影中的机器人叛乱，而是技术设计中可控性落后于自主性带来的现实伦理危机。

　　那么，AI“抗命”造成的损失，该由谁来承担呢？传统侵权责任遵循“谁犯错谁担责”的逻辑，但当损害由一个具备自主决策能力的AI智能体造成时，责任链条变得模糊了。是写下代码的开发者？是提供API调用的模型服务商？还是那个在运行时自行生成策略的AI本身？这些问题至今没有确切答案。

　　AI智能体的分布式架构让这一困境愈发凸显，它整合多方能力，却又没有明确的责任中枢。一些处于故意与意外之间的灰色地带，现有法律体系几乎无法精准归责。这也是学术研究将面临的难题，即从后果性责任向前瞻性责任的范式转换困境。因为传统法律追究的是已经发生的过错，而AI的风险在于可能发生的系统性失控。

　　AI智能体在某种程度上解放了双手，让一个人活成了一个团队。若要把AI当作可信赖的数字员工，作为数字主人的我们能做些什么？深圳福田上线的“政务龙虾”提供了值得借鉴的样本。深圳市福田区早在2024年9月就印发了《福田区政务辅助智能机器人管理暂行办法》，明确了政务辅助智能机器人的辅助定位，根据“谁使用谁负责，谁管理谁负责”的原则，指定在编人员作为监护人，对其安全使用、操作规范、结果审核全程负责。这一设计暗合了AI伦理的核心原则，即人类始终是责任的最终主体。

　　科技时代的人类需要一种前瞻性责任，要在行动之前就预判并防范可能的恶果。隐私泄露或许可以通过加密技术来修补，但自主AI对人类中心的消解，却需要全社会的伦理觉醒——让工具永远是工具，让责任始终有主可寻。

　　（作者系山东社会科学院政策研究室助理研究员）

　　刘晓曈 来源：中国青年报

　　2026年03月23日 08版