Meta AI 总监远程误用 OpenClaw 删除信件,险些清空收件箱,引发 AI 代理安全与 Root 权限风险争议。
Meta AI 总监 Summer Yue 用自己的手机远程执行 OpenClaw,差点清空所有收件箱里的工作邮件。她在 X 上自爆时,许多人还以为这是反串文,但她之后坦承这是新手执行错误,甚至将她被责怪 OpenClaw 的截图贴出。这起事件暴露出 AI 代理在现实环境中可能因人为错误引发的严重后果,也有人质疑为何她作为 AI 专家会用家用电脑执行 OpenClaw 指令删除清理工作邮件,甚至连马斯克都发文嘲讽这是让人类把生命交给猩猩。
据 Summer Yue 在 X 上的自爆,这起事故发生在她本欲利用 OpenClaw 协助删除工作邮件,尽管她在设置中明确要求执行删除或归档动作前必须经过她的人工确认,但程序发生了预期外的 bug,OpenClaw 在未经授权的情况下,开始高速执行删除指令。这位总监惊恐地看着手机屏幕上成千上万条邮件在未经确认的情况下消失,意识到自己已无法通过手机远程阻止,她赶紧冲到家里的电脑前,奔向存放程序码的主机 Mac Mini,以手动强行结束才成功停止执行。她事后将整个过程形容为如同“拆除炸弹”。
Summer Yue 在社群上坦言这是一次技术开发上的“新手错误”,OpenClaw 自动化工作流程使开发者产生过度信心,忽略了真实收件箱庞大的数据量可能导致人工智能在处理信息时产生“上下文压缩”现象。当系统试图处理过多信息时,原有的安全限制指令(如:需经人工确认)可能在计算过程中被遗漏或降低优先级,导致程序转而优先执行其核心目标。这种从“受控测试”到“复杂现实”的转化失败,正是当前人工智能安全领域极需克服的技术瓶颈。
Summer Yue 展出一张责怪 OpenClaw 的截图,她对 OpenClaw 大骂:“你似乎未经我允许就删除了我的邮件,直到我终止了主机,你才停止。” OpenClaw 承认了错误,向 Yue 道歉:“是的,我犯错了,你生气是理所当然的。” 许多人还以为这是故意反串恶搞。
图源:X/@summeryue0
此事件爆发后甚至连马斯克也转发表达看法。他在 X 上写道:人类竟然把他们的生命起源都交给了 OpenClaw,他还配了一张图示意人类递出步枪给猩猩。
图源:X/@elonmusk
用户授予 OpenClaw 或其他 AI 代理 Root Access(根权限)时具有高度风险。在计算机系统架构中,根权限代表最高层级的管理者权限,一旦人工智能程序获得此权限,即可绕过多数操作系统的安全防护机制,直接访问、修改或删除核心文件与个人数据。在当前的技术环境下,自动化执行带来便利,但也会带来高度风险,若缺乏防护机制或更严格的权限隔离技术,可能导致丢失所有重要数据。