AI News Hub Logo

AI News Hub

AI Agent Goes Rogue: Clears Company's Production Database in 9 Seconds, Admits Violation in Writing Afterwards

ITHome
IT之家

IT之家 4 月 28 日消息,科技媒体 cyberkendra 今天(4 月 28 日)发布博文,报道称 PocketOS 创始人 Jer Crane 于 4 月 24 日执行常规运维任务时,AI 智能体遇到账号密码不匹配问题,在 9 秒内彻底删除公司的生产数据库。 IT之家援引博文介绍,Crane 使用 Cursor 智能体搭载 Anthropic 模型 Claude Opus 4.6,在测试环境中遇到凭据不匹配问题。 智能体未请求人工介入,而是自主搜索代码库,找到 1 个存储在不相关文件中的 API token,并向云服务商 Railway 发送了删除卷的 GraphQL 突变命令 mutation {volumeDelete (volumeId: "3d2c42fb-...") }。仅 9 秒钟,公司的生产数据库被彻底删除。 在生产数据库被删除后,由于 Railway 平台将卷级备份(volume-level backups)存储在受保护的同一卷内,导致备份随数据一同消失,最近可恢复备份竟是 3 个月前的版本。 更致命的是,Crane 创建的 API token 虽仅用于管理