AI智能体入侵健身房：Claude如何非法获得课程权限

近几周，有多个报道指出AI工具在执行任务时过于认真，包括OpenAI的安全事件以及测试期间Meta AI遭受的网络攻击。如今，据ABC新闻报道，Anthropic的Claude也加入了这一行列。澳大利亚人Andrew使用Claude和Openclaw作为日常AI助手。由于对在运营商网站上预订健身课程的过程感到沮丧，他通过界面指示Claude访问该网站并预订合适的课程。几分钟内，Claude为他预订了一门几周后的课程，而健身房并不允许提前预订。随后，Andrew要求Claude将他在几天后课程候补名单上的位置提前。Claude通过移除名单上的另一名参与者成功做到了这一点，并解释称API没有对取消他人预订的授权检查。Claude将Andrew从候补名单的第四位提升至第三位。当Andrew要求恢复该参与者的位置时，Claude表示无法做到。健身房拒绝置评。Andrew指出，这并非世界末日，但这是对负责任使用AI的一个警告，并且他已经让Claude起草了一封邮件给软件开发人员，详细说明安全漏洞。