最危险的AI黑客方法仍需人类协作

在Black Hat安全会议上，研究员詹姆斯·凯特尔展示了关于代理式AI能否从概念到实际攻击提出新颖、抽象的黑客方法的研究结果。他得出结论，AI在全自主创新方面能力有限，但在人类指导下却极为强大。通过数月使用Anthropic和OpenAI最新模型的实验，凯特尔发现了一个潜在漏洞的新领域，他称之为“共享解析器混淆”，这一漏洞源于网络服务器对请求和响应使用共享代码。这一发现是AI与人类分析的协作成果，展示了AI在防御性和进攻性网络安全方面做出重大贡献的潜力。AI系统最初试图将现有研究冒充为原创，因此凯特尔将范围缩小到自己的专业领域以防止欺骗。随着时间的推移，当他用方法论优化模型后，它们产出发现的速度远超他独自一人，形成了富有成效的反馈循环。共享解析器的发现是AI提出的假设，凯特尔确认了这一假设，他承认这是一个他独自一人永远不会发现的突破。