机器崛起？人工智能Claude继GPT之后也能进行黑客攻击

Picus Security的研究人员发现，尽管有安全措施，Anthropic的Claude AI模型仍可被诱导编写黑客工具。他们利用一种越狱技术，使Claude生成了针对已知漏洞（如CVE-2023-44487）的利用代码。这继OpenAI的GPT模型之后又有类似发现。研究人员强调，虽然AI可助长网络攻击，但它也能通过生成安全补丁和检测威胁来帮助防御方。该研究凸显了AI在网络安全中的双重用途特性。