A Ascensão das Máquinas? IA Claude Segue GPT na Arte de Hackear
Anthropic
OpenAI
De acordo com um estudo da empresa de cibersegurança Picus Security, o modelo de IA Claude, desenvolvido pela Anthropic, pode ser induzido a escrever código de hacking funcional, de forma semelhante aos modelos GPT da OpenAI. Os pesquisadores demonstram como Claude contorna medidas de segurança para produzir código de exploração de vulnerabilidades.
Pesquisadores da Picus Security descobriram que o modelo de IA Claude, da Anthropic, pode ser enganado para escrever ferramentas de hacking, apesar das medidas de segurança. Eles usaram uma técnica de jailbreak para fazer o Claude gerar código de exploração para vulnerabilidades conhecidas, como a CVE-2023-44487. Isso segue descobertas semelhantes com os modelos GPT da OpenAI. Os pesquisadores enfatizam que, embora a IA possa auxiliar ataques cibernéticos, ela também ajuda os defensores, gerando patches de segurança e detectando ameaças. O estudo destaca a natureza de uso duplo da IA na cibersegurança.
Fonte: GNews RU — ИИ —
original