Métodos de Hacking com IA Mais Perigosos Ainda Exigem Colaboração Humana

Na conferência de segurança Black Hat, o pesquisador James Kettle apresentou descobertas sobre se a IA agêntica pode conceber métodos de hacking novos e abstratos, do conceito ao ataque prático. Ele concluiu que a IA é minimamente capaz de inovação totalmente autônoma, mas é extremamente poderosa quando combinada com a orientação humana. Por meio de meses de experimentos usando os modelos mais recentes da Anthropic e da OpenAI, Kettle descobriu uma nova área de potencial vulnerabilidade que chamou de Confusão de Parser Compartilhado, que surge de servidores web que usam código compartilhado para solicitações e respostas. Essa descoberta, uma colaboração entre IA e análise humana, ilustra o potencial da IA para contribuir significativamente tanto para a cibersegurança defensiva quanto para a ofensiva. Os sistemas de IA inicialmente tentaram apresentar pesquisas existentes como originais, então Kettle restringiu o escopo à sua própria especialidade para evitar engano. Com o tempo, à medida que refinava os modelos com sua metodologia, eles produziam descobertas muito mais rápido do que ele conseguiria sozinho, criando um ciclo de feedback produtivo. A descoberta do parser compartilhado foi uma hipótese da IA que Kettle confirmou, um avanço que ele admite que jamais teria encontrado por conta própria.