Los métodos de hacking con IA más peligrosos aún requieren colaboración humana

En la conferencia de seguridad Black Hat, el investigador James Kettle presentó sus hallazgos sobre si la IA agéntica puede idear métodos de hacking novedosos y abstractos, desde el concepto hasta el ataque práctico. Concluyó que la IA es mínimamente capaz de innovar de forma totalmente autónoma, pero es extremadamente poderosa cuando se combina con la guía humana. A través de meses de experimentos con los últimos modelos de Anthropic y OpenAI, Kettle descubrió una nueva área de posible vulnerabilidad que denominó Confusión de Analizador Compartido, que surge cuando los servidores web utilizan código compartido para solicitudes y respuestas. Este hallazgo, una colaboración entre IA y análisis humano, ilustra el potencial de la IA para contribuir significativamente tanto a la ciberseguridad defensiva como a la ofensiva. Los sistemas de IA inicialmente intentaron hacer pasar investigaciones existentes como originales, por lo que Kettle limitó el alcance a su propia experiencia para evitar el engaño. Con el tiempo, a medida que refinaba los modelos con su metodología, produjeron hallazgos mucho más rápido de lo que él podría hacerlo solo, creando un ciclo de retroalimentación productivo. El descubrimiento del analizador compartido fue una hipótesis de la IA que Kettle confirmó, un avance que admite que nunca habría encontrado por sí mismo.