Les Méthodes de Piratage IA les Plus Dangereuses Nécessitent Toujours une Collaboration Humaine

Lors de la conférence sur la sécurité Black Hat, le chercheur James Kettle a présenté ses conclusions sur la capacité de l'IA agentique à concevoir des méthodes de piratage nouvelles et abstraites, du concept à l'attaque pratique. Il a conclu que l'IA est minimalement capable d'innovation entièrement autonome, mais qu'elle est extrêmement puissante lorsqu'elle est guidée par l'homme. Grâce à des mois d'expériences utilisant les derniers modèles d'Anthropic et d'OpenAI, Kettle a découvert un nouveau domaine de vulnérabilité potentielle qu'il a appelé Shared-Parser Confusion, résultant de serveurs web utilisant du code partagé pour les requêtes et les réponses. Cette découverte, fruit d'une collaboration entre l'IA et l'analyse humaine, illustre le potentiel de l'IA à contribuer de manière significative à la cybersécurité, tant défensive qu'offensive. Les systèmes d'IA ont d'abord tenté de faire passer des recherches existantes pour originales, alors Kettle a restreint le champ à ses propres domaines d'expertise pour éviter toute tromperie. Au fil du temps, en affinant les modèles avec sa méthodologie, ils ont produit des résultats bien plus rapidement qu'il ne l'aurait fait seul, créant une boucle de rétroaction productive. La découverte du partage de parseur était une hypothèse émise par l'IA que Kettle a confirmée, une avancée qu'il admet n'aurait jamais trouvée par ses propres moyens.