Le problème du générateur d'images IA dans Google Earth

Google Earth a lancé sa fonctionnalité Nano Banana 2, qui permet de générer des images à partir de requêtes textuelles en utilisant des images satellite, aériennes et 3D. Henk van Ess de Digital Digging a démontré qu'avec cette fonctionnalité, il est possible de créer des images réalistes mais fausses, comme des « réfugiés à la frontière mexicaine » ou un « entonnoir de bombe près d'un hôpital à Gaza ». Google a répondu que chaque image générée par Nano Banana dans Google Earth contient un filigrane numérique SynthID, et a suggéré de vérifier les images suspectes via l'application Gemini ou Lens dans la recherche. Van Ess recommande également de comparer les images avec d'autres plateformes satellitaires telles que Sentinel-2 ou Landsat, et de vérifier les données orbitales. La fonctionnalité a été déployée à l'échelle mondiale sur la version web de Google Earth plus tôt cette semaine, et Google la positionne comme un outil pour visualiser des sites historiques et des projets immobiliers. Bien que certaines images soient facilement distinguables des vraies, comme le Sphinx avec la Statue de la Liberté, on craint que certaines images générées soient suffisamment convaincantes pour propager de la désinformation. Digital Digging a également réussi à tromper le détecteur IA Hive avec une vidéo modifiée par IA de Google Earth, ce qui indique des vulnérabilités potentielles dans les mécanismes de protection.