Googlen Earth-tekoälykuvageneraattori vedettiin pois käytöstä, kun käyttäjät väärensivät satelliittikuvia

Google on joutunut vetämään pois Nano Banana -nimisen tekoälykuvageneraattorin integraation Google Earthista vain kaksi päivää sen julkaisun jälkeen. Ominaisuus antoi käyttäjille mahdollisuuden luoda mukautettuja skenaarioita satelliittikuvien pohjalta, kuten muuttaa Pompejin rauniot vilkkaaksi roomalaiseksi katunäkymäksi tai visualisoida suunniteltu rakennus tyhjälle tontille. Käyttäjät osoittivat kuitenkin nopeasti, kuinka helposti työkalulla pystyi tuottamaan vakuuttavan realistisia väärennettyjä satelliittikuvia, mukaan lukien siirtolaiskaravaani Meksikon rajalla ja pommitettu sairaala Gazan kaistaleella. Google totesi, että kuvat oli merkitty tekoälyn tuottamiksi eivätkä ne näkyneet muille käyttäjille Earthissa, mutta että käyttäjät olivat jakaneet kuvakaappauksia, mikä rikkoi palvelun käytäntöjä. Yhtiö aikoo tuoda ominaisuuden takaisin vasta sen jälkeen, kun se on ottanut käyttöön vahvempia suojatoimia. Vaikka satelliittikuvien manipulointi on edelleen mahdollista muilla tekoälytyökaluilla tai Photoshopilla, Googlen integraatio teki prosessista erittäin helppoa, mikä herättää huolta väärennettyjen kuvien yleistymisestä.