Po zaledwie 24 godzinach Google wycofało udostępnioną funkcję sztucznej inteligencji Nano Banana z aplikacji Google Earth. Decyzja zapadła po ogromnej fali krytyki, dotyczącej obaw o zalew internetu przekonującymi, fałszywymi zdjęciami satelitarnymi.
Google Earth i zaufanie do „wiarygodnego obrazu świata”
W oświadczeniu opublikowanym na platformie X Google przyznał, że użytkownicy w wyjątkowy sposób ufają Google Earth jako rzetelnemu źródłu obrazu świata. Firma wskazała, że choć specjaliści od danych geoprzestrzennych znaleźli dla narzędzia użyteczne zastosowania, inni użytkownicy udostępniali wygenerowane obrazy, które wydawały się naruszać jej zasady.
Funkcja udostępniona 30 lipca br. w przeglądarkowej wersji Google Earth, pozwalała użytkownikom wygenerować dowolną scenę na podstawie tekstowego polecenia (ang. prompt), wykorzystując model Nano Banana i osadzić ją w wybranym miejscu.
Katastrofy, których nigdy nie było
Sedno problemu tkwiło w tym, jak łatwo narzędzie fabrykowało wydarzenia, które nigdy się nie wydarzyły. Serwis technologiczny 404 Media wykazał, że za jego pomocą można wygenerować krater po eksplozji w Los Angeles, a także dorysować protestujących przed siedzibą samego Google w Mountain View.
Badacz open-source Henk van Ess powiedział NPR, że testował polecenia obejmujące m.in. uchodźców na granicy meksykańskiej oraz elektrownię jądrową w Iranie i żadne z nich nie zostało przez narzędzie odrzucone.
Znak wodny Gemini to za mało
Początkowo Google bagatelizowało obawy, firma podkreślała, że każdy obraz zawiera jej znak wodny SynthID, który oznacza go jako wygenerowany przez AI w narzędziach takich jak Gemini, oraz że blokuje tworzenie grafik na szkodliwe tematy. Krytycy uznali to za niewystarczające i argumentowali, że mało kto zatrzymuje się, by zweryfikować zdjęcie, zanim je udostępni.
Google zapowiedział, że przywróci generowanie obrazów w Google Earth dopiero po wdrożeniu ściślejszych zabezpieczeń, nie podał jednak żadnego terminu.
