A Google Earth legújabb, mesterséges intelligencia alapú képgeneráló funkciója, a Nano Banana 2, mindössze egyetlen napig volt elérhető a felhasználók számára, mielőtt a vállalat kénytelen volt felfüggeszteni a szolgáltatást. Az innováció célja az volt, hogy szöveges utasítások alapján fotórealisztikus, kitalált képeket hozzon létre a Google Earth valós műholdas és 3D-s felvételeire építve. A gyors leállítás oka a dezinformáció és a visszaélések széles körű terjedése volt, melyek súlyosan sértették a Google saját irányelveit.
A Nano Banana 2 modell lehetővé tette, hogy a felhasználók egyszerű szöveges parancsokkal generáljanak képeket a világ bármely pontjára, valós térinformatikai adatokra alapozva. A funkció bevezetése után azonnal megjelentek az interneten olyan generált képernyőfotók, amelyek hamis forgatókönyveket és manipulált műholdképeket ábrázoltak híres műemlékekről és helyszínekről. Ezek a képek gyorsan terjedtek a közösségi oldalakon, súlyos félreértéseket és felháborodást okozva.
Példaként említhető a gízai piramisokat elnyelő hatalmas lyuk, a One World Trade Centerbe becsapódó repülőgép, valamint az Egyesült Államok és Mexikó határán vizionált, több ezres befogadóképességű menekülttáborok képei. Ezek mindegyike a Google újításával készült, mesterséges intelligencia által generált, a valósággal nem egyező tartalom volt. A nyilvános felháborodás és a szakértői kritikák hatására a Google az X platformon jelentette be a funkció azonnali felfüggesztését.
A Google hangsúlyozta, hogy a generált képek nem váltak a Google Earth alapértelmezett felületének részévé, és láthatatlan AI-vízjellel is ellátták őket. Az eset azonban rávilágított arra a veszélyre, amelyet a valós koordinátákhoz kapcsolt, kitalált vizuális tartalom jelent a hitelesség szempontjából. A műholdképeket a közvélemény és a szakértők évtizedek óta a legmegbízhatóbb adatforrásként tartják számon, és ezt az alapvető bizalmat ingatta meg a Google felelőtlennek ítélt újítása.
Ez az eset illeszkedik egy szélesebb trendbe, amelyben a technológiai óriások gyors ütemben próbálják bevezetni a mesterséges intelligenciát a felhasználók mindennapjaiba. Gyakran előfordul, hogy ezek a funkciók nem feltétlenül szükségesek, vagy súlyos biztonsági és adatvédelmi aggályokat vetnek fel. A gyors bevezetés gyakran a felhasználói visszajelzések és a potenciális kockázatok alapos mérlegelése nélkül történik.
A Google Earth esete nem egyedi jelenség a techóriások AI-integrációs törekvéseiben. A Meta például néhány héttel ezelőtt volt kénytelen leállítani a Muse Image nevű AI-szolgáltatását, amely lehetővé tette a felhasználók számára, hogy nyilvános Instagram-fiókok képeit felhasználva generáljanak új vizuális tartalmakat. Ez a lépés hatalmas felháborodást váltott ki az alkotói jogok és a személyes szféra megsértése miatt, ami a Meta meghátrálását eredményezte.
A Google saját portáján is volt már hasonló eset. Néhány hónappal ezelőtt bevezették az AI Overviews funkciót a keresőjükbe, amelynek célja az volt, hogy összefoglaló választ adjon a felhasználói kérdésekre a hagyományos találati lista helyett. A rendszer azonban gyorsan kezdett veszélyes vagy abszurd javaslatokat terjeszteni, például pillanatragasztó használatát pizzaszószban, vagy napi kavicsfogyasztást az egészség megőrzése érdekében. Ezek az esetek rávilágítanak az AI-modellek ellenőrizetlen tartalomgenerálásának kockázataira.
A Microsoft is hasonlóan felelőtlen, adatvédelmi szempontból pedig még ijesztőbb útra lépett a Copilot+ PC-khez tervezett Recall funkcióval. Ez a rendszer másodpercenként képernyőfotót készített mindenről, amit a felhasználó a számítógépén csinált, majd egy belső AI-modellel elemezve tette kereshetővé a digitális múltat. A cég szerint ez egy forradalmi memóriasegéd volt, míg a felhasználók és kiberbiztonsági szakértők beépített kémprogramként értékelték, amely titkosítatlanul tárolta a jelszavakat és banki adatokat.
A hatalmas felháborodást követően a Microsoft kénytelen volt elhalasztani a Recall bevezetését, bár később végül elérhetővé tette a funkciót a támogatott Windows 11-et futtató PC-ken. Ezek az esetek egyértelműen jelzik, hogy a technológiai fejlődés és az AI-innovációk felelős bevezetése kritikus fontosságú. A felhasználói bizalom megőrzése, az adatvédelem és a dezinformáció elleni védekezés alapvető szempontok, amelyeket a techóriásoknak sokkal alaposabban kellene mérlegelniük a gyors piaci bevezetések előtt. A jövőbeli AI-fejlesztések során elengedhetetlen a transzparencia és a felhasználói biztonság garantálása.
📰 Forrás: Index — Eredeti cikk elolvasása