A vezető technológiai vállalatok, mint a Meta, a Google és az OpenAI, egyre nagyobb kihívással néznek szembe a mesterséges intelligencia által generált tartalmak, különösen a képek megbízható azonosításában. A cégek maguk is elismerték, hogy az általuk kifejlesztett detektáló rendszerek korlátozottak, különösen akkor, ha a mesterséges intelligencia által létrehozott képeket utólagosan módosítják. Ez a probléma különösen releváns egy olyan időszakban, amikor a deepfake technológia egyre kifinomultabbá válik, és a választási kampányok során potenciálisan félrevezető információk terjesztésére használható fel, befolyásolva a közvéleményt és a politikai folyamatokat.
A Meta a közelmúltban mutatta be új, mesterséges intelligenciát kiszűrő detektáló eszközét, amelyet a Muse Image nevű képgeneráló modelljével egy időben jelentettek be. Az eszköz célja, hogy segítsen azonosítani a Meta saját AI-modelljei által létrehozott képeket, ezzel is növelve a digitális tartalmak hitelességét. A Reuters hírügynökség azonban egy elemzésében rámutatott, hogy ez az új eszköz sem képes tökéletesen felismerni a saját maga által generált képeket, amennyiben azokat körbevágták vagy más módon manipulálták.
A Reuters vizsgálata során negyven, a Muse Image programmal készült képet teszteltek. Az eredmények azt mutatták, hogy a detektáló szoftver az összes eredeti, módosítatlan mesterséges intelligencia által generált képet megbízhatóan azonosította. Azonban, amikor ugyanezen felvételeket az eredeti méretük mintegy harmadára vagy felére vágták, a szoftver az esetek 55 százalékában már nem tudta felismerni, hogy mesterséges intelligencia hozta létre őket. Ez a tapasztalat világosan illusztrálja, milyen nehézségekbe ütközik a mesterséges intelligencia által generált képek azonosítása a leggyakoribb utólagos módosítások, mint például a körbevágás után. A probléma súlyát növeli, hogy az amerikai félidős választásokhoz hasonló sűrű választási évben a deepfake tartalmak felismerésének korlátai komoly kockázatot jelentenek a demokratikus folyamatokra nézve.
A Meta a honlapján azt állítja, hogy az előzetes verzióban elérhető eszköz a körbevágás után is felismeri a saját maga által generált képeket, mégpedig a Content Seal nevű, láthatatlan vízjelrendszer révén. Ezt a jelölést a Muse Image minden általa készített képbe beágyazza, hogy a felhasználók ellenőrizhessék, valóban a Meta modelljei hozták-e létre az adott fájlt. A Reuters eredményeivel kapcsolatos megkeresésre a cég hangsúlyozta, hogy egyelőre csak egy tesztfázisban lévő verzióról van szó, amelynek képességei még fejlesztés alatt állnak. A Meta szerint a vízjel a gyakori szerkesztések után is sértetlen marad, de a drasztikus körbevágás, amely jelentősen megváltoztatja a kép szerkezetét, miatt a jel elveszhet, így az azonosítás meghiúsulhat.
Nem csupán a Meta szembesül ezzel a problémával. A versenytárs Google és az OpenAI is figyelmeztetett arra, hogy saját detektáló eszközeik sem teljesen megbízhatóak a különböző képmódosító eljárásokkal szemben. Ez a széles körű kihívás rávilágít arra, hogy a technológiai iparág egésze keresi még a hatékony és robusztus megoldásokat a mesterséges intelligencia által generált tartalmak hitelességének ellenőrzésére, különösen a vizuális tartományban.
Szakértők is megerősítik a vízjelalapú rendszerek korlátait és potenciálját egyaránt. Ljü Szi-vej, a Buffalói Egyetem informatikaprofesszora szerint a vízjelalapú rendszerek nagyon hatékonyak lehetnek, amíg a jelölés sértetlen marad. Azonban bármilyen beavatkozás – például a körbevágás, az átméretezés, az erős tömörítés vagy a szerkesztés – gyengítheti vagy akár teljesen eltávolíthatja a beágyazott jelet. Ez azt jelenti, hogy a jelenlegi technológiák még nem nyújtanak teljes körű védelmet a manipulált tartalmak ellen, és a rosszindulatú szereplők viszonylag egyszerű módszerekkel kijátszhatják a védelmi mechanizmusokat.
Sarah Barrington, a Berkeley Egyetem kutatója ugyanakkor optimistán nyilatkozott a vízjelezés jövőjével kapcsolatban. Bár elismerte, hogy a technológia jelenleg nem tökéletes, rendkívül ígéretesnek tartja a digitális tartalmak hitelességének megőrzése szempontjából. Úgy véli, ha csak az esetek 90 százalékát sikerül kiszűrni, az is hatalmas előrelépés a korábbi állapothoz képest, amikor szinte semmilyen megbízható detektálási módszer nem állt rendelkezésre. A technológiai fejlesztések folyamatosak, és a kutatók reményei szerint a jövőben még ellenállóbb detektáló rendszerek születhetnek, amelyek képesek lesznek lépést tartani a mesterséges intelligencia fejlődésével és a manipulációs technikák kifinomultságával.
📰 Forrás: Portfolio.hu — Eredeti cikk elolvasása