A mesterséges intelligencia (MI) által generált deepfake tartalmak előállítása soha nem volt még ennyire egyszerű, miközben a végeredmény gyakran már szabad szemmel és füllel is alig különböztethető meg a valóságtól. Ez a technológiai fejlődés új korszakot nyitott a digitális megtévesztésben, ahol a vizuális és auditív bizonyítékok hitelessége megkérdőjeleződik.
A deepfake fenyegetések a mindennapokban
A deepfake technológia számos területen jelent veszélyt. Egy politikus szájába adhatnak olyan kijelentéseket, amelyeket soha nem mondott, ezzel befolyásolva a közvéleményt és torzítva a demokratikus folyamatokat. Telefonhívások során ismerősök, családtagok hangját utánozva próbálhatnak meg pénzt kicsalni az emberektől. Vállalati környezetben pedig videóhívásokon keresztül, a főnöknek vagy más vezetőnek álcázva utasíthatnak alkalmazottakat jelentős pénzösszegek átutalására, komoly pénzügyi károkat okozva.
A deepfake-ek terjedése a közösségi médiában különösen aggasztó, mivel a hamis tartalmak gyorsan válnak virálissá, és hosszú távú következményekkel járhatnak az áldozatokra nézve. A technológia nemcsak a csalók és a politikai manipuláció eszköze lett, hanem az online megtévesztés egyik legújabb formája is.
A hongkongi deepfake csalás esete
A deepfake-ek valós veszélyét jól illusztrálja egy 2024 februárjában történt hongkongi eset, ahol egy multinacionális vállalat pénzügyi dolgozója mintegy 25 millió dollárt utalt át csalóknak. A megtévesztés egy videókonferencia során történt, ahol az alkalmazottat a cég pénzügyi igazgatójának (CFO) és más vezetőinek deepfake másolatai győzték meg az átutalás szükségességéről.
A csalás egy e-maillel kezdődött, amelyet állítólag a cég brit székhelyű CFO-ja küldött, egy „titkos tranzakcióra” hivatkozva. Bár az alkalmazottban kezdetben felmerült a gyanú, a videókonferencia során látottak eloszlatták kétségeit. A megbeszélés teljesen hitelesnek tűnt, és a CFO, valamint más felismerhető kollégák deepfake változatai vettek részt rajta. Az alkalmazott, meggyőződve a találkozó valódiságáról, az utasításoknak megfelelően mintegy 25,6 millió dollárnak megfelelő összeget utalt át 15 tranzakcióval öt különböző bankszámlára. A csalásra csak egy héttel később derült fény, amikor az alkalmazott felvette a kapcsolatot a cég központjával megerősítés céljából, de addigra a pénzt már le is hívták.
Ez az eset rávilágít arra, hogy a csalók már nemcsak egy személyt, hanem egy teljes, hamisított találkozói környezetet képesek létrehozni. A deepfake technológia fejlődésével a bűnözők minimális bemeneti adatokkal, például nyilvánosan elérhető videókkal és hangfelvételekkel is képesek élethű tartalmakat generálni.
Pszichológiai hatások és a bizalom eróziója
A deepfake-ek elterjedése pszichológiai szinten is mélyreható hatással van az egyénekre és a társadalomra. Ha többé nem bízhatunk feltétel nélkül abban, amit látunk és hallunk, az alapjaiban rendítheti meg a média, a politika és a közbizalom működését. A digitális korban sokáig alapfeltevés volt, hogy a látott vagy hallott tartalom legalább részben bizonyítékértékű. A deepfake azonban ezt a bizalmi alapot bontja le.
A szakértők szerint a deepfake-ek három alapvető pszichológiai tényezőt használnak ki az alkalmazottak megtévesztésére. A bizalom eróziója nemcsak a hamis tartalmak azonnali hatásában rejlik, hanem abban is, hogy a valóságba vetett hit meginog.
A „hazugok jutalma” jelenség
A deepfake technológia egyik legveszélyesebb következménye az úgynevezett „hazugok jutalma” (liar's dividend) jelenség. Ez azt jelenti, hogy ha a társadalom tudatában van annak, hogy bármilyen videó vagy hangfelvétel hamis lehet, akkor egy valódi, hiteles bizonyítékról is könnyedén kijelenthetjük, hogy „ez csak MI”, vagyis mesterséges intelligencia által generált hamisítvány. Ezáltal a valódi bizonyítékok is elveszíthetik hitelességüket, ami tovább bonyolítja az igazság megállapítását.
Kutatások szerint még akkor is hatással lehetnek az ítéleteinkre a hamisított videók, ha tudjuk róluk, hogy deepfake-ek. Ez a jelenség különösen veszélyes a politikai manipuláció és a dezinformáció terén, ahol a valódi eseményekről készült felvételek hitelességét is alááshatják.
Védekezés a hamis valóság ellen
Egy olyan világban, ahol már nemcsak a hamis valóságot kell felismernünk, hanem a valódit is bizonyítanunk kell, a védekezés kulcsfontosságú. A deepfake felismerése egyre nehezebb, mivel a technológia folyamatosan fejlődik. Korábban olyan jelek, mint a furcsa pislogás, az elcsúszott szájmozgás, a természetellenes mimika vagy a rosszul illeszkedő fényviszonyok árulkodóak lehettek, de ma már önmagukban nem mindig elegendőek.
A felismerés első lépése nem technikai, hanem kritikai: mindig a forrást kell vizsgálni. Ki osztotta meg a tartalmat? Megjelenik-e hiteles médiumoknál is? Van-e eredeti felvétel, több független megerősítés vagy kontextus, amely alátámasztja a látottakat? Emellett a technológiai megoldások, mint a deepfake-detektáló eszközök és a blokklánc-technológia is segíthetnek a tartalom hitelességének ellenőrzésében. A szervezeteknek és egyéneknek egyaránt fel kell készülniük a deepfake támadásokra, és folyamatosan fejleszteniük kell digitális írástudásukat és éberségüket.
📰 Forrás: Index — Eredeti cikk elolvasása