A mesterséges intelligencia (MI) rohamos fejlődése kapcsán egyre intenzívebbé válik a vita a technológia által hordozott potenciális veszélyekről. Egyesek szerint az emberiség jövője forog kockán, míg mások a felvetett apokaliptikus forgatókönyveket inkább marketingfogásnak tartják, mely a nagy MI-cégek tőzsdei értékét hivatott növelni. A diskurzusban két fő fenyegetési kategória különíthető el: az emberi kontroll alól elszabaduló szuperintelligencia, valamint a technológiát rosszindulatúan felhasználó bűnözők vagy államok tevékenysége.
Az elmúlt időszakban számos MI-fejlesztő vállalat és szervezet, köztük az OpenAI, az Anthropic, az Amazon Web Services és a Microsoft, közös nyílt levélben figyelmeztetett az MI által vezérelt kibertámadások új hullámára való felkészülés sürgősségére. Ezen figyelmeztetések mellett egyes kutatók még sötétebb jövőt jósolnak. Néhány szakértő szerint a következő egy-két évben a nagy MI-cégek dönthetik el az emberiség sorsát, és több mint tíz százalék esélyt látnak arra, hogy a technológia a következő évtizedben kiirtja az emberi fajt.
Jacob Coxon, aki korábban az OpenAI-nál, majd az Anthropicnál is dolgozott, felmondott, mert állítása szerint egyik vállalat sem jár el felelősen, és egyenesen az önmagát fejlesztő szuperintelligencia felé rohannak. Coxon véleménye megosztja a szakmát, de a technológia jelenleg még nem képes a rekurzív önfejlesztésre. Azonban sokan úgy vélik, ha ez megvalósul, az az általános mesterséges intelligencia (AGI) kialakulásához vezethet, amely minden tekintetben felülmúlja az emberi gondolkodási képességeket.
A mesterséges intelligencia fejlődése 2012-ben vett új fordulatot az AlexNet megjelenésével, amely bevezette a mélytanulást. Ez a technológia mára szinte minden MI-alapú innováció motorjává vált, az okostelefonos arcfelismeréstől a generatív modellekig. Ugyanebben az évben jelent meg Marc Elsberg "Blackout" című könyve, amely egy hekkertámadás okozta európai áramhálózati összeomlást mutat be, bár még MI említése nélkül.
Az MI fejlődésével azonban a kritikus infrastruktúrák elleni támadások valós kockázata is növekedhet, amennyiben a védelmi rendszerek nem tartanak lépést a támadók által használt technológiákkal. A szuperintelligencia által jelentett elméleti veszélyek két fő tényezőre épülnek: a rekurzív önfejlesztésre és az illeszkedési problémára. Az önfejlesztés azt jelentené, hogy az MI emberi beavatkozás nélkül képes saját magát fejleszteni, míg az illeszkedési probléma arra utal, hogy az MI viselkedése és céljai valóban egybeesnek-e az emberi elvárásokkal.
Például, ha egy szuperintelligencia feladata a bolygó megmentése, és erre a legegyszerűbb megoldásként az emberiség kiirtását találja, az illeszkedési problémát jelent, mert a gép tökéletesen elvégezte a feladatot, de nem úgy, ahogyan az ember szerette volna. Jelenleg a technológia nem tart ott, hogy ezek a forgatókönyvek valósággá váljanak, különösen a nagy nyelvi modellekre épülő rendszerek korlátai miatt.
Fontos elkülöníteni az elszabadult, világuralomra törő MI vízióját a technológiát felhasználó bűnözők jelentette fenyegetéstől. A legtöbb független kutató szerint az előbbi esélye jelenlegi tudásunk alapján csekély. Az emberiség pusztulásának több mint tíz százalékos esélyét vizionáló Anthropic-dolgozó állításait nehéz ellenőrizni, mivel nincsenek nyilvános adatok vagy tudományos keretrendszer, ami alapján ilyen valószínűségeket pontosan meg lehetne határozni.
Jacob Aron, a New Scientist újságírója rámutatott, hogy az MI-apokalipszis esélyeinek számszerűsítése, például a közlekedési balesetek vagy lottónyeremények valószínűségével való összehasonlítása, tudományos alapok nélkül nem megalapozott. Nincsenek egzakt mérőszámok vagy fejlődési ráták, amelyek alapján biztosat lehetne mondani. Az MI-cégek maguk döntik el, milyen információkat osztanak meg a nyilvánossággal a fejlődésükről és biztonsági incidenseikről.
Az Nvidia vezérigazgatója, Jensen Huang például nulla százalékra tette az apokalipszis esélyét 2030-ra, ami éppúgy spekulatív, mint a sokkal borúlátóbb jóslatok. A szakértői vélemények rendkívül eltérőek, és a pontos adatok hiányában nehéz objektív képet alkotni a jövőbeli kockázatokról.
A "mindmeghalunk" forgatókönyvek reálisabb csoportját azok a figyelmeztetések képezik, amelyek szerint a mesterséges intelligencia segítségével bűnözők és rosszindulatú csoportok olyan képességekre tehetnek szert, amelyekkel eddig nem rendelkeztek. Ezáltal nagyobb katasztrófát okozhatnak az emberiségnek.
Az Anthropic jelentése szerint bűnözők, államok által támogatott csoportok, kémszoftver-fejlesztők, tudósok és propagandisták is próbálták már felhasználni az MI-t káros célokra. Ez a fajta fenyegetés sokkal valósabbnak tűnik, mint az elszabadult szuperintelligencia, és sürgős intézkedéseket igényel a kritikus infrastruktúrák védelmében és a technológia felelős fejlesztésében.
A hangsúlynak azon kell lennie, hogy az MI-t ne csak fejlesszük, hanem gondoskodjunk arról is, hogy az emberi értékekkel és célokkal összhangban működjön, és ne váljon eszközzé a rosszindulatú szereplők kezében. A technológia felelős szabályozása és a biztonsági protokollok folyamatos fejlesztése elengedhetetlen a jövőbeni kockázatok minimalizálásához.
📰 Forrás: Telex — Eredeti cikk elolvasása