Az utóbbi időben egyre gyakrabban hallani a mesterséges intelligencia (MI) potenciális veszélyeiről szóló figyelmeztetéseket iparági szakértőktől. Bár ez a jelenség hirtelennek tűnhet, egy frissen publikált kutatói felmérés rávilágít, hogy az aggodalmak korántsem újak, hanem évek óta nyomon követhetők a tudományos közösségben. Ez a felmérés azt mutatja, hogy a félelem nem csupán néhány hangos bennfentes véleménye, hanem a szélesebb kutatói közegben is jelentős alapja van.
Az AI Impacts által 2016 óta rendszeresen végzett felméréssorozat negyedik körét 2024 decemberében rögzítették, és 2026 szeptemberében publikálták. A kutatás egyik fő célja az volt, hogy felmérje, mikorra várják a szakértők a magas szintű gépi intelligencia (HLMI) megjelenését, amely a definíció szerint azt jelenti, hogy a gépek minden feladatot jobban és olcsóbban képesek elvégezni az embernél. A válaszadóknak azt kellett megbecsülniük, mikor éri el ennek az eseménynek a bekövetkezési valószínűsége az 50 százalékot. Ez az időpont 2016-ban még 2061 volt, 2022-ben 2059, 2023-ban 2047, a 2024 végi adatok szerint pedig már 2042. Ez a jelentős eltolódás azt jelenti, hogy nyolc év alatt 45 évről 18 évre rövidült a becsült időhorizont, ami drámai gyorsulást jelez a szakértői várakozásokban.
A felmérés a súlyos kimenetek valószínűségét is vizsgálta, ami az emberi kihalást vagy hasonlóan tartós és súlyos emberi hatalomvesztést foglalja magában. 2024-ben a kutatók átlagosan 18,3 százalékos, mediánban 10 százalékos esélyt adtak erre, ami jelentős növekedés a 2023-as 5 százalékos medián értékhez képest. A válaszadók több mint fele legalább 10 százalékos, negyedük pedig legalább 25 százalékos esélyt lát a legsúlyosabb forgatókönyvekre. Fontos kiemelni, hogy ezek szakértői becslések egy példátlan jövőbeli kockázatra, nem pedig mérhető gyakoriságokból származó valószínűségek, ezért óvatosan kell kezelni őket.
Az AI Impacts felmérésének módszertana szerint 19 874 e-mail meghívót küldtek olyan kutatóknak, akik 2023-ban hat vezető szakmai fórumon publikáltak. A 2052 beérkezett válasz, a 10 százalékos válaszadási arány, valamint a tévesen meghívottak kiszűrése után 1580 válaszadó adatai kerültek elemzésre. A kutatás készítői hangsúlyozzák, hogy a minta nem reprezentálja az összes MI-szakértő véleményét, és valószínűleg alulsúlyozottak benne a vezető, úgynevezett "frontier" MI-cégeknél dolgozó kutatók. Ez utóbbiak ugyanis az utóbbi években egyre kevésbé publikálnak azokon a fórumokon, amelyekből a felmérés merített.
A HLMI bekövetkezésének becsült dátuma kulcsfontosságú, mivel ettől függ, mennyi ideje van a társadalomnak, a szabályozóknak és a fejlesztőknek a biztonsági problémák megoldására. A felmérés eredményei azt mutatják, hogy a kutatók jelentős része nem tartja elhanyagolhatónak a civilizációs léptékű negatív kimenetek esélyét. Ez a felismerés ad alapot a jelenlegi, a kockázatokra fókuszáló hírhullámnak, amely tehát nem puszta médiapánik, hanem évek óta mérhető szakértői bizonytalanságra épül.
A felmérés rávilágít, hogy a kutatói közösségben jelentős aggodalmak élnek a mesterséges intelligencia fejlődésének ütemével és lehetséges következményeivel kapcsolatban. Az időhorizont drámai rövidülése azt jelzi, hogy a szakértők egyre közelebbinek érzik azt a pontot, amikor az MI képességei meghaladhatják az emberi kontrollt. Ez sürgetővé teszi a biztonsági mechanizmusok és szabályozások kidolgozását, mielőtt a technológia visszafordíthatatlanul túlnőne az emberi irányításon. A válaszadók 72 százaléka támogatná a több vagy sokkal több MI-biztonsági kutatást, ami egyértelmű jelzés a prioritásokra vonatkozóan.
A kutatók aggodalmainak spektruma széles, és nem csak a "klasszikus géplázadásra" korlátozódik. A legnagyobb félelmet az információs tér sérülése váltotta ki: 83 százalék tartotta jelentős vagy rendkívüli aggodalomra okot adónak, hogy az MI megkönnyíti a hamis információk, például deepfake-ek terjesztését. Hasonlóan magas arányban (77 százalék) aggódtak a közvélemény nagyléptékű manipulálása miatt. Emellett a veszélyes csoportok nagy hatású eszközökhöz való hozzájutása (például tervezett vírusok), az autoriter rezsimek általi lakosságellenőrzés, valamint a növekvő egyenlőtlenség is jelentős aggodalmat váltott ki a kutatók 69-72 százalékánál.
Érdekes módon a kockázatok elismerése nem vezet egységes állásponthoz a fejlesztési tempó kérdésében. A kutatók 2024-ben megosztottak voltak: 34 százalék gyorsabb, 29 százalék a jelenlegi, 34 százalék pedig lassabb globális fejlesztési tempót tartana optimálisnak a következő öt évre. A "sokkal lassabb" tempó támogatóinak aránya 5-ről 9 százalékra nőtt, ami a növekvő óvatosságot jelzi. Ez a megosztottság azt mutatja, hogy a kockázatok felismerése nem eredményez egyetlen, univerzális szabályozási receptet.
Más felmérések is árnyalják a képet. Egy több mint 4000 MI-kutatót vizsgáló tanulmányban például csupán 3 százalék nevezte meg az egzisztenciális kockázatot elsődleges aggodalomként, ami arra utal, hogy valaki tarthat egy szélsőséges kockázatot nem elhanyagolhatónak, miközben a mindennapi munkája során más problémák foglalkoztatják. A Pew Research Center felmérése szerint az amerikai MI-szakértők 56 százaléka pozitív hatást vár az MI-től az Egyesült Államokra nézve a következő húsz évben, szemben az amerikai felnőttek mindössze 17 százalékával. Ez a különbség rávilágít a szakértői és a közvélemény közötti eltérő várakozásokra és informáltsági szintre. A felmérések összessége tehát nem egy egységes "világvége-várást" mutat, hanem inkább bizonytalanságot, megosztottságot és jelentős aggodalmat a mesterséges intelligencia jövőjével kapcsolatban.
📰 Forrás: Portfolio.hu — Eredeti cikk elolvasása