A mesterséges intelligencia (AI) fejlesztésének gyors üteme egyre intenzívebb vitát generál a technológia biztonságáról és szabályozásáról, globális szinten. Ebben a kontextusban szólalt meg az Anthropic egyik társalapítója, Jack Clark, aki egy független, harmadik fél által ellenőrizhető vészleállító mechanizmus, azaz "kill switch" kötelezővé tételét javasolja minden AI-vállalatnál. Javaslata rávilágít a szektorban egyre erősödő aggodalmakra, amelyek a mesterséges intelligencia lehetséges kockázataival kapcsolatosak, és a biztonságos működéshez szükséges erősebb felügyeletet sürgetik.
Jack Clark, az Anthropic hét alapítójának egyike, egy hétfői interjúban fejtette ki álláspontját a BBC-nek. Kijelentette, hogy szerinte a jogalkotóknak törvényben kellene előírniuk egy ilyen vészleállító rendszer alkalmazását, még akkor is, ha a legtöbb AI-laboratórium már rendelkezik valamilyen leállítási módszerrel. Kiemelte, hogy az eszköz ellenőrizhetőségét egy külső, független félnek kellene biztosítania, és ennek a szempontnak a mesterséges intelligencia szabályozásáról szóló párbeszéd szerves részét kell képeznie.
Clark úgy fogalmazott, hogy az iparág óriási kockázatokat vállal a jelenlegi szabályozási környezetben, hozzátéve, hogy a mesterséges intelligencia teljes szabályozatlansága kifejezetten rossz ötlet. Az Anthropic vezérigazgatója, Dario Amodei is hasonlóan nyilatkozott a múlt héten közzétett esszéjében, amikor az AI-fejlesztés ütemének lassítását és szorosabb felügyeletét szorgalmazta. Amodei hangsúlyozta, hogy mindezt anélkül kellene megvalósítani, hogy feláldoznánk a kereskedelmi előnyöket, ezzel is jelezve a biztonság és az innováció közötti kényes egyensúlyt, melyet a vállalatnak is kezelnie kell.
Az Anthropic körüli biztonsági vita az utóbbi időben különösen felerősödött, ami a szélesebb technológiai iparágban is visszhangra talált. Ennek egyik kiváltó oka egy távozó kutató bejegyzése volt, amely vírusszerűen terjedt el a múlt héten, és amelyben a kutató az emberiség kipusztulásától való félelmében mondott fel pozíciójából. Ez az eset rávilágított a vállalat belső köreiben is meglévő mély aggodalmakra a mesterséges intelligencia jövőjével kapcsolatban, és felhívta a figyelmet a lehetséges egzisztenciális kockázatokra.
Válaszul az eseményre, az Anthropic egyik tudósa, Evan Hubinger nyilvánosan kijelentette, hogy szerinte tíz százaléknál is nagyobb az esélye annak, hogy a mesterséges intelligencia az emberiség kihalását okozza a következő évtizedben. Ezt a riasztó becslést Geoffrey Hinton, a Nobel-díjas számítógéptudós, akit gyakran az AI keresztapjának is neveznek, reálisnak minősítette, ezzel is súlyt adva a figyelmeztetésnek. Ezek az állítások tovább erősítik a biztonsági mechanizmusok és a szigorúbb szabályozás iránti igényt a szakmai körökben, és alátámasztják a vészleállító rendszerek fontosságát.
Azonban nem mindenki osztja ezeket a mélyreható aggodalmakat és a vészjósló előrejelzéseket, ami a vita sokszínűségét mutatja. Clement Delangue, a Hugging Face fejlesztői platform vezetője például úgy véli, hogy a kihalási kockázatokról szóló figyelmeztetéseket érdemes a helyükön kezelni, és nem szabad túlzott pánikot kelteni a közvéleményben. Ez a nézet arra utal, hogy a technológiai fejlődés és a lehetséges veszélyek megítélése nem egységes az iparágon belül, és különböző megközelítések léteznek a kockázatok kezelésére.
George Arison, a Grindr vezérigazgatója még tovább ment a kritikájában, és egyenesen azt állította, hogy a fejlesztőcégek csupán a saját üzleti érdekeik alátámasztására használják a félelemkeltést. Arison szerint a csillagászati cégértékeléseket, mint például az Anthropic becsült 965 milliárd dolláros, vagy az OpenAI 852 milliárd dolláros értékét, csak úgy lehet igazolni a befektetők előtt, ha a vállalatok azt ígérik, hogy minden iparágat és munkahelyet átvesznek. Ez a kritika gazdasági motivációkat feltételez a biztonsági aggodalmak mögött, ami tovább árnyalja a mesterséges intelligencia jövőjéről szóló vitát.
Az Egyesült Államokban a törvényhozók már reagáltak a fokozódó aggodalmakra, és benyújtották az úgynevezett Kill Switch Act törvényjavaslatot, jelezve a szabályozási szándékot. Ez a jogszabály kötelezővé tenné a vészleállítási funkciót az AI-rendszerekben, és jogot adna bizonyos kormányzati szerveknek az AI-eszközök leállítására vagy korlátozására, amennyiben szükségesnek ítélik. Ez a lépés mutatja a jogalkotók szándékát a mesterséges intelligencia fokozottabb felügyeletére és a potenciális veszélyek kezelésére.
Donald Trump volt elnök azonban élesen elutasította az AI-fejlesztések fékezésére irányuló törekvéseket, ami politikai megosztottságot jelez a témában. Közösségi médiás bejegyzésében átverésnek nevezte az AI jelentette fenyegetést, és a globális felmelegedéssel kapcsolatos félelmekhez hasonlította azt, ezzel is relativizálva a kockázatokat. Ez a politikai megosztottság is jelzi, hogy a mesterséges intelligencia jövőjével kapcsolatos döntések komplexek és sokrétűek, és a technológia fejlődésével párhuzamosan a társadalmi és politikai párbeszéd is egyre intenzívebbé válik, különböző nézőpontokat ütköztetve.
📰 Forrás: Portfolio.hu — Eredeti cikk elolvasása