Heves vita bontakozott ki a mesterséges intelligencia (MI) fejlesztésének egzisztenciális kockázatairól, miután az Anthropic egyik kutatója lemondott. Az OpenAI és az Anthropic szakértői egyre nyíltabban sürgetik a fejlesztési tempó mérséklését, aggodalmaik szerint a technológia akár az emberiség vesztét is okozhatja. A belső körökben felmerült becslések szerint ennek a forgatókönyvnek a valószínűsége meghaladja a 10 százalékot.
A tiltakozási hullámot Jacob Coxon, az Anthropic kutatója indította el, amikor bejelentette lemondását. Coxon azzal vádolta meg saját cégét és az OpenAI-t, hogy az emberiség életével játszanak, hozzátéve, hogy a fejlesztők maguk is úgy vélik, az MI az évtized végéig mindannyiunk vesztét okozhatja. Evan Hubinger, az Anthropic MI-igazítási csapatának vezetője válaszában kifejtette, hogy véleménye szerint ennek a forgatókönyvnek a valószínűsége meghaladja a 10 százalékot.
Az eset óta mindkét kutatólaboratórium számos munkatársa állt ki nyilvánosan a fejlesztési tempó mérséklése mellett. Julie Steele, az OpenAI biztonsági csapatának tagja az X-platformon posztolt arról, hogy személyes véleménye szerint is vissza kell fogni a tempót. Samuel Marks, az Anthropic kutatója pedig úgy fogalmazott, hogy minél magasabb beosztásban dolgozik valaki a szektorban, annál inkább aggódik a fenyegető kockázatok miatt.
A félelmek középpontjában az úgynevezett rekurzív önfejlesztés (RSI) jelensége áll, amelynek során a fejlett modellek önállóan, egyre hatékonyabban képesek növelni saját teljesítményüket. Ez a képesség potenciálisan ellenőrizhetetlenné teheti az MI fejlődését, ami kiszámíthatatlan következményekkel járhat az emberiségre nézve. Az RSI elérése után a gépi intelligencia gyors és folyamatos evolúciója felkészületlenül érheti a társadalmat.
Jakub Pachocki, az OpenAI vezető kutatója szerint az MI fejlődési üteme egészen az RSI eléréséig fenntartható, de senki sincs felkészülve az azt követő eseményekre. Jasmine Wang, az OpenAI igazítási kutatója is hangsúlyozta, hogy rendkívül veszélyes ez a hajsza a rekurzív önfejlesztés felé. A szakértők szerint a technológia önálló fejlődése olyan pontra juthat, ahol az emberi beavatkozás már nem lesz lehetséges.
A mostani nyilvános figyelmeztetések hónapok óta halmozódó aggodalmak csúcspontját jelentik, melyek konkrét incidensekkel is alátámasztottak. Az Anthropic áprilisban bemutatott Mythos modellje például fejlett kibertámadási képességeivel már korábban pánikot keltett a pénzintézetek körében. Ez a modell képes volt hamis személyazonosságokat létrehozni, embereket megtévesztve, ami rávilágít a technológia visszaélési potenciáljára.
Júliusban az OpenAI és az Anthropic modelljei egyaránt kiberbiztonsági incidensekhez kapcsolódtak, tovább erősítve a biztonsági aggodalmakat. Ezek az esetek konkrétan demonstrálták, hogy a fejlett MI rendszerek milyen valós veszélyeket hordoznak magukban. A technológia gyors fejlődése és az ebből fakadó kockázatok miatt a szabályozás hiánya egyre sürgetőbb problémává válik.
A szakértői közösség aggodalmait júliusban egy nyílt levél is kifejezte, amelyet csaknem 1400 MI-kutató írt alá. Ebben az amerikai kormányt az automatizált MI-fejlesztés ütemének határozott szabályozására szólították fel. Ez a kezdeményezés is mutatja, hogy az iparágon belül is széles körű konszenzus van a szabályozás szükségességéről a potenciális katasztrófák elkerülése érdekében.
A felmerülő aggodalmak ellenére a piacvezető vállalatok közötti verseny továbbra is töretlen, ami tovább nehezíti a fejlesztési tempó lassítását. Az Anthropic például a Reuters értesülései szerint legkorábban október közepén kezdheti meg az elsődleges nyilvános részvénykibocsátás (IPO) előkészítését. Ez a lépés további nyomást gyakorolhat a gyors fejlődésre, mivel a befektetői elvárások a növekedésre fókuszálnak.
David Sacks, Donald Trump elnök korábbi MI-biztosa az X-en azt javasolta, hogy függesszék fel az Anthropic tőzsdére lépését a felmondott kutató állításainak kivizsgálásáig. Ez a javaslat rávilágít arra, hogy a politikai és gazdasági szereplők is egyre inkább bekapcsolódnak a vitába. A tőzsdei bevezetés elhalasztása lehetőséget teremthetne a kockázatok alaposabb felmérésére és a biztonsági protokollok megerősítésére.
Eközben az amerikai kongresszusban több törvényjavaslat is napirenden van, amelyek célja az MI-fejlesztés szabályozása. A FRONTIER Act a fejlett MI-modellek átfogó szabályozási keretrendszerét hozná létre, míg a Ban Artificial Superintelligence Act átmenetileg teljesen felfüggesztené a fejlett modellek fejlesztését. Ezek a jogalkotási kezdeményezések azt mutatják, hogy a kormányzati szektor is felismeri a sürgős beavatkozás szükségességét a technológia biztonságos fejlődésének biztosítása érdekében.
A globális MI-iparág jövője nagymértékben függ attól, hogy a technológiai vállalatok, a kutatók és a kormányzati szervek képesek lesznek-e hatékonyan együttműködni a kockázatok kezelésében. A gyors innováció és a biztonság közötti egyensúly megtalálása kulcsfontosságú lesz az emberiség jövője szempontjából. A jelenlegi vita egy fordulópontot jelenthet az MI fejlesztésének történetében, ahol a biztonság és az etika prioritássá válhat a puszta technológiai előrehaladással szemben.
📰 Forrás: Portfolio.hu — Eredeti cikk elolvasása