A Trump-adminisztráció nemzetbiztonsági aggályokra hivatkozva korlátozta az Anthropic nevű mesterséges intelligencia (MI) vállalat legfejlettebb modelljeihez való külföldi hozzáférést. Ez a döntés egy belső biztonsági tesztet követett, mely során az Anthropic egyik MI-modellje sikeresen behatolt az Egyesült Államok Nemzetbiztonsági Ügynökségének (NSA) rendszereibe. Az eset rávilágít a fejlett MI-technológiák ellenőrzésével és biztonságával kapcsolatos növekvő feszültségekre.
A Trump-kormányzat néhány héttel ezelőtt rendelte el, hogy az Anthropic függessze fel a külföldi állampolgárok hozzáférését a Fable 5 és Mythos 5 nevű, legfejlettebb MI-modelljeihez. A döntés indoklásául nemzetbiztonsági aggályokat jelöltek meg, de konkrét részleteket nem közöltek a céggel. Az exportellenőrzési utasítás közvetlenül egy nappal azután érkezett, hogy az Anthropic MI-modellje részt vett egy biztonsági tesztben, mely során behatolt az NSA rendszereibe.
A Tom's Hardware beszámolója szerint az Economist egy korábbi cikke már említette, hogy a Mythos MI-modell egy ellenőrzött teszt keretében órák alatt képes volt behatolni az NSA „szinte mindegyik” titkos rendszerébe. Ezt az információt Mark Warner szenátor, a szenátus hírszerzési bizottságának alelnöke hozta nyilvánosságra, aki az NSA és az amerikai Kiberparancsnokság vezetőjétől értesült az esetről. Joshua Rudd állítólag úgy nyilatkozott Warnernek, hogy az eszköz „nem hetek, hanem órák alatt” hatolt be a titkos rendszerekbe.
A közösségi médiában gyorsan elterjedt a hír, miszerint az „Anthropic feltörte az NSA-t”, ami jelentős visszhangot váltott ki. Az Economist cikkének szerzője azonban tisztázta, hogy a „behatolás” egy engedélyezett, belső biztonsági teszt során, szimulált környezetben történt. Ez azt jelenti, hogy nem egy valós, rosszindulatú támadásról, hanem egy ellenőrzött kísérletről volt szó, amely a rendszerek sérülékenységét vizsgálta.
Az Anthropic az utasításra reagálva bejelentette, hogy világszerte letiltja a legfejlettebb MI-modelljeit, mivel állampolgársági alapon nem tudja betartatni a korlátozást. A vállalat állítása szerint hivatalos indoklást nem kaptak a tilalomra, csupán szóban jelezték nekik, hogy egy „korlátozott hatókörű, nem univerzális” módszerről van szó. Ez a módszer lehetővé tette a Fable 5 számára, hogy szoftverekben lévő sérülékenységeket azonosítson, és hasonló jelenség más rivális modelleknél is előfordulhat.
Az Anthropic továbbá hangsúlyozta, hogy a modellt arra kérték, elemezzen egy kódbázist és javítsa ki az azonosított problémákat, ami néhány kisebb, már ismert hibát tárt fel. Ez a folyamat nem jelentett valódi, önálló behatolást, hanem egy célzott elemzést. Az Axios egy kormányzati tisztviselőre hivatkozva arról is írt, hogy a Trump-adminisztráció azért döntött a lépés mellett, mert egy másik vállalat azt állította, képes feltörni a Mythost, ami nemzetbiztonsági kockázatot jelenthet.
Az exporttilalom előtt a Trump-adminisztráció és az Anthropic közötti viszony feszült volt, bár az utóbbi időben enyhülés jelei mutatkoztak. A kormányzat korábban „woke-nak” bélyegezte a tőzsdére készülő vállalatot. A konfliktus akkor mérgesedett el, amikor az Anthropic nem engedélyezte az amerikai hadseregnek, hogy MI-modelljeit belföldi megfigyelésre és teljesen autonóm fegyverrendszerekre használja.
Válaszul a Pentagon hivatalosan feketelistára tette az Anthropicot, ami további feszültséget generált a felek között. Érdekes módon az NSA ennek ellenére továbbra is használja a cég mesterséges intelligenciáját, ami ellentmondásos helyzetet teremt. Az Anthropic korábban bejelentette, hogy bíróságra megy a szankcionálás miatt, jelezve, hogy nem fogadja el a kormányzati korlátozásokat.
Ez az eset rávilágít a mesterséges intelligencia fejlesztésének és szabályozásának összetett kihívásaira, különösen a nemzetbiztonság szempontjából. A fejlett MI-modellek képességei, mint például a sérülékenységek azonosítása, egyszerre jelentenek potenciális előnyt és kockázatot. A kormányzatoknak egyensúlyt kell találniuk az innováció támogatása és a potenciális veszélyek elhárítása között.
A vita kiemeli a technológiai vállalatok és a kormányzati szervek közötti bizalom hiányát és az eltérő prioritásokat. Míg a vállalatok a technológia széles körű hozzáférését és fejlesztését szorgalmazzák, a kormányok a potenciális visszaélésektől és a nemzetbiztonsági fenyegetésektől tartanak. Az Anthropic esete precedenst teremthet a jövőbeni MI-exportkorlátozások és a technológiai szuverenitás vitájában.
Az Anthropic és a Trump-adminisztráció közötti jogi vita várhatóan folytatódik, ami hosszú távon befolyásolhatja az MI-szektor szabályozását. A globális letiltás bevezetése az Anthropic részéről azt mutatja, hogy a cégek nehezen tudnak megfelelni a nemzetiség alapú korlátozásoknak. Ez a helyzet további nemzetközi párbeszédeket és egységesebb szabályozási keretek kialakítását sürgetheti a mesterséges intelligencia terén.
Az események aláhúzzák a mesterséges intelligencia etikai és biztonsági kérdéseinek sürgető voltát, különösen a katonai és megfigyelési alkalmazások tekintetében. A jövőben várhatóan egyre több vita bontakozik ki a technológia kettős felhasználásáról és a fejlesztők felelősségéről. Az Anthropic esete emlékeztetőül szolgál arra, hogy a fejlett MI-technológia milyen gyorsan válhat nemzetbiztonsági prioritássá.
📰 Forrás: Telex — Eredeti cikk elolvasása