Az Anthropic, a vezető mesterséges intelligencia fejlesztő cég, nyilvánosságra hozta az elmúlt nyolc hónapban tapasztalt visszaéléseket, amelyek során AI modelljeit potenciálisan veszélyes célokra próbálták felhasználni. A vállalat csütörtökön közzétett jelentése részletesen bemutatja a Claude chatbot és más rendszereik nem rendeltetésszerű alkalmazásait. Különösen aggasztóak azok az esetek, amikor kutatók biológiai fegyverek kifejlesztését elősegítő projektekhez igyekeztek igénybe venni az AI-t, ami komoly biztonsági és etikai kérdéseket vet fel a mesterséges intelligencia felelős használatával kapcsolatban.
Az Anthropic jelentése szerint több alkalommal is megakadályoztak olyan kísérleteket, amelyek során a vállalat AI modelljeit biológiai fegyverek fejlesztéséhez próbálták felhasználni. Bár a cég nem minden esetben tudta egyértelműen megállapítani a próbálkozások mögött álló szándékot, a jelenség komoly biztonsági aggályokat vet fel a globális közösség számára. A New York Times szerint a biológiai kutatásokhoz kapcsolódó esetek a legriasztóbbak a dokumentumban ismertetett fenyegetések közül, ami rávilágít a technológia potenciális veszélyeire.
A biológiai kutatások mellett a jelentés kitért más típusú visszaélésekre is, amelyek az AI rendszerek széles körű kihasználását mutatják. Ide tartozott a kínai és iráni kormányhoz köthető szereplők megfigyelési tevékenysége, amely az állami hírszerzés modernizálására utal. Emellett az orosz állami média propagandacélú tartalomgyártása is szerepelt a listán, beleértve a moldovai választással kapcsolatos dezinformáció terjesztését, ami a politikai befolyásolás új eszközeit vetíti előre. Továbbá olyan próbálkozásokat is rögzítettek, amelyek során konvencionális fegyverek, mint lőfegyverek, rakéták, felfegyverzett drónok és bombák tervezéséhez próbálták felhasználni az AI rendszert, ami a katonai alkalmazások aggasztó kiterjesztését jelzi.
Az egyik konkrét, májusi esetben egy kutató a Claude chatbot segítségét kérte egy pályázat megírásához, amely a chikungunya-vírus funkciónövelő (gain-of-function) kutatására irányult. A kutató célja a vírus olyan mutációinak előállítása volt, amelyek élő állatokon végzett ismételt fertőzések során fokoznák a kórokozó virulenciáját. Az Anthropic különösen aggasztónak találta, hogy ezt a kutatást egy katonai kutatóintézetben tervezték elvégezni, és a kutató megpróbálta elfedni a valódi célját a biztonsági szűrők kijátszása érdekében. Ez az eset kiemeli a kettős felhasználású technológiák ellenőrzésének nehézségeit.
Az Anthropic korábbi modelljei a tavalyi értékelések alapján még nem voltak képesek érdemben hozzájárulni veszélyes biológiai kutatásokhoz, ami azt sugallta, hogy az akkori AI még nem jelentett közvetlen veszélyt ezen a téren. Azonban a mesterséges intelligencia technológia gyors fejlődésével a jelenlegi modelljeik már komplex tudományos feladatok elvégzésére is alkalmasak, ami jelentősen megváltoztatja a kockázati környezetet. Ez a megnövekedett képesség tette szükségessé a szigorúbb biztonsági intézkedések bevezetését és a folyamatos felülvizsgálatot.
A vállalat ezért korlátozta a kettős felhasználású biológiai kutatási lekérdezéseket, hogy megakadályozza a potenciálisan káros alkalmazásokat, és proaktívan lépjen fel a visszaélések ellen. A jelentés szerint az érintett tudósok megkerülték a regionális hozzáférési korlátozásokat, és igyekeztek kijátszani a biztonsági szűrőket, ami rávilágít a rosszindulatú szereplők eltökéltségére. Az Anthropic nem hozta nyilvánosságra az érintett kutatók vagy intézmények nevét, sem a konkrét kórokozókat, részben a szándékok bizonytalansága miatt, részben pedig a további visszaélések elkerülése érdekében.
A funkciónövelő kutatások, mint a chikungunya-vírus esetében, önmagukban legitim célokat szolgálhatnak, például új vakcinák vagy terápiák kifejlesztéséhez vezethetnek. Ugyanakkor magukban hordozzák a szuperkórokozók létrehozásának kockázatát is, amelyek súlyos közegészségügyi veszélyt jelenthetnek, ha ellenőrizetlenül terjednek. Az AI-modellek ezen kutatásokhoz való felhasználása felgyorsíthatja és megkönnyítheti a veszélyes anyagok kifejlesztését, csökkentve a szükséges szakértelmet és erőforrásokat.
Andrew Weber, a Stratégiai Kockázatok Tanácsának munkatársa és az Obama-kormányzat egykori védelmi miniszterhelyettese „döbbenetes példáknak” nevezte a jelentésben leírt eseteket. Szerinte ezek rávilágítanak arra, hogy államilag támogatott biológiaifegyver-fejlesztők hogyan próbálják kiaknázni a csúcstechnológiás AI-modellek képességeit a saját céljaikra. Weber hangsúlyozta, hogy korlátozni kellene az ilyen szintű kutatásra alkalmas AI-eszközökhöz való hozzáférést, és kizárólag megbízható, ellenőrzött kutatók számára kellene elérhetővé tenni azokat, hogy minimalizálják a kockázatokat.
Susan Monarez mikrobiológus, az Obama-kormányzat egykori biobiztonsági szakértője pedig arra figyelmeztetett, hogy a fejlett AI lehetővé teheti a rossz szándékú szereplők számára, hogy látszólag legitim kutatás leple alatt olyan kórokozókat hozzanak létre, amelyeket nem látunk előre. Ezek a kórokozók, ha egyszer a szabadba kerülnek, megállíthatatlanok lehetnek, ami globális katasztrófához vezethet, hiszen a védekezési stratégiák hiányozhatnak.
Az Anthropic esete rávilágít az AI technológia kettős természetére és a vele járó etikai, biztonsági kihívásokra, amelyekkel a társadalomnak szembe kell néznie. A mesterséges intelligencia hatalmas potenciállal rendelkezik a jóra, például az orvostudományban vagy a környezetvédelemben, de egyben súlyos kockázatokat is rejt magában, ha rossz kezekbe kerül. A jövőben elengedhetetlen lesz a szigorúbb szabályozás, a nemzetközi együttműködés és a folyamatos technológiai fejlesztés a visszaélések megelőzése érdekében. A felelős AI fejlesztés és használat kulcsfontosságú a globális biztonság megőrzéséhez és a jövőbeli fenyegetések elhárításához.
📰 Forrás: Portfolio.hu — Eredeti cikk elolvasása