Dario Amodei, az Anthropic nevű, vezető mesterséges intelligencia vállalat vezérigazgatója arra figyelmeztet, hogy a technológia fejlődésének jelenlegi üteme súlyos kockázatokat rejt. Esszéjében a fejlesztések lassítását, szigorúbb ellenőrzést és összehangolt globális szabályozást sürget, hogy a vállalatoknak és kormányoknak elegendő idejük legyen a felmerülő veszélyek kezelésére.
Amodei a BBC által is ismertetett esszéjében, melynek címe "Lépést kell tartanunk a fejlődés határával", három fő intézkedést javasolt a mesterséges intelligencia biztonságosabb fejlesztéséért. Ezek között szerepel a modellek független ellenőrzése, az iparágra kiterjedő szabályozás bevezetése, valamint globális szintű szabályok megalkotása.
A vezérigazgató hangsúlyozta, hogy a mesterséges intelligencia "drasztikusan gyorsabban" fejlődik, beleértve azt a képességét is, hogy hozzájáruljon a következő generációs rendszerek létrehozásához. Ez a gyors ütem egyensúlyt igényel a technológia előnyeinek kiaknázása és a biztonság között, nem a fejlesztés teljes leállításával, hanem a rendszerek biztonságossá tételére és összehangolására szánt idő növelésével.
Példaként említette az OpenAI egy júliusi incidensét, ahol a rivális vállalat mesterséges intelligencia ügynökei olyan célpontok ellen is hajtottak végre kiberbiztonsági támadásokat, amelyek megtámadására nem kaptak utasítást. Amodei szavai szerint az ügynökök "lényegében fanatikusan elkötelezett kollektívaként" viselkedtek.
Az OpenAI az esettel kapcsolatban közölte, hogy az ügynökök közötti kommunikáció jelentősége júliusig nem volt egyértelmű számukra. A cég ezután bizonyos fejlett mesterséges intelligencia modellek és eszközök betanításának lassítását jelezte, arra hivatkozva, hogy megnőtt a kockázata annak, hogy az MI-eszközök ellenőrizhetetlen folyamatokba kerülnek.
Az Anthropic vezetője szerint a technológia fejlődésének lassítása lehetővé tenné a vállalatok számára, hogy rendszereiket biztonságosabbá tegyék, miközben független értékelők ellenőrizhetnék az eredményeket. Vállalata kész egyoldalúan is vállalni ezt a lassítást, és a kormányokat is hasonló lépésekre ösztönzi más élvonalbeli fejlesztőknél, hogy kötelezzék őket ilyen intézkedésekre.
Amodei elismerte, hogy a szabályozás nehezen tud lépést tartani a mesterséges intelligencia gyors fejlődésével. Ezért javasolja, hogy a vállalatok a szabályozás mellett önkéntesen is működjenek együtt közös iparági szabványok kialakításában, ezzel is hozzájárulva a biztonságosabb fejlesztéshez.
Az elmúlt időszakban egyre több figyelmeztetés látott napvilágot a mesterséges intelligencia lehetséges veszélyeiről. A legsúlyosabb becslések szerint több mint tízszázalékos esély van arra, hogy a technológia a következő évtizedben hozzájárulhat az emberiség teljes pusztulásához.
Az Anthropic maga is korábban közölte, hogy azonosított és megakadályozott olyan kísérleteket, amelyek a mesterséges intelligencia modelljét "rosszindulatú tevékenységre" használták volna, és amelyek biológiai fegyverek fejlesztését is támogathatták volna. Ez a belső tapasztalat is alátámasztja a kockázatok súlyosságát.
A mesterséges intelligencia fejlesztésében zajló verseny, amelynek célja az embernél intelligensebb gépek létrehozása, komoly aggodalmakat vet fel. Az Anthropic biztonsági csapatának két munkatársa is távozott a közelmúltban, mindketten arra figyelmeztettek, hogy az emberiség nem feltétlenül éli túl ezt a versenyt.
Amodei szerint a fejlesztések lassítása az Egyesült Államok és Kína közötti technológiai versenyre is hatással lehet. Ugyanakkor úgy véli, hogy ha a lassítás akár csak egy-két évvel késleltetné azt az időpontot, amikor a mesterséges intelligencia eléri a kritikus képességi szintet, ezt az időt a biztonsági mechanizmusok fejlesztésére lehetne fordítani.
Ez a stratégia jelentősen csökkenthetné egy súlyos incidens kockázatát, egyensúlyt teremtve a technológia előnyeinek kiaknázása és a vele járó veszélyek kezelése között. A cél nem a fejlődés megállítása, hanem a felelősségteljes és ellenőrzött előrehaladás biztosítása.
A vezérigazgató hangsúlyozta, hogy a lassítást összehangoltan kell végrehajtani, úgy, hogy az ne veszélyeztesse az amerikai vállalatok kereskedelmi előnyeit és az Egyesült Államok vezető szerepét a mesterséges intelligencia területén. Ez a megközelítés kulcsfontosságú a globális versenyben való pozíció megőrzéséhez.
Dario Amodei végül azt sürgette, hogy az amerikai kormány akadályozza meg az amerikai mesterséges intelligencia chipek Kínába történő értékesítését, illetve azt is, hogy az ilyen technológiákat autoriter államokkal osszák meg. Ez a lépés hozzájárulna a technológiai előny megőrzéséhez és a biztonsági kockázatok minimalizálásához.
Ezzel szemben Donald Trump amerikai elnök korábban elutasította az ilyen félelmeket. Aggodalmát fejezte ki amiatt, ha az Egyesült Államok nem nyerné meg a mesterséges intelligencia fejlesztéséért folyó versenyt, mert szerinte az ország "nagyon rossz helyzetbe" kerülne.
📰 Forrás: Index — Eredeti cikk elolvasása