Dario Amodei, az Anthropic mesterséges intelligencia (MI) vállalat vezérigazgatója a közelmúltban arra szólította fel az MI-szektor szereplőit, hogy mérsékeljék a modellek képességeinek fejlesztési ütemét. A felhívás hátterében a mesterséges intelligencia potenciális visszaélésszerű felhasználásával kapcsolatos egyre növekvő aggodalmak állnak, amelyek a technológia exponenciális fejlődésével párhuzamosan erősödnek. Amodei hangsúlyozta, hogy a fejlődés így is gyorsnak fog tűnni, és a nyert időt bölcsen kell felhasználni a biztonsági intézkedések megerősítésére és a kockázatok kezelésére.
A vezérigazgató egy átfogó, háromlépcsős keretrendszert vázolt fel javaslatként, amelynek célja a technológia biztonságosabbá tétele és a felelősségteljesebb fejlesztés elősegítése. Ennek részeként az Anthropic például állandó, független ellenőröket helyezne el a határterületen működő mesterséges intelligencia-vállalatoknál. Ezek a szakértők hozzáférést kapnának a releváns eszközökhöz és a belső kockázatértékelési folyamatokhoz, biztosítva ezzel a transzparenciát és a külső felügyeletet a fejlesztési ciklus során. Ez a megközelítés kulcsfontosságú lehet a potenciális veszélyek azonosításában és kezelésében, még mielőtt azok szélesebb körben elterjednének.
Amodei esszéjét, amelyet az X közösségi platformon osztott meg, az Anthropic által közzétett fenyegetés-elemző jelentés megjelenését követően hozta nyilvánosságra. Ez a jelentés részletesen bemutatta, hogy számos piaci szereplő hogyan használta fel a cég Claude nevű mesterséges intelligencia-modelljeit különböző, aggodalomra okot adó célokra. Az esetek között szerepelt fegyverfejlesztés, kiberoperációk, megfigyelés és csalás is, amelyek rávilágítanak az MI-technológia sötét oldalára és a visszaélések széles spektrumára. A jelentés alátámasztja azt az érvet, hogy a gyors fejlesztés megfelelő biztonsági protokollok nélkül komoly társadalmi kockázatokat hordoz.
A jelentés konkrét vádakat is megfogalmazott nemzetközi vállalatokkal szemben. Kína egyik jelentős MI-cége, a Moonshot azzal gyanúsítható, hogy titokban továbbította a hozzájuk beérkező kéréseket az Anthropic Claude csetbotjának, hogy annak válaszain keresztül fejlesszék saját nyelvi modelljüket. Hasonló tevékenységgel vádolták meg a Deepseek és a Xiaomi vállalatokat is. Ezek az esetek felvetik a szellemi tulajdonjogok, az etikus MI-fejlesztés és a nemzetközi együttműködés hiányának kérdéseit egy olyan területen, ahol a globális verseny rendkívül intenzív.
A mesterséges intelligencia által okozott károkkal kapcsolatos aggodalmak a héten tovább fokozódtak, amikor Jacob Coxon, az Anthropic egyik kutatója drámai körülmények között lemondott pozíciójáról. Coxon nyilatkozatában rendkívül erős figyelmeztetést fogalmazott meg, kijelentve, hogy „azok, akik a mesterséges intelligenciát fejlesztik, komolyan úgy gondolják, hogy az az évtized végére mindannyiunkat megölhet”. Ez a kijelentés nem csupán egy egyéni vélemény, hanem a területen dolgozó szakemberek körében is jelen lévő mély aggodalmakat tükrözi a technológia ellenőrizhetetlen fejlődésével és az úgynevezett szuperintelligencia megjelenésével kapcsolatban. Coxon, aki korábban az OpenAI-nál is dolgozott, az Anthropicot kezdetben óvatosabb megközelítésűnek tartotta, de végül arra a következtetésre jutott, hogy egyik vállalat sem jár el felelősen a szuperintelligens rendszerek fejlesztésében, amelyek szerinte az emberiség túlélését fenyegethetik. A kutató szerint a cégek közötti verseny arra ösztönzi őket, hogy a biztonsági megfontolásokat háttérbe szorítsák a gyorsabb fejlesztés érdekében.
Amodei tisztázta, hogy javaslata nem a modellek betanításának vagy a technikai fejlődésnek a teljes leállítását jelenti. Ehelyett azt szorgalmazza, hogy a vállalatok szánjanak elegendő időt a modellek megfelelő beállítására és biztonságossá tételére, azaz az „igazításra” (alignment). Emellett kulcsfontosságúnak tartja, hogy ezeket a biztonsági lépéseket független szakértők is ellenőrizzék és megerősítsék. A lassabb ütem célja, hogy a társadalom és a fejlesztők felkészülhessenek a technológia által generált kihívásokra, és minimalizálják a kockázatokat, mielőtt a mesterséges intelligencia képességei túlszárnyalnák az emberi kontrollt. A vezérigazgató szerint egy ilyen összehangolt lassítás egy-két plusz évet nyerhetne a kritikus képességszint elérése előtt, ami jelentősen csökkenthetné a súlyos hibák kockázatát.
A vezérigazgató által javasolt keretrendszer tehát nem a progresszió megállítását célozza, hanem egy felelősségteljesebb, ellenőrzöttebb fejlődési pályát vázol fel. A független ellenőrzések és a belső kockázatértékelési folyamatokhoz való hozzáférés biztosítása alapvető fontosságú ahhoz, hogy a mesterséges intelligencia fejlődése ne váljon kontrollálhatatlanná, és az emberiség javát szolgálja, ahelyett, hogy veszélyeztetné azt. A cél egy olyan jövő építése, ahol a mesterséges intelligencia előnyei kihasználhatók, miközben a vele járó kockázatok minimalizálhatók egy proaktív és együttműködő megközelítés révén.
📰 Forrás: Telex — Eredeti cikk elolvasása