Az amerikai Anthropic mesterséges intelligencia vállalat friss jelentésében súlyos vádakat fogalmazott meg több kínai MI-céggel szemben. A cég szerint rivális vállalatok, köztük a Moonshot és az Alibaba, illegálisan használták fel a Claude nevű csetbotjukat saját nyelvi modelljeik fejlesztéséhez. Ez a „desztillációnak” nevezett folyamat lényege, hogy egy erősebb MI-modell működését és gondolkodási mechanizmusait próbálják feltárni, majd az így szerzett információkat beépíteni saját rendszereikbe.
Az Anthropic jelentése részletesen bemutatja, hogyan irányították át a Moonshot csetbotjához érkező felhasználói kéréseket titokban a Claude-hoz. A kínai cég a felhasználók tudta nélkül, saját modelljének megkerülésével generált válaszokat az amerikai csetbottól, melyhez 5400 kamufiókot használtak, főként Szingapúrból és Japánból. Tíz nap alatt mintegy 300 ezer ilyen kérés érkezett az Anthropic rendszerébe, ami jelentős terhelést és adatlopást jelentett.
A jelentés szerint nem csak a Moonshot, hanem a Deepseek és a Xiaomi is hasonló tevékenységet folytatott. A legnagyobb mértékű desztillációs kísérlet azonban az Alibabától származott, amely 2026 májusa és júliusa között 151 millió lekérdezést kezdeményezett a Claude-tól. Az Alibaba a Qwen modelljének fejlesztésére használta fel az így szerzett adatokat, 3,5 millió különböző fiókon keresztül, de az Anthropic ugyanahhoz a kampányhoz kötötte ezeket a kéréseket az azonos promptok miatt, melyek a gondolatmenet kinyerésére irányultak.
Az Anthropic összesen közel 200 millió desztillációs támadást észlelt, melyeket öt különböző kampányba soroltak. A kínai cégek egy speciális technikát alkalmaztak a Claude gondolkodási folyamatának feltárására: fordításnak álcázták a feladatot, és arra kérték a csetbotot, hogy fordítsa le korábbi munkamemóriáját pontos, kizárólag katakanából álló japán nyelvre. Ezzel a módszerrel sikerült rábírniuk az MI-t, hogy felfedje belső mechanizmusait, amit az Anthropic általában összefoglalt blokkokban ad vissza, elrejtve a részletes gondolkodási láncot.
A desztilláció nem újkeletű jelenség a mesterséges intelligencia területén, korábban az OpenAI is hasonló vádakkal élt kínai MI-cégekkel szemben a ChatGPT esetében. Azonban a friss jelentésben bemutatott kampányok méretükben és agresszivitásukban is meghaladták a korábbiakat, jelezve a versengés fokozódását az MI-fejlesztésben. A desztilláció lényege, hogy egy erősebb MI-modell válaszait és a mögötte húzódó logikát elemzik, hogy saját, gyengébb modelljüket hatékonyabban fejleszthessék, ezzel potenciálisan időt és erőforrásokat takarítva meg.
Az amerikai kormányzati szervek is megvádolták már a kínai MI-vállalatokat az amerikai cégek adatainak szisztematikus kinyerésével, ami szélesebb körű technológiai feszültségeket jelez a két ország között. A kínai kereskedelmi minisztérium azonban tagadja ezeket a vádakat, mondván, azoknak nincs ténybeli és jogi alapjuk. Emellett ellenintézkedéseket is kilátásba helyeztek arra az esetre, ha az Egyesült Államok lépéseket tenne a kínai MI-vállalatok visszaszorítására, ami további eszkalációt vetít előre a technológiai háborúban.
A desztillációs támadásokon túl a jelentés kitér az Anthropic MI-modelljének rosszindulatú felhasználási kísérleteire is, amelyek komoly biztonsági és etikai aggodalmakat vetnek fel. A cégnek öt olyan esetet sikerült megakadályoznia, ahol a Claude-ot biológiai fegyverek fejlesztésére akarták felhasználni, ami a legmagasabb szintű veszélyt jelenti. Emellett hat esetben hagyományos fegyverek, mint például rakéták, fegyveres drónok, bombák, valamint az ezeket működtető rendszerek szoftverének fejlesztésére próbálták használni a mesterséges intelligenciát.
A Claude-ot továbbá egy Oroszországgal összefüggő kiberkémkedési kampányban és egy iráni propagandaszervezet is megpróbálta felhasználni, ami a geopolitikai konfliktusokba való bevonódás kockázatát is jelzi. Ezek az esetek rávilágítanak a fejlett mesterséges intelligencia technológiák potenciális veszélyeire és az etikai, biztonsági kihívásokra, amelyekkel a fejlesztő cégeknek és a szabályozó hatóságoknak globálisan szembe kell nézniük a technológia felelős alkalmazása érdekében.
A technológia lehetséges kockázatait vizsgáló jelentés megjelenése előtt Jacob Coxon, az Anthropic korábbi MI-kutatója aggodalmát fejezte ki az MI-fejlesztés jelenlegi üteme miatt. Coxon szerint a gyors fejlődés felülírhatja a biztonsági intézkedéseket, és komoly veszélyt jelenthet az emberiségre, mivel az MI-rendszerek képességei gyorsabban növekedhetnek, mint a kontrollmechanizmusok. Kollégái közül többen is hasonlóan aggódnak, és egyesek több mint 10 százalékos esélyt látnak arra, hogy a fejlett mesterséges intelligencia a következő évtizedben az emberiség pusztulásához vezethet, ami rendkívül magas aránynak számít.
Ez a széles körű aggodalom azt sugallja, hogy az MI-fejlesztési verseny nem csupán technológiai, hanem etikai és egzisztenciális kérdéseket is felvet, amelyek sürgős globális párbeszédet igényelnek. A desztillációs támadások és a rosszindulatú felhasználási kísérletek rávilágítanak arra, hogy a mesterséges intelligencia szabályozása és biztonságos fejlesztése kulcsfontosságú feladat a jövőben, amelynek elmulasztása beláthatatlan következményekkel járhat.
📰 Forrás: Telex — Eredeti cikk elolvasása