Az OpenAI, a mesterséges intelligencia fejlesztésének egyik vezető vállalata, új technológiát vezet be a mesterséges intelligencia által generált szövegek azonosítására. A „textGrain” névre keresztelt eljárás láthatatlan vízjelet helyez el a modellek, például a ChatGPT és a Codex kimeneteibe. Ez az újítás elsőként az Európai Unióban válik elérhetővé, a cél a mesterséges intelligencia eredetű tartalmak megbízhatóbb felismerése.
A BleepingComputer beszámolója szerint az OpenAI által kifejlesztett „textGrain” technológia finoman módosítja a mesterséges intelligencia modelljeinek szóválasztásait. Ezáltal egyedi statisztikai mintázat jön létre a szövegben, amely később felismerhetővé teszi, hogy az adott tartalom a ChatGPT vagy a Codex rendszereiből származik. A vízjel a szöveg olvasása vagy másolása során nem lesz látható, így nem zavarja a felhasználói élményt.
Az OpenAI közlése szerint a következő hetekben az Európai Unióban vezetik be ezt a láthatatlan vízjelet a releváns ChatGPT és Codex szövegkimenetek esetében. Fontos kiemelni, hogy egyelőre nem tervezik globális alapbeállításként bevezetni ezt a funkciót. Az API-fejlesztők világszerte bekapcsolhatják a vízjelfunkciót a támogatott modelleknél, de alapértelmezés szerint ez kikapcsolva marad.
A vállalat emellett megnyitja a jelentkezési lehetőséget a vízjelérzékelőjéhez is. Azonban a hozzáférés kezdetben korlátozott lesz, kizárólag jóváhagyott kutatók és szakértői szervezetek számára biztosítanak belépést. Ez a lépés azt jelzi, hogy az OpenAI óvatosan közelíti meg a technológia széleskörű elterjesztését, és elsősorban a tudományos és szakmai közösség visszajelzéseire épít.
Az OpenAI elismerte, hogy a mesterséges intelligencia által generált vízjel nem tökéletes, és szerkesztés esetén eltűnhet. Saját tesztjeik is alátámasztják, hogy viszonylag egyszerű szövegmódosításokkal jelentősen csökkenthető a mesterséges intelligencia eredetű szövegek felismerésének hatékonysága. Például, egy 400 tokenből álló szövegrész értékelése során a szavak 10 százalékának szinonimákkal való helyettesítése a felismerési arányt körülbelül 92 százalékról 66 százalékra csökkentette.
A helyzet még drámaibbá vált, amikor a szavak 25 százalékát cserélték ki; ekkor a felismerési arány mindössze 17 százalékra esett vissza. Az OpenAI tesztjei azt is kimutatták, hogy a felismerés pontossága függ a szöveg hosszától. Egy egyszázalékos fals pozitív célérték mellett a 200 tokenből álló pszichológiai válaszok körülbelül 80 százalékában észlelték a vízjelet, míg a 400 tokenes szövegek esetében ez az arány megközelítőleg 95 százalék volt.
Ez azt jelenti, hogy hosszabb szövegek esetében a mérés eredménye megbízhatóbbnak bizonyult. Ugyanakkor a felismerés rosszabb eredményeket hozott olyan tantárgyak esetében, mint a matematika, ahol a modellnek kevesebb szabadsága van a különböző szavak kiválasztására. Ez a korlátozás rávilágít arra, hogy a technológia hatékonysága nagymértékben függ a szöveg tartalmától és a generálási folyamat során elérhető nyelvi variációk számától.
Az OpenAI hangsúlyozta, hogy a vízjel észlelésének hiánya önmagában nem bizonyítja az emberi szerzőséget. A generált szövegek lehetnek túl rövidek, jelentősen szerkesztettek vagy akár lefordítottak, ami mind befolyásolhatja a felismerés megbízhatóságát. Ez a kijelentés kulcsfontosságú, mivel megakadályozza a téves következtetések levonását a technológia korlátai miatt.
A vállalat azt is kiemelte, hogy az észlelt vízjelből nem derül ki, hogy ki generálta a szöveget, milyen fiókot, promptot vagy beszélgetést használtak. Továbbá az sem állapítható meg, hogy a végső mű mekkora részét írta vagy szerkesztette ember. Ezek a tényezők azt jelentik, hogy a vízjel elsősorban a szöveg eredetére vonatkozó valószínűségi információt szolgáltat, nem pedig egyértelmű bizonyítékot a szerzőségre vagy a szerkesztés mértékére.
A technológia tehát egy eszközt kínál a mesterséges intelligencia által generált tartalmak azonosítására, de nem egy mindenható megoldást. Fontos megérteni a korlátait, hogy elkerülhetőek legyenek a félreértések és a téves attribúciók. A vízjel elsődleges célja a transzparencia növelése, nem pedig a teljeskörű szerzőségi azonosítás.
Az OpenAI szerint a vízjelek nem befolyásolják jelentősen a GPT-6 Astra modell minőségét. A benchmarkeredmények nagyjából hasonlóak maradnak akkor is, ha a „textGrain” funkció be van kapcsolva, ami azt sugallja, hogy a technológia bevezetése nem jár teljesítményromlással. Ez pozitív hír a fejlesztők és felhasználók számára, akik aggódhattak a modell kimenetének esetleges romlása miatt.
A vízjelérzékelőhöz való korlátozott hozzáférés és a technológia folyamatos fejlesztése azt mutatja, hogy az OpenAI elkötelezett a felelősségteljes AI-fejlesztés iránt. Azonban a szerkesztés általi eltávolíthatóság és a felismerés változó hatékonysága továbbra is kihívást jelent. A jövőben valószínűleg további fejlesztésekre lesz szükség a vízjelzés robusztusságának növelése érdekében, különösen a rövidebb vagy erősen módosított szövegek esetében.
Ez a lépés az Európai Unióban történő bevezetéssel egy szélesebb körű törekvés része lehet a mesterséges intelligencia szabályozására és a generált tartalmak átláthatóságának biztosítására. Az iparág és a szabályozó szervek közötti együttműködés kulcsfontosságú lesz a mesterséges intelligencia etikus és biztonságos alkalmazásának jövőjében.
📰 Forrás: Index — Eredeti cikk elolvasása