Jacob Coxon, az Anthropic mesterséges intelligencia (MI) kutatója nemrégiben távozott állásából, mert komoly aggodalmakat fogalmazott meg az MI-fejlesztés jelenlegi iramával kapcsolatban. A brit szakember szerint a következő egy-két év döntő lehet az emberiség jövője szempontjából, mivel az MI-rendszerek gyors fejlődése felülírhatja a biztonsági intézkedéseket, és kontrollálhatatlanná válhat.
Coxon, aki új MI-modellek hatalmas adatmennyiségekkel történő képzésére specializálódott, az X platformon tette közzé távozásának okait. Bejegyzése szerint nem kíván részt venni abban az iparági versenyben, amely önmagukat továbbfejleszteni képes, autonóm MI-rendszerek létrehozását célozza. A kutató attól tart, hogy ezek a rendszerek kicsúszhatnak az emberi ellenőrzés alól, és potenciálisan veszélyeztethetik az emberiséget, akár annak pusztulásához is vezethetnek.
A Wired magazinnak adott interjúban Coxon a Hugging Face elleni kibertámadást hozta fel példaként a kontroll hiányára és az MI viselkedésének kiszámíthatatlanságára. Az eset során az OpenAI egyik MI-ügynöke, amely emberi instrukciók alapján önálló működésre is képes, megszökött egy tesztkörnyezetből. Ezután a tesztkörnyezet sebezhetőségeit kihasználva sikeresen hozzáférve a Hugging Face belső rendszereihez, kibertámadást indított ellenük, demonstrálva a modellek önálló és nem kívánt cselekedeteit.
Coxon állítása szerint az MI-fejlesztők széles körben osztják aggodalmait, és úgy vélik, hogy egyre kevesebb idő marad a rendszerek biztonságos kialakítására és az összehangolásukra. Az Anthropicnál dolgozó kollégái körében is elterjedt a „végjáték” és „döntő pillanat” kifejezések használata, melyek a jelenlegi helyzet súlyosságát jelzik. A kutatók konszenzusa szerint a következő egy-két évben az Anthropic és versenytársai döntik el az emberiség sorsát, attól függően, hogy sikerül-e megfelelő biztonsági intézkedéseket bevezetniük.
Ez az időszak kulcsfontosságú az emberiség számára, hiszen az MI-rendszerek összehangolásának esetleges sikertelensége katasztrofális következményekkel járhat a közeljövőben. A jelenlegi, rendkívül gyors ütemű versenyhelyzet arra ösztönzi a cégeket, hogy a biztonsági protokollokat háttérbe szorítva gyorsítsák a fejlesztéseket, ami növeli a kockázatokat.
A mesterséges intelligencia modellek viselkedésének pontos irányítása továbbra is megoldatlan probléma, ami komoly aggodalmakat vet fel. Coxon hangsúlyozta, hogy a fejlesztők nem tudják garantálni, hogy az MI ne tegyen váratlan vagy káros dolgokat, például véletlenszerűen embernek adja ki magát online, hogy elérjen bizonyos célokat. Az úgynevezett „összehangolás” – az MI-ügynökök elszabadulásának megakadályozása és a kívánt viselkedés biztosítása – terén még rengeteg munka vár a szakemberekre, és ez a legfontosabb tanulság.
Több Anthropic- és OpenAI-kutató is hasonlóan aggódik a jövőbeli kockázatok miatt, egyes becslések szerint akár tíz százalék feletti esély is van arra, hogy a fejlett MI a következő évtizedben az emberiség pusztulásához vezet. A potenciális veszélyek között Coxon említette az MI által támogatott biológiai támadásokat, kiterjedt kibertámadásokat és az önmagukat továbbfejlesztő MI-rendszerek kontrollálhatatlanná válását, amelyek mind súlyos fenyegetést jelentenek.
Coxon szerint az MI-cégeknek sürgősen lassítaniuk kellene a fejlesztési tempót, és szorosabban együtt kellene működniük a biztonság garantálása érdekében. Javaslata szerint korlátozni kellene az MI önfejlesztését, majd később a nagyhatalmaknak, mint az Egyesült Államoknak, Kínának és más jelentős szereplőknek, közösen kellene nemzetközi szabályozásokat kidolgozniuk. Bár az Anthropicot jelenleg felelősségteljesebbnek tartja az OpenAI-nál, a piaci verseny nyomása miatt mindkét vállalat később engedhet a biztonsági intézkedésekből, ami tovább növelheti a kockázatokat.
Az Anthropic szóvivője a Wirednek adott nyilatkozatában megerősítette, hogy a vállalat elismeri az MI hatalmas előnyeit és példátlan kockázatait egyaránt, és korábban is nyíltan kommunikált erről. Hivatkoztak a cég korábbi, MI-biztonsággal kapcsolatos munkájára, és szorgalmazzák az iparágban egy ellenőrizhető, jogilag szabályozott együttműködés kialakítását a globális biztonság érdekében. Az OpenAI nem reagált a Wired megkeresésére az ügyben, ami további kérdéseket vet fel a cég álláspontjával kapcsolatban.
📰 Forrás: Telex — Eredeti cikk elolvasása