David Robinson, az OpenAI egyik biztonsági vezetője távozott a cégtől, komoly aggodalmakat megfogalmazva a mesterséges intelligencia fejlesztésének ütemével és biztonságával kapcsolatban. Szerinte az MI-cégek messze nem elég óvatosak, és a vállalati kultúra is megromlott. Ez a lépés egy szélesebb körű vitát tükröz a technológia jövőjéről és az emberiségre gyakorolt lehetséges hatásairól.
Robinson, aki a ChatGPT fejlesztői csoportjában az új termékekhez és fejlesztésekhez kapcsolódó biztonsági jelentéseket készítette, úgy véli, alapvető változásokra van szükség a legkorszerűbb mesterséges intelligencia-cégeknél. Kiemelte, hogy a technológiát fejlesztő vállalatok nem eléggé elővigyázatosak, és a problémák mélyebben gyökereznek, mint azt a konkrét szabályok vagy új törvények kezelni tudnák. Állítása szerint a teljes vállalati kultúráról kell beszélni, amely az OpenAI-nál is jellemzően egyik újításról a másikra ugrik, anélkül, hogy elérné a szükséges biztonsági szintet.
Az OpenAI az elmúlt hetekben látszólag lassított a fejlesztési tempón. Nemrég bejelentették, hogy elhalasztják egy új generációs MI-modelljük kiadását, miután a belső tesztelés során biztonsági aggályok merültek fel. Ez a döntés alátámasztja a belső kritikák létjogosultságát és a biztonsági szempontok növekvő súlyát a fejlesztési folyamatban.
David Robinson nem egyedül áll aggodalmaival a mesterséges intelligencia fejlesztésének üteme miatt. Geoffrey Irving, aki korábban az OpenAI-nál és a DeepMind-nál is dolgozott, szintén csatlakozott a vészharangot kongató szakértők köréhez. A Time magazinban megjelent cikkében Irving azt állította, hogy a mesterséges intelligencia potenciális pusztító erejéről szóló figyelmeztetések még alá is becsülik a helyzet súlyosságát.
Irving szerint 50 százalék az esélye annak, hogy az embernél okosabb MI-rendszerek fejlesztése az emberiség pusztulásához vezethet. Hangsúlyozta, hogy a következő 2-10 évben hozott döntések és lépések lesznek meghatározóak a jövőre nézve. Az MI-cégek saját fejlesztői egyre gyakrabban hívják fel a figyelmet arra, hogy az emberiség sorsa forog kockán, és a szabályozatlan fejlesztés végzetes következményekkel járhat.
Robinson javaslatai két fő területre fókuszálnak a biztonság növelése érdekében. Egyrészt az MI-cégeknek támaszkodniuk kellene más, nagy kockázatú iparágak, mint például a nukleáris energia vagy a repülés, biztonsági szakértelmére és bevált gyakorlataira. Ezek a területek évtizedek óta fejlesztettek ki robusztus biztonsági protokollokat és kultúrákat, amelyek adaptálhatók lennének az MI-szektorban.
Másrészt, egy teljesen új tudományágat kellene létrehozni, amely kifejezetten arra összpontosít, hogy a nagy teljesítményű, önállóan működő MI-rendszereket hatékonyan lehessen kordában tartani. Ez a tudományág biztosítaná, hogy a technológia fejlődésével párhuzamosan a kontrollmechanizmusok is fejlődjenek, megelőzve a potenciálisan veszélyes autonóm működést.
Az aggodalmak súlyát Geoffrey Irving extrém előrejelzése is aláhúzza, miszerint az emberiségnél okosabb MI rendszerek akár az emberiség felét is elpusztíthatják. Ez a riasztó prognózis sürgőssé teszi a biztonsági kérdések prioritásként kezelését és a felelősségteljes fejlesztési irányok meghatározását a közeljövőben.
A mesterséges intelligencia biztonságával kapcsolatos vita azonban nem egységes. Vannak szkeptikus hangok is, mint például Steve Eisman, a 2008-as pénzügyi válságot előrejelző szakember. Eisman szerint az MI-ben érdekelt cégeknek anyagi érdekük fűződik ahhoz, hogy pánikot keltsenek az MI biztonságával kapcsolatban, ezzel befolyásolva a szabályozási környezetet vagy növelve a befektetői figyelmet.
Ez a nézet rávilágít arra, hogy a technológiai fejlődés és a biztonsági aggodalmak közötti egyensúly megtalálása összetett feladat. A belső kritikák és a külső szkepticizmus egyaránt hozzájárulnak egy olyan párbeszédhez, amely elengedhetetlen a mesterséges intelligencia felelősségteljes és biztonságos jövőjének kialakításához. A következő évek döntőek lesznek abban, hogy a technológia milyen irányba fejlődik, és milyen hatással lesz az emberiségre.
📰 Forrás: Telex — Eredeti cikk elolvasása