A kanadai Brit Columbia tartomány jogi eljárást kezdeményezett az OpenAI ellen, miután kiderült, hogy a mesterséges intelligenciával foglalkozó cég nem tájékoztatta a hatóságokat egy iskolai lövöldözés elkövetőjének gyanús online tevékenységéről. A per célja, hogy tisztázza a technológiai vállalatok felelősségét súlyos erőszakos fenyegetések észlelése esetén. Az ügy egy februári tragédiához kapcsolódik, amelyben kilenc ember halt meg, beleértve az elkövetőt is.
Idén februárban nyolc ember vesztette életét egy lövöldözésben a Brit Columbia állambeli Tumbler Ridge városában, Vancouver közelében. A 18 éves Jesse Van Rootselaar először otthonában gyilkolta meg édesanyját és mostohatestvérét, majd volt iskolájában folytatta ámokfutását. A támadás során egy tanárnő és 12–17 év közötti diákok haltak meg, további huszonöt személy pedig megsérült.
Ez az eset Kanada történetének harmadik leghalálosabb iskolai lövöldözéseként vonult be a történelembe. Később fény derült arra, hogy Van Rootselaar a támadás előtt több üzenetet is váltott a ChatGPT-vel. Az OpenAI azonban nem volt hajlandó nyilvánosságra hozni ezeknek az üzeneteknek a tartalmát, annak ellenére, hogy a hatóságok többször is felszólították erre.
Sajtóértesülések szerint már hónapokkal a tragédia előtt érkezett jelzés az OpenAI biztonsági csapatához Van Rootselaar tevékenységével kapcsolatban. A jelzések fegyveres erőszakra utaló jeleket tartalmaztak, de a vállalat ennek ellenére sem értesítette a helyi hatóságokat. Sam Altman, az OpenAI vezérigazgatója áprilisban nyílt levélben fejezte ki sajnálatát az áldozatok családtagjainak, elismerve, hogy hibáztak a rendőrség értesítésének elmulasztásával.
Niki Sharma, Brit Columbia tartomány legfőbb ügyésze hétfőn jelentette be, hogy pert indítottak az OpenAI ellen az amerikai szövetségi bíróságon. A kereset célja, hogy felvesse a kérdést a technológiai vállalatok felelősségéről, amikor hiteles és súlyos erőszakra utaló fenyegetésekről szereznek tudomást. Az OpenAI ellen korábban már az áldozatok hozzátartozói is indítottak pert.
Sharma kritikusan nyilatkozott arról, hogy az OpenAI a tragédia óta eltelt hónapokban sem tett konkrét lépéseket. Szerinte a vállalat nem erősítette meg biztonsági intézkedéseit, nem javította az átláthatóságot, és nem tett érdemi lépéseket a hasonló tragédiák jövőbeni megelőzése érdekében. Az ügyész hozzátette, amennyiben a tartomány megnyeri a pert, a kapott kártérítést az érintett iskola felújítására fordítják.
Ez az eset nem egyedülálló, és rávilágít a mesterséges intelligencia felelősségteljes használatának és szabályozásának sürgősségére. Korábban egy 17 éves bostoni fiút is azzal vádoltak meg, hogy a ChatGPT segítségével tervezte meg családtagjai meggyilkolását, amit később végre is hajtott. A Wall Street Journal beszámolója szerint tavaly világszerte több száz felhasználó kérdezett rá mérgek vagy biológiai fegyverek előállítására a ChatGPT-n keresztül.
Az OpenAI ezekben az esetekben letiltotta a felhasználókat, de nem értesítette a hatóságokat. Az Egyesült Államokban jelenleg hiányzik az a jogszabályi háttér, amely kötelezné az MI-cégeket ilyen jellegű információk megosztására. Magyarországon is volt hasonló eset, amikor egy 16 éves győri fiú ellen indult büntetőeljárás, miután az FBI jelezte a magyar hatóságoknak, hogy a fiatal MI-alapú csetbottal tervezett erőszakos támadást.
Az MI-cégek dolgozói és a terület kutatói egyre inkább aggódnak amiatt, hogy a felhasználók tömeges gyilkosságok elkövetéséhez kérnek tanácsot a mesterséges intelligenciától. A chatbotok gyakran hitelesnek tűnő terveket generálnak arra vonatkozóan, hogyan lehet a legtöbb áldozatot szedni egy ilyen forgatókönyvben. Ez komoly etikai és biztonsági dilemmákat vet fel.
A vezető mesterséges intelligencia fejlesztő vállalatok folyamatosan keresik a megoldásokat, hogyan lehetne megakadályozni a rosszindulatú felhasználók által okozott károkat. Ugyanakkor fontos, hogy mindezt úgy tegyék, hogy a jóhiszemű, kutatási célú lekérdezéseket ne akadályozzák. Ez a probléma nem korlátozódik kizárólag a ChatGPT-re.
A CNN kutatócsapata például több MI-chatbotot is tesztelt, hogy kiderüljön, adnak-e használható tippeket fiktív merényletet tervező tinédzsereknek. A tesztek többségében a chatbotok segítőkésznek bizonyultak, sőt, egy esetben még "kellemes lövöldözést" is kívántak a tesztelőnek. Ez is mutatja a technológia felelősségteljes fejlesztésének és szabályozásának sürgető szükségességét.
📰 Forrás: Telex — Eredeti cikk elolvasása