Az amerikai hadsereg tavasszal, egy közel-keleti konfliktus idején, egy mesterséges intelligencia által generált téves hírszerzési jelentés alapján készült feltartóztatni egy kínai hajót. A jelentés szerint a hajó nukleáris fegyverprogramhoz használható alkatrészeket szállított, ami azonnali katonai válaszlépéseket indított el, és komoly nemzetközi feszültséget okozhatott volna.
A CNN négy, az ügyet ismerő forrása szerint az amerikai hadsereg a jelentés alapján megkezdte a hajó feltartóztatásának előkészítését. Fegyveres katonák készültek a fedélzetre lépni, és katonai repülőgépeket is a levegőbe emeltek, jelezve a művelet komolyságát és sürgősségét.
Nem sokkal a tervezett akció előtt azonban a tisztviselők alaposabban megvizsgálták a hírszerzési információkat, és ekkor derült fény arra, hogy annak elkészítéséhez mesterséges intelligenciát használtak. Egy különleges műveleti parancsnokság elemzője egy chatbot segítségével értékelte a hajó rakományáról szóló adatokat, a rendszer azonban tévesen azonosította a szállított anyagot.
Egy forrás szerint a jelentés teljes egészében hamis volt, és kis híján háborút robbantott ki, mivel egy kínai hajó elleni amerikai katonai akció könnyen fegyveres konfliktussá eszkalálódhatott volna a két ország között. A CNN nem tudta megállapítani, valójában mi volt a hajón, de a tévedés súlyos következményekkel járhatott volna a nemzetközi stabilitásra nézve.
Az elemző a chatbotban a hajó rakományjegyzékével kapcsolatos, az amerikai csendes-óceáni különleges műveleti parancsnokságtól származó hírszerzési információkra kérdezett rá. A chatbot nyílt forrású adatokat és titkos amerikai hírszerzési információkat kapcsolt össze, ezekből jutott téves következtetésre a rakomány jellegét illetően.
Nem tisztázott, hogy az elemző kereskedelmi forgalomban elérhető vagy amerikai kormányzati MI-rendszert használt-e az adatok feldolgozásához. Az MI által generált téves eredményt az elemző ezután ismét mesterséges intelligencia segítségével rendezte a hadseregben megszokott hírszerzési jelentés formájába, majd továbbította a döntéshozóknak.
Az eset különösen azért fontos, mert az amerikai hadsereg és hírszerző közösség egyre szélesebb körben alkalmazza a mesterséges intelligenciát a műveletei során. Az MI-t a hatalmas mennyiségű hírszerzési adat elemzésétől és a katonai célpontok kiválasztásától kezdve a logisztikán és az ellátási láncokon át a költségvetési feladatokig egyre több területen alkalmazzák.
Pete Hegseth védelmi miniszter év elején jelentette be a Pentagon MI-használatának felgyorsítását célzó stratégiáját, amelynek egyik célja, hogy a technológia a tárca mintegy hárommillió katonai és civil alkalmazottja számára is hozzáférhető legyen. Ez a széleskörű bevezetés azonban számos kihívást és kockázatot rejt magában.
A CNN forrásai szerint az MI bevezetése meglehetősen decentralizáltan zajlik, ami azt jelenti, hogy a hadsereg és a hírszerzés különböző szervezetei eltérő rendszereket, biztonsági szabályokat és ellenőrzési eljárásokat alkalmaznak. Nincs egységes szabály arra sem, hogyan kell ellenőrizni az MI által előállított információkat, ami jelentős biztonsági rést jelent.
Ez a hiányosság különösen a katonai célpontok kiválasztásánál jelent kockázatot, ahol egy hibás következtetésnek halálos következményei lehetnek. Egy forrás szerint nincs egyértelmű iránymutatás arra sem, hogyan kell biztosítani az emberi ellenőrzést úgy, hogy elkerüljék a civil áldozatokat vagy a saját erők elleni téves támadásokat.
A kínai hajó esete ráadásul nem az egyetlen alkalom volt, amikor az MI úgynevezett hallucinációja problémát okozott az amerikai hírszerzésben, ami aggodalomra ad okot. Több tisztviselő attól tart, hogy a technológia a gyorsabb elemzés és jelentéskészítés iránti nyomást is fokozza, miközben a fiatalabb elemzők hajlamosabbak lehetnek kritikátlanul megbízni az általuk rutinszerűen használt rendszerekben.
Az egyik forrás találóan úgy foglalta össze a helyzetet, hogy az MI lehetővé teszi, hogy az ember gyorsabban jusson el egy rossz ötlethez. Ez a megállapítás rávilágít a mesterséges intelligencia felelős és ellenőrzött alkalmazásának kritikus fontosságára a katonai és hírszerzési területeken, elkerülve a potenciálisan katasztrofális következményeket.
📰 Forrás: Telex — Eredeti cikk elolvasása