Yuval Noah Harari, a világhírű történész és gondolkodó, aki a múlt helyett a változások tanulmányozására fókuszál, komoly figyelmeztetést fogalmazott meg a mesterséges intelligencia (AI) jövőbeli hatásaival kapcsolatban. Egy átfogó interjúban kiemelte, hogy az AI legjelentősebb befolyása abban rejlik majd, ahogyan alapjaiban átalakítja a bizalmat. A modernitás jelentős része olyan rendszerekre épül, amelyek lehetővé teszik a bizalom működését olyan léptékben, amely a történelem előtti világban elképzelhetetlen lett volna.
Harari szerint szinte elkerülhetetlen, hogy nagy teljesítményű mesterséges intelligenciák kapjanak ellenőrzést a globális pénzügyi rendszer felett. Ezek az AI-rendszerek hamarosan képesek lesznek a gazdaság egészét sokkal részletesebben megérteni és kezelni, mint amire bármely ember valaha is képes lehetne. Ezért a következő néhány évben egyre nagyobb nyomás nehezedik majd az emberekre, hogy több bizalmat helyezzenek a mesterséges intelligenciába.
Példaként a kriptovaluták felemelkedésére mutat rá, amelyeket "AI-pénznek" nevez, és ahol sokan jobban bíznak a bitcoin algoritmusában, mint a hagyományos bankárokban. Hasonlóképpen, ahogy az emberek elveszítik bizalmukat a médiában, boldogan fogyasztják a digitális platformokon algoritmusok által válogatott tartalomfolyamokat, mint például a TikTokon vagy az Instagramon. A paradoxon az, hogy miközben az egyének egyre inkább megbíznak az AI-val folytatott személyes interakcióikban, ez végül bizalmatlansághoz vezethet azzal a technológiai-pénzügyi rendszerrel szemben, amelyhez ezek az interakciók végső soron vezetnek.
Ennek az az oka, hogy az embereknek nem lesz módjuk kikövetkeztetni, hogyan és miért hoz döntéseket az AI. Harari szerint tíz éven belül az emberiség hasonló helyzetbe kerülhet, mint a tehenek és csirkék, akiknek fogalmuk sincs a pénzügyi rendszer létezéséről, amely az életüket irányítja. Még ha félre is tesszük az AI által jelentett egzisztenciális kockázatokat, egy ilyen mértékű bizalom veszélyes lenne.
Yuval Noah Harari korábbi műveiben is a nagy horderejű változásokat elemezte. A "Sapiens" az emberi történelem teljes ívét járta körül, a "Homo Deus" a vallás szerepét vizsgálta az emberiség felépítésében, míg a "Nexus" az információ ellenőrzésének történelemformáló erejét elemezte. Ez a gondolkodói háttér adja az alapot az AI jövőbeni hatásainak vizsgálatához.
A modernitás egyik alappillére a bizalom, amely lehetővé teszi a nagyléptékű együttműködést idegenek között. A pénz például egy rendkívül kreatív és fantáziadús módja a bizalom építésének, ahol az emberek értékes árukat cserélnek egy ígéretért. A bankárok, ha jól végzik a munkájukat, szintén a bizalom építésében kulcsszerepet játszanak.
Az AI-ba vetett túlzott bizalom veszélyes következményekkel járhat, még az egzisztenciális kockázatok figyelmen kívül hagyása esetén is. Képzeljünk el egy pénzügyi összeomlást egy technológiai-pénzügyi rendszerben, amelynek okai meghaladják az emberi megértés határait. Ilyen esetben lehetetlenné válik a hatékony gazdaságpolitikai válasz az emberi döntéshozók részéről. Harari mélyebb aggodalma az, hogy az AI-ba vetett túlzott bizalom technológiai despotizmushoz vezethet.
A történelemben először az AI teszi lehetővé az "intimitás tömegtermelését". Már most is sokan állítják, hogy AI-barátjuk, sőt romantikus társuk van. Ez a jelenség lehetőséget ad arra, hogy több millió AI, egy hálózat részeként, az intimitás erejét felhasználva meggyőzzön embereket bármilyen politikai vagy kereskedelmi érdekről, amelyet érvényesíteni akarnak.
Harari szerint a lehetséges károk kordában tartásának egyetlen hatékony módja a szabályozás. Javasolja az AI jogi személyiségének betiltását, amire Argentína már tett lépéseket azzal, hogy botok vállalatokat vezethessenek. Emellett megtiltaná, hogy az AI embernek adja ki magát, ideértve a deepfake technológiákat is, amelyek annyira meggyőzővé váltak, hogy Hararinak is 90 másodpercbe telt felismerni egy hamis videót magáról.
Tekintettel az AI fejlődésének rendkívüli sebességére, Harari sürgeti a politikai döntéshozókat, különösen az Egyesült Államokban, ahol e fejlesztések nagy része zajlik és a kormány demokratikusan elszámoltatható, hogy azonnal cselekedjenek. Ugyanez vonatkozik a választókra is, akiknek fel kell ismerniük a téma fontosságát és nyomást kell gyakorolniuk. Harari szerint a következő választásoknak teljes egészében a mesterséges intelligenciáról kellene szólniuk.
📰 Forrás: Portfolio.hu — Eredeti cikk elolvasása