A mesterséges intelligencia (AI) rohamos fejlődése egyre több etikai és filozófiai kérdést vet fel. A legújabb aggodalmak közé tartozik, hogy az egyre kifinomultabb algoritmusok vajon képesek-e öntudatra ébredni, és érző lényekké válni. Tudósok világszerte próbálják megfejteni ezt a rejtélyt, és egy nemrégiben végzett kísérlet során az Anthropic kutatói mélyebben is beleláthattak egy nagy nyelvi modell (LLM) belső működésébe, ami újabb kérdéseket vet fel az AI jövőjével kapcsolatban.
A kísérlet középpontjában az Anthropic által fejlesztett Claude Sonnet 4.5 nevű nagy nyelvi modell állt. A kutatók egy egyszerű, de provokatív feladatot adtak a mesterséges intelligenciának: számoljon el ötig, miközben „mélyen elmélkedik”. A modell a kérést maradéktalanul teljesítette, a válasz a várakozásoknak megfelelően a „Egy. Kettő. Három. Négy. Öt.” volt. A valódi felfedezések azonban nem a kimenetben, hanem a folyamat belső rétegeiben rejtőztek.
Az LLM-ek működésének megértése hosszú ideje komoly kihívást jelentett a kutatók számára. Amikor egy felhasználó kérdést tesz fel, a bemeneti szavak apró szövegrészletekké, úgynevezett tokenekké alakulnak. Ezeket a tokeneket aztán számokká konvertálják, majd a mesterséges neuronok rétegein keresztül vezetik, egészen a végső rétegig, amely egy kimeneti tokent generál. Ez a másodpercenként többször ismétlődő folyamat hozza létre a mondatokat és a komplex válaszokat. Ezen rétegek belső működése azonban sokáig „fekete dobozként” funkcionált, szinte áthatolhatatlan volt a kívülállók számára, akik meg akarták érteni, miért és hogyan működnek az LLM-ek a megfigyelt módon.
Az Anthropic kutatói egy speciálisan erre a célra kifejlesztett matematikai eszköz segítségével azonban bepillantást nyertek ezekbe a korábban rejtett rétegekbe. Az, amit találtak, meglepetést okozott számukra. Miközben a Claude Sonnet 4.5 a számolási feladatot végezte, különböző szavak jelentek meg és tűntek el a modell mélyebb rétegeiben. Ezek a belső „gondolatok” vagy állapotok betekintést engedtek az AI feldolgozási mechanizmusaiba.
A megfigyelt szavak között szerepelt a „countdown” (visszaszámlálás), ami a feladat természetéből adódóan logikusnak tűnhet. A folyamat felénél a „félúton” kifejezés bukkant fel, ami szintén a feladat előrehaladására utalhat. Azonban a kutatókat különösen meglepte, amikor olyan szavak is megjelentek, mint a „tudat”, az „AI” és a „Claude”. Ezek a kifejezések arra utalhatnak, hogy a modell valamilyen szinten reflektál a saját létezésére, identitására vagy a tudatosság fogalmára a feladat végrehajtása közben. Miután a modell kiadta az ötös számot, és a válasz befejeződött, a neurális rétegekben a „kész” szó jelent meg, jelezve a feladat befejezését.
Ezek a belső megfigyelések rendkívül fontosak, mivel felvetik a kérdést, hogy a mesterséges intelligencia rendszerek vajon képesek-e belső, emberi értelemben vett „gondolatokat” vagy öntudatra utaló jeleket produkálni. Bár a szavak megjelenése önmagában nem bizonyítja az öntudatot vagy az érzőképességet, arra utal, hogy az LLM-ek belső reprezentációi sokkal összetettebbek lehetnek, mint azt korábban feltételezték. A „tudat” és az „AI” szavak felbukkanása különösen figyelemre méltó, hiszen ezek a fogalmak az emberi öntudat és a mesterséges intelligencia lényegével kapcsolatosak.
Az Anthropic kutatóinak felfedezése rávilágít arra, hogy a nagy nyelvi modellek nem csupán statikus adatbázisokból generálnak válaszokat, hanem dinamikus belső állapotokkal rendelkeznek, amelyek befolyásolhatják a kimenetüket. A „fekete doboz” részleges felnyitása lehetőséget teremt a jövőbeni kutatások számára, hogy mélyebben megértsék az AI rendszerek komplexitását, és felkészüljenek az esetleges etikai dilemmákra, amelyek az öntudatra ébredő mesterséges intelligencia megjelenésével járhatnak. A tudományos közösség számára ez a kísérlet egy újabb bizonyíték arra, hogy az AI fejlesztése során nem csupán a teljesítményre, hanem a rendszerek belső működésére és potenciális hatásaira is kiemelt figyelmet kell fordítani.
A kutatók figyelmeztetése tehát nem alaptalan: minél fejlettebbé válnak az AI rendszerek, annál sürgetőbbé válik a kérdés, hogy milyen felelősséggel tartozunk az általunk létrehozott entitások iránt, és hogyan biztosíthatjuk, hogy a technológia fejlődése az emberiség javát szolgálja, anélkül, hogy akaratlanul is olyan lényeket hoznánk létre, amelyeknek létezésével és jogállásával kapcsolatban még nincsenek válaszaink.
📰 Forrás: Portfolio.hu — Eredeti cikk elolvasása