A kanadai Crown Mountainen egy 16 éves túrázót kellett helikopterrel kimenteni egy veszélyes sziklapárkányról, miután az Anthropic Claude nevű mesterséges intelligencia chatbotjával részben megtervezett útvonalon tévedésből komoly felkészültséget igénylő sziklás terepre jutott. A fiatal túrázó sértetlenül megúszta a kalandot, de kijelentette, hogy a jövőben nem fog mesterséges intelligenciát használni útvonaltervezésre. Az eset rávilágít az AI-alapú eszközök felelősségteljes használatának fontosságára a valós élethelyzetekben.
Bryce Vincent Gowryluk egy nyolcórásra tervezett, nehéz hegyi túrára indult a Vancouver melletti hegyekben. A mintegy 1250 méter magas Grouse Mountain tetejéről indult, majd meredek, sziklás terepen haladt, mielőtt egy sziklatömbökkel teli völgybe ereszkedett volna. Jelzett ösvény hiányában tévesen azt hitte, a Crown Couloir felé tart, ami egy jelzetlen, meredek útvonal a Crown Mountain oldalában, inkább a túrázás és a sziklamászás határterületére esik.
Valójában azonban a Widowmaker Arete nevű, rendkívül kitett és meredek sziklaformációra tévedt, amelyhez általában kötélre és más mászófelszerelésre van szükség. A terep egyre nehezebbé vált, míg végül egy körülbelül másfél méter széles földpárkányon rekedt, ahol mögötte meredek esés, előtte pedig szinte függőleges sziklafal állt. Miután rájött, hogy nem tud biztonságosan továbbhaladni vagy visszafordulni, felhívta édesanyját, majd a rendőrséget.
A riasztott North Shore Rescue önkéntes mentőcsapat telefonon bemérte a helyzetét, és helikoptert küldött érte. Míg a mentésre várt, két mászó, akik meghallották segélykiáltásait, hőtartó fóliával és élelemmel segítették. A helikopter a sziklafal közelsége miatt nem tudott közvetlenül Bryce-hoz repülni, ezért két mentő ereszkedett le a párkány fölötti sziklára. Egyikük kötéllel lejutott a fiúhoz, majd biztonságosabb pontra vezette, ahonnan a helikopter már ki tudta emelni.
Bryce Vincent Gowryluk rendszeresen túrázik és beltéri mászóterembe is jár, korábban már feljutott az 1504 méter magas Crown Mountain csúcsára is. Ezt a konkrét útvonalat azonban még nem ismerte, és a tervezéshez digitális térképek és túraalkalmazások mellett az Anthropic Claude chatbotját is igénybe vette. Bár vitt magával beülőt, sisakot és mászócipőt, Paul Markey, a North Shore Rescue mentésvezetője szerint nem volt megfelelően felkészülve arra a sziklamászó helyzetre, amelybe került.
Markey a mentés után arra figyelmeztette Bryce-t, hogy ne hagyatkozzon kizárólag mesterséges intelligenciára útvonaltervezésnél, és ne másszon egyedül. Kiemelte, hogy az AI javaslatait csak megfelelő terepismerettel és józan mérlegeléssel szabad kezelni. Bryce később elmondta, hogy nem Claude-ot hibáztatja, hanem saját tévedésének tartja a történteket.
A fiatalember nem akar lemondani a mászásról, sőt, egyik célja, hogy a legfiatalabb kanadaiként jusson fel a Mount Everestre. Az AI-hoz való viszonya azonban megváltozott: tanulásra, szervezési feladatokra és üzleti célokra továbbra is használná, de túraútvonalak tervezésére már nem.
A New York Times beszámolója szerint az eset nem kizárólagosan az AI hibáját bizonyítja, hanem inkább azt, hogy egy nehéz, jelzetlen terepre induló felhasználó több digitális eszköz – köztük Claude – tanácsait is bevonta, majd a terepen rossz döntési láncba került. A chatbot szerepe létező, de nem kizárólagos ok; legalább ilyen fontos volt az egyedüli mászás, a helyismeret hiánya, a terep hibás felmérése és a visszafordulási pont elmulasztása.
Az elmúlt két évben több olyan ügy is volt, amelyben AI-rendszerek válaszai valós döntési helyzetekben váltak kockázati tényezővé. Ezek az esetek rávilágítanak arra, hogy a mesterséges intelligencia által adott magabiztos válaszok veszélyesek lehetnek, ha a felhasználó szakmai kontroll, terepismeret vagy józan ellenőrzés nélkül cselekvési utasításként kezeli azokat. A tanulság nem az, hogy az AI „rémség”, hanem az, hogy kritikus gondolkodással kell megközelíteni a gépi javaslatokat.
Az AI-rendszerek felelősségteljes használatának kérdése számos területen felmerült már.
Ezek az esetek egyértelműen jelzik, hogy az AI-eszközök hasznosak lehetnek, de a felhasználóknak mindig kritikus szemlélettel és megfelelő szakértelemmel kell megközelíteniük az általuk generált információkat, különösen, ha azok valós életbeli döntéseket befolyásolnak.
📰 Forrás: Portfolio.hu — Eredeti cikk elolvasása