A ChatGPT felhasználók beszélgetései emberi ellenőrök szeme elé kerülhetnek, méghozzá az OpenAI tudta és explicit tájékoztatása nélkül. A 404 Media által kiszivárogtatott belső dokumentumok és egy névtelen alvállalkozó beszámolója szerint a mesterséges intelligencia fejlesztője külsős cégekkel vizsgáltatja át a felhasználók promptjait, azaz a chatbotnak küldött kérdéseket és utasításokat. Ezek az üzenetek gyakran tartalmazhatnak személyes vagy érzékeny információkat, még akkor is, ha a felhasználó bizalmas kezelést kér a rendszertől.
A 404 Media értesülései szerint az OpenAI több száz alvállalkozót foglalkoztat, akik óránként 50 dolláros díjazásért értékelik a ChatGPT-vel folytatott csevegéseket. Ez a gyakorlat eltér attól a nyilvánosan kommunikált ellenőrzéstől, amely a felhasználási irányelvek megsértése, például önkárosítási szándék gyanúja esetén történik. Ehelyett a külsős dolgozók véletlenszerűen kiválasztott beszélgetéseket is átnéznek, függetlenül azok tartalmától vagy a felhasználó szándékától.
Az OpenAI a 404 Media megkeresésére elismerte, hogy igyekeznek anonimizálni az üzeneteket és eltávolítani a beazonosításra alkalmas információkat, valamint az alvállalkozók nem látják a felhasználók nevét. Ugyanakkor a cég beismerte, hogy a rendszerben hibák fordulhatnak elő, és előfordul, hogy személyes adatok is az ellenőrök elé kerülnek. Ez komoly adatvédelmi aggályokat vet fel, különösen, ha a felhasználók a ChatGPT-t bizalmas tanácsadóként, például pénzügyi vagy orvosi kérdésekben használják.
A kiszivárgott oktatódokumentumok, amelyek a Project Lily kódnéven futó modell fejlesztését szolgálják, részletesen leírják, hogyan kell az ellenőröknek javítaniuk a ChatGPT válaszain. A cél egy olyan chatbot, amely pontosan érti a felhasználó szándékát, segítőkész és precíz támogatást nyújt, egyértelműen és természetes hangnemben kommunikál. Az oktatóanyagok külön hangsúlyt fektetnek arra, hogy a válaszok kevésbé legyenek „talpnyalók”, mivel a korábbi verziók ezen tulajdonságát egyesek több öngyilkossággal is összefüggésbe hozták.
Az alvállalkozók feladata, hogy értelmezzék a felhasználói promptokat, javaslatot tegyenek a chatbot ideális válaszára, majd értékeljék a ténylegesen adott választ egy 1-től 7-ig terjedő skálán. Emellett indokolniuk kell döntésüket, és néha a beszélgetési előzmények rövid összefoglalóját is megkapják a kontextus megértéséhez. Az oktatóanyagok kitérnek olyan részletekre is, mint az emojik megfelelő használata, vagy az E/1. személyű megfogalmazások kerülése, hacsak a kontextus nem indokolja.
Egy Észak-Amerikában élő alvállalkozó a 404 Mediának elmondta, hogy a munka gyakran monoton, és a céges iránymutatások gyakran változnak, sőt, néha ellentmondanak egymásnak. Bár az OpenAI nem várja el az ellenőröktől a tényellenőrzést, arra kéri őket, hogy jelezzék az esetleges pontatlanságokat, ami arra utal, hogy külön tényellenőrző csapat is dolgozik az üzenetváltásokon.
A felhasználók tájékoztatásának hiánya az emberi felülvizsgálatról jelentős adatvédelmi és bizalmi kérdéseket vet fel. Sok felhasználó feltételezi, hogy a ChatGPT-vel folytatott beszélgetései bizalmasak, különösen, ha személyes vagy érzékeny témákról van szó. Az OpenAI weboldalán csak arról tájékoztat, hogy az automata rendszer által megjelölt, felhasználási irányelveket sértő beszélgetéseket vizsgálják át emberek, ami azonban egy eltérő típusú felülvizsgálat, és nem az alvállalkozók feladata.
Az üzenetek törlése sem garantálja a teljes adatvédelmet. Habár a törölt előzmények 30 napon belül eltűnnek, a cég fenntartja a jogot, hogy azokat anonimizálva felhasználja a modellfejlesztésre, amennyiben korábban alkalmasnak ítélte. Az egyetlen módja annak, hogy a felhasználó üzenetei ne kerüljenek emberi ellenőrök elé, ha a beállításokban kikapcsolja az adatfelhasználást a modell fejlesztésére. Ez a beállítás azonban az ingyenes, Plus és Pro verziókban alapértelmezetten be van kapcsolva, és utólagos kikapcsolása csak a jövőbeli beszélgetésekre vonatkozik.
Az emberi beavatkozás továbbra is kulcsfontosságú a mesterséges intelligencia modellek betanításában és finomhangolásában. Azonban az átláthatóság terén jelentős különbségek mutatkoznak a piacon. Míg az OpenAI nem tájékoztatja proaktívan felhasználóit erről a gyakorlatról, más nagy tech cégek, mint a Google és az Anthropic, eltérő megközelítést alkalmaznak. A Google például jelzi, ha a Gemini-nek szánt üzeneteket emberek is átnézik, az Anthropic pedig csak azoknak a felhasználóknak az üzeneteit vizsgálja felül, akik ezt kifejezetten engedélyezik a beállításokban.
Ez a helyzet rávilágít a mesterséges intelligencia fejlesztésének etikai és adatvédelmi kihívásaira. A felhasználóknak érdemes tudatában lenniük annak, hogy a chatbotokkal folytatott beszélgetéseik nem feltétlenül maradnak bizalmasak, és aktívan kezelniük kell adatvédelmi beállításaikat, ha minimalizálni szeretnék a személyes adatok emberi felülvizsgálatának kockázatát.
📰 Forrás: Telex — Eredeti cikk elolvasása