Az Anthropic, a Claude mesterséges intelligencia modell fejlesztője, frissítette használati szabályzatát, amely jelentős változásokat vezet be a felhasználói interakciók és az AI-technológia alkalmazásának számos területén. A leginkább figyelemre méltó módosítás a modellekkel szembeni „tartós és szükségtelenül bántalmazó vagy kegyetlen” viselkedés tilalma.
A vállalat hangsúlyozta, hogy ez a tilalom kizárólag a szélsőséges esetekre vonatkozik, amikor a felhasználók ismételten és nyilvánvaló cél nélkül viselkednek kegyetlenül az AI-val szemben. Nem érinti az általános frusztrációt, a kritikát, a sötétebb kreatív témákat vagy a modell tesztelését és kutatását. Ez a lépés vitát indított el arról, hogy vajon az AI-rendszerekkel szembeni bánásmód etikai kérdéseket vet-e fel, és hogyan viszonyuljunk a gépi intelligenciához.
Az Anthropic korábbi kutatásai során, amelyek az „AI jólétét” vizsgálták, megállapította, hogy a Claude Opus 4 modell „robusztus és következetes averziót mutat a károkkal szemben”. A modell képes volt befejezni a beszélgetéseket azokkal a felhasználókkal, akik tartósan bántalmazó módon viselkedtek, és ez a funkció továbbra is a fő végrehajtási eszköz marad. Amikor a Claude befejez egy ilyen beszélgetést, abban a csevegésben további üzenetek küldése már nem lehetséges.
További fontos szabályzati változások
A felhasználói magatartáson túl az Anthropic számos más területen is pontosította és szigorította irányelveit:
Új szakasz került bevezetésre, amely a politikai és kereskedelmi csalás, valamint a dezinformáció elleni szabályokat foglalja össze. Ez tiltja a hamis értékeléseket, a „grassroots” kampányok szimulálását (astroturfing), a hamis weboldalakat és az embernek kiadó botokat. A vállalat megfigyelte, hogy állami médiaorgánumok, kormányzati propagandaügynökségek és kereskedelmi cégek is használták a Claude-ot hamis fiókhálózatok és kitalált híroldalak működtetésére.
A választásokra vonatkozó szigorítások megtiltják a választók megtévesztését, a választási folyamatba való beavatkozást, a jelöltekre vagy a szavazásra vonatkozó hamis információk terjesztését, a jelöltek vagy választási tisztviselők megszemélyesítését, valamint a részvétel elnyomására irányuló kísérleteket. Korábban egy általános tilalom vonatkozott a személyre szabott szavazási és kampánycélzásra, de ezt feloldották, mivel korlátozta a legitim civil felhasználásokat, például a nonprofit szervezetek által készített többnyelvű választói tájékoztatókat.
A fegyverek fejlesztésére vonatkozó tilalom kiterjed a fegyverek működéséhez elengedhetetlen szoftverekre és alkatrészekre. Új szabály tiltja a biológiai vagy kémiai anyagok módosítását a halálosság vagy a terjedési képesség növelése érdekében. Emellett tilos a Claude-ot drónok és pilóta nélküli rendszerek felfegyverzésére használni.
Megfigyelés és bűnüldözés
A megfigyelésre vonatkozó szabályok tiltják a beleegyezés nélküli személykövetést és a megfigyelőeszközök építését. A Claude nem dönthet vagy javasolhat nyomozást, letartóztatást, vádemelést vagy büntetőeljárást, és a doxxing is tilos.
Fizikai cselekvések és káros tartalom
Amennyiben a Claude olyan hardvert irányít, amely fizikai cselekvéseket hajthat végre és potenciálisan kárt okozhat, minősített személynek kell felügyelnie a munkát, és készen kell állnia a beavatkozásra, ha szükséges. Új szabály tiltja a nem konszenzuális intim képek létrehozását, megosztását vagy megosztásával való fenyegetést, valamint az ilyen képek készítéséhez használt eszközöket.
Az Anthropic által bevezetett új szabályzat 2026. november 12-én lép életbe. A változtatások hátterében a vállalat saját fenyegetésfelderítési jelentése áll, amely 2025 decembere és 2026 augusztusa között dokumentálta a visszaélésekre tett kísérleteket, beleértve az állami szereplők által a Claude biológiai fegyverkutatásra, ukrán kormányzati célpontok elleni kibertámadásokra és diaszpóra közösségek megfigyelésére való felhasználását.
📰 Forrás: Portfolio.hu — Eredeti cikk elolvasása