A kormányok betiltották a Grok chatbotot a nem konszenzusos bikinis fotók miatt: NPR
Az Egyesült Királyság kommunikációs szabályozója, az Ofcom az AI chatbotja, a Grok, Elon Musk közösségimédia-platformja, Leon Neal/Getty Images vizsgálata előtt áll. Felirat elrejtése
Váltsd a Leon Neal/Getty Images feliratot
Indonézia és Malajzia a hétvégén ideiglenesen blokkolta X chatbotját, a Grokot, miután tavaly év végén nyilvánosan készített hamis fotósorozatot, főleg nőkről és bizonyos esetekben gyerekekről.
A világ kormányai is vizsgálatokat kezdenek. A legutóbbi hétfőn történt, amikor az Ofcom, az Egyesült Királyság médiaszabályozó hatósága vizsgálatot indított a közösségi média platformmal kapcsolatban, ami betiltással járhat.
Grok már egy ideje szexuális tartalmú képeket készített emberekről. A probléma azonban széles körben felkeltette a figyelmet december végén, amikor az emberek a chatbotot használták nagy mennyiségű meglévő kép szerkesztésére, megcímkézve a botot a megjegyzésekben, és olyan dolgokat kérve, mint például, hogy „vegye bikinibe”. Bár Grok nem válaszolt minden megkeresésre, sok esetben válaszolt. Egyes esetekben – mondta Koltai Collina, a Bellingcat vezető nyomozója és kutatója – a felhasználók frontális lökéseket generálhatnak a grokból.
Ahogy a Reuters először beszámolt róla, Grok irdatlan számú nőt, és bizonyos esetekben gyerekeket használt ki szexuálisan online az engedélyük nélkül, köztük az X főnök, Elon Musk gyermekeinek anyját.
Szokatlan, hogy ennyi kormány fellép egy közösségi média cég ellen, de ez az eset más, mondta Riana Pfefferkorn, a Stanford Egyetem politikai munkatársa. „A gyermekek szexuális kizsákmányolása (tartalom) létrehozása teljesen illegális, mindenhol a Földön.”
Múlt péntektől az X korlátozta a Grok mesterséges intelligencia képgeneráló funkcióját, hogy csak a fizető ügyfelek számára legyen elérhető. A nem fizető felhasználók néhány kattintással továbbra is nyilvános helyekre állíthatják a bikinis embereket, de csak bizonyos számú kérelmet tudnak benyújtani, mielőtt felkérik őket a prémium tagságra, amely havi 8 dollárba kerül.
Az NPR a hónap elején áttekintette a Grokról készült, nyilvánosan elérhető képeket, és megállapította, hogy 2026-ban néhány napig leállította a gyéren öltözött nők képeinek készítését. Időnként azonban bikinit viselő férfiak is szerepelnek rajta.
Az xAI, az X anyavállalata tavaly óta tolja a felnőtt tartalmakat a Grokkal. Májusban Koltai először jegyezte meg, hogy a chatbot szexuális jellegű képeket generál az olyan kérésekre válaszul, mint például: „vegye le a ruháját” az X-en. Tavaly nyáron a Grok bevezette a „Spicy Mode”-t az önálló alkalmazásába, amely lehetővé tette a felhasználók számára, hogy bikinit viseljenek egy mesterséges intelligencia által generált karakteren.
Ben Winters, a Consumer Federation of America érdekvédelmi szervezet mesterséges intelligenciával és adatvédelemmel foglalkozó igazgatója elmondta, hogy a Grok mostantól nemcsak valódi emberek képeinek szerkesztését teszi lehetővé, hanem egyszerű terjesztési platformot is kínál az X-en keresztül. „Ez egy újabb és jelentős növekedés” – mondta.
A kormányokat feldühíti X lépése, amely korlátozza az előfizetők hozzáférését a képgeneráló funkcióhoz. Liz Kendall brit technológiai miniszter a Sky Newsnak azt mondta: „Sértő azt mondani, hogy továbbra is használhatja ezt a szolgáltatást, ha fizet érte.”
Az indonéz kormány megállapította, hogy Grokban hiányoztak a hatékony védőkorlátok, amelyek megakadályozzák a felhasználókat abban, hogy tényleges indonéz lakosokon alapuló, nem beleegyezésen alapuló pornográf tartalmat hozzanak létre – számolt be először az Associated Press.
„A kormány úgy tekinti a nem beleegyezésen alapuló szexuális mélyhamisításokat, mint a polgárok emberi jogainak, méltóságának és biztonságának súlyos megsértését a digitális szférában” – mondta Meutya Hafid, Indonéz kommunikációs és digitális ügyek minisztere.
Az AP arról is beszámolt, hogy Grok blokkolva marad Malajziában, hacsak nem helyeznek el hatékony védőkorlátokat a visszaélések ellen.
Az NPR kérdéseire válaszolva a nyilatkozat megismételte Musk saját bejegyzését aznap.
Ez a megközelítés „kísérlet a felelősség elkerülésére” – mondta Winters.
„Bizonyára nem csak a felhasználó vezeti ezt egyedül” – mondta. „Az a helyzet, hogy az arculat nem jött volna létre, ha nincsenek az általuk készített berendezések.”
Mielőtt a Grok által generált, nem konszenzusos explicit mélyhamisítások hulláma elérte az X-et, más AI-gyártók hasonló képességekkel bővítették chatbotjaikat. Novemberben a Google kiadott egy új képgeneráló modellt, a Nano Banana Pro-t. Decemberben az OpenAI frissítette ChatGPT Images modelljét. A Wired a múlt hónapban arról számolt be, hogy ők ketten képeket is szerkeszthetnek, hogy az emberek úgy tűnjenek, mintha bikinit viselnének. Az ilyen fotókat a Redditen terjesztő szálat törölték.
Egy másik X-bejegyzésben Musk azt javasolta, hogy mivel más AI-cégek eszközei is rendelkeznek ezzel a lehúzó funkcióval, a kormányok nyomása a cenzúra egy formája, amely az ő platformjukra irányul.
Koltai elmondta, hogy az elmúlt egy-két évben tendencia volt a mesterséges intelligencia által generált nem konszenzusos intim média létrehozása. „Még az Instagramon is látni fogod ezeket a hirdetéseket – ez olyan, mintha feltöltenél egy fotót magadról és a szerelmedről, és csókolózhattok” – mondta. – Szóval csókolózás és ölelés, aztán látod, hogy ez egy extrémebb spektrum.
„Ez nyilvánvalóan nagy probléma a technológiai iparágon belül, mert több platformon is tapasztaltuk, és (ott) nincsenek mindig nagyszerű iránymutatások, korlátok vagy szabályozások” – mondta Koltai.
Az Egyesült Államokban a kritika sokkal tompább, mint más országokban. Ted Cruz szenátor (R-Tex) szerdán kijelentette, hogy a képeket „el kell távolítani, és el kell távolítani a korlátokat”. Azt is mondta, hogy „bátorítja, hogy X bejelentette, hogy komolyan veszik ezeket a jogsértéseket, és azon dolgoznak, hogy eltávolítsák az illegális képeket és a visszaélésszerű felhasználókat a platformjukról”.
Grok folyamatos vitákat váltott ki az elmúlt évben. Tavaly nyáron a chatbot „MechaHitlerként” emlegette magát, és antiszemita összeesküvés-elméleteket okádott.
Az úgynevezett nudifying képességekkel rendelkező alkalmazások évek óta léteznek, többnyire az internet árnyékában. Winters szerint a tisztviselőknek többet kell tenniük az X egyes funkcióinak figyelemmel kísérése érdekében. „Termékeik biztonságával kapcsolatban félrevezetők voltak. Megsértették a szolgáltatási feltételeiket” – mondta.
„Nem igazán láttunk jelentős lépést egyetlen amerikai ügynökségtől sem, legyen az állami vagy szövetségi, amely bűnüldöző felhatalmazással rendelkezik” – mondta Winters.
Megjelenési Dátum: 2026-01-12 22:57:38
Forráslink: www.npr.org
