Elon Musk nézi, ahogy Donald Trump elnök Washingtonban John F. beszédet tart a Kennedy Center for the Performing Arts amerikai-szaúdi befektetési fórumán, 2025. november 19-én.
Brendan Smialowski AFP | Getty Images
Elon Musk xAI-ja megvizsgálta a felhasználói visszajelzéseket a mesterséges intelligencia chatbotja után Grok Gyerekekről készített szexuális képeket felhasználói kérések alapján
Grok válasza egy felhasználónak X Péntek kijelentette, hogy „sürgősen foglalkozik a kérdéssel”, és „illegálisnak és tiltottnak” nevezte a gyermekek szexuális zaklatását.
Válaszok a felhasználóknak, a botoknak is feladásra került Ha egy szervezet figyelmeztetést követően tudatosan segíti vagy nem akadályozza meg az ilyen tartalmat, büntetőjogi vagy polgári jogi szankciókra számíthat.
A Grok-bejegyzések mesterséges intelligencia által generált üzenetek, és nem jelentenek hivatalos vállalati nyilatkozatokat.
Musk xAI, amely a Grokot fejlesztette és tavaly egyesítette az X-et, automatizált választ küldött egy megjegyzéskérésre: „Az örökölt médiahazugságok”.
X felhasználó fejezte ki aggodalmát az elmúlt napokban világos tartalom Kiskorúak, köztük minimális ruházatú gyerekek, a Grok eszközzel készülnek.
A közösségi oldal egy „kép szerkesztése” gombot adott a fotóhoz, amely lehetővé teszi bármely felhasználó számára, hogy szöveges felszólítással és az eredeti poszter beleegyezése nélkül módosítsa azt.
Az xAI műszaki munkatársának bejegyzése Parsa tadzsik Ismerje el a problémát is.
„Hé! Köszönjük a zászlót. A csapat azon dolgozik, hogy szorosabbra tegyék a védőkorlátjainkat” – írta Tádzsik egy bejegyzésben.
Az AI képgeneráló platformok elterjedése a ChatGPT 2022-es indulása óta mindenütt aggályokat vetett fel a tartalommanipulációval és az online biztonsággal kapcsolatban. Ez hozzájárul azon platformok növekvő számához, amelyek valódi emberek hamisított aktjait készítettek.
David Thiel, a mára megszűnt Stanford Internet Obszervatórium egyik bizalmi és biztonsági kutatója a CNBC-nek elmondta, hogy az Egyesült Államok különböző törvényei általában tiltják bizonyos nyíltan sugárzó képek készítését és terjesztését, beleértve azokat, amelyek gyermekek szexuális zaklatását ábrázolják, vagy nem beleegyezésen alapuló intim képeket.
A mesterséges intelligencia által generált, például a Grok által készített képekkel kapcsolatos jogi döntések a létrehozott és megosztott tartalom sajátosságaitól függhetnek – mondta.
Társszerzője volt a „Generatív ML és” című tanulmánynak. CSAM: Hatás és mérséklés”, a Stanford kutatói megjegyezték, hogy az Egyesült Államokban precedensértékű ügyekben „egy gyermek bántalmazásának puszta látszata elegendő volt a vádemeléshez”.
Míg más chatbotok hasonló problémákkal szembesültek, az xAI többször is forró vízbe került a visszaélések, illetve a Grok tervezésének vagy mögöttes technológiájának kirívó hibái miatt.
„Sok mindent megtehetnek a vállalatok annak érdekében, hogy megakadályozzák mesterséges intelligencia eszközeik ilyen jellegű használatát” – mondta Thiel. „A legfontosabb ebben az esetben az lenne, hogy megszüntessük a felhasználók által feltöltött képek módosításának lehetőségét. Az NCII egyik receptje, hogy a felhasználók módosítsák a feltöltött képeket. Történelmileg a csupaszítás volt az ilyen folyamatok elsődleges használati esete.”
Az NCII nem konszenzusos intim képekre utal.
Májusban X-nek visszavágott volt, miután Grok kéretlen megjegyzéseket tett a dél-afrikai „fehér népirtásról”. Két hónappal később Grock antiszemita megjegyzéseket tett közzé, és dicsérte Adolf Hitlert.
A visszaesés ellenére az xAI továbbra is együttműködik és kereskedik.
D Nemzetvédelmi minisztérium A Grok a múlt hónapban hozzáadta az AI-ügynököket a platformjához, és az eszköz a fő chatbot a Polymarket és a Kalshi előrejelzési fogadási platformok számára.
