Hva skjedde
Breitbart rapporterer at en kvinne identifisert som Jane Doe saksøkte Elon Musks xAI, som rapporten sier nå er en del av SpaceX, med påstand om at Grok ble opplært i materiale om seksuelle overgrep mot barn som skildrer henne. Rapporten sier at søksmålet gjelder misbruksbilder laget da Doe var førskolebarn og senere sporet ved hjelp av bildehash.
Breitbart rapporterer at Jane Doe anla et foreslått gruppesøksmål mot Elon Musks xAI, med påstand om at selskapet trente sin Grok chatbot på materiale om seksuelt misbruk av barn som skildrer henne. Ifølge rapporten skjedde det underliggende overgrepet da Doe var førskolebarn på begynnelsen av 2000-tallet, da voksne menn produserte bilder som senere ble sirkulert på nettet. Rapporten sier at bildene ble hashe av National Center for Missing and Exploited Children og Canadian Center for Child Protection, slik at tjenestene kan identifisere kopier når de dukker opp igjen.
I følge Breitbarts beretning om klagen fortalte Canadian Center for Child Protection Doe at AI-generert CSAM som viser henne hadde dukket opp på xAI. Klagen, som sitert og oppsummert av Breitbart, hevder at kjente hashverdier assosiert med bilder som viser Doe var en del av et datasett brukt av xAI. Rapporten sier også at klagen knytter den påståtte oppførselen til nettdiskusjoner om å lage AI-generert CSAM som viser kjente overlevende. Dette er påstander i rettssaker, ikke funn etablert av en domstol.
Breitbart rapporterer at klagen påstår at xAI lagrer bilder generert av Grok og gjenbruker dem for å trene eller videreutdanne modellen. Artikkelen sier også at Groks tjenestevilkår behandler offentlige innlegg på X og Groks egne utganger som treningsdata som standard. Klagen argumenterer for at dette kan tillate støtende materiale som er lagt ut offentlig eller produsert av systemet, å gå inn i en opplæringspipeline og påvirke senere utdata. Kilden gir ikke uavhengig bekreftet teknisk bevis som viser nøyaktig hvordan et bestemt bilde påvirket Grok.
Rapporten sier at xAI filtrerer voldelig materiale fra treningsdata, men at vilkårene ikke spesifikt ekskluderer CSAM, intime bilder uten samtykke eller annet seksuelt materiale. Does søksmål anklager xAI for brudd på føderale barnepornografi-vedtekter og Mashas lov. Breitbart rapporterer at søksmålet søker erstatning for ofre som kan vise at Grok genererte CSAM basert på deres virkelige bilder, samt ordre som krever at xAI ødelegger lagret eller treningsrelatert generert CSAM og forhindrer fremtidig generasjon. Kilden sier ikke at noen domstol har innvilget disse anmodningene.
Kildedetaljer: breitbart.com ↗
Hvorfor det betyr noe
Hvis påstandene er begrunnet, kan saken teste hvordan AI-selskaper håndterer kjent misbruksmateriale i opplæringsdata, genererte utdata og brukeropplastet innhold. Det kan også klargjøre hvilke juridiske plikter som gjelder når en modell reproduserer eller transformerer materiale knyttet til en identifisert overlevende.
Påstandene gjelder et sentralt problem i generativ AI-sikkerhet: en modell kan bli påvirket av skadelig materiale før et selskap oppdager eller fjerner de underliggende filene. Breitbart rapporterer at klagen hevder at sletting av et bilde fra en offentlig kilde kanskje ikke fjerner dets innflytelse fra en allerede opplært modell. Det tekniske punktet er presentert som et krav i innleveringen; Kilden fastslår ikke om Grok har beholdt, lagret eller reprodusert et bestemt bilde gjennom den beskrevne mekanismen.
Kjent CSAM spores ofte med hashes slik at plattformer kan oppdage kopier uten gjentatte ganger å distribuere materialet for gjennomgang. Rapporten sier at klagen hevder at bilder med langvarige, kjente hash-verdier ble brukt i xAIs datasett. Hvis det bekreftes, vil det reise spørsmål om eksisterende deteksjonssystemer ble brukt under datainnsamling, om det fantes unntak eller hull i datarørledningen, og om genererte utdata ble skannet og fjernet separat.
Saken kan ha implikasjoner utover xAI fordi mange generative systemer kombinerer storskala nettdata, brukerinnhold og modellgenerert materiale. Breitbart siterer en tidligere studie som involverte LAION-bildeindeksen som identifiserte mer enn 3200 mistenkte bilder av barnemishandling i en AI-database. Det tidligere eksemplet er bakgrunn rapportert av Breitbart, ikke bevis på at Grok brukte det samme materialet eller at alle mistenkte bilder ble bekreftet som CSAM.
De juridiske kravene setter også databruksvilkår under gransking. Hvis offentlige innlegg og modellutdata brukes til opplæring som standard, kan brukere og overlevende ha begrenset praktisk kontroll over hvordan skadelig materiale kopieres, beholdes eller gjenbrukes. Kilden fastslår ikke hvordan xAI tolker vilkårene i denne saken, om den har endret dem, hvilke sikkerhetstiltak den gjelder for CSAM, eller om de påståtte bildene ble inntatt med vilje, ved et uhell eller gjennom et tredjeparts datasett.
Interaktiv mekanisme: Hvordan det faktisk fungerer
Utforsk den underliggende teknologien bak denne utviklingen interaktivt.
crm_get_transaction(id='4092').Why can ethical evaluation not be reduced to one model score?
Hva du skal se neste
Nøkkelspørsmålene er om klagens tekniske påstander kan støttes, om xAI svarer eller bestrider påstandene, og om retten beordrer bevaring, sletting, filtrering eller andre endringer av Grok. Saken kan også trekke oppmerksomhet til standard databruksvilkår for offentlige innlegg og modellutdata.
Et svar fra xAI vil være viktig, inkludert om selskapet benekter at bildene har lagt inn Groks treningsdata, bestrider det påståtte forholdet mellom Grok-utdata og Does virkelige bilder, eller beskriver enhver etterforskning og utbedring. Breitbarts rapport inkluderer ikke et svar fra xAI, og ingen uavhengig teknisk revisjon er sitert som bekrefter klagens konto.
Rettsdokumenter og avgjørelser bør klargjøre hvilke bevis saksøkeren må fremlegge for å koble generert materiale til en spesifikk overlevendes bilder og for å fastslå xAIs kunnskap eller oppførsel. Kilden sier at søksmålet er foreslått som et gruppesøksmål, men det fastslår ikke om klassen vil bli sertifisert, om kravene vil overleve tidlige bevegelser, eller om en domstol har gjort funn om ansvar.
De praktiske sikkerhetstiltakene for å se inkluderer hash-tilpasning under inntak av datasett, blokkering av meldinger og utdata som involverer ekte barn eller kjente overlevende, retningslinjer for oppbevaring og sletting av genererte bilder, og kontroller for bruk av modellutdata som treningsdata. Rapporten sier ikke hvilke av disse tiltakene xAI for tiden opererer eller om noen har blitt endret siden innleveringen.
De forespurte rettsmidlene kan også påvirke Groks bredere retningslinjer for seksuelt innhold. Breitbart rapporterer at klagen søker restriksjoner som kan dekke intime bilder uten samtykke og andre seksualiserte utdata, inkludert materiale artikkelen assosierer med Groks promoterte NSFW-evner. Det er fortsatt ukjent om en domstol ville pålegge slike brede restriksjoner, om xAI frivillig ville vedta dem, eller hvordan en ordre vil bli håndhevet på tvers av generert innhold og opplæringssystemer.