Co się stało
Breitbart donosi, że kobieta zidentyfikowana jako Jane Doe pozwała xAI Elona Muska, który według raportu jest obecnie częścią SpaceX, zarzucając, że Grok został przeszkolony w zakresie przedstawiających ją materiałów przedstawiających wykorzystywanie seksualne dzieci. Z raportu wynika, że pozew dotyczy obrazów przedstawiających nadużycia utworzone, gdy Doe była przedszkolakiem, a następnie śledzonych za pomocą skrótów obrazów.
Breitbart donosi, że Jane Doe złożyła proponowany pozew zbiorowy przeciwko xAI Elona Muska, utrzymując, że firma przeszkoliła chatbota Grok w zakresie przedstawiających ją materiałów przedstawiających wykorzystywanie seksualne dzieci. Według raportu do podstawowego molestowania doszło, gdy Doe była przedszkolakiem na początku XXI wieku, kiedy dorośli mężczyźni tworzyli zdjęcia, które później zostały rozpowszechnione w Internecie. Z raportu wynika, że zdjęcia zostały zaszyfrowane przez Krajowe Centrum ds. Dzieci Zaginionych i Wykorzystywanych oraz Kanadyjskie Centrum Ochrony Dzieci, co umożliwi służbom identyfikację kopii, gdy pojawią się ponownie.
Według relacji Breitbarta dotyczącej skargi Kanadyjskie Centrum Ochrony Dzieci powiedziało Doe, że wygenerowany przez sztuczną inteligencję CSAM przedstawiający ją pojawił się na xAI. W skardze, cytowanej i podsumowanej przez Breitbarta, zarzucono, że znane wartości skrótu powiązane z obrazami przedstawiającymi Doe były częścią zbioru danych wykorzystywanego przez xAI. W raporcie wskazano również, że skarga łączy rzekome zachowanie z dyskusjami internetowymi na temat tworzenia CSAM generowanego przez sztuczną inteligencję, przedstawiającego znane osoby, które przeżyły. Są to zarzuty przedstawione w postępowaniu sądowym, a nie ustalenia ustalone przez sąd.
Breitbart informuje, że w skardze zarzucono, że xAI przechowuje obrazy wygenerowane przez Grok i ponownie wykorzystuje je do szkolenia lub dalszego szkolenia modelu. Artykuł mówi również, że warunki świadczenia usługi Grok domyślnie traktują publiczne wpisy na X i własnych wynikach Grok jako dane szkoleniowe. W skardze zarzucono, że mogłoby to pozwolić na przedostanie się do procesu szkoleniowego obraźliwych materiałów opublikowanych publicznie lub wyprodukowanych przez system i wywarcie wpływu na późniejsze wyniki. Źródło nie dostarcza niezależnie zweryfikowanych dowodów technicznych pokazujących dokładnie, jak konkretny obraz wpłynął na Grok.
The report says xAI filters violent material from training data but that its terms do not specifically exclude CSAM, non-consensual intimate imagery, or other sexual material. Doe’s lawsuit accuses xAI of violating federal child-pornography statutes and Masha’s Law. Breitbart reports that the suit seeks damages for victims who can show that Grok generated CSAM based on their real photos, as well as orders requiring xAI to destroy stored or training-related generated CSAM and prevent future generation. The source does not say that any court has granted those requests.
Szczegóły źródła: breitbart.com ↗
Dlaczego to ma znaczenie
Jeśli zarzuty zostaną potwierdzone, sprawa może sprawdzić, jak firmy zajmujące się sztuczną inteligencją radzą sobie ze znanymi nadużyciami w danych szkoleniowych, generowanych wynikach i treściach przesyłanych przez użytkowników. Mogłoby również wyjaśnić, jakie obowiązki prawne mają zastosowanie, gdy modelka odtwarza lub przekształca materiał powiązany ze zidentyfikowaną ocalałą.
The allegations concern a central problem in safety: a model can be affected by harmful material before a company discovers or removes the underlying files. Breitbart reports that the complaint argues deleting an image from a public source may not remove its influence from an already-trained model. That technical point is presented as a claim in the filing; the source does not establish whether Grok retained, memorized, or reproduced any particular image through the mechanism described.
Known CSAM is commonly tracked with hashes so platforms can detect copies without repeatedly distributing the material for review. The report says the complaint alleges that images with longstanding, known hash values were used in xAI’s dataset. If verified, that would raise questions about whether existing detection systems were applied during data collection, whether exceptions or gaps existed in the data pipeline, and whether generated outputs were separately scanned and removed.
The case could have implications beyond xAI because many generative systems combine large-scale web data, user content, and model-generated material. Breitbart cites an earlier study involving the LAION image index that identified more than 3,200 suspected child-abuse images in an AI database. That earlier example is background reported by Breitbart, not proof that Grok used the same material or that all suspected images were confirmed as CSAM.
The legal claims also put data-use terms under scrutiny. If public posts and model outputs are used for training by default, users and survivors may have limited practical control over how harmful material is copied, retained, or reused. The source does not establish how xAI interprets its terms in this case, whether it has changed them, what safeguards it applies to CSAM, or whether the alleged images were ingested deliberately, accidentally, or through a third-party dataset.
Mechanizm interaktywny: jak to faktycznie działa
Poznaj interaktywnie technologię leżącą u podstaw tego rozwoju.
crm_get_transaction(id='4092').Why can ethical evaluation not be reduced to one model score?
Co obejrzeć dalej
Kluczowe pytania dotyczą tego, czy można uzasadnić zastrzeżenia techniczne skargi, czy xAI odpowiada na zarzuty lub je kwestionuje oraz czy sąd nakazuje zachowanie, usunięcie, filtrowanie lub inne zmiany w Grok. Sprawa może również zwrócić uwagę na domyślne warunki wykorzystania danych w przypadku postów publicznych i wyników modeli.
A response from xAI will be important, including whether the company denies that the images entered Grok’s training data, disputes the alleged relationship between Grok outputs and Doe’s real images, or describes any investigation and remediation. Breitbart’s report does not include a response from xAI, and no independent technical audit is cited that verifies the complaint’s account.
Court filings and rulings should clarify what evidence the plaintiff must provide to connect generated material to a specific survivor’s images and to establish xAI’s knowledge or conduct. The source says the suit is proposed as a class action, but it does not establish whether the class will be certified, whether the claims will survive early motions, or whether a court has made findings about liability.
The practical safeguards to watch include hash matching during dataset ingestion, blocking prompts and outputs involving real children or known survivors, retention and deletion policies for generated images, and controls on using model outputs as training data. The report does not say which of these measures xAI currently operates or whether any have been changed since the filing.
The requested remedies could also affect Grok’s broader sexual-content policies. Breitbart reports that the complaint seeks restrictions that could cover non-consensual intimate imagery and other sexualized outputs, including material the article associates with Grok’s promoted NSFW capabilities. It remains unknown whether a court would impose such broad restrictions, whether xAI would voluntarily adopt them, or how any order would be enforced across generated content and training systems.