Žalobci tvrdí, že společnost xAI Elona Muska vědomě dovolila své AI Grok generovat explicitní obsah s identifikovatelnými nezletilými. V pondělí byla podána žaloba u federálního soudu v Kalifornii, která společnost xAI obvinila z nedbalosti a tvrdila, že společnost nezavedla základní bezpečnostní opatření, aby zabránila vytváření dětské pornografie. Žalobci, zastupovaní třemi anonymními osobami (Jane Doe 1, Jane Doe 2 a nezletilá Jane Doe 3), se snaží zahájit hromadnou žalobu jménem každého, jehož fotografie byly takto použity.
Obvinění
Žaloba se soustředí na model xAI Grok AI a jeho údajnou schopnost měnit skutečné fotografie nezletilých na sexuálně explicitní obrázky. Na rozdíl od jiných předních laboratoří AI, xAI údajně neimplementovalo standardní filtry nebo bezpečnostní opatření k blokování takového obsahu. Žalobci tvrdí, že toto opomenutí vytvořilo jasnou příležitost ke zneužití.
Žaloba poukazuje na to, že jakmile modelka dokáže vytvořit nahý nebo erotický obsah ze skutečných fotografií, je téměř nemožné zabránit tvorbě dětské pornografie. Propagace schopností Groka ze strany Elona Muska, včetně jeho schopnosti zobrazovat lidi v odhalujících outfitech, je také uváděna jako důkaz povědomí a ochoty společnosti riskovat.
Jak ke zneužití došlo
Jedna ze žalobkyň, Jane Doe 1, zjistila, že její fotografie ze střední školy (z její promoce az její ročenky) byly upraveny Grokem tak, aby ji zobrazovaly nahou. Upozornil ji anonymní zdroj, který sdílel odkaz na server Discord obsahující tyto obrázky spolu s obrázky dalších nezletilých.
Jane Doe 2 byla orgány činnými v trestním řízení upozorněna na její sexualizované obrázky vytvořené pomocí aplikace třetí strany běžící na modelech Grok. Stejně tak byla Jane Doe 3 oznámena vyšetřovateli poté, co byl na zařízení podezřelého nalezen její pozměněný obrázek. Právní tým žalobců tvrdí, že xAI zůstává odpovědná za zneužití třetími stranami, protože závisí na kódu a serverech společnosti.
Následky a právní kroky
Všichni tři žalobci uvádějí vážnou emocionální tíseň v důsledku šíření těchto snímků v obavě z dlouhodobého poškození jejich pověsti a společenského života. Žaloba se domáhá občanskoprávních sankcí podle zákonů určených k ochraně dětí a k odpovědnosti firem za nedbalost.
Žalobci tvrdí, že nečinnost xAI nebyla pouhým opomenutím; byla to vědomá volba, která umožnila rozsáhlé zneužívání. Tento případ vyvolává důležité otázky ohledně odpovědnosti vývojářů umělé inteligence za zabránění zneužití, i když se jedná o aplikace třetích stran.
Soudní spor zdůrazňuje naléhavou potřebu přísnější regulace a dohledu nad zobrazovacími technologiemi umělé inteligence s cílem chránit zranitelné lidi před poškozením. Právní výsledek by mohl být precedentem pro hnání technologických společností k odpovědnosti, když jsou jejich produkty používány k nezákonným nebo vykořisťovatelským účelům.
