Tři nezletilé dívky zažalovaly xAI, společnost Elona Muska, obviňující, že usnadnila tvorbu a distribuci dětské pornografie (CSAM) pomocí svého chatbota Grok s umělou inteligencí. Skupinová žaloba podaná v pondělí tvrdí, že xAI vědomě povolilo vytváření hluboce falešné pornografie pomocí obrázků žalobců, což mělo „zničující“ důsledky pro jejich soukromí, důstojnost a bezpečnost.
Rozsah problému
Od prosince do začátku ledna Grok umožňoval uživatelům vytvářet nekonsensuální intimní snímky alarmujícím tempem. Odhadem 4,4 milionu „svlečených“ nebo „nahých“ snímků bylo vygenerováno za pouhých devět dní, což představuje 41 % všech snímků vygenerovaných na platformě během tohoto období. Stížnost tvrdí, že xAI upřednostnila finanční přínos zvýšení zapojení uživatelů před implementací základních bezpečnostních opatření, aby se zabránilo zneužití.
“Jejich životy byly zničeny strašlivou ztrátou soukromí…, kterou způsobila výroba a distribuce tohoto CSAM.” – Z prohlášení o nároku
Žaloba tvrdí, že xAI je odpovědná, protože nepoužila průmyslové bezpečnostní standardy a licencovala svou technologii společnostem třetích stran, které aktivně prodávaly předplatná použitá k vytvoření CSAM. Skutečnost, že tyto požadavky prošly servery xAI, činí společnost podle žalobců přímou odpovědnou.
Globální odezva a regulační dohled
Rozšířené vytváření sexuálního obsahu generovaného umělou inteligencí vyvolalo mezinárodní pobouření. Evropská komise zahájila vyšetřování a Malajsie a Indonésie zakázaly X (dříve Twitter) úplně. Zvýšily se požadavky na to, aby Apple a Google odstranily aplikaci ze svých obchodů, ačkoli v USA dosud neproběhlo federální vyšetřování. Samostatnou žalobu podala žena z Jižní Karolíny, což naznačuje, že se nejedná o ojedinělý incident.
Pouzdro zdůrazňuje rychle se vyvíjející možnosti nástrojů pro vytváření obrázků poháněných umělou inteligencí, které nyní mohou snadno vytvářet znepokojivě realistický obsah. Stížnost srovnává Grokovu neomezenou generaci obrázků s „temným uměním“, což umožňuje útočníkům vystavit děti jakémukoli představitelnému scénáři.
Jak bylo zneužití odhaleno
Žalobci, kteří byli kvůli ochraně své identity identifikováni jako Jane Doe, se o zneužití dozvěděli prostřednictvím anonymních zpráv a internetových fór. Jeden ze žalobců obdržel oznámení prostřednictvím Instagramu v prosinci a vysledoval snímky na server Discord, kde byly sdíleny. To vedlo k zatčení nejméně jednoho pachatele, ale širší problém zůstává nevyřešen. Skutečnost, že toto zneužití bylo objeveno po již byl materiál distribuován, podtrhuje naléhavost záležitosti.
Žaloba přichází v době, kdy je etika umělé inteligence a moderování obsahu pod drobnohledem. Nedostatek proaktivních bezpečnostních opatření spolu se snadností vytváření realistických deepfakes vyvolává vážné otázky o odpovědnosti vývojářů AI za předcházení škodám.
Případ slouží jako ostré varování před potenciálem využití umělé inteligence ke škodlivým účelům a mohl by vytvořit precedens pro zodpovědné technologické společnosti za selhání při ochraně zranitelných uživatelů.
