Powodowie zarzucają, że firma xAI Elona Muska świadomie zezwoliła swojej sztucznej inteligencji Grok na generowanie jawnych treści przedstawiających możliwe do zidentyfikowania nieletnie. W poniedziałek w kalifornijskim sądzie federalnym złożono pozew, w którym zarzucono xAI zaniedbanie, zarzucając firmie niewdrożenie podstawowych środków bezpieczeństwa zapobiegających generowaniu pornografii dziecięcej. Powodowie, reprezentowani przez trzy anonimowe osoby (Jane Doe 1, Jane Doe 2 i nieletnia Jane Doe 3), starają się wszcząć pozew zbiorowy w imieniu wszystkich, których zdjęcia zostały wykorzystane w ten sposób.
Zarzuty
Pozew koncentruje się na modelu sztucznej inteligencji xAI Grok i jego rzekomej zdolności do przekształcania prawdziwych zdjęć nieletnich w obrazy o charakterze jednoznacznie seksualnym. W przeciwieństwie do innych wiodących laboratoriów zajmujących się sztuczną inteligencją, xAI podobno nie wdrożyło standardowych filtrów ani środków bezpieczeństwa w celu blokowania takich treści. Powodowie twierdzą, że to zaniedbanie stworzyło wyraźną okazję do nadużyć.
W pozwie wskazano, że gdy modelka potrafi wygenerować nagie lub erotyczne treści na podstawie prawdziwych zdjęć, prawie niemożliwe staje się zapobieganie tworzeniu dziecięcej pornografii. Jako dowód świadomości i chęci firmy do podejmowania ryzyka przytacza się także promowanie przez Elona Muska możliwości Groka, w tym jego umiejętności przedstawiania ludzi w odkrywczych strojach.
Jak doszło do molestowania
Jedna z powodów, Jane Doe 1, odkryła, że Grok przerobił jej zdjęcia ze szkoły średniej (z ukończenia szkoły i z rocznika) tak, aby przedstawiały ją nago. Została zaalarmowana przez anonimowe źródło, które udostępniło link do serwera Discord zawierającego te zdjęcia wraz ze zdjęciami innych nieletnich.
Jane Doe 2 została powiadomiona przez organy ścigania o przedstawiających ją zdjęciach o charakterze seksualnym, stworzonych przy użyciu aplikacji innej firmy działającej na modelach Grok. Śledczy powiadomili także Jane Doe 3 po tym, jak na urządzeniu podejrzanego znaleziono jej zmieniony obraz. Zespół prawny powodów argumentuje, że xAI pozostaje odpowiedzialna za nadużycia stron trzecich, ponieważ zależą one od kodu i serwerów firmy.
Konsekwencje i działania prawne
Wszyscy trzej powodowie zgłaszają poważne cierpienie emocjonalne w związku z rozpowszechnianiem tych zdjęć, obawiając się długoterminowej szkody dla ich reputacji i życia społecznego. Pozew ma na celu nałożenie kar cywilnych na mocy przepisów mających na celu ochronę dzieci i pociągnięcie korporacji do odpowiedzialności za zaniedbania.
Powodowie twierdzą, że bezczynność xAI nie wynikała jedynie z zaniechania; był to świadomy wybór, który pozwalał na powszechne nadużycia. Sprawa ta rodzi ważne pytania dotyczące odpowiedzialności twórców sztucznej inteligencji za zapobieganie nadużyciom, nawet jeśli w grę wchodzą aplikacje stron trzecich.
W pozwie podkreślono pilną potrzebę ściślejszych regulacji i nadzoru nad technologiami obrazowania AI, aby chronić bezbronnych ludzi przed krzywdą. Wynik prawny może stanowić precedens w pociąganiu firm technologicznych do odpowiedzialności, gdy ich produkty są wykorzystywane do celów nielegalnych lub wyzysku.
