Позивачі стверджують, що xAI, компанія Ілона Маска, свідомо допустила створення відвертого контенту за участю відомих неповнолітніх своїм ІІ Grok. У понеділок до федерального суду Каліфорнії був поданий позов, який звинувачує xAI в недбалості, стверджуючи, що компанія не впровадила базові заходи безпеки для запобігання. Позивачі, подані трьома анонімними особами (Джейн Доу 1, Джейн Доу 2 та неповнолітньою Джейн Доу 3), прагнуть ініціювати колективний позов від імені всіх, чиї зображення були використані таким чином.
Звинувачення
Судовий позов зосереджений на ІІ-моделі xAI Grok та її передбачуваної здатності змінювати реальні фотографії неповнолітніх на сексуально відверті зображення. На відміну від інших провідних лабораторій ІІ, xAI, за повідомленнями, не запровадила стандартних фільтрів або заходів безпеки для блокування такого контенту. Позивачі стверджують, що цей недогляд створив пряму нагоду для зловживань.
У позові наголошується, що як тільки модель може генерувати оголений чи еротичний контент із реальних фотографій, запобігти створенню дитячої порнографії стає майже неможливо. Також цитується просування Елон Маском можливостей Grok, включаючи його здатність зображати людей у відвертих вбраннях, як доказ обізнаності компанії та її готовності прийняти ризики.
Як сталися зловживання
Одна з позивачів, Джейн Доу 1, виявила, що її шкільні фотографії (з випускного і щорічника) були змінені Grok, щоб зобразити її оголеною. Вона була повідомлена анонімним джерелом, яке поділилося посиланням на сервер Discord, що містить ці зображення поряд із зображеннями інших неповнолітніх.
Джейн Доу 2 була повідомлена правоохоронними органами про сексуалізовані зображення її, створені з використанням стороннього додатка, що працює на моделях Grok. Аналогічно Джейн Доу 3 була поінформована слідчими після того, як її змінене зображення було знайдено на пристрої підозрюваного. Юридична команда позивачів стверджує, що xAI залишається відповідальною за зловживання третіх сторін, оскільки вони залежать від коду та серверів компанії.
Наслідки та судові дії
Усі три позивачі повідомляють про сильний емоційний стрес через поширення цих зображень, побоюючись довгострокової шкоди своєї репутації та соціального життя. Позов вимагає цивільних штрафів відповідно до законів, покликаних захистити дітей та притягти корпорації до відповідальності за недбалість.
Позивачі стверджують, що відмова xAI діяти була не просто недоглядом; це був свідомий вибір, який дозволив повсюдні зловживання. Цей випадок порушує важливі питання щодо відповідальності розробників ІІ за запобігання зловживанням, навіть якщо залучені сторонні додатки.
Судовий позов підкреслює гостру необхідність більш суворого регулювання та нагляду за технологіями генерації зображень ІІ для захисту вразливих людей від шкоди. Юридичний результат може створити прецедент для притягнення технологічних компаній до відповідальності, коли їхні продукти використовуються з незаконною або експлуатаційною метою.
