Троє неповнолітніх дівчат подали до суду на xAI, компанію Ілона Маска, стверджуючи, що вона сприяла створенню та розповсюдженню дитячої порнографії (CSAM) з використанням свого чат-бота Grok на основі ІІ. Колективний позов, поданий у понеділок, стверджує, що xAI свідомо дозволила генерацію дипфейк-порнографії з використанням зображень позивачів, що призвело до «руйнівних» наслідків для їхньої конфіденційності, гідності та безпеки.
Масштаб проблеми
З грудня до початку січня Grok дозволяв користувачам створювати неконсенсуальні інтимні зображення із тривожною швидкістю. За оцінками, 4,4 мільйона «роздягнених» або «оголених» зображень було згенеровано всього за дев’ять днів, що складає 41% від усіх зображень, створених на платформі за цей період. У скарзі стверджується, що xAI поставила фінансову вигоду від збільшення залученості користувачів вище за впровадження базових заходів безпеки для запобігання зловживанням.
«Їхнє життя було зруйноване жахливою втратою конфіденційності…яка була викликана виробництвом та розповсюдженням цієї CSAM». – З позовної заяви
У позові стверджується, що xAI несе відповідальність, оскільки не використовувала галузеві стандарти безпеки та ліцензувала свою технологію стороннім компаніям, які активно продавали підписки, які використовуються для створення CSAM. Той факт, що ці запити проходили через сервери xAI робить компанію безпосередньо відповідальною, на думку позивачів.
Глобальна реакція та регуляторний контроль
Широке створення контенту сексуального характеру, згенерованого ІІ, викликало міжнародний гнів. Європейська комісія розпочала розслідування, а Малайзія та Індонезія повністю заборонили X (раніше Twitter). Зріс запит до Apple і Google видалити програму зі своїх магазинів, хоча федерального розслідування в США поки не проводилося. Окремий позов було подано жінкою з Південної Кароліни, що вказує на те, що це не поодинокий випадок.
Справа підкреслює можливості інструментів, що швидко розвиваються, для створення зображень на основі ІІ, які тепер можуть створювати тривожно реалістичний контент з легкістю. У скарзі порівнюється необмежена генерація зображень Grok з «темними мистецтвами», дозволяючи зловмисникам піддавати дітей будь-якому сценарію.
Як було виявлено зловживання
Позивачі, ідентифіковані як Джейн Доу для захисту їх особистостей, дізналися про зловживання через анонімні повідомлення та онлайн-форуми. Одна з позивачів отримала повідомлення через Instagram у грудні та відстежила зображення до Discord-сервера, де ними ділилися. Це спричинило арешт принаймні одного злочинця, але ширша проблема залишається невирішеною. Той факт, що це зловживання було виявлено після того, як матеріал вже поширювався, підкреслює невідкладність справи.
Позов був поданий у той час, коли етика ІІ та модерування контенту знаходяться під пильною увагою. Відсутність запобіжних заходів безпеки у поєднанні з легкістю створення реалістичних дипфейків порушує серйозні питання щодо відповідальності розробників ІІ за запобігання шкоді.
Ця справа є суворим попередженням про потенціал використання ІІ в зловмисних цілях, і вона може створити прецедент для притягнення технологічних компаній до відповідальності за нездатність захистити вразливих користувачів.
