Трое несовершеннолетних девушек подали в суд на xAI, компанию Илона Маска, утверждая, что она способствовала созданию и распространению детской порнографии (CSAM) с использованием своего чат-бота Grok на основе ИИ. Коллективный иск, поданный в понедельник, утверждает, что xAI сознательно разрешила генерацию дипфейк-порнографии с использованием изображений истцов, что привело к «разрушительным» последствиям для их конфиденциальности, достоинства и безопасности.
Масштаб проблемы
С декабря по начало января Grok позволял пользователям создавать неконсенсуальные интимные изображения с тревожной скоростью. По оценкам, 4,4 миллиона «раздетых» или «обнаженных» изображений были сгенерированы всего за девять дней, что составляет 41% от всех изображений, созданных на платформе за этот период. В жалобе утверждается, что xAI поставила финансовую выгоду от увеличения вовлеченности пользователей выше внедрения базовых мер безопасности для предотвращения злоупотреблений.
«Их жизнь была разрушена ужасающей потерей конфиденциальности…которая была вызвана производством и распространением этой CSAM». – Из искового заявления
В иске утверждается, что xAI несет ответственность, поскольку не использовала отраслевые стандарты безопасности и лицензировала свою технологию сторонним компаниям, которые активно продавали подписки, используемые для создания CSAM. Тот факт, что эти запросы проходили через серверы xAI, делает компанию напрямую ответственной, по мнению истцов.
Глобальная реакция и регуляторный контроль
Широкое создание контента сексуального характера, сгенерированного ИИ, вызвало международный гнев. Европейская комиссия начала расследование, а Малайзия и Индонезия полностью запретили X (ранее Twitter). Возрос запрос к Apple и Google удалить приложение из своих магазинов, хотя федерального расследования в США пока не проводилось. Отдельный иск был подан женщиной из Южной Каролины, что указывает на то, что это не единичный случай.
Дело подчеркивает быстро развивающиеся возможности инструментов для создания изображений на основе ИИ, которые теперь могут создавать тревожно реалистичный контент с легкостью. В жалобе сравнивается неограниченная генерация изображений Grok с «темными искусствами», позволяя злоумышленникам подвергать детей любым мыслимому сценарию.
Как было обнаружено злоупотребление
Истцы, идентифицированные как Джейн Доу для защиты их личностей, узнали об злоупотреблениях через анонимные сообщения и онлайн-форумы. Одна из истцов получила уведомление через Instagram в декабре и отследила изображения до Discord-сервера, где ими делились. Это привело к аресту по крайней мере одного преступника, но более широкая проблема остается нерешенной. Тот факт, что это злоупотребление было обнаружено после того, как материал уже распространялся, подчеркивает неотложность дела.
Иск был подан в то время, когда этика ИИ и модерирование контента находятся под пристальным вниманием. Отсутствие упреждающих мер безопасности в сочетании с легкостью создания реалистичных дипфейков поднимает серьезные вопросы об ответственности разработчиков ИИ за предотвращение вреда.
Это дело служит суровым предупреждением о потенциале использования ИИ в злонамеренных целях, и оно может создать прецедент для привлечения технологических компаний к ответственности за неспособность защитить уязвимых пользователей.
