Истцы утверждают, что xAI, компания Илона Маска, сознательно допустила создание откровенного контента с участием узнаваемых несовершеннолетних своим ИИ Grok. В понедельник в федеральный суд Калифорнии был подан иск, обвиняющий xAI в халатности, утверждая, что компания не внедрила базовые меры безопасности для предотвращения генерации детской порнографии. Истцы, представленные тремя анонимными лицами (Джейн Доу 1, Джейн Доу 2 и несовершеннолетней Джейн Доу 3), стремятся инициировать коллективный иск от имени всех, чьи изображения были использованы таким образом.
Обвинения
Судебный иск сосредоточен на ИИ-модели xAI Grok и её предполагаемой способности изменять реальные фотографии несовершеннолетних на сексуально откровенные изображения. В отличие от других ведущих лабораторий ИИ, xAI, по сообщениям, не внедрила стандартные фильтры или меры безопасности для блокировки такого контента. Истцы утверждают, что это упущение создало прямую возможность для злоупотреблений.
В иске подчеркивается, что как только модель может генерировать обнажённый или эротический контент из реальных фотографий, предотвратить создание детской порнографии становится почти невозможно. Также цитируется продвижение Элоном Маском возможностей Grok, включая его способность изображать людей в откровенных нарядах, как доказательство осведомлённости компании и её готовности принять риски.
Как произошли злоупотребления
Одна из истцов, Джейн Доу 1, обнаружила, что её школьные фотографии (с выпускного и из ежегодника) были изменены Grok, чтобы изобразить её обнажённой. Она была оповещена анонимным источником, который поделился ссылкой на сервер Discord, содержащий эти изображения наряду с изображениями других несовершеннолетних.
Джейн Доу 2 была уведомлена правоохранительными органами о сексуализированных изображениях её, созданных с использованием стороннего приложения, работающего на моделях Grok. Аналогично, Джейн Доу 3 была проинформирована следователями после того, как её изменённое изображение было найдено на устройстве подозреваемого. Юридическая команда истцов утверждает, что xAI остаётся ответственной за злоупотребления третьих сторон, поскольку они зависят от кода и серверов компании.
Последствия и судебные действия
Все три истца сообщают о сильном эмоциональном стрессе из-за распространения этих изображений, опасаясь долгосрочного ущерба своей репутации и социальной жизни. Иск требует гражданских штрафов в соответствии с законами, призванными защитить детей и привлечь корпорации к ответственности за халатность.
Истцы утверждают, что отказ xAI действовать был не просто упущением; это был сознательный выбор, который позволил повсеместные злоупотребления. Этот случай поднимает важные вопросы об ответственности разработчиков ИИ за предотвращение злоупотреблений, даже если вовлечены сторонние приложения.
Судебный иск подчёркивает острую необходимость более строгого регулирования и надзора за технологиями генерации изображений ИИ для защиты уязвимых людей от вреда. Юридический исход может создать прецедент для привлечения технологических компаний к ответственности, когда их продукты используются в незаконных или эксплуататорских целях.
