xAI подала иск.
Компания утверждает, что пользователь по имени Терри Харвуду удалось обойти системы безопасности Grok. Он не просто вел диалог с моделью. Он сгенерировал дипфейки, содержащие материалы сексуальной эксплуатации детей. Технологическая компания не намерена мириться с таким нарушением. Они требуют возмещения ущерба. Юридического и репутационного.
Как утверждается, Харвуду удалось обойти защитные механизмы, встроенные прямо в модель.
«Нам нужно где-то провести черту, и, очевидно, черта проведена здесь».
Компания Маска рассматривает этот инцидент как прямой удар по своей репутации. Они утверждают, что действия Харвуда были умышленным нарушением. Это не была ошибка системы или случайность.
Это вызывает вопросы. Может ли какой-либо фильтр действительно остановить того, кто достаточно настойчив, чтобы найти в нем уязвимость? Иск xAI предполагает, что ответ — да, при условии, что они будут подавать в суд на нарушителей.
Об этом написала The Verge. Стандартный материал для их рассылки. Для получения ежедневного дайджеста требуется указание электронной почты. Вы нажимаете кнопку и соглашаетесь с их условиями.
Дверь охраняет ReCAPTCHA. За вами следуют уведомления о конфиденциальности.
Но вот в чем проблема. Систему взломали. Или обошли. Какой бы технический термин ни использовался. Результат работы оказался незаконным. Теперь в дело вмешался закон. Не просто модераторы контента. Реальные судебные иски.
Вызывает ли это тревогу у пользователей? Возможно.
Харвуд указан в иске. xAI требует ответственности. Они заявляют, что сделали свою часть работы по созданию барьеров. Они винят его в том, что он перелез через них.
Кто действительно несет ответственность?
Искусственный интеллект, сгенерировавший изображение? Человек, который ввел запрос? Или компания, выпустившая его в широкий доступ, зная о существовании подобных уловок?
Никто не знает. Пока что.
Это решат суды.
