xAI подала позов.
Компанія стверджує, що користувач на ім’я Террі Харвуду вдалося обійти системи безпеки Grok. Він не просто вів діалог із моделлю. Він згенерував дипфейки, які містять матеріали сексуальної експлуатації дітей. Технологічна компанія не має наміру миритися з таким порушенням. Вони вимагають відшкодування збитків. Юридичного та репутаційного.
Як стверджується, Харвуд вдалося обійти захисні механізми, вбудовані прямо в модель.
«Нам треба десь провести межу, і, очевидно, межа проведена тут».
Компанія Маска розглядає цей інцидент як прямий удар своєї репутації. Вони стверджують, що дії Харвуда були умисним порушенням. Це не була помилка системи чи випадковість.
Це викликає запитання. Чи може якийсь фільтр дійсно зупинити того, хто досить наполегливий, щоб знайти в ньому вразливість? Позов xAI передбачає, що відповідь так, за умови, що вони подаватимуть до суду на порушників.
Про це написала The Verge. Стандартний матеріал для їх розсилки. Для отримання щоденного дайджесту потрібно вказати електронну пошту. Ви натискаєте кнопку та погоджуєтесь з їхніми умовами.
Двері охороняють ReCAPTCHA. За вами йдуть повідомлення про конфіденційність.
Але ось у чому проблема. Систему зламали. Або обійшли. Хоч би який технічний термін використовувався. Результат роботи виявився незаконним. Тепер у справу втрутився закон. Не просто модератори контенту. Реальні судові позови.
Чи викликає це на сполох користувачів? Можливо.
Харвуд вказано у позові. xAI потребує відповідальності. Вони заявляють, що зробили свою частину роботи щодо створення бар’єрів. Вони звинувачують його в тому, що він переліз через них.
Хто справді несе відповідальність?
Штучний інтелект, що згенерував зображення? Людина, яка ввела запит? Або компанія, яка випустила його в широкий доступ, знаючи про існування подібних хитрощів?
Ніхто не знає. Поки що.
Це вирішать суди.
