xAI klaagt aan.
Ze beweren dat een gebruiker genaamd Terry Harwood erin slaagde voorbij de vangnetten in Grok te breken. Hij praatte niet alleen. Hij genereerde deepfakes van materiaal over seksueel misbruik van kinderen. Het technologiebedrijf is niet blij met de inbreuk. Ze willen schadevergoeding. Juridische en reputatiekwesties.
Harwood zou de in het model ingebouwde beveiliging hebben omzeild.
“We moeten ergens een grens trekken, en blijkbaar ligt die grens hier.”
Het bedrijf van Musk ziet dit als een voltreffer voor hun geloofwaardigheid. Ze beweren dat de acties van Harwood opzettelijke overtredingen waren. Geen probleem. Geen vergissing.
Het roept vragen op. Kan een filter werkelijk iemand tegenhouden die vastbesloten genoeg is om er misbruik van te maken? De rechtszaak suggereert dat xAI denkt van wel, op voorwaarde dat ze de overtreders aanklagen.
The Verge ging ermee aan de slag. Standaard nieuwsbrieftarief. E-mailadres vereist voor de dagelijkse samenvatting. Als u klikt, gaat u akkoord met hun voorwaarden.
ReCAPTCHA bewaakt de deur. Privacyverklaringen volgen u.
Maar hier ligt het probleem. Het systeem is gehackt. Of omzeild. Wat de technische term ook is. De uitvoer was illegaal. Nu is de wet erbij betrokken. Niet alleen contentmoderators. Echte rechtszaken.
Maakt dit gebruikers nerveus? Misschien.
Harwood wordt genoemd in het pak. xAI wil verantwoording. Ze zeggen dat ze hun steentje hebben bijgedragen door barrières op te werpen. Ze geven hem de schuld dat hij over hen heen is geklommen.
Wie is eigenlijk aansprakelijk?
De AI die de afbeelding heeft gegenereerd. De mens die daartoe aanleiding gaf. Of het bedrijf dat het in de wereld heeft uitgebracht, wetende dat deze trucs bestaan.
Niemand weet het. Nog niet.
De rechtbanken zullen beslissen.
