xAI klagt.
Sie behaupten, einem Benutzer namens Terry Harwood sei es gelungen, die Sicherheitsnetze in Grok zu durchbrechen. Er hat nicht nur geplaudert. Er erstellte Deepfakes mit Material über sexuellen Missbrauch von Kindern. Das Technologieunternehmen ist über den Verstoß nicht erfreut. Sie wollen Schadensersatz. Rechtliche und rufschädigende.
Harwood hat angeblich direkt in das Modell eingebaute Sicherheitsmaßnahmen umgangen.
„Irgendwo müssen wir die Grenze ziehen, und anscheinend ist die Grenze hier.“
Musks Unternehmen sieht darin einen direkten Schlag für ihre Glaubwürdigkeit. Sie argumentieren, Harwoods Handlungen seien vorsätzliche Verstöße gewesen. Kein Fehler. Kein Fehler.
Es wirft Fragen auf. Kann ein Filter wirklich jemanden stoppen, der entschlossen genug ist, ihn auszunutzen? Die Klage legt nahe, dass xAI dies befürwortet, sofern sie die Täter verklagen.
The Verge lief mit. Standardtarif für den Newsletter. E-Mail-Adresse für die tägliche Zusammenfassung erforderlich. Wenn Sie klicken, stimmen Sie den Bedingungen zu.
ReCAPTCHA bewacht die Tür. Datenschutzhinweise folgen Ihnen.
Aber hier liegt das Problem. Das System wurde gehackt. Oder umgangen. Wie auch immer der Fachbegriff lautet. Die Ausgabe war illegal. Jetzt kommt das Gesetz ins Spiel. Nicht nur Content-Moderatoren. Echte Klagen.
Macht das die Benutzer nervös? Vielleicht.
Harwood wird in der Klage namentlich genannt. xAI will Verantwortung. Sie sagen, sie hätten ihren Teil zum Aufbau von Barrieren beigetragen. Sie beschuldigen ihn, über sie hinweggeklettert zu sein.
Wer haftet wirklich?
Die KI, die das Bild generiert hat. Der Mensch, der es veranlasst hat. Oder das Unternehmen, das es auf die Welt gebracht hat, wusste, dass diese Tricks existieren.
Niemand weiß es. Noch nicht.
Die Gerichte werden darüber entscheiden.
