xAI está demandando.
Afirman que un usuario llamado Terry Harwood logró traspasar las redes de seguridad en Grok. No se limitó a charlar. Generó deepfakes de material de abuso sexual infantil. La empresa de tecnología no está contenta con la infracción. Quieren daños y perjuicios. Legales y reputacionales.
Harwood supuestamente pasó por alto las salvaguardas integradas en el modelo.
“Tenemos que trazar la línea en alguna parte, y aparentemente, la línea está aquí.”
La empresa de Musk ve esto como un golpe directo a su credibilidad. Argumentan que las acciones de Harwood fueron violaciones intencionales. No es un problema. No es un error.
Plantea preguntas. ¿Puede algún filtro realmente detener a alguien lo suficientemente decidido a explotarlo? La demanda sugiere que xAI piensa que sí, siempre que demanden a los infractores.
The Verge lo siguió. Tarifa estándar del boletín. Correo electrónico requerido para el resumen diario. Haces clic y aceptas sus términos.
ReCAPTCHA custodia la puerta. Los avisos de privacidad te siguen.
Pero aquí radica el problema. El sistema fue pirateado. O ignorado. Cualquiera que sea el término técnico. La salida fue ilegal. Ahora la ley está involucrada. No solo moderadores de contenido. Juicios reales.
¿Esto pone nerviosos a los usuarios? Tal vez.
Harwood aparece nombrado en la demanda. xAI quiere responsabilidad. Dicen que hicieron su parte para construir barreras. Lo culpan por pasar por encima de ellos.
¿Quién es realmente responsable?
La IA que generó la imagen. El humano que lo provocó. O la empresa que lo lanzó al mundo sabiendo que existen estos trucos.
Nadie lo sabe. Aún no.
Los tribunales decidirán.
