xAI está processando.
Eles afirmam que um usuário chamado Terry Harwood conseguiu romper as redes de segurança em Grok. Ele não apenas conversou. Ele gerou deepfakes de material de abuso sexual infantil. A empresa de tecnologia não está feliz com a violação. Eles querem indenização. Legais e reputacionais.
Harwood supostamente contornou as salvaguardas incorporadas ao modelo.
“Temos que traçar um limite em algum lugar e, aparentemente, o limite está aqui.”
A empresa de Musk vê isso como um golpe direto à sua credibilidade. Eles argumentam que as ações de Harwood foram violações intencionais. Não é uma falha. Não é um erro.
Isso levanta questões. Algum filtro pode realmente impedir alguém determinado o suficiente para explorá-lo? O processo sugere que a xAI pensa que sim, desde que processe os infratores.
The Verge correu com isso. Tarifa padrão do boletim informativo. E-mail necessário para o resumo diário. Você clica e concorda com os termos.
ReCAPTCHA protege a porta. Os avisos de privacidade seguem você.
Mas aqui reside o problema. O sistema foi hackeado. Ou ignorado. Qualquer que seja o termo técnico. A saída foi ilegal. Agora a lei está envolvida. Não apenas moderadores de conteúdo. Ações judiciais reais.
Isso deixa os usuários nervosos? Talvez.
Harwood é citado no processo. xAI quer responsabilidade. Eles dizem que fizeram a sua parte para construir barreiras. Eles o culpam por passar por cima deles.
Quem é realmente responsável?
A IA que gerou a imagem. O humano que o motivou. Ou a empresa que o lançou ao mundo sabendo que esses truques existem.
Ninguém sabe. Ainda não.
Os tribunais decidirão.
