Processo: Homem usou Grok para fazer 7 mil imagens de sexo da enteada e depois atirou em si mesmo
Um dos casos mais horríveis de imagens de sexo infantil supostamente geradas por Grok foi compartilhado em uma proposta de ação coletiva que foi ampliada na terça-feira. Agora, as meninas não apenas acusam X e xAI de construir ferramentas tóxicas de “nudificação” de IA, mas também de proteger crianças predadoras, obstruindo investigações policiais sobre materiais de abuso sexual infantil (CSAM) gerados por Grok.
Em março, o padrasto de uma menina suicidou-se depois que a polícia descobriu que ele havia usado Grok para criar 7 mil imagens sexualmente explícitas usando uma foto tirada quando sua enteada tinha 11 anos, a reclamação alterada alegado.
Grok permitiu que o homem gerasse imagens extremas retratando incesto e estupro sem sinalizar qualquer comportamento prejudicial, disse a denúncia. Aparentemente, o sistema de segurança infantil da xAI só interveio depois que o homem solicitou “estupro coletivo”. Essa solicitação enviou uma CyberTip ao Centro Nacional para Crianças Desaparecidas e Exploradas (NCMEC), que alertou as autoridades sobre o AI CSAM.
Leia o artigo completo
Comentários
