Sobrevivente de abuso sexual infantil alega que chatbot de IA de Elon Musk usou fotos dela para gerar novas imagens ilegais.

PN - Musk negou ter conhecimento de que a Grok alguma vez tenha produzido "quaisquer imagens de menores de idade nus".

Uma sobrevivente de abuso sexual infantil processou a empresa de inteligência artificial de Elon Musk , alegando que o chatbot da empresa usou fotos do abuso que sofreu para gerar novas imagens pornográficas ilegais que a retratam.

“Usando imagens reais da autora e dos membros da ação coletiva, a Grok gerou pornografia infantil retratando a autora e os membros da ação coletiva”, afirma a queixa, que foi apresentada na semana passada em um tribunal distrital dos EUA na Califórnia.

Os advogados da autora da ação, identificada como Jane Doe no processo para proteger sua identidade, acusam a xAI tanto de gerar material de abuso sexual infantil (CSAM) de sua cliente quanto de inserir imagens de abuso sexual infantil que a retratam nos bancos de dados da empresa após a publicação pública das novas imagens.

O processo alega que a xAI ignorou os métodos padrão da indústria para proteger contra material de abuso sexual, resultando no aparecimento e disseminação de material de abuso sexual infantil (CSAM) gerado por IA na plataforma de mídia social X, anteriormente Twitter.

Embora Musk tenha negado em janeiro que soubesse que o Grok alguma vez havia produzido "quaisquer imagens de menores de idade nus", sua empresa processou dois de seus próprios usuários no final de agosto, que estão enfrentando acusações criminais por supostamente terem feito exatamente isso. A xAI quer que os dois homens paguem os custos dos processos que suas vítimas moveram contra a empresa.

O caso difere de vários outros processos relacionados a abuso sexual infantil contra a xAI, acusando a IA da empresa de usar material de abuso sexual infantil preexistente para produzir e distribuir imagens de abuso sexual infantil geradas por IA. Processos anteriores, como um caso envolvendo um grupo de adolescentes do Tennessee , acusam a Grok de tirar fotos não explícitas de menores e usá-las para gerar material de abuso sexual infantil, na maioria das vezes removendo suas roupas.

A distinção de usar CSAM preexistente é notável porque as autoridades policiais e organizações de proteção à criança frequentemente atribuem a esses materiais ilegais uma espécie de impressão digital – conhecida como hash – que lhes permite rastrear imagens e vídeos quando aparecem online. Neste caso, os advogados da autora afirmaram que o Centro Canadense de Proteção à Criança usou as impressões digitais das imagens para identificar CSAM gerado por IA no site X que retratava seu cliente.

Segundo a denúncia, a autora da ação era pré-escolar quando foi repetidamente estuprada e forçada a produzir material de abuso sexual infantil por um homem adulto. Essa série de vídeos circula online há cerca de 20 anos, afirmaram os advogados da autora, e é extremamente conhecida tanto pelas autoridades quanto por grupos de proteção à criança.

“A diferença aqui, em comparação com muitos casos criminais que envolvem material gerado por IA, é que não se pode provar que a criança no material é real”, disse Margaret Mabie, advogada da parte autora. “Mas aqui, como podemos associá-la à série, sabemos que se trata de uma vítima identificável, que ainda está viva e era uma criança real na foto.”

Nem a xAI nem a SpaceX, que adquiriu a empresa em fevereiro, responderam aos pedidos de comentários sobre o processo. A SpaceX abriu seu capital no início deste ano em uma oferta pública inicial que avaliou a empresa em cerca de US$ 1,7 trilhão e, por um tempo, tornou Musk o único trilionário do mundo.

A xAI enfrenta inúmeros processos judiciais que acusam a empresa de criar e distribuir material de abuso sexual infantil. Muitos desses processos decorrem de um período no início deste ano, quando as salvaguardas frouxas do Grok permitiram que os usuários o instruíssem a remover roupas de fotos e gerar imagens sexualizadas sob comando por meio do X.

Musk afirmou em janeiro que o modo NSFW do Grok tinha como objetivo permitir "nudez da parte superior do corpo de humanos adultos imaginários". O bot gerou milhões de imagens sexualizadas em questão de semanas, incluindo milhares retratando crianças, de acordo com pesquisadores do Centro de Combate ao Ódio Digital .

Embora a ação coletiva movida na semana passada se concentre em seu autor principal, que não teve o nome divulgado, a queixa afirma que a classe pode ser composta por "pelo menos milhares de menores" que sofreram danos semelhantes. O uso de IA para produzir material de abuso sexual infantil representa uma nova gama de ameaças à segurança e à saúde mental das vítimas, disseram os advogados, expondo-as a danos imprevistos e retraumatizando-as a cada nova imagem gerada por IA.

“O problema aqui é que, pelo menos para o nosso cliente, nos últimos 20 anos, o universo de imagens dele era finito”, disse Mabie. “O receio agora é que novos atos criminosos, novos comportamentos ofensivos, novas ideias do que pode ser feito a eles possam ser criados usando IA. Isso pode gerar novos abusos.”

O Centro Canadense de Proteção à Criança recusou-se a comentar o caso.

Planetário Notícias

Fonte: The Guardian

DOAÇÕES: CLICA AQUI PayPal