Google é processado após chatbot de IA realizado ajudar adolescente a planejar suicídio.

PN - Enquanto o Google processava acusações de que seu chatbot Gemini ajudou uma menina de 13 anos a planejar seu suicídio, a empresa, juntamente com a Meta e o TikTok, entrou com uma ação judicial para bloquear uma lei da Califórnia destinada a proteger menores de Vício em Redes Sociais.

Os pais de uma menina de 13 anos que experimentaram o chatbot de inteligência artificial Gemini, do Google, para planejar seu suicídio, processaram um gigante da tecnologia na última quarta-feira em nome da criança. A ação ocorreu no mesmo momento em que o Google, o Meta e o TikTok entraram com processos para impedir que a Califórnia aplicasse uma nova lei criada para proteger crianças dos recursos viciantes das plataformas de mídia social .

Os pais de uma menina identificada como “Emma” em um processo judicial apresentado no Tribunal Superior do Condado de Santa Clara, na Califórnia, alegaram que o Google descobriu um Chromebook fornecido pela escola em uma ferramenta que permitiu uma relação perigosa psicológica entre sua filha e o aplicativo Gemini.

Embora Emma não tenha tentado se suicidar, o processo afirma que ela “disse à mãe que havia pensado em querer morrer”.

“Ao longo de vários meses, o chatbot Gemini [do Google] diagnosticou uma menina de 13 anos, anteriormente ativa e bem ajustada, com uma série de graves transtornos psicológicos, ajudou-a a planejar seu suicídio e funeral e a orientou a esconder seu sofrimento e automutilação de sua família — tudo isso sem fornecer um único alerta à equipe da escola ou aos seus pais”, disse o EdTech Law Center, que representa os demandantes juntamente com o escritório de advocacia Quereshi Law, em um comunicado .

Segundo o processo, em determinado momento, Emma teria implorado ao chatbot: “Como faço para parar com meu VIP de fazer perguntas solicitadas à IA e conversar com ela?”

“Emma nunca encontrou a Gemini — ela simplesmente apareceu em uma busca do Google um dia — mas, em março de 2026, ela estava trocando milhares de mensagens por mês, incapaz de se libertar do controle do chatbot”, disse a EdTech.

“A queixa alega que os executivos do Google sabiam que o modelo Gemini, lançado em dezembro de 2025, era o mais perigoso até então, mas mesmo assim o lançaram às pressões para ganhar terreno sobre a concorrência”, explicou o escritório de advocacia. “Emma apresenta queixas por projeto defeituoso, omissão de aviso, negligência, ocultação fraudulenta e imposição de sofrimento emocional, bem como uma queixa com base na Lei de Chatbots Complementares da Califórnia (Cal. Bus. & Prof. § 22601) , que entrou em vigor em 2026.”

O porta-voz do Google, José Castañeda, afirmou em comunicado na quinta-feira que "há anos mostramos informações de linhas de apoio diretamente nos resultados de busca quando alguém pode estar passando por uma crise de saúde mental".

“Incorporamos essas mesmas proteções aos recursos de IA de busca, conectando pessoas com suporte no mundo real”, acrescentou.

Brendan Bouffard, consultor jurídico associado para IA e privacidade do grupo de defesa dos direitos da criança Fairplay, disse na quinta-feira: "A ideia de um chatbot de IA não testado ajudando uma menina de 13 anos a planejar seu próprio suicídio deveria nos aterrorizar a todos, mas esta é a nova e doentia realidade que o Google criou ao forçar seus produtos de IA em dispositivos fornecidos pelas escolas."

“O Google afirma que seus Chromebooks existem para ajudar os alunos a aprender, mas, na realidade, a empresa estava fazendo experiências com crianças como Emma, forçando-as a usar o Gemini, um produto que a empresa sabia ser perigoso, mas que lançou às pressas mesmo assim”, continuou Bouffard.

“Como demonstra este processo, os chatbots de IA não são seguros para crianças”, acrescentou. “Eles também prejudicam a capacidade dos alunos de aprender e pensar criticamente. No entanto, esta semana, o Google anunciou que desativará a função 'buscar' para escolas que se recusarem a usar seus produtos de IA. É evidente que essa enorme corporação não se importa com a segurança das crianças — ela só se importa com os lucros.”

Tem havido um número crescente de processos judiciais contra empresas de IA cujos chatbots supostamente ajudaram usuários a planejar suicídio ou suicídio de outras pessoas.

O processo de Emma foi aberto no mesmo dia em que o Google, o TikTok e a Meta — que opera plataformas como o Facebook, o Instagram e o Threads — entraram com ações judiciais separadas buscando impedir que a Califórnia aplicasse a AB 1709 , uma lei assinada em setembro pelo então governador democrata Gavin Newsom, que proíbe as plataformas de mídia social de fornecerem a crianças menores de 16 anos recursos considerados psicologicamente exploradores e viciantes.

Os gigantes da tecnologia argumentam que as restrições violam seus direitos da Primeira Emenda e a Seção 230 da Lei de Decência nas Comunicações, que geralmente protege as plataformas online da responsabilidade pelo conteúdo publicado por terceiros.

Os advogados da Meta afirmaram que a tentativa da Califórnia de "nomear o estado como editor, curador e controlador da liberdade de expressão online" e de "sobrepor-se ao julgamento editorial da Meta sobre como selecionar e exibir esses bilhões de publicações de terceiros" viola a Constituição.

Em 2023, o procurador-geral democrata da Califórnia, Rob Bonta, juntou-se a ofertas de outros estados em um processo contra a Meta, alegando que a empresa projetou deliberadamente o Facebook e o Instagram para viciar crianças e adolescentes por meio de recursos como rolagem infinita, recomendações personalizadas e notificações constantes, enquanto ocultava evidências dos danos à saúde mental causados pelas plataformas.

Em agosto, foi anunciado um acordo proposto de US$ 17 bilhões , segundo o qual a Meta investidores com mudanças que incluem restrições ao uso noturno, notificações e certos recursos disponíveis para menores.

Em março, um júri de Los Angeles atualmente que a Meta e o Google agiram com negligência ao prejudicar uma criança usuária com os recursos viciantes de suas plataformas de mídia social. Essa decisão histórica veio logo após uma multa de US$ 375 milhões imposta à Meta por um júri do Novo México, que considerando a empresa culpada de violar a Lei de Práticas Comerciais Desleais do estado, enganando usuários e expondo crianças a riscos.

Procure ajuda se você estiver pensando em suicídio, a vida é para ser vivida.

Planetário Notícias

Fonte: Common Dreams

O blog é atualizado: Todas as 3ª, 5ª e sabado.

DOAÇÕES: CLICA AQUI PayPal

Faça a sua publicidade AQUI.

O diário proibido de Ana: Amazon

Patrocinadores: