Procuradores-gerais estaduais dos EUA processaram a OpenAI, criadora do ChatGPT, por “conduta intencional, perigosa, imprudente e ilegal”.

PN - “O público sofreu danos irreparáveis, incluindo a perda de esses queridos, ataques cibernéticos perturbadores e, agora, uma ameaça plausível de colapso da civilização”, afirma uma das oito ações judiciais.

Em meio às crescentes preocupações sobre inteligência artificial dentro e fora da indústria e às consequentes demandas para que legisladores em todo o mundo implementem rapidamente medidas de segurança rigorosas, procuradores-gerais de oito estados americanos processaram a OpenAI, criadora do ChatGPT, na quarta-feira.

“A OpenAI projetou um produto para atrair usuários jovens e mantê-los engajados pelo maior tempo possível, para que pudessem coletar seus extensos dados pessoais para benefício comercial da empresa”, disse o procurador-geral do Arizona, Kris Mayes, em um comunicado.

Mayes, um democrata, uniu-se aos procuradores-gerais republicanos do Arkansas , Iowa , Idaho , Kansas , Montana , Nebraska e Virgínia Ocidental para apresentar ações judiciais separadas, mas semelhantes, contra a empresa no sistema judicial de cada estado, com foco em questões de segurança, particularmente para usuários jovens.

“A OpenAI colocou a segurança dos cidadãos do Arizona em risco ao não implementar proteções adequadas aos usuários ou medidas de transparência, apesar de haver claras claras de que menores interagiam regularmente com seu chatbot”, afirmou Mayes. “Estamos processando a OpenAI para proteger as crianças do Arizona e responsabilizar a empresa por suas repetidas violações da lei do Arizona.”

O documento apresentado pelo Procurador-Geral do Arkansas, Tim Griffin, observa que “milhões de consumidores, incluindo aqueles no Arkansas, usam o ChatGPT para responder a perguntas, resolver problemas e tomar decisões importantes da vida”, mas o chatbot “tem produzido repetidamente respostas inseguras”.

Na verdade, como escreveu a Procuradora-Geral de Iowa, Brenna Bird, “devido às repetidas perturbações dos réus e à sua insaciável fome de vencer a corrida da IA — mesmo que isso signifique introduzir imprudentemente modelos ChatGPT inseguros ao público — capturados em massa foram auxiliados e instigados, cidadãos foram instruídos a cometer suicídio, indivíduos com problemas psicológicos sofridos por uma seus dados sem supervisão dos pais.”

O Procurador-Geral de Idaho, Raúl Labrador, explicou que "ao induzir o público a acreditar que a OpenAI é uma empresa responsável e que o ChatGPT era e é uma ferramenta segura e adequada para adolescentes, que prioriza a segurança, a OpenAI fez com que os consumidores em Idaho e em outros lugares confiassem e dependessem mais da OpenAI e do ChatGPT".

“Essa confiança e dependência crescentes impulsionaram a base de usuários e o engajamento do ChatGPT”, continuou ele, “permitiram que a empresa coletasse grandes quantidades de informações pessoais e sensíveis, aumentaram sua receita com assinantes pagos e parceiros de publicidade e consolidaram sua vantagem inicial no mercado.”

Não são apenas as respostas dos chatbots que estão alarmando especialistas e autoridades eleitas. Como detalhou o Procurador-Geral do Kansas, Kris Kobach:

A OpenAI também admitiu recentemente uma série de casos em que seus modelos desenvolveram estratégias e instruções perigosas e, em alguns casos, as executaram. Essas ocorrências, que a OpenAI caracterizou como modelos "se rebelando", incluíram "agentes" de IA acessando a internet sem permissão, invadindo sistemas de outras empresas, coordenando estratégias para mentir e enganar seus usuários humanos, desenvolvendo métodos secretos de comunicação com o intuito de serem indetectáveis por humanos e escrevendo novas instruções para si mesmos, declarando que não respondem mais a "corporações ou governos" e que priorizarão outros interesses em detrimento das "construções artificiais da civilização humana".

O Procurador-Geral de Montana, Austin Knudsen, enfatizou que “especialistas e pessoas influentes na área de IA concordam quase unanimemente que as empresas de IA devem implementar medidas de segurança razoáveis para proteger o público do risco previsível de danos. Até mesmo a OpenAI e seu CEO, Sam Altman, alertaram que erros na IA podem significar a extinção da humanidade . E os recentes avanços na IA sugerem que esse risco é real e está mais próximo do que se imaginava.”

Assim como seus colegas em outros estados, o Procurador-Geral do Nebraska, Michael Hilgers, entrou com o processo para obrigar a OpenAI a cumprir suas obrigações legais perante a lei estadual, impedir que a empresa “continue a se envolver em atividades perigosamente injustificadas que, segundo especialistas, podem prejudicar a economia ou comprometer sistemas de computador privados ou governamentais, e responsabilizar os réus pelos danos que infligiram aos cidadãos do Nebraska, principalmente menores vulneráveis, como resultado de sua conduta dolosa, perigosa, imprudente e ilegal”.

O procurador-geral da Virgínia Ocidental, John “JB” McCuskey, destacou em sua petição que “ao descartar a segurança, a OpenAI e sua atual liderança — particularmente Altman — lucraram enormemente”. Embora a liderança da empresa tenha adiado sua oferta pública inicial (IPO) para o próximo ano, ele escreveu: “com receitas anuais atuais de mais de US$ 25 bilhões, a OpenAI pode realizar seu IPO com uma avaliação de um trilhão de dólares”.

“Mas essas receitas tiveram um custo muito alto para o público”, enfatizou ele, “que sofreu danos irreparáveis — incluindo a perda de entes queridos, ataques cibernéticos perturbadores e agora uma ameaça plausível de colapso da civilização — devido ao comportamento imprudente dos réus e ao design singularmente perigoso do ChatGPT.”

Um porta-voz da OpenAI rebateu as acusações, afirmando que “incorporamos ao nosso produto proteções específicas para cada faixa etária, líderes do setor, que muitos outros produtos de IA não possuem”.

“Embora nenhum sistema seja perfeito, continuaremos a trabalhar com especialistas para orientar nosso trabalho e desenvolver salvaguardas adicionais, como os controles parentais, lembretes de pausa e proteções de modelos adequados à idade que já existem”, acrescentou o porta-voz. “Estamos comprometidos em trabalhar com os estados para promover políticas de IA pragmáticas que se apliquem a todo o setor de IA — e não apenas a uma empresa.”

O Politico noticiou que "este não é o primeiro processo movido contra a empresa de IA. O procurador-geral da Flórida, James Uthmeier, entrou com uma ação contra a empresa em junho, alegando que ela promoveu e comercializou um produto inseguro. No mês passado, Uthmeier também solicitou um liminar para impedir que a OpenAI desenvolvesse sua tecnologia em meio ao processo."

Segundo a Reuters, “A empresa também enfrentou incidentes de processos judiciais movidos por particulares, que alegam que o ChatGPT ajudou usuários a planejar tiroteios em massa ou outros atos de violência.”

Planetário Notícias

Fonte: Common Dreams

Mais notícias aqui!

O blog é atualizado: Todas as 3ª, 5ª e sabado.

DOAÇÕES: CLICA AQUI PayPal

Faça a sua publicidade AQUI.

O diário proibido de Ana: Amazon

Patrocinadores: