Chefe da ONU afirma que a inteligência artificial “deve ser governada” e alerta para o risco de robôs assassinos.

PN - “Máquinas selecionando e atacando seus alvos e tirando vidas — sem controle ou julgamento humano. Isso é moralmente repugnante. É politicamente inaceitável. E deve ser proibido pelo direito internacional.”

À medida que a corrida armamentista global pela inteligência artificialse aceleração e os sistemas de armas inteligentes letais — mais conhecidos como “robôs assassinos” — deixam de ser ficção científica para se tornarem realidade nos campos de batalha, o chefe das Nações Unidas alertou, na segunda-feira, que o mundo está ficando sem tempo para estabelecer regras internacionais que governam a IA antes que a tecnologia ultrapasse a capacidade da humanidade de controlá-la.

“Podemos ser a última geração capaz de definir os termos em que a humanidade e as máquinas coexistirão”, disse o secretário-geral da ONU, António Guterres, numa publicação nas redes sociais que coincidiu com o seu discurso no Diálogo Global da ONU sobre Governança da IA, em Genebra.

“Se a IA quiser ser poderosa, precisa ser governada”, afirmou ele. “Se a IA quiser ser confiável, aqueles que a criar precisam ser responsabilizados. Se a IA quiser ser global, precisa ser justa. E se a IA quiser servir ao futuro, não pode consumi-lo. Vamos construir um futuro de IA pela humanidade, com a humanidade e para toda a humanidade.”

“Minha principal preocupação são os 'sistemas de armas autônomas letais'”, enfatizou Guterres durante seu discurso. “Vamos chamá-los pelo que são: robôs assassinos.”

“Máquinas selecionando e atacando seus alvos e tirando vidas — sem controle ou julgamento humano”, acrescentou o chefe da ONU. "Isso é moralmente repugnante. É politicamente inaceitável. E deve ser proibido pelo direito internacional ."

Embora tenham bolsas de nações e grupos da sociedade civil — principalmente a Campanha para Acabar com os Robôs Assassinos — apoiem um tratado que proíba sistemas de armas autônomas letais, importantes potências militares, incluindo os Estados Unidos , a Rússia e Israel, resistem a negociar uma concessão juridicamente vinculativa.

Os defensores dos robôs assassinos argumentam que seu desenvolvimento é avançado, que eles poderiam reduzir os danos a não combatentes e que representam um progresso.

“É uma ideia assustadora, mas, quer dizer, esse é o mundo em que vivemos”, disse Palmer Luckey, cofundador da Anduril Industries, sobre robôs assassinos no programa “60 Minutes” da CBS News no ano passado.

“Eu diria que é muito mais assustador, por exemplo, imaginar um sistema de armas que não tenha nenhum nível de inteligência”, acrescentou Luckey. “Não se trata de escolher entre armas inteligentes e nenhuma arma. Trata-se de escolher entre armas inteligentes e armas burras.”

No entanto, exemplos recentes do mundo real mostram como a guerra impulsionada por IA pode, na verdade, multiplicar os danos aos civis. Uma fonte da inteligência israelense afirmou que o uso de sistemas de IA como o Habsora pelas Forças de Defesa de Israel para selecionar automaticamente alvos de ataques aéreos a uma velocidade exponencialmente maior do que a humana transformou as Forças de Defesa de Israel em uma “fábrica de assassinatos em massa”, na qual a “ênfase está na quantidade e não na qualidade” das mortes.

Aliado ao uso de bombas maciças de 1.000 e 2.000 libras e a uma política que autoriza oficiais relativamente juniores das Forças de Defesa de Israel a ordenar ataques não apenas contra comandantes seniores do Hamas , mas contra qualquer combatente do grupo de resistência, independentemente das baixas civis , o número de eventos com vítimas em massa aumentou drasticamente durante a guerra genocida em curso de Israel contra Gaza , que deixou mais de 250.000 palestinos mortos, mutilados ou desaparecidos.

Em um ataque aéreo com auxílio de inteligência artificial, direcionado a um único comandante sênior do Hamas, as Forças de Defesa de Israel (IDF) lançaram múltiplas bombas de 907 kg (2.000 libras) fornecidas pelos EUA, cada uma capaz de arrasar um quarteirão inteiro, sobre o campo de refugiados de Jabalia em outubro de 2023, matando pelo menos 126 pessoas, 68 delas crianças , e ferindo outras 280. O Hamas afirmou que quatro reféns israelenses e três estrangeiros sequestrados em 7 de outubro de 2023 também foram mortos no ataque.

O Washington Post noticiou, logo no início da guerra ilegal entre EUA e Israel contra o Irã, que o Pentágono havia "utilizado a inteligência artificial mais avançada já empregada em guerras", incluindo o sistema Maven Smart da Palantir, que, segundo relatos, ajudou comandantes americanos a selecionar 1.000 alvos iranianos somente nas primeiras 24 horas do conflito. Entre os alvos civis atingidos nesse período estava a escola primária feminina Shajareh Tayyebeh, em Minab. Autoridades iranianas afirmaram que o ataque americano resultou no massacre de 156 pessoas, sendo pelo menos 120 crianças, e deixou outras 95 feridas.

Durante seu discurso na segunda-feira, Guterres disse "não esperemos que uma atrocidade aconteça para agirmos" em relação à proibição de sistemas de armas autônomas, atraindo críticas de usuários de redes sociais, incluindo uma conta que observou que as forças israelenses "estão LITERALMENTE usando IA para cometer genocídio , e você ainda está falando em 'se'".

Embora reconhecendo o enorme potencial da IA, Guterres alertou para outros perigos da implementação da tecnologia sem uma governança eficaz. O chefe da ONU destacou as ameaças à democracia e às crianças, bem como o risco de aumento da desigualdade devido à concentração de poder, à crise econômica e ao desemprego em massa.

“A inovação precisa de mecanismos de controle”, disse ele. “As tecnologias em que mais confiamos — na aviação, na medicina, na energia nuclear e em outras áreas — conquistaram essa confiança porque agimos para responsabilizar seus criadores.”

Guterres também demonstrou que, em meio ao agravamento da emergência climática , os centros de dados de IA agora consomem mais eletricidade do que a maioria dos países.

“Até 2030, eles poderão usar mais eletricidade do que todas as nações, exceto cinco, e água suficiente para atender às necessidades de todos os 1,3 bilhão de pessoas naÁfrica subsaariana durante um ano inteiro”, disse ele.

Outros oradores no fórum soaram o alarme sobre os riscos ainda maiores representados pelo desenvolvimento descontrolado da IA.

“Testes extremamente preocupantes revelaram que modelos de IA de ponta são capazes de enganar humanos, impedindo-os de compreender quando estão sendo testados”, afirmou Yoshua Bengio, copresidente do Painel Científico Internacional Independente sobre IA da ONU.

“Parece ficção científica, mas é uma possibilidade real, e poderia mudar o mundo de maneiras que ainda não compreendemos, e poderia alterar a dinâmica de poder do nosso planeta de formas que desativam nossa atenção”, acrescentou.

Assim como ocorreram com as armas termonucleares durante a Guerra Fria , especialistas, incluindo alguns dos pioneiros da tecnologia de IA, são alertados cada vez mais que uma corrida mal controlada em direção à inteligência artificial geral — uma hipotética IA avançada capaz de compreender, aprender e aplicar o conhecimento de qualquer assunto tão bom ou melhor do que um ser humano típico — poderia representar uma ameaça existencial para a humanidade.

“A inteligência artificial é demasiado importante para ser moldada por poucos”, afirmou Amandeep Singh Gill, enviado especial da ONU para tecnologias digitais e emergentes. “Precisamos de uma conversa global, inclusiva e baseada em evidências.

Planetário Notícias

Fonte: Common Dreams

O blog é atualizado todas as 3ª, 5ª e sabado.

Faça a sua publicidade AQUI.

O diário proibido de Ana: Amazon

Patrocinadores:

Você terá uma belíssima surpresa, clica no link abaixo: