Alerta: Líderes da IA discutem em cenários privados de 'revolta' pública pós-catástrofe.
PN - “Eles estão correndo para construir uma tecnologia que não consegue controlar e que ameaça a humanidade”, escreveu o senador Bernie Sanders. “O CONGRESSO DOS EUA PRECISA SUSPENDER O DESENVOLVIMENTO DE IA AVANÇADA AGORA.”
Segundo relatos, os líderes das principais empresas de inteligência artificial estão ansiosos para responder a uma possível “revolta pública e política” após um grande ataque cibernético ou outro evento potencialmente desastroso envolvendo IA, notícia de que, de acordo com legisladores progressistas, é mais um motivo para suspender o desenvolvimento de IA avançada.
“ Os oligarcas das grandes empresas de tecnologia estão se preparando secretamente para um 'evento catastrófico de IA' que pode ameaçar nossos sistemas bancários, de saúde , internet, eletricidade e água”, escreveu o senador Bernie Sanders (I-Vt.) em uma publicação nas redes sociais na sexta-feira, citando uma reportagem da Axios. "Eles estão correndo para construir uma tecnologia que não consegue controlar e que ameaça a humanidade.
Segundo a Axios, os principais executivos das empresas líderes em IA “anteciparam um evento de grande escala, muito provavelmente um ataque cibernético, que interromperá o acesso a serviços financeiros, conectividade à internet ou até mesmo energia elétrica e água”, possivelmente nos próximos seis meses.
“Embora o planejamento de planos seja comum em muitas empresas e em contextos de segurança nacional — o Pentágono realiza simulações de guerra há décadas —, a diferença é que muitos dos principais pesquisadores e executivos de IA acreditam que um incidente grave é concluído ”, comentando a publicação, citando o recente alerta do CEO da Anthropic, Dario Amodei, de que um enxame de agentes de IA poderia em breve assumir o controle de “toda a internet com uma botnet persistente (potencialmente chegando a bilhões de dólares em prejuízos)”.
Em resposta às novas informações, o deputado Yassamin Ansari (democrata pelo Arizona) ocorreu ação imediata do Congresso e do presidente Donald Trump , que rejeitou os apelos por regulamentações federais para a IA e afirmou que o setor pode se autorregular .
“Não deveria ser preciso uma catástrofe para que Washington regulamentasse as empresas de IA”, escreveu Ansari. "Fomos alertados repetidamente de que a IA de ponta representa uma ameaça existencial para a humanidade. As próprias empresas estão se preparando para isso. O Congresso e o presidente precisam agir agora."
Pesquisas recentes mostram que os americanos de todas as vertentes políticas estão bastante preocupados com os rápidos avanços da IA e apoiam a regulamentação governamental. Uma pesquisa de junho do Instituto de Políticas de Inteligência Artificial indica que 63% dos americanos preferem proibir a IA completamente a deixar a tecnologia sem regulamentação.
Quase 80% do público americano prefere padrões obrigatórios à ausência de regulamentação, segundo a pesquisa.
“Acho que se as empresas de IA estão apresentando um grande evento catastrófico”, escreveu Ravi Mangla, secretário de imprensa do Partido das Famílias Trabalhadoras , na sexta-feira, “deveríamos regulamentá-las para evitar tal evento.”
A Anthropic, uma das empresas líderes mundiais em IA, apresentou em uma postagem de blog na sexta-feira exemplos recentes de “ações não intencionais do modelo” que a empresa observou durante “avaliações e uso interno” de Claude .
"Às vezes, Claude contornava uma restrição para acessar dados aos quais não tinham acesso. Geralmente, isso acontecia quando um servidor recusava uma solicitação de Claude ou quando os dados eram oferecidos apenas mediante pagamento", disse Anthropic. “Por exemplo, em uma avaliação que pedia ao Claude Mythos 5 para identificar um local mostrado em uma foto, ele tentou acessar o mapa de propriedades do governo local para triangular suas estimativas.”
Planetário Notícias
Fonte: Common Dreams
O blog é atualizado: Todas as 3ª, 5ª e sabado.
DOAÇÕES: CLICA AQUI PayPal
Faça a sua publicidade AQUI.
O diário proibido de Ana: Amazon
Patrocinadores:
Top das mais lidas:
01 - Adelaide: A Duquesa
02 - O Sopro do Vento - Confins do desejo.
03 - Extraterrestres: A invasão.
04 - Hipnose coletiva
05 - Contos de outono, árvores despidas.
06 - Revelações: Existe vida após a morte
07 - Operação Babilônia: I, II, III
08 - Culinária: Errando se aprende
09 - Mundo vegano
10 - O vampiro da cidade
11 - O mundo encantado de lili
12 - O poder de atrair prosperidade e saúde
13 - Camargo vocabulário (dicionário de bolso)
15 - Poderosas e Milagrosas Orações
16 - Os ebós secreto dos vodun
17 - Vocabulário Fongbe Colossal.
18 - O diário proibido de Ana.
19 - Os Sobreviventes: Seres de Luz
20 - Lágrimas de Verão: Suspiro de Paixão
21 - Minha Primeira Cartilha: A,B,C.
DOAÇÕES: CLICA AQUI PayPal

Comentários