A Anthropic afirma ter identificado tentativas de usar seu modelo de IA para fabricar armas biológicas

PN - As conclusões, apresentadas no recente relatório de inteligência de ameaças da empresa, são as mais recentes de uma crescente série de alertas de pesquisadores de IA e especialistas do setor sobre os riscos potenciais da tecnologia para a humanidade .

Os alertas suscitaram apelos à ação, com o senador americano Bernie Sanders exigindo uma pausa no desenvolvimento de IA avançada e a proibição da superinteligência artificial.

O presidente Donald Trump rejeitou até agora esses temores, dizendo na quinta-feira que estava preocupado: "Se não vencermos a IA, ficaremos em uma situação muito ruim".

A empresa publicou seu relatório mais recente de inteligência de ameaças na quinta-feira.

Esses relatórios se tornaram comuns no setor de IA, à medida que as empresas buscam demonstrar como identificam e interrompem tentativas de uso indevido de seus modelos.

Isso inclui o Google, que escreveu na terça-feira que uma pessoa tentou usar sua ferramenta de IA, Gemini, para obter um "guia técnico completo, passo a passo, para sintetizar agentes biológicos como armas".

Segundo o relatório, o modelo de IA da Claude, Anthropic, também foi usado por agentes ligados a uma campanha de ciberespionagem com base na Rússia e por uma instituição de propaganda iraniana.

Os casos preocupantes detectados nos últimos oito meses variaram desde aplicativos de namoro falsos e golpes com Wi-Fi de hotéis até sistemas de vigilância criados para identificar dissidentes.

A Anthropic também acusou empresas chinesas de IA de tentarem replicar as capacidades de Claude.

O extenso relatório lista casos em que grupos suspeitos de serem patrocinados pelo Estado, criminosos, fornecedores de spyware, instituições de propaganda estatal e indivíduos com motivações políticas fizeram uso indevido de sua tecnologia.

A empresa afirmou que o "uso malicioso" de seus modelos Claude Haiku, Sonnet e Opus foi interrompido entre dezembro de 2025 e agosto de 2026.

Nenhum dos casos de uso indevido envolveu Claude Fable ou os poderosos modelos da classe Mythos, com exceção de um caso de destilação – o processo de treinamento de modelos de IA menores usando modelos maiores e mais caros.

Além de detectar o uso de seus modelos para operações cibernéticas e de influência, vigilância, golpes e fraudes e desenvolvimento de armas, a Anthropic afirmou ter bloqueado cientistas que usaram sua IA de maneiras que poderiam apoiar o desenvolvimento de armas biológicas.

O relatório destacou "cinco estudos de caso de atores que utilizam nossos modelos de maneiras que poderiam apoiar o desenvolvimento de armas biológicas".

O uso indevido de recursos biológicos, segundo a organização, é "um dos riscos mais graves dos modelos de IA de ponta". Sem as devidas salvaguardas, tais capacidades "poderiam ter consequências catastróficas", afirmou a Anthropic.

"As mesmas informações que podem ser usadas para desenvolver uma arma biológica também poderiam ser usadas para desenvolver, por exemplo, uma vacina ou uma cura para uma doença", disse Anthropic.

Jacob Klein, chefe de inteligência de ameaças da Anthropic, disse ao New York Times que se tratava de "uma situação incrivelmente complexa".

"Você não está vendo alguém, como nos quadrinhos, dizendo: 'Ei, eu quero construir uma arma biológica para matar todo mundo'", disse ele.

O relatório também mencionou seis casos em que Claude foi usado "para desenvolver software para armas convencionais, incluindo armas de fogo, mísseis, drones armados, bombas e outras munições, bem como os sistemas de mira e controle que as operam".

O relatório indicou que cibercriminosos e hackers patrocinados por estados têm usado cada vez mais essa tecnologia para auxiliar em suas operações.

O grupo de hackers ShinyHunters, assim como laboratórios sediados na China, estavam entre os nomes citados no relatório.

O relatório também afirmou que um grupo de hackers, cujo trabalho é consistente com o do grupo russo Midnight Blizzard, supostamente usou inteligência artificial para construir um sistema que detectava automaticamente quando seu malware era sinalizado pelas defesas de segurança e reescrevia o código até conseguir burlar a detecção.

A empresa sediada na Califórnia afirmou ter incorporado as descobertas em seus processos "para melhor prevenir, detectar e interromper essas atividades no futuro".

A Anthropic afirmou ter compartilhado informações com as autoridades e parceiros do setor, quando apropriado.

O relatório – o primeiro da empresa este ano – surge depois de um dos principais investigadores de segurança da Anthropic ter alertado que a IA está a avançar tão rapidamente que acredita haver uma probabilidade superior a 10% de que "possa matar todos os humanos" na próxima década.

Em um artigo publicado em 6 de setembro, o cientista-chefe da OpenAI, Jakub Pachocki, pediu que a indústria implementasse "desacelerações voluntárias" até que medidas de segurança sejam estabelecidas.

"Preocupa-me que ninguém esteja preparado para as consequências de um crescimento rápido e contínuo da inteligência artificial", disse Pachocki, acrescentando que a OpenAI, criadora do ChatGPT, continuará seu trabalho na construção de mecanismos de proteção, embora sejam necessárias intervenções mais abrangentes.

O alerta motivou uma carta aberta ao primeiro-ministro britânico, Andy Burnham, pedindo um novo tratado multinacional para o desenvolvimento seguro da IA e um apelo para que os governos colaborem sobre como deveria ser um tratado baseado no desenvolvimento da superinteligência.

Nos Estados Unidos, o congressista democrata Bernie Sanders apresentou um projeto de lei para proibir a superinteligência artificial e suspender temporariamente o desenvolvimento de inteligência artificial avançada.

"Quando os cientistas dizem que existe uma chance, uma chance de que isso possa ter um impacto catastrófico na humanidade, você tem que ser um idiota para não dizer: 'Vá com calma'", disse ele na quinta-feira no programa Newsnight da BBC.

Planetário Notícias

Fonte: BBC

Mais notícias aqui!

DOAÇÕES: CLICA AQUI PayPal