Anthropic identifica países que tentaram usar sua IA para criar propaganda e possíveis armas biológicas, revela 'NYT'

A Anthropic, desenvolvedora do chatbot Claude, revelou ter identificado e bloqueado tentativas de governos estrangeiros de utilizar sua inteligência artificial para fins que vão da produção de propaganda política ao desenvolvimento de armamentos, incluindo drones militares e, possivelmente, agentes biológicos. As descobertas fazem parte de um relatório interno da empresa, ao qual o jornal norte-americano "The New York Times" teve acesso.

Entre os países mencionados no documento estão Rússia, China, Irã e Iêmen. Um dos episódios mais emblemáticos envolve a Rússia, apontada como responsável por empregar o Claude na criação de conteúdo de propaganda camuflado como material jornalístico, com o objetivo de influenciar o processo eleitoral na Moldávia, país vizinho. O relatório também menciona suspeitas de que China e Irã tenham recorrido à ferramenta para rastrear e vigiar dissidentes que vivem no exílio.

A questão mais delicada tratada no documento, no entanto, diz respeito a pesquisas na área biológica. A Anthropic reconhece que, em diversas situações, não teve como determinar se os estudos realizados com auxílio da IA tinham propósitos legítimos — como o desenvolvimento de vacinas — ou se buscavam viabilizar a criação de patógenos perigosos, uma vez que as mesmas metodologias científicas podem levar tanto a avanços médicos quanto a usos nocivos. Diante da incerteza, a companhia optou por suspender preventivamente o acesso ao serviço nesses casos.

A empresa manteve sigilo total sobre esses episódios ligados a possíveis armas biológicas, sem revelar identidades de pesquisadores ou instituições envolvidas, as nacionalidades associadas aos casos, nem quais agentes biológicos estariam em discussão. Segundo o "NYT", esse tipo de risco está entre os pontos que mais preocupam especialistas do setor: a capacidade de modelos avançados de inteligência artificial auxiliarem na criação de patógenos, sejam eles já conhecidos ou inéditos — um temor que ganha peso diante da velocidade de evolução da tecnologia, que desperta dúvidas mesmo entre seus próprios desenvolvedores sobre a possibilidade de mantê-la sob controle humano.

Paralelamente às revelações sobre o uso indevido de sua tecnologia, a Anthropic também se viu no centro de uma polêmica após declarações públicas de um ex-integrante de sua equipe. Jacob Coxon, britânico de 27 anos que atuou por três anos na área de pré-treinamento — fase em que os sistemas de IA processam grandes volumes de dados —, publicou críticas duras tanto à Anthropic quanto à concorrente OpenAI em sua conta na rede social X.

Segundo Coxon, "nenhuma das empresas está agindo de forma responsável. Elas estão correndo diretamente em direção a uma superinteligência capaz de se aprimorar sozinha e estão apostando com nossas vidas". O ex-funcionário foi além ao comentar a percepção que profissionais do setor têm sobre os riscos envolvidos: "As pessoas que estão construindo a IA acreditam sinceramente que ela pode matar todos até o fim da década. Isto não é uma jogada de marketing".