A Anthropic, empresa responsável pelo desenvolvimento do Claude, identificou tentativas de utilização de seus modelos de inteligência artificial para atividades envolvendo propaganda política, desenvolvimento de drones militares e pesquisas que poderiam estar relacionadas à criação de armas biológicas. As informações fazem parte de um relatório obtido pelo jornal The New York Times, que cita Rússia, China, Irã e Iêmen entre os países relacionados aos episódios analisados. Segundo a companhia, o acesso à tecnologia foi bloqueado em todas as situações consideradas suspeitas ou potencialmente perigosas.

Entre os casos descritos está o uso do Claude pela Rússia para produzir propaganda apresentada como se fosse conteúdo jornalístico, com o objetivo de influenciar as eleições na Moldávia. O documento também aponta suspeitas de que atores ligados à China e ao Irã tenham utilizado a tecnologia para monitorar opositores que vivem no exterior. Além dessas atividades, a Anthropic identificou usos relacionados a drones de guerra e pesquisas na área biológica. A empresa afirmou que alguns desses trabalhos apresentavam dificuldade de classificação porque técnicas semelhantes podem ser utilizadas tanto para objetivos legítimos, como o desenvolvimento de vacinas, quanto para a criação de agentes patogênicos.

Diante da impossibilidade de determinar a finalidade de determinadas pesquisas biológicas, a Anthropic informou que decidiu interromper o acesso aos seus modelos como medida de precaução. A companhia, porém, não revelou detalhes sobre os casos relacionados a possíveis armas biológicas, incluindo os nomes dos pesquisadores ou instituições envolvidos, os países aos quais estariam vinculados e os agentes biológicos pesquisados. O relatório amplia as preocupações sobre o possível uso de modelos avançados de inteligência artificial em atividades militares, operações de influência e pesquisas de uso duplo, ao mesmo tempo em que mostra as medidas adotadas pela empresa para identificar e bloquear aplicações consideradas de risco.