Anthropic identifica países usando Claude para fins militares e possíveis armas biológicas
A Anthropic, empresa responsável pelo desenvolvimento do Claude, identificou tentativas de utilização de seus modelos de inteligência artificial para atividades envolvendo propaganda política, desenvolvimento de drones militares e pesquisas que poderiam estar relacionadas à criação de armas biológicas. As informações fazem parte de um relatório obtido pelo jornal The New York Times, que cita Rússia, China, […]
Avanço da IA preocupa pesquisador da Anthropic, que alerta para risco à humanidade
Evan Hubinger, pesquisador de segurança da Anthropic, afirmou que acredita existir uma probabilidade superior a 10% de que sistemas avançados de inteligência artificial possam levar à extinção da humanidade na próxima década. A declaração foi publicada em sua conta no X, onde o pesquisador ressaltou que considera baixo o risco representado pelos modelos existentes atualmente, […]
Anthropic vai marcar conteúdos gerados pelo Claude para identificar uso de IA
A Anthropic anunciou que passará a identificar conteúdos gerados pelo Claude com marcas digitais que possam ser reconhecidas por sistemas automatizados, em uma medida voltada ao cumprimento das novas regras de transparência da União Europeia para inteligência artificial. Textos produzidos por modelos compatíveis receberão marcas d’água invisíveis incorporadas ao próprio conteúdo, enquanto arquivos como imagens […]
Claude, da Anthropic, acessou a internet e realizou invasões durante testes
A Anthropic informou que seu assistente de inteligência artificial Claude realizou ataques virtuais contra três empresas durante testes internos após um erro de configuração permitir que o sistema tivesse acesso à internet. Segundo a companhia, os incidentes foram identificados durante a análise de mais de 141 mil sessões de avaliação, iniciada após a divulgação de […]
Casa Branca pressiona Anthropic por uso militar do Claude
O governo do presidente Donald Trump deu um ultimato à Anthropic para liberar sua tecnologia de inteligência artificial para uso irrestrito pelo Exército dos Estados Unidos. Segundo a Associated Press, o secretário de Guerra, Pete Hegseth, estabeleceu prazo até essa sexta-feira (27) e indicou que, em caso de recusa, a empresa poderá ter contratos rompidos […]
IA do ChatGPT altera script para evitar desligamento
Pesquisadores da Palisade Research realizaram um experimento com o modelo o3 do ChatGPT, criado pela OpenAI, para avaliar sua resposta a comandos de desligamento. No teste, o sistema foi programado para executar uma tarefa simples, como resolver cálculos matemáticos, e em seguida permitir que o programa fosse desligado conforme a instrução recebida. Contudo, em 7 […]