Bill Gates alertou que a inteligência artificial já pode ser poderosa o suficiente para desencadear eventos capazes de provocar até 1 bilhão de mortes caso seja utilizada por pessoas mal-intencionadas. Em entrevista divulgada pela NBC News neste domingo (27), o fundador da Microsoft afirmou que nunca houve uma ferramenta tão poderosa quanto a combinação entre agentes mal-intencionados e os sistemas mais avançados de IA. Gates defendeu maior participação dos governos na criação de medidas de segurança para a tecnologia e afirmou que a autorregulação das empresas não é suficiente para enfrentar os possíveis riscos associados ao avanço desses sistemas.
O alerta ocorre em meio ao aumento das discussões sobre segurança após incidentes envolvendo agentes autônomos de inteligência artificial e pedidos de integrantes do próprio setor por mais mecanismos de controle. Executivos e pesquisadores ligados a empresas como OpenAI, Anthropic, Google DeepMind e Microsoft vêm defendendo medidas para acompanhar o rápido desenvolvimento da tecnologia. Gates afirmou que pretende discutir pessoalmente o assunto com o presidente dos Estados Unidos, Donald Trump, que tem se posicionado contra uma desaceleração da corrida pela IA por considerar que novas restrições poderiam favorecer a China. O fundador da Microsoft, por outro lado, argumentou que medidas adicionais de segurança não prejudicariam significativamente o desenvolvimento do setor e afirmou que os riscos apresentados pela tecnologia devem ser tratados com seriedade.
As preocupações também ganharam força depois que pesquisadores passaram a apresentar estimativas sobre possíveis cenários extremos relacionados a sistemas de IA mais avançados. Evan Hubinger, pesquisador da Anthropic, afirmou recentemente acreditar que existe uma probabilidade superior a 10% de um evento envolvendo inteligência artificial causar a extinção humana na próxima década, enquanto o ex-pesquisador da empresa Jacob Coxon também alertou para riscos semelhantes. Diante dessas preocupações, parlamentares americanos chegaram a propor mecanismos que permitiriam às autoridades interromper modelos considerados perigosos. Gates afirmou que não é contrário à existência de um possível “botão de desativação”, mas ressaltou que uma medida desse tipo não seria suficiente sem outras proteções. O debate também passou ao campo internacional, com Estados Unidos e China concordando recentemente em iniciar um diálogo sobre formas de manter sistemas avançados de IA sob controle humano.
