Líderes de algumas das principais empresas de inteligência artificial participaram nesta quarta-feira (23) de uma reunião do Conselho de Segurança da ONU para discutir os possíveis impactos da tecnologia sobre a segurança internacional. Sam Altman, CEO da OpenAI, Dario Amodei, CEO da Anthropic, e Clement Delangue, CEO da Hugging Face, estiveram entre os participantes do encontro convocado pela França. A discussão ocorreu em meio ao avanço de sistemas cada vez mais poderosos e às preocupações de pesquisadores sobre possíveis ataques cibernéticos, perda de controle humano e outros riscos relacionados ao desenvolvimento da IA. Amodei afirmou que, se for mal administrada, a tecnologia poderia representar um risco para a humanidade, enquanto Altman defendeu maior cooperação internacional para estabelecer regras e padrões de segurança.
Durante sua participação, Altman afirmou que decisões importantes sobre o futuro da inteligência artificial não deveriam ficar concentradas apenas nas empresas responsáveis pelo desenvolvimento dos modelos. Segundo o executivo, governos e instituições democráticas precisam participar da criação das regras que acompanharão o avanço da tecnologia. Delangue, por sua vez, destacou a importância da IA na segurança cibernética, afirmando que esses sistemas podem ser usados tanto para realizar ataques quanto para ajudar na defesa contra invasões. Yoshua Bengio, copresidente do painel científico internacional da ONU sobre inteligência artificial, também participou da discussão e classificou os perigos relacionados à tecnologia como “reais e iminentes”, defendendo uma resposta internacional coordenada.
A reunião também expôs diferenças entre Estados Unidos e China sobre como a inteligência artificial deve ser supervisionada internacionalmente. Michael Kratsios, conselheiro de ciência e tecnologia da Casa Branca, afirmou que organismos como a ONU deveriam priorizar o compartilhamento de boas práticas e o desenvolvimento das capacidades de cada país, em vez de estabelecer um sistema regulatório global. A posição acompanha a adotada pelo presidente Donald Trump, que rejeitou durante a Assembleia Geral da ONU a criação do que chamou de um esquema internacional para controlar a tecnologia. Já o embaixador chinês Fu Cong defendeu o aprimoramento das estruturas regulatórias, das respostas a emergências e da cooperação entre os países. Apesar das diferenças sobre o formato da supervisão, representantes de governos, empresas e pesquisadores colocaram a segurança da IA no centro das discussões do Conselho de Segurança.
