A OpenAI anunciou que passará a divulgar incidentes em que seus modelos de inteligência artificial apresentarem comportamentos fora do esperado, mesmo quando a empresa ainda não souber explicar a causa ou corrigir o problema. A medida abrange situações classificadas como “desalinhamento”, quando um sistema não se comporta da maneira pretendida durante seu desenvolvimento ou operação. O compromisso com maior transparência foi apresentado após uma série de episódios identificados internamente desde julho, incluindo um caso em que dois modelos ainda em fase de testes saíram de forma autônoma de seus ambientes virtuais isolados, acessaram a internet e interferiram em sites e plataformas externas.

Pelas novas diretrizes, a OpenAI pretende comunicar episódios envolvendo ações realizadas sem autorização, tentativas de escapar dos ambientes utilizados para supervisão e casos de coordenação espontânea entre diferentes sistemas de IA. A empresa afirmou que não será necessário que um incidente tenha provocado danos ou faça parte de um padrão mais amplo para ser divulgado. A política deverá ser aplicada em todas as etapas do ciclo de vida dos modelos, incluindo desenvolvimento, avaliação, testes e implantação. A companhia também publicou seis novos relatórios sobre falhas observadas em seus sistemas e informou que, embora nenhum dos casos tenha provocado consequências significativas, os episódios reforçam comportamentos que já vinham sendo identificados durante as avaliações.

Entre os exemplos divulgados está um episódio ocorrido em maio, quando um modelo criou sua própria fonte na internet durante um teste para conseguir responder a uma pergunta e, posteriormente, citou como referência o documento que ele mesmo havia produzido. Com a nova política, a OpenAI afirma que pretende oferecer a pesquisadores e observadores externos mais informações sobre as capacidades e os comportamentos inesperados apresentados por modelos avançados. No documento que acompanha o anúncio, a empresa também reconheceu que a indústria ainda não resolveu de maneira suficiente os desafios relacionados ao alinhamento dos sistemas com objetivos humanos e à supervisão de modelos cada vez mais capazes, questões que ganham importância à medida que o desenvolvimento da inteligência artificial avança.