Conselho de Segurança da ONU debate risco existencial da inteligência artificial

O alarme sobre os riscos existenciais da inteligência artificial deixou o terreno da ficção científica e chegou a duas mesas de poder na mesma semana: o Conselho de Segurança da Organização das Nações Unidas (ONU), onde o tema foi tratado pela primeira vez, e o encontro entre o presidente dos Estados Unidos, Donald Trump, e o presidente da China, Xi Jinping. O que está em disputa não é só a capacidade técnica dos modelos, e sim quem escreve as regras: governos nacionais, organismos multilaterais ou as próprias empresas que desenvolvem a tecnologia.

A cobertura de centro relatou que o setor passou a pedir regulação em voz alta. Dario Amodei, fundador da Anthropic, escreveu em 12 de setembro que a indústria precisa de regras e foi apoiado por Sam Altman, da OpenAI, que já havia levado pedido semelhante a senadores americanos. O pacote defendido pelas companhias inclui padrões globais de avaliação e implementação de modelos, regras de segurança para toda a indústria, limites para a velocidade de desenvolvimento e sistemas de notificação de incidentes. Na mesma reportagem, parte dos pesquisadores lê o movimento com desconfiança: o que se desenha, nessa avaliação, é autorregulação antecipada, construída antes que as empresas sejam confrontadas na Justiça por danos concretos, como ocorreu com as redes sociais. A indicação mais forte disso seria a proposta atribuída a Demis Hassabis, do Google, de uma agência de padrões conduzida pela própria indústria, com nome já esboçado, a Autoridade de Padrões de IA de Fronteira.

O diagnóstico em que os relatos convergem é o de fragmentação. No Conselho de Segurança, Ed Miliband, representante do Reino Unido, disse que governos não podem terceirizar a empresas privadas o dever primordial de proteger seus cidadãos. Donald Trump afirmou na abertura da Assembleia Geral que os Estados Unidos rejeitam totalmente qualquer tentativa de construir controle globalista sobre a inteligência artificial, e comparou os alertas sobre a tecnologia aos alertas sobre o aquecimento global, que ele considera falsos. O representante do governo americano no conselho sustentou que a prosperidade vem da inovação sem permissão e da adoção doméstica, reduzindo o papel da ONU a compartilhamento de boas práticas. A China manteve o discurso multilateralista, mas recusou desacelerar o desenvolvimento: em 14 de setembro, Guo Jiakun, do Ministério das Relações Exteriores, afirmou que alarmismo, confronto e concorrência desleal atrapalham a governança global. A Rússia questionou se o assunto cabe no mandato de paz e segurança internacional definido pela Carta da ONU. Dois blocos já estão de pé: a Organização Mundial de Cooperação em Inteligência Artificial, a Waico, criada pela China com 29 Estados-fundadores, entre eles o Brasil, e o Pax Silica, iniciativa do Departamento de Estado dos Estados Unidos para cadeias de suprimento de semicondutores e minerais críticos.

O único registro de veículo de direita no acervo tratou o assunto como disputa de poder entre as duas maiores potências do setor, apresentando a cúpula entre Donald Trump e Xi Jinping como possível definidora do novo parâmetro de controle e implementação da tecnologia, sem entrar no debate regulatório. Veículos de esquerda não cobriram o episódio até o fechamento deste texto, de modo que a ênfase que costuma vir desse campo, a de responsabilidade estatal e proteção de quem é afetado pelos modelos, aparece aqui apenas pela voz de autoridades estrangeiras e de pesquisadores citados na cobertura de centro, como Heidy Khlaaf, do AI Now Institute, que propõe replicar na tecnologia o modelo de investigação conjunta de falhas usado em energia nuclear, aviação, saúde e finanças.

O desdobramento brasileiro está em uma frase da reportagem: o Marco da Inteligência Artificial, em discussão na Câmara dos Deputados, enfrenta resistência de empresas de tecnologia justamente por classificar os modelos conforme o risco de uso, o mesmo ponto que levou executivos a pressionar a Casa Branca contra a regulação federal americana.

Ainda não se sabe se a Autoridade de Padrões de IA de Fronteira sairá do papel nem com que poderes, qual foi o resultado prático do encontro entre Trump e Xi para a governança da tecnologia, e se a proposta de um órgão internacional de fiscalização defendida por António Guterres e por Yoshua Bengio tem apoio suficiente entre os membros permanentes do Conselho de Segurança. Também não há calendário informado para a votação do texto brasileiro.