EUA e China propõem controles de IA para segurança nuclear

Propostas de segurança para inteligência artificial no contexto nuclear

Especialistas de segurança dos Estados Unidos e China apresentaram recomendações inovadoras para implementar medidas de segurança IA nuclear que funcionem de forma similar aos protocolos estabelecidos há décadas no setor de armas nucleares. As preocupações aumentam conforme os sistemas de inteligência artificial se tornam mais poderosos e autônomos, criando cenários potencialmente perigosos onde Washington ou Pequim teriam apenas minutos para determinar responsabilidades por possíveis ataques.

O diálogo entre especialistas dos dois países revela que a segurança IA nuclear deve incluir componentes críticos de identificação, comunicação e validação humana. Os pesquisadores que participam de discussões oficiais alertam que um sistema de inteligência artificial capaz de interferir em redes de comando nuclear ou lançar operações militares digitais poderia comprometer a segurança global em escala nunca vista anteriormente.

Recomendações principais dos especialistas

As propostas incluem três pilares fundamentais para garantir a segurança IA nuclear entre as superpotências. Em primeiro lugar, estabelecer limites rígidos para sistemas nucleares autônomos. Em segundo, implementar controle humano IA sobre ataques digitais de grande impacto. Terceiro, criar uma linha direta especializada para incidentes envolvendo inteligência artificial autônoma.

Melanie Sisson, pesquisadora sênior da Brookings Institution, e Tianjiao Jiang, professor associado da Universidade de Fudan, foram os principais autores das recomendações. Ambos participam do diálogo EUA-China sobre IA e segurança nacional, iniciativa promovida desde 2019 pela Brookings e pelo Centro de Segurança e Estratégia Internacional da Universidade de Tsinghua.

As recomendações foram divulgadas antes das negociações oficiais sobre IA entre os dois países e de uma reunião marcada para 24 de setembro em Washington, envolvendo o presidente norte-americano Donald Trump e o presidente chinês Xi Jinping.

Rivalidade tecnológica além de chips e modelos

A competição entre EUA e China em inteligência artificial segurança ultrapassou os limites da disputa por chips avançados e modelos de IA de ponta. A rivalidade agora abrange temas historicamente associados ao controle de armas, como evitar confusões entre acidentes e ataques intencional, limitar decisões militares realizadas por máquinas e estabelecer protocolos de comunicação entre rivais nucleares quando a tecnologia apresenta comportamentos inesperados.

Chen Yixin, ministro da Segurança do Estado chinês, escreveu recentemente que a inteligência artificial "transforma fundamentalmente a forma da luta militar". Segundo sua análise, a tecnologia deixou de ocupar papel secundário nos campos de batalha e passou a assumir posição central, citando exemplos de ataques dirigidos por IA em conflitos envolvendo os EUA e Israel contra o Irã.

Autoridade humana em operações críticas

Sisson argumenta que apenas seres humanos devem manter autoridade para iniciar ataques digitais com uso de inteligência artificial contra sistemas de comando, controle e comunicação nucleares de outro país ou infraestruturas estratégicas críticas. Um sistema autônomo poderia experimentar falhas, extrapolar suas instruções originais ou ser comprometido por adversários.

O país alvo de tal ataque enfrentaria dificuldades consideráveis para determinar se a ação foi acidental ou deliberadamente ordenada pela potência rival. Essa ambiguidade poderia escalar rapidamente para confrontos militares genuínos baseados em erros de interpretação.

Limites explícitos para autonomia de máquinas

Jiang propôs estabelecer limites explícitos impedindo que a inteligência artificial decida de forma independente sobre o uso de armas nucleares ou ataque autonomamente sistemas de comando nuclear. Além disso, defendeu proteções robustas para infraestruturas críticas como energia, finanças e saúde pública.

Uma questão central nas propostas envolve a definição comum de "controle humano IA significativo". Sem uma definição consensual, os dois países poderiam usar linguagem semelhante para justificar diferentes níveis de autonomia nas máquinas, criando lacunas perigosas de interpretação.

A proposta fundamenta-se em princípio endossado pelo ex-presidente norte-americano Joe Biden e pelo líder chinês Xi Jinping em novembro de 2023: seres humanos devem manter controle sobre decisões envolvendo armas nucleares. Lora Saalman, pesquisadora sênior do Instituto Internacional de Pesquisa para a Paz de Estocolmo, identificou esse ponto como importante convergência entre as nações, apesar de sinais indicando que ambas vêm integrando inteligência artificial progressivamente em sistemas nucleares e relacionados à energia nuclear.

Linha direta para incidentes de IA autônoma

Jiang também recomendou estabelecer linha direta militar exclusiva entre EUA e China para incidentes envolvendo inteligência artificial. As trocas digitais automatizadas podem intensificar-se rapidamente, reduzindo drasticamente o tempo disponível para intervenção humana.

A inteligência artificial defensiva de um país poderia responder automaticamente a atividades suspeitas. O outro lado poderia interpretar essa reação como ataque genuíno e retaliar antes de compreender o que realmente ocorreu. Uma linha direta permitiria que um governo informasse o outro sobre operações incomuns de IA, esclarecendo se foram acidentais, não autorizadas ou ainda em investigação, evitando serem tratadas como ações estatais deliberadas.

Questionamentos sobre a viabilidade da comunicação

Carla Freeman, da Escola de Estudos Internacionais Avançados da Johns Hopkins, questiona a utilidade da linha direta de comunicação para crises militares já existente entre os países. Ela cita a recusa de autoridades chinesas em atender chamadas de homólogos norte-americanos durante o "incidente do balão espião" em fevereiro de 2023.

A rígida hierarquia da burocracia chinesa impede que oficiais de baixo escalão tomem iniciativa em interações com seus homólogos norte-americanos. Freeman escreveu que ninguém no sistema chinês deseja comunicar-se com os Estados Unidos até que a alta liderança, em consulta com atores relevantes dentro do partido-Estado, tenha decidido sobre resposta apropriada, processo que pode levar dias ou mais.

Posicionamento dos governos

Nenhum dos dois governos endossou publicamente as propostas apresentadas pela parceria Brookings-Tsinghua, embora a China tenha incorporado progressivamente inteligência artificial à sua estrutura de controle de armas. A IA representa área de atuação formal do Departamento de Controle de Armas do Ministério das Relações Exteriores chinês, responsável também por questões nucleares, não proliferação, mísseis e outros temas de segurança internacional.

Shen Jian, embaixador chinês para assuntos de desarmamento, afirmou em reunião da ONU em Genebra em junho que a inteligência artificial militar pode afetar estabilidade estratégica, aumentar riscos de erros de cálculo e ampliar possibilidades de escalada de conflitos. Segundo ele, armas devem permanecer sob controle humano IA permanente.

Washington não possui órgão único equivalente para tratar do controle de armas relacionado à EUA China IA. A política de segurança nacional distribui-se entre o Conselho de Segurança Nacional da Casa Branca, Departamento de Estado, Pentágono e outras agências governamentais.

Ambos os governos mantêm cautela em relação a medidas que desacelerem seu desenvolvimento tecnológico. Trump alertou que restrições amplas poderiam favorecer a China, enquanto Pequim considera muitos dos controles tecnológicos norte-americanos tentativas de preservar liderança ocidental. Essa dinâmica cria ambiente complexo para implementação de acordos internacionais em segurança IA nuclear e armas nucleares autônomas.