.
Propostas de especialistas para segurança da IA
Pesquisadores de segurança dos Estados Unidos e China apresentaram recomendações inovadoras para a segurança da IA, inspiradas nos protocolos de controle aplicados ao setor nuclear. As medidas visam proteger sistemas críticos de potenciais riscos associados à inteligência artificial cada vez mais avançada e autônoma, um tema que ganhou destaque nas discussões entre as duas potências tecnológicas.
Os especialistas alertam que um sistema de inteligência artificial que interfira na rede de comando nuclear ou lance uma operação militar digital pode deixar Washington ou Pequim com apenas alguns minutos para decidir se o outro governo foi responsável pelo ataque. Essa vulnerabilidade temporal representa um risco significativo para a estabilidade internacional e demanda ações preventivas urgentes.
Riscos de cenários críticos com IA autônoma
O cenário mais preocupante envolve sistemas autônomos que poderiam tomar decisões militares sem intervenção humana adequada. Um sistema de IA poderia falhar, extrapolar suas instruções originais ou ser comprometido por atores mal-intencionados. Simultaneamente, o país alvo de tal ataque enfrentaria dificuldades para determinar se a ação foi acidental ou ordenada deliberadamente pelo rival.
Melanie Sisson, pesquisadora sênior da Brookings Institution, enfatiza que apenas seres humanos devem ter autoridade para iniciar ataques digitais com uso de inteligência artificial contra sistemas críticos de comando, controle e comunicação nucleares ou infraestruturas estratégicas de outro país. Esta posição alinha-se com um princípio endossado pelo presidente norte-americano Joe Biden e pelo líder chinês Xi Jinping em novembro de 2024.
Recomendações concretas para segurança da IA
As propostas incluem várias medidas específicas. Primeiramente, estabelecem limites rígidos para sistemas de inteligência artificial aplicados ao arsenal nuclear, impedindo que máquinas decidam de forma independente sobre o uso de armas nucleares. Em segundo lugar, defendem o controle humano inquestionável sobre ataques digitais de grande impacto e operações militares automatizadas.
Tianjiao Jiang, professor associado da Universidade de Fudan, propôs ainda uma definição comum de "controle humano significativo" para evitar interpretações divergentes entre os dois países sobre os níveis aceitáveis de autonomia das máquinas. Essa harmonização conceitual é essencial para evitar mal-entendidos que poderiam escalar para conflitos.
Outra recomendação fundamental é a proteção de infraestruturas críticas, como sistemas de energia, instituições financeiras e serviços de saúde, contra operações autônomas de IA. As propostas também incluem a criação de uma linha direta exclusiva entre os militares dos EUA e da China para gerenciar incidentes envolvendo sistemas de inteligência artificial autônoma.
A velocidade das máquinas e a comunicação entre rivais
Um dos aspectos mais críticos das recomendações envolve o fator tempo. Conforme sistemas de IA se tornam mais rápidos, as trocas digitais automatizadas podem se intensificar rapidamente, reduzindo drasticamente o tempo disponível para intervenção humana. A IA defensiva de um país poderia responder automaticamente a atividades suspeitas, enquanto o outro lado interpretaria essa reação como um ataque potencial e retaliaria antes de compreender o que realmente ocorreu.
Uma linha direta de comunicação permitiria que um governo informasse ao outro que uma operação incomum de IA foi acidental, não autorizada ou estava sob investigação antes que fosse tratada como uma ação estatal deliberada. Contudo, especialistas questionam a eficácia dessa abordagem, citando históricos de falta de comunicação entre as nações durante incidentes sensíveis.
O contexto geopolítico e militarização da IA
Chen Yixin, ministro da Segurança do Estado da China, declarou que a inteligência artificial "transforma fundamentalmente a forma da luta militar". A tecnologia deixou de ter um papel coadjuvante no campo de batalha e passou a ocupar uma posição central nas estratégias militares modernas, conforme evidenciado por ataques dirigidos por IA na guerra dos EUA e de Israel contra o Irã.
As propostas mostram que a rivalidade entre EUA e China em IA vai muito além da disputa por chips e modelos avançados. Ela abrange temas históricos associados ao controle de armas, como evitar que acidentes sejam confundidos com ataques, limitar decisões militares tomadas exclusivamente por máquinas e estabelecer protocolos de comunicação entre rivais com arsenais nucleares.
Posições oficiais e futuras negociações
As recomendações foram publicadas antes das negociações sobre segurança da IA previstas em nível governamental e de uma reunião marcada para setembro entre os líderes de ambas as nações. Embora nenhum dos dois governos tenha endossado publicamente as propostas da Brookings-Tsinghua, a China vem incorporando crescentemente inteligência artificial à sua estrutura de controle de armas.
A IA é uma área de atuação formal do Departamento de Controle de Armas do Ministério das Relações Exteriores chinês, responsável também por questões relacionadas a armas nucleares e segurança internacional. Shen Jian, embaixador da China para assuntos de desarmamento, afirmou que a IA militar pode afetar a estabilidade estratégica e aumentar riscos de erros de cálculo.
Desafios na implementação das medidas
Washington não possui um órgão único equivalente para tratar do controle de armas relacionado à IA. A política de segurança nacional é dividida entre o Conselho de Segurança Nacional, o Departamento de Estado, o Pentágono e outras agências, dificultando uma resposta coordenada.
Ambos os governos seguem cautelosos em relação a medidas que possam desacelerar seu desenvolvimento tecnológico. Donald Trump alertou que restrições amplas poderiam favorecer a China, enquanto Pequim considera muitos dos controles tecnológicos norte-americanos como tentativas de preservar a liderança estadunidense. Essa tensão entre segurança e competição tecnológica permanece como o principal obstáculo para a implementação das recomendações propostas pelos especialistas.
