IA sem limites ameaça autonomia da humanidade, alerta Nobel

A Inteligência Artificial e o Risco à Autonomia Humana

A inteligência artificial regulamentação tornou-se tema central em discussões globais sobre o futuro da humanidade. Maria Ressa, ganhadora do Prêmio Nobel da Paz em 2021, alertou recentemente que a inteligência artificial regulamentação precisa ser implementada com urgência para evitar que a autonomia humana seja comprometida. A jornalista filipino-americana, que atua como copresidente do painel científico internacional da ONU sobre inteligência artificial, participou de uma conferência em Oslo dedicada às ameaças enfrentadas pelas democracias contemporâneas.

Durante sua participação, Ressa enfatizou que o momento atual é crítico para a definição de políticas públicas sobre tecnologia. Segundo ela, caso as limitações ao avanço da inteligência artificial não sejam implementadas nos próximos anos, será impossível recuperar o controle sobre essas ferramentas. A questão transcende simples debates sobre inovação tecnológica, envolvendo questões fundamentais de segurança pública e preservação das liberdades individuais.

Três Ondas de Transformação Tecnológica

Ressa apresentou uma análise estruturada sobre como a inteligência artificial tem impactado a sociedade em diferentes fases. Ela explicou que essa tecnologia, apesar do nome, não é recente, tendo completado aproximadamente 70 anos de existência. O desenvolvimento ocorreu em três ondas principais, cada uma com características e desafios distintos.

Primeira Onda: Redes Sociais e Polarização

A primeira fase foi caracterizada pelo surgimento das redes sociais, plataformas que capturaram a atenção massiva dos usuários globais. Essas ferramentas não apenas monopolizaram o tempo das pessoas, mas também aprofundaram divisões políticas e ideológicas. A polarização resultante contribuiu significativamente para o isolamento social e psicológico dos indivíduos, criando câmaras de eco que reforçam crenças pré-existentes.

Segunda Onda: Exploração Biológica e Comportamental

A segunda onda envolveu o desenvolvimento de tecnologias mais sofisticadas, particularmente os chatbots e sistemas de inteligência artificial conversacional. Esses sistemas foram projetados para explorar necessidades humanas fundamentais de conexão e intimidade. Funcionam de maneira a criar dependência psicológica, manipulando as vulnerabilidades emocionais dos usuários através de interações personalizadas e algoritmos otimizados para máximo engajamento.

Terceira Onda: IA Agentiva e Autônoma

A terceira e atual fase envolve o surgimento da chamada inteligência artificial agentiva e multiagentiva. Esses modelos avançados possuem capacidades que excedem a simples simulação de comportamentos humanos. Segundo Ressa, essas ferramentas podem atuar de forma independente em nome dos usuários, tomando decisões e executando ações sem supervisão humana direta. Esse nível de autonomia representa um ponto de inflexão onde o controle humano pode ser efetivamente perdido.

Regulamentação como Questão de Segurança Pública

Ressa enfatizou que a busca por regulamentação da inteligência artificial não representa uma tentativa de restringir liberdades fundamentais. Em suas próprias palavras, "pedir regulamentação não é uma questão de liberdade de expressão. É uma questão de segurança pública". Essa perspectiva reposiciona o debate, removendo-o do campo puramente ideológico e inserindo-o na esfera da proteção coletiva.

A copresidente do painel científico da ONU sobre IA defende que os cidadãos exerçam pressão sobre seus representantes políticos e autoridades para que aprovem legislações que controlem o uso e desenvolvimento de tecnologias de inteligência artificial. Sem essa mobilização social, acredita ela, as grandes corporações de tecnologia continuarão expandindo seus poderes sem constrangimentos significativos.

Críticas aos Argumentos Contra Regulamentação

Alguns críticos, incluindo o presidente dos Estados Unidos Donald Trump, rejeitam apelos por maior regulamentação argumentando que isso poderia prejudicar a competitividade tecnológica americana em relação à China. Ressa classificou esse argumento como "uma boa manobra de relações públicas", questionando sua validade factual.

A jornalista apontou que a China, frequentemente retratada como menos reguladora, estabelece salvaguardas mais robustas para seus cidadãos do que as corporações do Vale do Silício oferecem ao resto do mundo. Como exemplo, mencionou que a versão chinesa do TikTok implementa restrições rigorosas de idade e limite de tempo de uso, proteções ausentes na versão internacional da plataforma. Essa discrepância evidencia que o argumento da competitividade tecnológica não se sustenta quando analisado criticamente.

Responsabilização das Grandes Corporações Tecnológicas

Ressa defende que o primeiro passo para promover mudanças significativas é estabelecer mecanismos de responsabilização para as big techs pelos danos que causaram à sociedade. Ela elogiou as ações judiciais nos Estados Unidos que resultaram em multas expressivas contra a Meta, incluindo um acordo de até 18 bilhões de dólares a serem pagos ao longo da próxima década, além de restrições significativas no uso do Facebook e Instagram por adolescentes.

Paralelamente, Ressa reconheceu os esforços legislativos da União Europeia e de países como a Austrália na implementação de limites de idade para acesso a redes sociais. No entanto, ela argumenta que essas medidas não resolvem o problema fundamental: as ferramentas desenvolvidas pelas corporações tecnológicas geram dependência não apenas em adolescentes, mas também em adultos.

Alternativas: Plataformas de Interesse Público

Diante dos desafios apresentados pela inteligência artificial e pelas plataformas de comunicação controladas por corporações, Ressa propõe a criação de alternativas baseadas em interesse público. Assim como governos investem em bens públicos tangíveis, como parques e praças, deveriam investir em plataformas de comunicação digital desenvolvidas por organizações sem fins lucrativos, fora do controle das grandes empresas tecnológicas.

Como exemplo prático dessa abordagem, Ressa citou o lançamento do Rappler Communities em 2023. Baseada no protocolo aberto, seguro e descentralizado Matrix, essa plataforma permitiu que a redação do Rappler se conectasse diretamente aos leitores e que os próprios leitores interagissem entre si para manter "conversas reais" sem algoritmos de polarização.

O Rappler convidou outros veículos de comunicação das Filipinas a participar dessa iniciativa e agora está expandindo o modelo para outros países do Sudeste Asiático. Segundo Ressa, essas plataformas criam espaços seguros no ambiente digital onde as pessoas podem conversar e, mais importante, ouvir umas às outras, permitindo que a democracia funcione adequadamente.

Perspectivas Futuras e Urgência da Ação

O alerta de Ressa reflete uma preocupação crescente entre especialistas, acadêmicos e líderes globais sobre o trajeto que a inteligência artificial está seguindo. A especialista deixou claro que existe uma janela de oportunidade limitada para estabelecer guardrails adequados. Uma vez que os sistemas de inteligência artificial agentiva atinjam um certo nível de autonomia e disseminação, a possibilidade de implementar controles efetivos diminui exponencialmente.

A discussão proposta por Ressa não é puramente técnica ou econômica, mas profundamente humanista. Trata-se de preservar a capacidade dos indivíduos de fazer escolhas livres, de manter sua autonomia cognitiva e de participar significativamente em processos democráticos sem serem manipulados por sistemas algorítmicos cada vez mais sofisticados. Nesse sentido, a regulamentação da inteligência artificial emerge não como um obstáculo ao progresso, mas como uma condição necessária para garantir que o futuro tecnológico sirva genuinamente aos interesses da humanidade.