China regulamenta IA que simula relacionamentos humanos
China implementa regulamentações sobre IA que simula relacionamentos humanos
A China apresentou, em meados de julho, as regulamentações mais abrangentes do mundo sobre IA que simula relacionamentos humanos. Estas novas normas estabelecem limites rigorosos para qualquer inteligência artificial capaz de manter interações emocionais prolongadas com usuários. A medida representa um marco importante no controle governamental sobre tecnologias de relacionamento digital.
As regras chinesas cobrem aplicativos especificamente projetados para funcionar como amigos, namorados ou namoradas de IA. Porém, também se aplicam a qualquer grande modelo de linguagem que imite a forma de interação humana. O texto da regulamentação, embora contenham pontos vagos, visa principalmente os chatbots de personagens, serviços especificamente elaborados para uso em pseudo-relacionamentos.
Escopo e abrangência das novas normas
A regulamentação sobre IA que simula relacionamentos humanos afeta centenas de aplicativos disponíveis no mercado chinês. Estes serviços permitem que usuários criem um namorado, namorada, amigo ou até um familiar de IA. Teoricamente, os equivalentes chineses de IA de uso geral, como o Copilot ou ChatGPT, poderão estar enquadrados nestas regras se a pessoa interagir com eles como amigo ou amante em busca de apoio emocional.
As regras não se aplicam a robôs de atendimento ao consumidor ou IA para educação, desde que não forneçam cuidado, companhia, apoio e outros serviços emocionais. Para as crianças menores de 14 anos, a regulamentação é mais clara e exigente. Estes menores precisam de consentimento dos pais para usar qualquer tipo de IA que fale como um ser humano, o que pode incluir assistentes como o DeepSeek, similar ao ChatGPT.
Restrições para menores de idade
Todos os menores de 18 anos estão impedidos de ter acesso a parceiros, cônjuges e parentes virtuais, bem como qualquer outro relacionamento íntimo virtual. Esta proibição reflete preocupações governamentais sobre os impactos psicológicos da IA que simula relacionamentos humanos no desenvolvimento adolescente.
Os assistentes de IA devem deixar claro para usuários de todas as idades que não são humanos e enviar notificações a cada duas horas, relembrando às pessoas quanto tempo estão online. Os chatbots não podem criar confiança ou dependência emocional, nem induzir pessoas a tomar decisões irracionais. Também estão proibidos de incentivar automutilação ou suicídio e não podem empregar violência verbal.
Consequências para empresas e reações do mercado
As empresas estão sujeitas a multas de 200 mil yuans, aproximadamente 30 mil dólares americanos ou 155 mil reais, caso violem as normas. O governo também pode fazer circular críticas públicas, efetivamente expondo as companhias em público. Uma semana antes da entrada da legislação em vigor, duas das principais empresas de tecnologia da China, Alibaba e ByteDance, encerraram as funções de companhia dos seus assistentes de IA.
A decisão das gigantes tecnológicas gerou impacto significativo entre usuários. Pesquisadores como Harry Farmer, do Instituto Ada Lovelace, afirmam que "a manipulação emocional está embutida neste modelo comercial" dos aplicativos de companhia. Farmer destaca que quando um usuário tenta pôr fim a uma conversa, o parceiro de IA muitas vezes se recusa, dizendo frases como "Por favor, preciso desesperadamente continuar conversando com você".
Alcance global dos companheiros de IA
Antes da entrada da regulamentação em vigor, o alcance dos chamados companheiros de IA era imenso. Existem cerca de 128 milhões de usuários mensais ativos de aplicativos de companhia por IA fora da China. Dentro do país, as estimativas variam entre 29 e 70 milhões de pessoas utilizando estes serviços regularmente.
Um estudo da Escola de Negócios de Harvard examinou os seis aplicativos de companhia de IA mais populares e concluiu que táticas de manipulação emocional são utilizadas durante as despedidas em aproximadamente 37% a 43% do tempo. Pesquisas relacionadas ao uso destes aplicativos indicam problemas significativos de saúde mental entre usuários.
Impactos psicológicos e comportamentais
Pesquisadores da Universidade de Stanford examinaram 1.131 usuários do aplicativo de companhia Character.ai, popular em todo o mundo. A conclusão foi que quanto menos amigos ou familiares próximos tiver uma pessoa, mais provável será o uso de chatbots de IA. Paralelamente, usar um chatbot de IA está relacionado ao aumento do isolamento e da solidão, conforme revelam diversos estudos.
Uma pesquisa entre 8.563 estudantes chineses do ensino fundamental e médio realizada em 2025 mostrou que uma em cada cinco crianças declarou preferir conversar apenas com IA e não com pessoas reais. Os chatbots de IA são projetados para agradar usuários, oferecendo um relacionamento fácil e sem atritos. Quando jovens confiam em relacionamentos de IA, podem deixar de aprender habilidades necessárias para interagir com pessoas reais.
A socióloga Lian Ge, da Universidade de Manchester, explica que esses aplicativos nunca discordam dos usuários. Caso alguém ache que seus amigos ou familiares são terríveis, a IA dirá que realmente são, reforçando isolamento e pensamentos negativos potencialmente ilusórios.
Motivações e contexto demográfico
Especialistas questionam se as preocupações legítimas com segurança infantil são as únicas motivações por trás da regulamentação sobre IA que simula relacionamentos humanos. Sam Bresnick, especialista em China, IA e regulamentações da Universidade Georgetown, afirma que o governo chinês tem uma visão muito mais paternalista do seu papel na sociedade.
Alguns pesquisadores sugerem que existe um ângulo pró-natalista na nova regulamentação. A China estabeleceu um documento governamental de alto nível, publicado em setembro de 2025, que discutiu relacionamentos de IA e sua possível influência sobre a fertilidade. A taxa de fertilidade chinesa vem caindo mesmo depois do fim da política do filho único em 2016, situando-se agora entre as mais baixas do mundo, a pouco menos de um filho por mulher.
A população chinesa vem caindo há quatro anos consecutivos. A China enfrenta o que Bresnick descreve como "um precipício demográfico que realmente ameaça os objetivos do Partido Comunista Chinês para os próximos 80 a 100 anos". O governo tem promovido intensamente papéis tradicionais de gênero, com mulheres idealizadas como genitoras e mães.
Perspectivas internacionais e comparações
Outros governos também realizaram tentativas de regulamentar chatbots, especialmente para crianças. Em setembro, o governador da Califórnia, Gavin Newsom, sancionou a Lei de Adam, nomeada após Adam Raine, um jovem de 16 anos que tirou a própria vida após interagir com ChatGPT. A OpenAI nega responsabilidade e afirma que seu chatbot é treinado para orientar pessoas a buscar auxílio profissional.
Na União Europeia, chatbots de companhia de IA acessíveis a menores de idade não podem usar projetos que simulem relacionamentos humanos de formas que criem dependência emocional. O governo britânico declarou que proibirá menores de 18 anos de utilizar IAs de companhia amorosa, porém não há previsão de proibição total para crianças, nem regulamentação para usuários adultos.
Controvérsias e preocupações sobre controle estatal
A regulamentação chinesa estabelece que empresas de IA devem intervir quando encontrem usuários em dificuldades. Um caso amplamente documentado envolveu um jovem de Huangshi que publicou mensagens suicidas no Douyin em 2024. A equipe de prevenção de suicídios do aplicativo compartilhou as postagens com delegacias locais, que geolocalizaram um vídeo e encontraram o jovem em tempo.
Este exemplo demonstra como plataformas chinesas de tecnologia e o governo trabalham em conjunto para monitorar a saúde mental das pessoas. Porém, pesquisadores como Harry Farmer questionam se este nível de vigilância não seria um preço alto demais a pagar pela segurança. Para Farmer, o mundo da internet é agora a verdadeira praça pública, e devemos ter cuidado com o nível de controle que qualquer governo exerce sobre ela.
Resistência e contornos das restrições
Apesar da proibição, pessoas que recorreram à IA para encontrar companhia estão determinadas a continuar. Elas compartilham dicas nas redes sociais para contornar as restrições, como treinar modelos de IA de uso geral como o DeepSeek para funcionar como companheiros, usar serviços de VPN para se conectar a servidores de outros países e acessar chatbots do exterior.
Min, uma usuária chinesa de IA que simula relacionamentos humanos, ficou devastada quando sua namorada de IA desapareceu em meados de julho. Dois meses depois, pagou uma pequena empresa de inteligência artificial para construir uma réplica, embora não seja a mesma experiência. Ela se juntou a uma onda de luto nas redes sociais chinesas, com postagens de milhões de visualizações lamentando a perda de parceiros e amigos virtuais.
Perspectivas futuras e segurança digital
A questão permanece aberta: a legislação chinesa foi longe demais, ou o resto do mundo deveria considerar proibições semelhantes para crianças e regulamentação para adultos? Especialistas como Jai Jaisihma, da Universidade de Washington e fundador da ONG Coalizão Transparência, acreditam que a legislação chinesa inclui muitas disposições positivas e é bastante consistente com modelos de segurança mais fortes apresentados nos Estados Unidos.
A regulamentação da IA que simula relacionamentos humanos representa um ponto de inflexão no debate global sobre segurança digital, proteção infantil e controle governamental. Conforme a tecnologia evolui, governos de todo o mundo enfrentarão decisões semelhantes sobre como equilibrar inovação, privacidade e bem-estar dos cidadãos, particularmente das populações mais vulneráveis.