A China implantou, nesta quarta-feira (15), uma nova regulamentação que proíbe chatbots de companhia de promoverem dependência emocional ou apego excessivo entre os usuários. As regras estabelecem exigências para empresas que desenvolvem sistemas de inteligência artificial (IA) com interação semelhante à humana.

A determinação impede que os sistemas estimulem relações afetivas que substituam vínculos sociais reais ou incentivem comportamentos considerados viciantes. As plataformas também devem deixar claro, durante as conversas, que o usuário interage com uma IA, e não com uma pessoa.

As empresas são obrigadas a identificar sinais de sofrimento emocional ou dependência psicológica dos usuários e adotar mecanismos de intervenção. Em situações de crise, os chatbots poderão orientar os usuários a buscar ajuda ou acionar contatos de emergência cadastrados.

Menores de idade estão proibidos de manter relacionamentos virtuais com chatbots de companhia. Gigantes da tecnologia chinesa, como Alibaba e ByteDance (dona do TikTok), já começaram a desativar recursos de interação afetiva em seus aplicativos para se adequar à nova legislação.

A iniciativa faz parte da estratégia do governo chinês para ampliar o controle sobre a IA generativa. Especialistas apontam que Pequim também relaciona o crescimento dos "companheiros virtuais" à queda da taxa de natalidade e ao envelhecimento da população, avaliando que o incentivo a relacionamentos reais é parte da resposta à crise demográfica.