A inteligência artificial pode representar um risco existencial para a humanidade se não for regulada adequadamente. O alerta foi feito por um representante da Organização das Nações Unidas (ONU) durante discurso nesta segunda-feira (7) em Nova York.

O diplomata afirmou que o avanço acelerado da tecnologia supera a capacidade de governos e instituições de acompanhar seus efeitos. Ele comparou o potencial destrutivo da IA ao das armas nucleares e defendeu a criação de um pacto global para o controle do desenvolvimento e uso da ferramenta.

Segundo o representante, modelos de IA já são capazes de gerar desinformação em massa, influenciar processos eleitorais e até mesmo operar sistemas militares autônomos. Ele citou relatório da própria ONU que aponta a falta de transparência e de mecanismos de supervisão como principais vulnerabilidades.

Falta de consenso - O alerta ocorre em meio a discussões sobre a regulamentação da inteligência artificial em diversos países. Parlamentos europeus e americanos avançam com projetos de lei, mas ainda não há consenso sobre limites éticos e técnicos para o uso da ferramenta.

"Sem uma governança internacional forte, corremos o risco de perder o controle sobre sistemas que podem tomar decisões de forma autônoma", disse o representante, que pediu uma moratória para experimentos considerados de alto risco até que normas sejam estabelecidas.

A ONU deve apresentar, até o fim do ano, uma proposta de convenção global sobre inteligência artificial, com regras vinculantes para os países-membros. A expectativa é que o tema seja debatido na próxima Assembleia-Geral da organização.