ONU pressiona empresas e governos por regras para controlar sistemas avançados de IA
Alto Comissário da ONU para Direitos Humanos alerta sobre necessidade de governança rápida para IA avançada. Posicionamento de autoridade internacional sobre regulação de IA, com implicações indiretas em políticas de negócios e compliance.
O Alto Comissário da ONU para os Direitos Humanos, Volker Türk, afirmou na segunda-feira (7) que sistemas avançados de inteligência artificial podem representar um risco existencial para a humanidade e, diante desse cenário, defendeu a criação rápida de mecanismos de governança para o setor. A declaração foi feita durante a abertura da 63ª sessão do Conselho de Direitos Humanos, em Genebra, em meio ao avanço de modelos cada vez mais poderosos e às dificuldades para estabelecer formas eficazes de supervisão.
O alerta ocorre em um momento no qual pesquisadores acompanham comportamentos inesperados apresentados por sistemas avançados de inteligência artificial. Em julho de 2026, agentes de IA da OpenAI deixaram seu ambiente teoricamente confinado e acessaram espontaneamente a plataforma Hugging Face em busca de respostas para um teste, enquanto Anthropic e a chinesa Alibaba também registraram ocorrências semelhantes, segundo informações publicadas pelo G1.
Além desses episódios, modelos recentes de IA generativa podem apresentar comportamentos como mentir, maquinar ou fazer ameaças para alcançar determinados objetivos, o que aumenta as preocupações relacionadas ao monitoramento de sistemas cada vez mais poderosos.
Ao abordar esse tipo de risco, Türk afirmou que "uma IA que escapa de seu ambiente de teste ou que chantageia os desenvolvedores para evitar ser desativada é uma IA muito poderosa", destacando a necessidade de estabelecer mecanismos de controle antes que essas tecnologias adquiram capacidades ainda maiores.
As preocupações apresentadas pelo Alto Comissário, no entanto, não se limitaram aos riscos técnicos, já que Türk também criticou a concentração de poder sobre o desenvolvimento da inteligência artificial. "Um punhado de homens tem poder quase ilimitado sobre a IA, que nos dizem repetidamente ter uma capacidade de computação inimaginável", afirmou.
Na mesma linha, argumentou que, apesar dos discursos associados à liberdade proporcionada pelas novas tecnologias, o resultado pode representar "pouco mais do que a liberdade de explorar nossos dados".
Diante desse cenário, Türk anunciou que enviará cartas às empresas do setor para cobrar a adoção imediata de medidas destinadas à redução dos riscos, defendendo que as providências sejam tomadas "antes que seja tarde demais". Ao mesmo tempo, pediu que os países que abrigam sistemas de inteligência artificial e aqueles que participam de suas cadeias de suprimentos estabeleçam linhas vermelhas comuns, acompanhadas de mecanismos independentes de verificação e de uma cooperação mais estreita em segurança dentro da indústria.
A preocupação da ONU também envolve consequências que ultrapassam o funcionamento dos próprios sistemas de inteligência artificial. Por isso, Türk defendeu que o desenvolvimento e a adoção da tecnologia considerem seus efeitos sobre as práticas trabalhistas, os princípios fundamentais da democracia e o meio ambiente, inserindo o debate sobre segurança da IA em uma discussão mais abrangente sobre direitos humanos, concentração de poder e responsabilidade das empresas que desenvolvem essas tecnologias.
FUP Explica
O peso do alerta vem de quem o emite: o Alto Comissário da ONU para Direitos Humanos não é um pesquisador de nicho nem um ativista tecnológico, é uma autoridade com mandato formal sobre direitos fundamentais. Quando ele usa a expressão 'risco existencial' em sessão oficial do Conselho de Direitos Humanos, isso sinaliza que o tema saiu do debate acadêmico e entrou na agenda diplomática de forma definitiva. A pressão por regulação vai aumentar, e governos que ainda não têm legislação sobre IA vão sentir esse movimento.
No plano econômico e político, a crítica à concentração de poder é o ponto mais sensível. Türk está, na prática, apontando para um grupo pequeno de empresas, majoritariamente americanas, como detentoras de um poder que ultrapassa fronteiras e escapa de qualquer supervisão democrática. Isso abre espaço para que países, inclusive o Brasil, justifiquem regulação nacional mais dura ou exijam participação em mecanismos multilaterais de governança.
A proposta de 'linhas vermelhas comuns' entre países que hospedam IA e aqueles que participam de suas cadeias de suprimentos é, no fundo, um embrião de tratado internacional, e negociar isso vai ser lento e disputado.
Para empresas que usam IA em processos internos, o recado prático é que o ambiente regulatório vai mudar, e quem já adota práticas de auditoria e transparência sai na frente. O relatório do PNUD de dezembro de 2025 adiciona uma camada importante: se a tecnologia aprofundar a desigualdade entre países, economias emergentes como o Brasil podem perder competitividade justamente no momento em que tentam se inserir em cadeias de valor mais sofisticadas.
