Governança da IA representada por cinco executivos em uma mesa de decisões internacionais, simbolizando a concentração de poder alertada pela ONU.

A governança da IA voltou ao centro do debate internacional nesta quinta-feira (19), após a Organização das Nações Unidas (ONU) alertar para a concentração de poder tecnológico nas mãos de um pequeno grupo de empresas. Durante o evento RightsX, realizado em Genebra, o alto comissário das Nações Unidas para os Direitos Humanos, Volker Türk, comparou o atual modelo de controle da inteligência artificial a uma estrutura medieval, marcada pela ausência de mecanismos suficientes de fiscalização, participação e responsabilização.

A declaração ocorre em um momento de expansão acelerada dos sistemas inteligentes em atividades econômicas, serviços públicos e infraestruturas digitais. Para a ONU, a preocupação ultrapassa os limites da concorrência empresarial e envolve a capacidade de organizações privadas influenciarem decisões que afetam direitos fundamentais, segurança e o funcionamento das sociedades.

Governança da IA enfrenta concentração de infraestrutura

Um dos principais pontos levantados por Volker Türk foi a concentração dos recursos necessários para desenvolver tecnologias avançadas. De acordo com o alto comissário, cinco empresas de tecnologia controlam mais de 70% da capacidade computacional global destinada à inteligência artificial.

O percentual, apresentado durante o evento, evidencia a dependência de uma infraestrutura controlada por poucos participantes do mercado. O levantamento que fundamenta o número não foi detalhado na declaração divulgada pela imprensa.

Essa concentração envolve componentes estratégicos, como centros de processamento de dados, semicondutores especializados, plataformas de nuvem e grandes conjuntos de informações utilizados no treinamento de modelos.

Na prática, empresas com maior capacidade financeira conseguem investir em sistemas mais sofisticados, ampliar suas operações e estabelecer condições comerciais que influenciam o acesso de outras organizações à tecnologia.

O cenário também levanta questionamentos sobre a autonomia digital de países que dependem de fornecedores internacionais para implementar soluções de inteligência artificial em setores estratégicos.

ONU alerta para riscos aos direitos humanos

A preocupação das Nações Unidas não se limita à distribuição de recursos tecnológicos. Volker Türk destacou que sistemas automatizados podem influenciar comportamentos, decisões e o debate público sem que os cidadãos compreendam completamente como essas ferramentas funcionam.

Entre os riscos identificados estão a reprodução de discriminações por algoritmos, a falta de transparência em processos automatizados e a dificuldade de responsabilizar organizações por decisões tomadas com apoio de inteligência artificial.

Em aplicações relacionadas a crédito, recrutamento, saúde e serviços governamentais, modelos treinados com informações inadequadas podem reproduzir desigualdades existentes ou produzir resultados injustos.

A ausência de mecanismos de contestação amplia esse problema. Quando uma pessoa é prejudicada por uma decisão automatizada, torna-se necessário identificar quem desenvolveu o sistema, quais dados foram utilizados e qual organização responde pelo resultado.

Por isso, a regulação da inteligência artificial precisa considerar não apenas o desempenho técnico das ferramentas, mas também seus efeitos sociais e os direitos das pessoas afetadas.

Infraestruturas críticas ampliam preocupação internacional

Outro ponto abordado pelo representante da ONU envolve a utilização crescente de inteligência artificial em setores essenciais, como transporte, abastecimento de alimentos e saúde.

A integração dessas tecnologias pode aumentar a eficiência operacional, melhorar previsões e acelerar respostas a situações complexas. Entretanto, também introduz novas dependências e possibilidades de falhas sistêmicas.

Em ambientes industriais, por exemplo, decisões automatizadas podem interagir com equipamentos, redes de comunicação e sistemas de controle operacional. Sem supervisão adequada, uma configuração incorreta ou uma ação maliciosa pode comprometer processos sensíveis.

O alerta ganha relevância diante da expansão dos agentes autônomos de IA, capazes de executar tarefas e interagir com diferentes aplicações corporativas.

Nesse contexto, a gestão de acesso para agentes de IA passa a integrar as estratégias de proteção empresarial, especialmente quando ferramentas automatizadas recebem permissões para consultar informações confidenciais ou modificar sistemas.

A discussão envolve controles de identidade, segregação de funções, rastreabilidade das operações e mecanismos capazes de interromper comportamentos inesperados.

Empresas enfrentam desafios de transparência e responsabilidade

A discussão sobre governança da IA também produz consequências diretas para organizações que contratam soluções de terceiros.

Embora grande parte das empresas não desenvolva modelos próprios, muitas utilizam plataformas externas para automatizar atendimento, analisar documentos, apoiar decisões financeiras e executar atividades administrativas.

Essa dependência exige maior atenção aos contratos, à localização dos dados, às políticas de privacidade e à possibilidade de auditoria das ferramentas utilizadas.

A avaliação de fornecedores precisa considerar como os sistemas são treinados, quais informações podem ser compartilhadas e quais mecanismos existem para identificar incidentes ou resultados inadequados.

Também é necessário estabelecer responsabilidades internas. A adoção de inteligência artificial não deve ficar restrita às equipes técnicas, pois seus impactos podem alcançar departamentos jurídicos, financeiros, operacionais e de recursos humanos.

A criação de comitês multidisciplinares, políticas de utilização e procedimentos de avaliação de riscos representa uma alternativa para integrar inovação tecnológica e responsabilidade corporativa.

Regulação internacional busca acompanhar avanço tecnológico

O posicionamento de Volker Türk reforça uma discussão já presente na agenda internacional. Em julho de 2026, o secretário-geral da ONU, António Guterres, defendeu a participação dos países na construção de regras para o desenvolvimento e a utilização da inteligência artificial.

Durante o primeiro Diálogo Global sobre Governança da Inteligência Artificial, a organização destacou a necessidade de ampliar a cooperação internacional e reduzir desigualdades no acesso à tecnologia.

O desafio envolve conciliar inovação, competitividade econômica e proteção dos cidadãos, especialmente diante das diferenças regulatórias entre países.

A existência de normas nacionais distintas também pode aumentar a complexidade para empresas que operam globalmente, exigindo adaptações em políticas de segurança, documentação e tratamento de informações.

Nesse ambiente, mecanismos de avaliação independente, transparência algorítmica e prestação de contas tendem a ganhar importância nas estratégias de conformidade.

Concentração tecnológica exige novas decisões corporativas

Para CIOs, CISOs e demais lideranças empresariais, o alerta das Nações Unidas amplia o debate sobre dependência tecnológica e continuidade operacional.

A escolha de plataformas de inteligência artificial passa a envolver fatores que ultrapassam funcionalidades e custos de contratação. Portabilidade de dados, interoperabilidade, capacidade de auditoria e alternativas de fornecedores tornam-se elementos relevantes para reduzir a exposição a decisões externas.

Organizações que concentram processos essenciais em um único ecossistema podem enfrentar dificuldades para migrar aplicações, renegociar contratos ou responder a mudanças nas condições de acesso aos serviços.

Além disso, a expansão dos projetos exige planejamento financeiro e mecanismos de acompanhamento dos resultados. Os custos dos projetos de inteligência artificial precisam ser avaliados em conjunto com requisitos de segurança, disponibilidade e sustentabilidade operacional.

A mensagem da ONU evidencia que o futuro da inteligência artificial não depende exclusivamente de modelos mais avançados. A distribuição do poder tecnológico, a definição de responsabilidades e a participação de governos e da sociedade também influenciarão os limites de sua utilização.

Para o ambiente corporativo, a discussão reforça a necessidade de desenvolver estruturas capazes de garantir que decisões automatizadas permaneçam supervisionadas, verificáveis e alinhadas aos objetivos do negócio e aos direitos fundamentais.

Assine a nossa News e siga o Itshow nas redes sociais para ficar por dentro de todas as notícias do setor de TI e Cibersegurança!