A adoção de sistemas inteligentes deixou de estar restrita a projetos experimentais e passou a fazer parte de atividades financeiras, atendimento ao cliente, desenvolvimento de software, análise de documentos e automação operacional. Ao mesmo tempo que aumenta a produtividade, esse movimento amplia a superfície exposta a ataques e coloca a relação entre IA e cibersegurança entre as principais preocupações das empresas.
O risco não está apenas no uso ofensivo da tecnologia por criminosos. A implantação de ferramentas sem supervisão, a criação de contas automatizadas, o compartilhamento de informações confidenciais com plataformas externas e a concessão de permissões excessivas também podem abrir caminhos para vazamentos, fraudes e interrupções operacionais. A expansão dessa estrutura exige que as organizações revisem políticas de proteção de dados, autenticação e gerenciamento de identidades.
Inteligência artificial acelera o ciclo dos ataques
A inteligência artificial permite automatizar etapas que antes exigiam mais tempo e conhecimento técnico. Criminosos podem utilizá-la para produzir mensagens de phishing convincentes, adaptar abordagens de engenharia social, pesquisar vulnerabilidades e personalizar campanhas contra funcionários ou executivos específicos.
Essa capacidade reduz erros de linguagem, melhora a aparência de comunicações falsas e dificulta a identificação imediata de tentativas de fraude. Áudios, imagens e vídeos manipulados também podem ser empregados para simular autoridades, fornecedores ou integrantes da liderança de uma organização.
Relatório de resposta a incidentes da Unit 42 aponta que fragilidades relacionadas a identidades tiveram participação relevante em quase 90% das investigações analisadas. Em vez de romper diretamente barreiras técnicas, muitos invasores entram nos ambientes utilizando credenciais, sessões ou tokens legítimos obtidos de forma indevida.
O cenário demonstra que IA e cibersegurança precisam ser avaliadas de maneira integrada. A mesma tecnologia utilizada para detectar comportamentos suspeitos pode ajudar agentes maliciosos a identificar alvos, aprimorar golpes e executar tentativas em maior escala.
Identidades digitais se tornam novo perímetro corporativo
A transformação mais profunda ocorre no campo das identidades digitais. Além das contas tradicionais de funcionários, as empresas precisam administrar aplicações, robôs, dispositivos conectados, APIs, serviços em nuvem e agentes de IA que executam tarefas de maneira parcial ou totalmente autônoma.
Pesquisa da Palo Alto Networks realizada com 2.930 lideranças aponta que identidades de máquinas já superam as humanas na proporção de 109 para uma. O levantamento também mostra que nove em cada dez organizações enfrentaram ao menos uma violação relacionada a identidade durante os 12 meses avaliados.
O Brasil acompanha essa tendência em velocidade elevada. Dados nacionais do mesmo estudo indicam que 91% das companhias brasileiras sofreram ataques baseados em identidade, enquanto a quantidade de identidades associadas a agentes inteligentes pode crescer 113% em um ano. Além disso, 93% das empresas consultadas reconhecem conceder aos colaboradores permissões superiores às necessárias para suas funções.
O problema se agrava quando contas automatizadas permanecem ativas sem inventário, proprietário definido ou prazo de validade. Uma credencial esquecida pode continuar conectada a bancos de dados, plataformas financeiras e aplicações internas, oferecendo uma rota silenciosa para movimentações laterais.
Uso não autorizado aumenta exposição de informações
Outro ponto de atenção é a chamada shadow AI, caracterizada pelo uso de ferramentas inteligentes sem aprovação ou conhecimento das áreas de tecnologia e segurança. Funcionários podem inserir contratos, códigos, registros de clientes, dados financeiros ou informações estratégicas em serviços públicos para acelerar tarefas cotidianas.
Mesmo quando não existe intenção maliciosa, esse comportamento pode transferir conteúdo corporativo para ambientes que não seguem as políticas de retenção, privacidade ou conformidade da organização. A equipe de segurança também perde visibilidade sobre quais plataformas estão processando os dados e quais condições são aplicadas ao armazenamento.
Bloquear indiscriminadamente todas as soluções tende a estimular práticas ainda menos visíveis. Uma abordagem mais eficiente envolve disponibilizar ferramentas aprovadas, estabelecer classificações de informação e orientar claramente quais conteúdos podem ser utilizados em modelos externos.
A discussão sobre IA e cibersegurança passa, portanto, pela criação de regras que permitam inovação sem retirar da empresa o controle sobre seus ativos informacionais.
Gestão de acessos precisa acompanhar a automação
A proteção dos novos ambientes depende de uma arquitetura de segurança de identidade capaz de abranger pessoas, aplicações e máquinas. Isso inclui inventariar contas, aplicar o princípio do menor privilégio, revisar permissões periodicamente e revogar acessos que deixaram de ser necessários.
A autenticação multifator continua relevante, mas já não resolve isoladamente todo o problema. Técnicas de sequestro de sessão, roubo de tokens e exploração de contas de serviço podem contornar controles tradicionais. Por isso, torna-se necessário avaliar também o comportamento de cada identidade após a autenticação.
Soluções baseadas em Zero Trust ajudam a reduzir essa exposição ao exigir validações contínuas, segmentar recursos e limitar a confiança concedida a usuários ou sistemas. Um agente automatizado responsável por consultar um estoque, por exemplo, não deveria ter permissão para acessar informações financeiras ou modificar cadastros fora de sua função.
Também é necessário proteger chaves criptográficas, segredos de aplicações e credenciais utilizadas por APIs. Esses elementos devem ser armazenados em estruturas próprias, com rotação periódica, rastreabilidade e políticas que impeçam sua inclusão direta em códigos ou arquivos compartilhados.
Governança deve começar antes da implantação
Projetos de inteligência artificial não devem chegar à área de segurança apenas depois de entrarem em produção. A avaliação precisa começar durante a seleção da ferramenta, considerando dados processados, integrações necessárias, níveis de autonomia e consequências de uma decisão incorreta.
Uma política corporativa adequada deve definir responsáveis, critérios de aprovação, formas de auditoria e procedimentos para incidentes envolvendo modelos inteligentes. O monitoramento contínuo permite identificar acessos fora do padrão, volumes incomuns de consultas e comportamentos incompatíveis com a finalidade original da aplicação.
A relação entre IA e cibersegurança também precisa chegar aos conselhos e à alta liderança. A exposição envolve continuidade operacional, conformidade regulatória, reputação, propriedade intelectual e confiança de clientes, deixando de ser uma questão exclusiva das equipes técnicas.
A inteligência artificial continuará ganhando espaço nas empresas. A diferença estará na capacidade de transformar velocidade em inovação controlada, mantendo identidades verificáveis, acessos limitados e dados protegidos durante todo o ciclo de uso da tecnologia.
Assine a nossa News e siga o Itshow em nossas redes sociais para ficar por dentro de todas as notícias do setor de TI e Cibersegurança!