A inteligência artificial reduziu o custo e a complexidade necessários para falsificar vozes, vídeos, mensagens e identidades digitais. Diante desse cenário, a cibersegurança passa a enfrentar um problema que vai além da proteção de sistemas: como estabelecer confiança quando aparência, voz e conteúdo já não são suficientes para comprovar autenticidade?
O tema esteve no centro da palestra de Lucas Agnoletto, CISO da Genial Investimentos, acompanhada pelo Itshow durante o Mind The Sec. Com 20 anos de experiência em segurança da informação e passagem por diferentes empresas e áreas do setor, o executivo propôs uma discussão sobre o impacto da inteligência artificial na maneira como pessoas e organizações validam informações, identidades, máquinas e agentes autônomos.
Cibersegurança precisa lidar com o colapso da confiança
Durante a apresentação, Lucas Agnoletto argumentou que a própria função da segurança da informação enfrenta um paradoxo. Historicamente, profissionais da área ensinaram usuários a desconfiar de links, anexos e remetentes. Ao mesmo tempo, empresas, clientes e lideranças esperam que a segurança seja capaz de gerar confiança sobre proteção de dados, continuidade operacional e gestão dos investimentos realizados.
“A área que nasceu para desconfiar precisa gerar confiança.”
Segundo Lucas Agnoletto, a confiança não surge de uma promessa isolada. Ela é construída pela repetição consistente de comportamentos ao longo do tempo e pode desaparecer rapidamente quando essa consistência é quebrada.
A inteligência artificial adiciona uma nova camada ao problema porque reduz as barreiras necessárias para produzir falsificações convincentes. Durante a palestra, o executivo destacou que recursos disponíveis atualmente permitem clonar vozes a partir de poucos segundos de áudio, produzir vídeos sintéticos e gerar comunicações capazes de reproduzir o estilo de uma pessoa.
O resultado é uma mudança importante para a cibersegurança: ver ou ouvir alguém deixou de representar, por si só, uma evidência suficiente de identidade.
IA reduz o custo da falsificação digital
Lucas Agnoletto definiu esse cenário como um “colapso da confiança”. Durante décadas, elementos como voz, fotografia, vídeo e assinatura funcionaram como referências naturais de autenticidade. O avanço das tecnologias de geração de conteúdo alterou essa relação.
“Uma voz, ela pode ser clonada com três segundos de áudio público. Eu só preciso de três segundos do seu áudio para clonar sua voz”, afirmou Lucas Agnoletto durante a apresentação.
Na avaliação apresentada, a questão também alcança os agentes autônomos. Sistemas capazes de decidir, executar operações, comprar, vender ou interagir com outros sistemas introduzem um desafio adicional de governança, principalmente quando não existe clareza sobre quem responde pelas decisões tomadas.
Por isso, a pergunta que orientava a confiança precisa mudar. Em vez de apenas questionar “como posso confiar nisso?”, Lucas Agnoletto propõe que empresas e profissionais perguntem “como eu valido isso?”.
Identidade, evidência, transparência e responsabilização
Para transformar essa mudança em um modelo aplicável à cibersegurança, Lucas Agnoletto apresentou quatro pilares: identidade, evidência, transparência e responsabilização.
O primeiro é a identidade. A organização precisa determinar quem realmente está do outro lado de uma interação e criar mecanismos secundários de validação. O segundo pilar é a evidência, que deve acompanhar o processo desde sua origem, em vez de ser produzida separadamente apenas depois de uma operação.
O terceiro ponto é a transparência. Não basta receber o resultado produzido por uma tecnologia. É necessário compreender como esse resultado foi construído e manter capacidade de auditoria sobre o processo.
A responsabilização completa o modelo. O desafio torna-se particularmente relevante diante de agentes de IA capazes de realizar ações de forma autônoma.
“Nós temos diversos agentes na nossa empresa rodando, se eles fizerem alguma besteira, ninguém é dono dele. Ninguém assina o problema”, afirmou Lucas Agnoletto.
A aplicação prática desses pilares aparece, por exemplo, na adoção de um agente responsável por negociar automaticamente com fornecedores. Nesse cenário, a empresa deveria conseguir identificar qual credencial pertence ao agente, manter registros das decisões tomadas, compreender por que determinada escolha foi realizada e estabelecer quem responde por eventuais perdas ou falhas.
Para Lucas Agnoletto, sem respostas para essas questões, não existe base suficiente para confiar em pessoas, máquinas ou agentes.
Agentes de IA exigem governança de autonomia
A expansão dos agentes de IA torna a discussão sobre confiança ainda mais relevante para líderes de tecnologia e segurança. Lucas Agnoletto defendeu que essas ferramentas não devem ser tratadas exatamente como pessoas nem apenas como ferramentas tradicionais.
“Agente precisa de governança de autonomia”, afirmou.
O executivo também ressaltou a necessidade de manter o conceito de human in the loop, com participação humana nos processos de autorização e decisão. A discussão deixa, portanto, de se limitar à capacidade técnica da inteligência artificial e passa a incluir controle, auditoria e responsabilidade.
Essa perspectiva também altera a avaliação de tecnologias adquiridas pelas empresas. No caso das máquinas e sistemas, Lucas Agnoletto defendeu que organizações não deveriam confiar somente na promessa apresentada pelo fornecedor. A capacidade de auditar como determinado resultado foi produzido passa a fazer parte da própria construção da confiança.
Dupla checagem pode reduzir riscos sem exigir novos investimentos
Entre as recomendações apresentadas durante a palestra está o mapeamento dos processos nos quais a empresa ainda confia exclusivamente em aparência, voz, vídeo ou e-mail sem realizar uma segunda validação.
Lucas Agnoletto sugeriu começar pelos pontos que concentram maior impacto financeiro. Operações de entrada ou saída de recursos, por exemplo, podem receber mecanismos adicionais de confirmação por canais independentes.
Outra recomendação envolve identificar todos os agentes de IA capazes de tomar decisões de maneira autônoma e documentar quem é o responsável humano por cada um deles.
“Para cada agente de IA que decide sozinho, precisamos documentar quem é o humano responsável. Sem essa resposta, ele é um agente sem dono”, explicou.
O terceiro passo é incorporar os quatro pilares apresentados na avaliação de novos fornecedores, sistemas e agentes. Dessa forma, identidade, evidência, transparência e responsabilização deixam de ser conceitos abstratos e passam a funcionar como critérios de análise.
Confiança deixa de ser presumida e passa a ser verificável
A discussão apresentada no Mind The Sec aponta para uma mudança na própria lógica da cibersegurança. Se conteúdos sintéticos conseguem reproduzir elementos que historicamente funcionaram como provas de autenticidade, empresas precisam construir mecanismos capazes de validar informações independentemente da aparência.
Isso significa que voz, rosto, cargo, e-mail ou comportamento visualmente convincente não deveriam representar evidência suficiente para decisões críticas. O mesmo princípio se estende às máquinas e aos agentes de IA, que precisam oferecer condições de auditoria e operar dentro de estruturas claras de governança.
No encerramento da palestra, Lucas Agnoletto resumiu o desafio a partir da relação entre erro e confiança.
“Os humanos vão sempre errar. As máquinas vão continuar errando. Mas nós estamos construindo mecanismos certos para continuar confiando, mesmo sabendo que os erros vão acontecer. Esse é o ponto principal aqui.”
A reflexão final desloca a discussão da tentativa de eliminar completamente os erros para a construção de mecanismos capazes de identificá-los, preveni-los e limitar seus impactos. Em um ambiente no qual falsificar a realidade se tornou mais acessível, a confiança deixa de depender apenas da percepção humana e passa a exigir validação.
Assine a nossa News e siga o Itshow nas redes sociais para ficar por dentro de todas as notícias do setor de TI e Cibersegurança!