Em palestra no Mind The Sec, Thiago Galvão, da Microsoft, discutiu como inteligência artificial, agentes e automação estão ampliando a capacidade dos atacantes e exigindo novas estratégias das equipes de cibersegurança.
A inteligência artificial está alterando a dinâmica entre ataque e defesa na cibersegurança. Durante o Mind The Sec, acompanhado pelo portal Itshow, Thiago Galvão, da Microsoft, apresentou uma visão sobre como a evolução dos modelos de IA, dos agentes e da automação está aumentando a velocidade das ameaças e, ao mesmo tempo, criando novas possibilidades para as equipes responsáveis pela proteção das organizações.
A palestra, intitulada “Beyond Benchmark: a nova era da segurança na velocidade da IA”, partiu de um problema que afeta diretamente CISOs e equipes de segurança: atacantes passaram a contar com mais recursos, sofisticação, ferramentas e capacidade computacional. Na avaliação apresentada, acompanhar essa evolução apenas com os métodos tradicionais de defesa tornou-se cada vez mais difícil.
“Os atacantes têm mais velocidade, mais recursos, têm mais sofisticação, mais ferramentas e poder de computação”, afirmou Thiago durante a apresentação.
Inteligência artificial amplia a velocidade dos ataques
A assimetria entre ataque e defesa foi um dos pontos centrais da palestra. Se a inteligência artificial permite automatizar atividades e aumentar a produtividade das empresas, a mesma capacidade tecnológica também pode ser utilizada para acelerar ações maliciosas.
Thiago apresentou exemplos de ataques com níveis crescentes de automação e ressaltou que esse cenário não está restrito ao Brasil. Trata-se, segundo ele, de um problema global, que obriga as organizações a reconsiderarem como identificam vulnerabilidades, analisam sinais e respondem a incidentes.
A mudança também afeta uma premissa tradicional da segurança: a expectativa de que seres humanos tenham tempo suficiente para identificar uma ação maliciosa e reagir. Com a automação, vulnerabilidades podem ser encontradas e exploradas em uma velocidade incompatível com processos exclusivamente manuais.
Nesse contexto, a palestra organizou o desafio em três frentes: defender com inteligência artificial, utilizar IA de maneira segura e proteger os dados envolvidos nesse novo ambiente.
IA também passa a integrar a estratégia de defesa
Para enfrentar ataques mais rápidos, a própria inteligência artificial começa a assumir uma participação maior na defesa. Um dos exemplos apresentados por Thiago envolve o uso de múltiplos modelos e agentes para analisar repositórios de código, executar testes de vulnerabilidade e verificar possibilidades de exploração.
A abordagem apresentada inclui análises relacionadas a autenticação, injeção de SQL e APIs, além da validação das vulnerabilidades em ambientes controlados. O objetivo não é somente identificar uma falha, mas verificar se ela pode efetivamente ser explorada e apoiar o processo de correção.
Esse modelo também procura aproximar áreas que historicamente enfrentam dificuldades para trabalhar de maneira integrada. Desenvolvimento, engenharia, infraestrutura e segurança precisam compartilhar contexto para que vulnerabilidades possam ser tratadas sem comprometer o ritmo de evolução dos produtos.
Thiago destacou que desenvolvedores nem sempre possuem visibilidade sobre todas as conexões existentes dentro de um ecossistema de software. Por isso, uma análise mais ampla do repositório pode ajudar a avaliar os impactos de uma alteração antes que ela avance no ciclo de desenvolvimento.
Segurança precisa acompanhar engenharia e desenvolvimento
A velocidade de entrega continua sendo uma prioridade para as equipes de engenharia. Novas funcionalidades, pipelines de desenvolvimento e redução do tempo de chegada ao mercado permanecem entre os objetivos das empresas, mas passam a conviver com um cenário de ameaças mais automatizado.
A discussão apresentada no Mind The Sec indica que segurança e desenvolvimento não podem atuar como estruturas isoladas. Quanto maior a velocidade dos ataques, maior é a necessidade de inserir mecanismos de análise e correção dentro do próprio ciclo de desenvolvimento.
Isso significa avançar de um modelo concentrado apenas na identificação de problemas para uma abordagem capaz de apoiar também a remediação. A inteligência artificial pode contribuir nesse processo ao analisar grandes volumes de informações, relacionar vulnerabilidades e fornecer contexto às equipes responsáveis pela decisão.
100 trilhões de sinais entram na análise de segurança
Outro dado apresentado durante a palestra dimensiona a escala atual desse desafio. Segundo Thiago, a Microsoft está analisando 100 trilhões de sinais em seu ambiente.
“Agora a Microsoft está checando 100 trilhões de sinais em seu ambiente. Eu vou repetir: 100 trilhões de sinais”, destacou.
O volume evidencia uma limitação prática: equipes humanas não conseguem analisar individualmente todos os eventos produzidos por identidades, dispositivos, aplicações, redes e demais componentes da infraestrutura tecnológica.
A inteligência artificial passa, portanto, a ser utilizada para relacionar sinais e contexto. Mais do que identificar um evento isolado, a proposta é compreender como diferentes pontos de dados podem estar conectados e se fazem parte de um caminho de ataque.
Essa capacidade pode ajudar equipes de segurança a identificar recursos afetados, compreender possíveis movimentos laterais e estabelecer prioridades de remediação. A mudança é relevante especialmente em ambientes corporativos complexos, nos quais diferentes plataformas e sistemas produzem grandes volumes de logs continuamente.
Agentes de IA criam um novo problema de governança
A expansão dos agentes de inteligência artificial também recebeu atenção durante a palestra. Segundo Thiago, algumas organizações analisadas possuem milhares de agentes criados em seus ambientes, embora nem todos estejam efetivamente em utilização.
Em determinados casos, foram identificados entre 5 mil e 6 mil agentes criados. O número levanta uma questão semelhante à enfrentada anteriormente com usuários, dispositivos, aplicações e serviços: como descobrir o que existe no ambiente e estabelecer regras de acesso?
A governança passa pela criação de identidade para esses agentes e pela definição do que cada um pode acessar e executar.
“Uma vez que criamos uma identidade, podemos assinar essa identidade. Nós podemos entender o que esse agente pode, o que esse agente pode acessar”, explicou Thiago.
Esse controle ganha relevância à medida que agentes deixam de atuar apenas como ferramentas de consulta e passam a executar tarefas dentro das organizações. Quanto maior a autonomia concedida, maior a necessidade de conhecer permissões, identidades e riscos associados a cada operação.
Governança de agentes entra na agenda dos CISOs
O cenário apresentado no Mind The Sec mostra que a inteligência artificial está criando duas transformações simultâneas para a cibersegurança. A primeira está relacionada à velocidade dos ataques. A segunda surge dentro das próprias organizações, com a adoção crescente de modelos e agentes capazes de acessar dados e executar ações.
Para os CISOs, isso amplia o escopo da governança. Não basta proteger usuários humanos, endpoints e aplicações. Será necessário compreender quais agentes existem, quem os criou, quais recursos utilizam, quais informações acessam e quais riscos podem introduzir no ambiente corporativo.
Ao mesmo tempo, a inteligência artificial se torna parte da resposta ao próprio problema. Diante de volumes crescentes de sinais e ataques mais automatizados, o uso de IA na defesa tende a ocupar espaço na análise de vulnerabilidades, detecção, contextualização de ameaças e remediação.
A discussão apresentada por Thiago no Mind The Sec aponta, assim, para uma mudança estrutural na operação da segurança. Em um ambiente no qual atacantes utilizam automação e inteligência artificial para ganhar velocidade, a defesa precisa combinar tecnologia, governança e integração entre segurança, engenharia, desenvolvimento e infraestrutura.
Assine a nossa News e siga o Itshow nas redes sociais para ficar por dentro de todas as notícias do setor de TI e Cibersegurança!