A adoção de inteligência artificial (IA) nas empresas brasileiras está avançando mais rapidamente do que os mecanismos de controle e segurança, segundo o relatório “From Agentic Risk to Human Wins: Building a Culture of Security in the Era of Agentic AI”, divulgado pela plataforma KnowBe4.
O estudo mostra que 65% das organizações no Brasil já utilizam agentes autônomos de IA, sistemas que executam tarefas e tomam decisões sem intervenção humana constante. Ao mesmo tempo, 60% dos líderes entrevistados afirmam que o uso dessas tecnologias ocorre sem aprovação formal ou sem políticas de governança definidas.
A combinação entre expansão da IA e ausência de supervisão tem ampliado a chamada superfície de ataque das empresas, termo usado para descrever todos os pontos que podem ser explorados por criminosos em um ambiente digital.
O que é IA agêntica e por que ela preocupa empresas?
Diferentemente dos modelos tradicionais de IA, que apenas respondem a comandos dos usuários, a chamada IA agêntica pode executar fluxos de trabalho completos, interagir com diferentes sistemas e tomar decisões de forma autônoma.
Segundo a pesquisa, essa capacidade aumenta os ganhos de produtividade, mas também cria novos desafios de segurança. Isso porque essas ferramentas podem acessar dados corporativos, sistemas internos e informações sensíveis sem supervisão adequada.
O relatório aponta que muitas empresas ainda não possuem mecanismos capazes de monitorar todas as aplicações de IA utilizadas por seus funcionários.
Shadow AI cresce e deepfakes aumentam preocupações
Um dos principais pontos destacados pelo estudo é o avanço da chamada “Shadow AI” — uso de chatbots, geradores de imagens, assistentes virtuais e automações sem o conhecimento ou autorização das áreas de tecnologia e segurança da informação. Segundo o levantamento:
- 65% das empresas utilizam agentes autônomos de IA;
- 60% relatam ausência de governança formal sobre parte desse uso;
- 63% dos responsáveis por cibersegurança afirmam que aplicações não autorizadas prejudicaram a segurança da organização nos últimos 12 meses;
- 47% dos trabalhadores admitem recorrer a ferramentas de IA escolhidas por conta própria em vez das soluções oficiais da empresa.
De acordo com a KnowBe4, essa camada não gerenciada de inteligência artificial pode operar com acesso a informações corporativas sem controles adequados, aumentando os riscos de vazamento de dados e invasões.
O estudo também mostra o crescimento da preocupação com ataques baseados em deepfakes. Entre os entrevistados, 90% afirmam que conteúdos criados com deepfakes tornaram mais difícil distinguir informações autênticas de conteúdos falsificados. Já 61% acreditam que poderiam ser enganados por uma fraude sofisticada envolvendo um executivo ou outro representante da empresa.
Segundo Perry Carpenter, Chief Deception Strategist da KnowBe4, “os cibercriminosos conseguem agir na velocidade e escala da IA, utilizando estratégias multicanais que incluem SMS, canais corporativos de colaboração, phishing altamente personalizado e deepfakes para atingir colaboradores”.
Erros humanos continuam entre os principais riscos
Além das ameaças tecnológicas, a pesquisa destaca o papel do comportamento humano nos incidentes de segurança. Dados mostram que 62% dos trabalhadores afirmam que falta de tempo, excesso de tarefas e distrações contribuem para erros relacionados à segurança, mesmo quando conhecem os protocolos adequados.
Entre os líderes entrevistados, 43% apontam as distrações no ambiente de trabalho como uma das principais causas de falhas humanas. O relatório também mostra que 65% dos gestores de segurança afirmam que erros não intencionais durante atividades rotineiras tiveram impacto relevante na segurança das empresas.
O relatório conclui que a combinação entre fatores humanos e novas tecnologias exige uma abordagem integrada de proteção, com foco em treinamento, conscientização e governança dos sistemas de inteligência artificial.
Apenas um terço das empresas lidam bem com IA
A pesquisa indica que apenas 33% das organizações brasileiras atingiram o chamado “padrão ouro” de maturidade em segurança. O desafio passa pela criação de políticas de governança, treinamento de colaboradores e monitoramento contínuo do uso de ferramentas de IA dentro das organizações.
Apesar disso, 95% dos líderes de segurança entrevistados afirmam acreditar que suas organizações estão preparadas para enfrentar ameaças emergentes relacionadas ao assunto nos próximos 12 meses.
