Um estudo recente divulgado pela TrendAI mostra que empresas ao redor do mundo estão acelerando a adoção de IA mesmo diante de riscos conhecidos relacionados à segurança e à conformidade.
O levantamento “Securing the AI-Powered Enterprise”, realizado com 3.700 líderes de negócios e de TI, aponta que 67% dos entrevistados já se sentiram pressionados a aprovar o uso de IA apesar de preocupações com segurança. Entre eles, um em cada sete classificou essas preocupações como “extremas”, mas ainda assim priorizou a implementação para acompanhar concorrentes e atender à demanda interna.
Rachel Jin, Chief Platform & Business Officer e Head de TrendAI, afirma que o problema não está na falta de consciência sobre os riscos, mas na capacidade das empresas de gerenciá-los.
“As organizações não carecem de consciência sobre os riscos, mas sim das condições necessárias para gerenciá-los. Quando a adoção é impulsionada pela pressão competitiva, e não pela maturidade da governança, cria-se um cenário em que a IA é incorporada a sistemas críticos sem os controles necessários para garantir seu uso seguro. Este estudo reforça nosso foco em ajudar as organizações a gerar resultados concretos com IA, ao mesmo tempo em que mantêm os riscos de negócio sob controle.”
Além da pressão por adoção, o estudo aponta falhas estruturais na governança e indefinições sobre a responsabilidade na gestão de riscos associados à IA. Em muitos casos, equipes de segurança atuam de forma reativa a decisões tomadas de cima para baixo, o que favorece o surgimento de soluções improvisadas e o uso de ferramentas não autorizadas, o chamado “shadow AI”.
Pesquisas recentes de ameaças da TrendAI reforçam esse cenário, mostrando que cibercriminosos já utilizam IA para automatizar etapas de reconhecimento, acelerar campanhas de phishing e reduzir barreiras de entrada para ataques, ampliando tanto a velocidade quanto a escala das ameaças.
Adoção de IA avança mais rápido que a capacidade de controle
Os dados indicam um descompasso crescente entre a ambição das empresas e sua capacidade de gerenciar riscos. Segundo o estudo, 57% afirmam que a IA está evoluindo mais rapidamente do que conseguem proteger, enquanto 64% relatam ter apenas confiança moderada no entendimento dos marcos legais que regem a tecnologia.
A maturidade em governança ainda é baixa: apenas 38% das organizações possuem políticas abrangentes de IA já implementadas, enquanto muitas ainda estão em fase de elaboração. Além disso, 41% apontam a falta de clareza regulatória e de padrões de conformidade como uma barreira relevante. Na prática, isso significa que a IA está sendo incorporada às operações antes mesmo da definição completa das regras para seu uso.
Confiança em sistemas autônomos ainda é limitada
A confiança em sistemas mais avançados, como a IA autônoma (agentic AI), ainda está em fase de consolidação. Menos da metade (48%) acredita que esse tipo de tecnologia trará melhorias significativas para a ciberdefesa no curto prazo, refletindo preocupações persistentes com acesso a dados, uso indevido e falta de supervisão.
Entre os principais riscos apontados, 44% das organizações destacam o acesso de agentes de IA a dados sensíveis como a maior ameaça. Outros 36% alertam que comandos maliciosos podem comprometer a segurança, enquanto 33% mencionam o aumento da superfície de ataque para cibercriminosos. A mesma proporção também teme abusos relacionados ao status de confiança atribuído à IA e riscos associados à execução autônoma de código.
Além disso, 31% admitem não ter visibilidade ou capacidade de auditoria sobre esses sistemas, o que levanta dúvidas relevantes sobre como controlar ou intervir após sua implementação.
Cerca de 40% das empresas defendem a criação de mecanismos de desligamento emergencial (“kill switch”) para interromper sistemas em caso de falhas ou uso indevido, enquanto quase metade ainda não tem posição definida sobre o tema, evidenciando a falta de consenso sobre como manter o controle em cenários críticos.
Rachel Jin, explica que a IA agentic está levando as organizações a uma nova categoria de risco. “Nosso estudo mostra que as preocupações já são claras, desde a exposição de dados sensíveis até a perda de supervisão. Sem visibilidade e controle, as empresas estão implementando sistemas que não compreendem totalmente nem conseguem governar, e esse risco tende a aumentar à medida que a adoção avança, caso nenhuma ação seja tomada”, afirma.
