Shadow IA: uso de IA generativa sem autorização explode nas empresas e cria caos na segurança

15 de abril de 2025

por Da Redação Abranet

Shadow IA: uso de IA generativa sem autorização explode nas empresas e cria caos na segurança

Houve um aumento de 30 vezes nos dados enviados para aplicações de IA generativa (genAI) por usuários corporativos no último ano. Isso inclui dados confidenciais, como código-fonte, dados regulamentados, senhas, chaves de acesso e propriedade intelectual, crescendo significativamente os riscos de violações que geram prejuízo financeiro, quebra de compliance e roubo de propriedade intelectual, de acordo com dados de pesquisa feita pela Netskope.

O relatório também destaca como a shadow AI – o uso de ferramentas de IA sem a aprovação ou supervisão da área de segurança – tornou-se o tópico de maior desafio da TI e como ela prejudica as organizações, já que 72% dos usuários corporativos fazem uso de contas pessoais nas aplicações genAI.

No momento da conclusão deste relatório, a Netskope tinha visibilidade de 317 aplicações de genAI como ChatGPT, Google Gemini e GitHub Copilot. Uma análise mais ampla revela que 75% dos usuários corporativos estão acessando aplicações com recursos genAI, gerando um problema ainda maior às equipes de segurança: a ameaça interna não-intencional.

“Apesar dos esforços para implementar ferramentas genAI gerenciadas pela empresa, a nossa pesquisa mostra que a shadow IT se transformou em shadow AI, com quase três quartos dos usuários ainda acessando apps genAI por meio de contas pessoais”, diz James Robinson, CISO da Netskope.

Redução de riscos

Muitas empresas não têm visibilidade total ou mesmo parcial sobre como os dados são processados, armazenados e aproveitados dentro do uso indireto da genAI. Muitas vezes, escolhem aplicar uma política de “bloquear antes e perguntar depois” a qual permite explicitamente certas aplicações e as demais.

“Nossos dados mais recentes mostram que a genAI não é mais uma tecnologia de nicho; ela está em todo lugar. Ela está cada vez mais integrada a tudo, desde aplicações dedicadas até interações de backend. Essa onipresença traz um desafio crescente de segurança cibernética e exige que as organizações adotem uma abordagem abrangente no gerenciamento de riscos”, adverte Ray Canzanese, diretor do Netskope Threat Labs.

O estudo aponta que no último ano houve um aumento significativo na quantidade de organizações que operam infraestrutura de IA generativa localmente, passando de menos de 1% para 54% e essa tendência deve continuar. Apesar de reduzir os riscos de exposição indesejada de dados para aplicações de terceiros em nuvem, a mudança para infraestrutura local gera novos tipos de riscos à segurança de dados, desde vulnerabilidades na cadeia de suprimentos, vazamento de dados e manuseio inadequado das saídas de dados até injeção de prompts, jailbreaks e extração de metaprompts. Como resultado, muitas empresas adicionam a infraestrutura de IA generativa hospedada localmente - além da utilização de aplicações de IA generativa baseadas em nuvem.

leia

também