O Risco da 'Shadow AI': Como Lidar com o Uso Não Oficial de LLMs no Ecossistema Salesforce

O uso de inteligência artificial generativa já faz parte da rotina de muitos profissionais. Para redigir e-mails, analisar planilhas complexas, otimizar blocos de código Apex ou criar documentação de arquitetura, ferramentas como ChatGPT, Claude e Gemini tornaram-se atalhos comuns. No entanto, o uso fragmentado e não oficial dessas plataformas públicas deu origem a um novo e crítico desafio de segurança e governança: a chamada 'Shadow AI'.

Historicamente, os times de tecnologia e líderes de comunidade já lidavam com a 'Shadow IT' — a adoção de softwares sem o aval corporativo. A versão baseada em IA, no entanto, traz um agravante sério: o modelo de negócio de diversas plataformas públicas envolve utilizar os prompts e os dados inseridos pelos usuários para treinar e aprimorar seus próprios LLMs. Quando um consultor, desenvolvedor ou analista de negócio cola uma proposta comercial, um contrato de cliente ou uma base de dados exportada do Sales Cloud em um chat público, há o risco real de expor informações sensíveis ou dados de identificação pessoal (PII).

No contexto técnico de implementações Salesforce, isso exige atenção redobrada. Projetos que lidam com Health Cloud, Financial Services Cloud ou mesmo instâncias complexas de Revenue Cloud e CPQ frequentemente processam dados altamente restritos. O envio dessas informações para um LLM público burla as políticas de segurança da empresa e compromete diretrizes regulatórias, como GDPR e LGPD, pois o dado transita por servidores externos que fogem ao controle dos times de arquitetura corporativa e segurança da informação.

Do ponto de vista prático, o cenário forçou muitas lideranças a agirem de forma reativa, implementando bloqueios de rede para impedir o acesso aos endpoints de IAs públicas. Embora a restrição pareça a saída mais rápida para evitar vazamentos de propriedade intelectual, a prática demonstra que bloqueios severos são ineficazes a longo prazo. Profissionais que precisam da produtividade que a IA entrega acabarão buscando contornos para usar as ferramentas, seja via dispositivos pessoais ou redes externas. Se a empresa não fornece um caminho seguro, os usuários encontram um paralelo.

É neste ponto que a estratégia de adoção precisa evoluir de proibição pura para governança ativa. A verdadeira segurança não está em banir a inteligência artificial do dia a dia, mas em fornecer acesso corporativo e educar os times. Ferramentas integradas de forma nativa e protegidas por camadas de segurança rígidas, como o Agentforce e a estrutura do Einstein Trust Layer, resolvem a questão da persistência de dados. Nessas soluções, há a garantia contratual de que os dados do cliente não serão retidos pelas provedoras de LLM nem utilizados para treinamento de modelos externos de fundação.

A comparação com o início das redes sociais é muito pertinente para o momento atual. Há mais de uma década, levamos tempo para entender o conceito de pegada digital e a permanência das informações postadas publicamente. Com os LLMs, o processo de maturidade é idêntico. Os profissionais precisam ser treinados para entender que a interface de um chat público não é um ambiente confidencial. A mesma regra aplicável ao envio de documentos corporativos sigilosos para um e-mail pessoal deve ser estendida ao uso de prompts em inteligências artificiais não homologadas.

Para arquitetos de solução, administradores e líderes de centro de excelência, o desafio atual vai além de desenhar fluxos complexos no Flow ou configurar pipelines de dados no Data Cloud. Trata-se de construir uma cultura de segurança viável e escalável. Ao estruturar políticas de uso claras, contratar versões corporativas de LLMs com acordos robustos de privacidade e treinar os colaboradores para anonimizar informações antes de qualquer input, as organizações conseguem aliar o imenso ganho de produtividade da inteligência artificial com a responsabilidade técnica e legal exigida em ambientes de classe empresarial real.