Como usar ChatGPT no trabalho sem vazar dados da empresa: 7 cuidados

Em abril de 2023, engenheiros da Samsung Semiconductor colaram código-fonte proprietário e a transcrição de uma reunião interna no ChatGPT — buscando apenas correção de bugs e uma ata de reunião mais organizada. Foram três incidentes separados em poucas semanas. O problema: esses dados entraram no fluxo da ferramenta e não puderam ser recuperados. A Samsung baniu o uso de IA generativa na empresa logo em seguida.

Esse tipo de vazamento não exige nenhuma invasão, nenhum malware, nenhum atacante. É o próprio funcionário, com boa intenção, entregando dado sensível para uma ferramenta que ele não entende completamente por dentro.

Por que colar dado sensível em IA é arriscado

O que acontece com os dados que envio para um chatbot de IA?

Depende dos termos de uso da ferramenta: em planos gratuitos ou pessoais, muitos serviços de IA generativa podem usar as conversas para treinar versões futuras do modelo, o que significa que a informação pode, na prática, se tornar irrecuperável e potencialmente reaparecer de forma indireta nas respostas para outros usuários. Planos empresariais e APIs geralmente têm políticas diferentes, com opção de não usar os dados para treinamento — mas isso precisa ser verificado explicitamente, não assumido.

7 cuidados práticos para usar IA no trabalho

• Nunca cole código-fonte proprietário sem antes verificar a política de dados do plano usado pela empresa — o caso Samsung é exatamente esse erro.
• Anonimize antes de colar — remova nomes de clientes, CPF, e-mail, número de contrato ou qualquer identificador antes de pedir ajuda da IA para reescrever ou resumir um texto.
• Use apenas ferramentas aprovadas pela empresa — planos corporativos costumam ter contrato específico de proteção de dados que a versão gratuita não oferece.
• Desative o histórico de conversas quando disponível — a maioria das plataformas grandes oferece opção de não usar as conversas para treinamento, mas ela costuma vir desativada por padrão.
• Nunca peça análise de documentos confidenciais (contratos, dados financeiros, informação de RH) em ferramentas sem aprovação formal do time de segurança.
• Desconfie de extensões de navegador que prometem "IA em tudo" — muitas capturam o conteúdo de qualquer página aberta, incluindo sistemas internos da empresa, e enviam para servidores de terceiros sem aviso claro.
• Trate prompts como comunicação registrada — assim como um e-mail corporativo, o que é digitado em uma IA pode, em teoria, ser auditado ou vazado. Escreva como se pudesse ser lido por alguém de fora.

O risco não é só vazamento direto

Além do vazamento clássico de dado colado no prompt, existe o risco de manipulação do próprio assistente de IA por conteúdo externo — a chamada prompt injection, em que um documento ou e-mail processado pela IA contém instrução oculta capaz de fazer o assistente agir contra o interesse do usuário, como encaminhar informação sensível para um destino não autorizado.

Empresas que já adotam ferramentas de IA integradas a e-mail, calendário e sistemas internos deveriam tratar essa integração com o mesmo rigor de qualquer outro acesso privilegiado — seguindo os mesmos princípios do guia definitivo de OPSEC e privacidade.

O que fazer se você já colou algo sensível por engano

• Avise o time de segurança da informação imediatamente — quanto antes o incidente é registrado, mais rápido a resposta pode ser organizada.
• Verifique se é possível excluir a conversa nas configurações da ferramenta, mesmo sabendo que isso não garante remoção de dados já processados.
• Troque credenciais expostas — se o dado colado incluía senha, chave de API ou token de acesso, revogue e gere um novo imediatamente.

O dado que você cola também pode virar treinamento futuro

Existe ainda uma camada adicional pouco discutida: dado sensível colado hoje pode, em tese, acabar incorporado ao conjunto de treinamento de versões futuras do modelo — um processo diferente, mas com efeito parecido ao descrito no post sobre data poisoning, em que a origem de um dado de treinamento é difícil de auditar depois que ele já foi absorvido. A diferença é que, nesse caso, quem "envenena" o próprio contexto é a empresa que usa a ferramenta sem política clara — não um atacante externo.

Esse cuidado com o próprio uso da IA é o contraponto aos golpes em que a IA ataca você — o guia dos golpes com IA mais comuns no Brasil cobre os seis mais frequentes, do voz clonada ao phishing sem erro.

IA no trabalho não é o problema — o descuido é

Nenhum dos cuidados acima significa evitar IA generativa no ambiente corporativo — a ferramenta é útil demais para isso. O ponto é tratar o campo de texto do chatbot com a mesma cautela que se trata um e-mail para fora da empresa: pensar antes de colar, verificar a política de dados da ferramenta, e nunca assumir que "é só um teste rápido" quando o dado envolvido é sensível.