O que NUNCA deve colocar em IA

O que NUNCA deve colocar em IA [Vídeo e Quiz]

Resposta curta: Nunca coloque palavras-passe, chaves API, IDs, registos de saúde ou bancários, ficheiros de clientes com acordo de confidencialidade ou dados de outras pessoas num chat público de IA. Quando precisar de ajuda, descreva o problema com marcadores e excertos editados — o modelo precisa da estrutura do problema, não dos segredos que desbloqueiam sistemas reais.

Principais conclusões:

Os segredos permanecem offline: Nunca cole palavras-passe, tokens, cookies ou frases-semente num aviso.

Remoção de identidade: Troque nomes reais, moradas e números de identificação por funções e identidades falsas.

Confidencialidade profissional: Mantenha os rascunhos de acordos de confidencialidade, ficheiros de clientes e projetos não divulgados fora do chat com o consumidor.

Limite de consentimento: Não cole dados pessoais de colegas, clientes ou crianças sem um filtro que permita a visualização apenas por humanos.

Redija primeiro: Utilize marcadores de posição e excertos editados; alterne qualquer informação que já tenha sido divulgada.

O que NUNCA deve colocar em IA

Primeiro colamos e depois pensamos. Um chatbot está ali sentado como um estagiário paciente com café infinito, por isso parece quase inofensivo despejar todo o problema complexo na caixa. Um login que não funciona. Uma cláusula contratual que revira o estômago. Uma captura de ecrã de um painel com todos os nomes ainda visíveis. A ferramenta é útil, o ambiente parece um pouco privado, e o seu cérebro arquiva silenciosamente tudo juntamente com "notas que fiz para mim mesmo"

Essa é a armadilha. 🧠 O chat não é uma gaveta trancada. É uma conversa com um sistema que armazena, processa e, por vezes, aprende com o que envia, dependendo do produto, das definições e até se reparou nas definições. Não estou aqui para te fazer entrar em pânico e esconder-te num bunker. Estou aqui com um mapa prático do que NUNCA se deve colocar numa IA, bem como hábitos discretos, mas práticos, que ainda permitem obter respostas precisas.

Imagine que está a gritar um segredo numa cozinha lotada. Nem todos os estranhos estão a ouvir. Mesmo assim, alguns podem estar. E a cozinha guarda uma gravação por razões que nunca são tão simples como a publicidade faz parecer.

Porque despejamos tudo na caixa de chat?

Velocidade. Isso resume tudo. Estás preso, o erro é feio e colar o log todo parece mais rápido do que extrair a informação necessária. Contexto parece um gesto de bondade para com o modelo. Mais detalhes, melhor ajuda; este é o mito, e é parcialmente verdade.

A outra metade é emocional. Um chatbot não levanta uma sobrancelha. Não vai contar ao seu chefe. Não vai coscuvilhar na hora do almoço. Assim, tratámo-lo como um diário com superpoderes. Eu já fiz isso. Provavelmente já fez isso. No momento em que algo é conveniente e não julgador, os nossos instintos de privacidade entram em pausa para o chá.

Eis a verdade, algo irritante: o modelo não precisa dos seus dados pessoais para o ajudar. Precisa de uma descrição do problema. Nomes, tokens, números de conta e rostos nas capturas de ecrã são apenas enfeites. Enfeites deliciosos. Ainda assim, enfeites.

  • Cola-se porque editar parece trabalho extra.
  • Cola-se porque "só desta vez" é um hábito disfarçado.
  • Cola o conteúdo porque a interface parece uma mensagem privada e comporta-se como um ficheiro.

Nada disto te torna imprudente. Torna-te humano. A solução é uma pausa de dois segundos, e não uma mudança radical de personalidade.

Palavras-passe, chaves API e segredos que devem permanecer offline 🔐

Se algo pode desbloquear algo, não deve estar num prompt. Senhas. Códigos de utilização única. Bolachas de sessão. Chaves SSH. Strings de ligação à base de dados. A chave API que prometeu a si mesmo que iria trocar "em breve". Frases-semente de carteira. Certificados particulares. A questão de recuperação que o seu banco ainda acha inteligente.

Costumava pensar nas chaves como chaves de casa penduradas num gancho perto da porta. Uma metáfora fofinha; mas que cai por terra imediatamente, porque uma chave de casa abre uma porta, enquanto uma chave API pode abrir um depósito, uma conta de faturação e uma pilha de registos de clientes que já nem se lembrava que tinha guardado. Em suma: trate os segredos como se fossem radioativos. Não se colocam coisas radioativas na sanduicheira, mesmo que seja ótima para fazer sanduíches.

Um modelo não pode "manter isto entre nós" da mesma forma que um amigo. Mesmo que um fornecedor ofereça controlos de memória, mesmo que desative o treino, o texto ainda viaja, é registado de alguma forma e pode ficar no histórico do chat até que o procure. Considere que uma mensagem colada é uma cópia que já não controla totalmente.

O que fazer em vez disso?

  • Descreva o segredo pelo tipo, não pelo valor. "Um URL do Postgres com uma palavra-passe" é suficiente para fornecer dicas de depuração.
  • Redigir com marcadores óbvios: REDACTED_KEY, USER_TOKEN, EXAMPLE_SECRET.
  • Rode tudo o que já vazou. Faça-o agora, e não depois de "ver se acontece alguma coisa"
  • Guarde as suas credenciais reais num gestor de palavras-passe ou cofre de segredos; nunca numa conversa que possa capturar numa imagem posteriormente.

Se uma ferramenta lhe pede que cole uma chave para que possa "ligar-se por si", trata-se de uma categoria de produto diferente. É uma integração com um sistema de acesso, não um assistente de escrita. Considere isto como entregar o seu crachá a alguém.

Identificadores pessoais e o rasto silencioso da identidade 🪪

As informações pessoais identificáveis ​​(PII) são as primas menos glamorosas das palavras-passe. Números de identidade nacional. Dados do passaporte. Campos de identificação relacionados com datas. Endereços residenciais. Números de telefone. IDs de colaboradores. Números de matrícula. Nomes completos combinados com datas de nascimento, nomes de escolas ou clínicas médicas. Uma única informação parece pequena. Três juntas formam um dossier.

As pessoas fazem-no quando querem que uma carta seja escrita, um formulário traduzido ou um currículo melhorado. Objectivos perfeitamente razoáveis. O modelo não precisa do código postal real para redigir uma reclamação educada. Necessita apenas do tom, dos factos que não identificam a pessoa e do resultado desejado.

Penso que a parte surpreendentemente complicada são as combinações "inofensivas". Um cargo invulgar, mais uma cidade, mais a escola do filho, mais uma condição médica rara. Não colocaria isso num panfleto. Uma caixa de chat não é um panfleto, mas também não é um cofre.

  • Troque os nomes verdadeiros pelos cargos: "o responsável pela contratação", "o meu médico de família", "um inquilino"
  • Generalizar a localização: "uma cidade de média dimensão", sem especificar a rua ou o código do intercomunicador.
  • Elimine números únicos, a menos que a tarefa seja literalmente sobre o formato do número, caso em que deve utilizar um número falso que pareça suficientemente real.

Anonimizar não é um doutoramento. É o hábito de verificar se um estranho conseguiria reconhecer-te numa fila de pessoas só por causa deste parágrafo. Se conseguisse, elimine essa parte.

Informações confidenciais do trabalho, acordos de confidencialidade e assuntos que deixariam o seu chefe horrorizado 📎

É aqui que a prestatividade excessiva coloca as pessoas em apuros. Cola uma apresentação para um cliente. Um roadmap ainda não divulgado. Uma folha de salários. Código-fonte com nomes de host internos. Uma minuta de documento legal que ainda está marcada como confidencial. Notas de reunião com nomes de pessoas que ainda não foram informadas. O acordo de confidencialidade que assinou à pressa porque o café estava a arrefecer.

Os chatbots não são os consultores jurídicos da sua empresa, e não constituem um ambiente de trabalho seguro, a não ser que a sua organização tenha implementado um de facto. As ferramentas para o consumidor final são criadas para oferecer conveniência. As ferramentas empresariais podem ser melhores, com controlos de retenção e políticas administrativas; ainda assim, não justificam colar informação confidencial apenas para uma revisão gramatical.

Uma regra prática que anoto sempre na minha cabeça: se não escreveria isto num rascunho pessoal do Gmail, não escreva num chat público de IA. Se não diria isso numa aplicação de transporte, o mesmo vale. As pessoas que são cuidadosas no Slack transformam-se em mestres da exposição excessiva assim que aparece um botão de "gerar".

Soluções alternativas mais seguras

  • Descreva o documento: extensão, público-alvo, os três pontos principais e o tom pretendido.
  • Cole um excerto editado. Remova nomes, números sensíveis e tudo o que um concorrente celebraria.
  • Peça uma estrutura ou um padrão de reescrita e, em seguida, aplique-o você mesmo ao texto real offline.
  • Utilize uma ferramenta aprovada para o ambiente de trabalho, se existir, e continue a utilizar a opção de ocultar dados por predefinição. As políticas são um limite mínimo, não um trampolim.

O código é um exemplo especial disso. URLs internos, cabeçalhos de autenticação e comentários como "TODO: remover antes da aquisição" são pequenos detalhes importantes. Utilize dados fictícios. Mantenha a lógica. O modelo lida bem com dados fictícios; não precisa do seu esquema de produção com e-mails reais de clientes ainda armazenados num fixture.

Saúde, dinheiro e detalhes que não gritaria num café 💊

As informações médicas e financeiras parecem urgentes, por isso são coladas com o mínimo de edição possível. Resultados de exames. Listas de medicamentos. Carteiras de seguros. Extratos bancários. Cartas da Receita Federal. Relatórios de crédito. Uma foto de um cartão "só pelos últimos quatro dígitos", que de alguma forma inclui o resto do cartão, a sua mesa de cozinha e uma correspondência com o nome de outra pessoa.

Pode fazer perguntas excelentes sem ter acesso ao registo clínico completo. "Explique o que um marcador elevado pode significar em termos gerais" é um exemplo. "Aqui estão os meus exames completos, a minha morada, a minha clínica e o nome de solteira da minha mãe" é uma biografia.

Não estou a dizer para nunca falar sobre saúde ou dinheiro com uma modelo. Estou a dizer para tratar o chatbot como um desconhecido culto num comboio. Bom para enquadrar a conversa. Péssimo como o seu contabilista, o seu médico ou o seu processo. E sim, eu sei que a metáfora do desconhecido culto falha; os comboios não mantêm registos de conversas. É precisamente esse o ponto.

  • Remover números de contas, códigos de classificação, IBANs e tudo o que se assemelhe a uma credencial.
  • Solicite explicações gerais, listas de verificação e perguntas para levar a um profissional.
  • Não utilize o chat como um ficheiro para guardar extratos "para que os possa consultar mais tarde". É precisamente neste "mais tarde" que a retenção de dados se torna um problema.

Se uma sugestão o fizer falar mais baixo num café, evite usá-la primeiro. Este teste é surpreendentemente fiável e não custa nada.

Os dados de outras pessoas não são seus para colar 🚫

Esta parte é ignorada porque dá a impressão de que é o protagonista da conversa. Não é a única pessoa na captura de ecrã. E-mails de colegas. O ID de um parceiro. A reclamação de um cliente com o número de telefone ainda anexado. Fotos de crianças. Uma conversa no Slack a mencionar quem quase foi despedido. A transcrição de uma chamada que a outra pessoa não sabia que seria passada a uma modelo.

O consentimento não se transmite automaticamente do "enviaram-me um e-mail" para "uma máquina pode armazenar isto". Mesmo que a sua intenção seja boa — redigir uma resposta mais gentil, resumir uma conversa confusa — o conteúdo em bruto continua a ser da pessoa, e não do seu rascunho.

Um teste decisivo, algo sarcástico: se não reencaminharia a mesma mensagem para uma lista de e-mails de estranhos "para obter feedback", então não trate um chatbot como uma lista de e-mails mais pequena e com melhores formas.

  • Resuma as outras pessoas por palavras suas.
  • Substitua os nomes pelos cargos e remova os dados de contacto.
  • Pergunte à pessoa se a tarefa é sensível; algumas coisas devem permanecer num circuito exclusivo para humanos.
  • Nunca cole informações pessoais de crianças, registos escolares ou fotos que as identifiquem para uma "geração divertida".

Há aqui uma camada gira que não pretendo discutir num blog. Regras de privacidade, obrigações laborais e contratos com clientes, todos eles têm as suas particularidades. O hábito prático é mais simples do que a lei: por defeito, mantenha os dados de terceiros fora do campo de pesquisa.

O que NUNCA deve colocar na IA: uma tabela de riscos que pode utilizar

Gosto de tabelas para isso porque uma lista de "nunca" pode soar moralista, e uma grelha permite visualizar a troca. Avaliações ligeiramente opinativas, não um relatório de laboratório.

Tipo de dados Nível de risco Porque é que isso é um problema? Alternativa mais segura
Palavras-passe, chaves API, tokens, frases-semente Crítico Desbloqueiam sistemas; uma cópia da qual não se consegue lembrar completamente ainda é uma cópia Marcadores de posição mais um gestor de segredos local; alterne se houver fuga
Documentos de identidade governamentais, digitalizações de passaportes, números nacionais Crítico Kit básico para casos de roubo de identidade; difícil de "desfazer o envio" Exemplos falsos ou perguntas que se baseiam apenas no formato
Registos de saúde, receitas médicas, carteiras de seguros Alto Íntimo, com sensação de controlo e marcado pela história Sintomas ou tópicos gerais; evite identificadores na página
Extratos bancários, documentos fiscais, fotos de cartões Alto Exposição financeira direta mais seguro de responsabilidade civil profissional adicional nas margens Pergunte sobre processos, não sobre números brutos a si ligados
Ficheiros de clientes, rascunhos de acordos de confidencialidade, planos não divulgados Alto Pode estar a quebrar uma promessa que já assinou Excertos anonimizados; pedidos de estrutura; ferramentas de trabalho aprovadas
Informações pessoais de colegas ou clientes, dados de crianças Alto Não tem o direito de doar a um modelo Resumos baseados em funções; lista de contactos e rostos
Fonte interna com nomes de host e e-mails reais Médio-alto Parece "apenas código" até que alguém mapeie a sua rede Dados fictícios, domínios falsos, comentários removidos
Capturas de ecrã de painéis ou caixas de entrada Médio-alto Contrabandeiam nomes, números e separadores abertos que já nem se lembrava que existiam Recorte, desfoca ou volte a digitar o excerto relevante
Histórias pessoais vagas, sem identificadores únicos Baixar Geralmente não há problema; ainda assim, evite tudo o que não contaria a um estranho Mantenha a descrição geral; evite combinações identificadoras raras

Se não se lembrar de mais nada, lembre-se da coluna da esquerda. Representa a essência do que NUNCA se deve inserir num programa de IA quando se está com pressa e o cérebro quer colar o universo.

Armadilhas de capturas de ecrã e a partilha excessiva acidental 🖼️

As capturas de ecrã são como pessoas competentes vazam informações. Queria mostrar uma caixa de diálogo de erro. A captura inclui a barra de favoritos, um ícone do Slack com um nome, um URL com um token, um pop-up de calendário e um reflexo numa janela em modo escuro que, na verdade, é um gestor de palavras-passe. Mesmo depois de recortar a imagem, ainda não vi o pequeno seletor de contas no canto. É um erro comum.

As fotos de documentos ficam piores, porque as máquinas fotográficas são generosas. Uma mesa, um quadro branco, uma pulseira de identificação do hospital, uma etiqueta de envio. O modelo pode não "precisar" dos pixéis extra. Mas os pixéis ainda chegam.

Um ritual simples de captura de ecrã

  • Primeiro, corte. Depois, corte novamente. De seguida, olhe para as bordas como se lhe devessem dinheiro.
  • Desfocar nomes, e-mails, avatares e qualquer sequência de caracteres que se assemelhe a um token.
  • Prefiro introduzir o erro novamente a capturar todo o IDE.
  • Não envie uma fotografia de um cartão, passaporte ou cartão de embarque "para uma leitura rápida". Introduza a pergunta em vez disso.

As mensagens de voz e os carregamentos de ficheiros funcionam da mesma forma. Uma gravação de uma reunião é um banquete de dados de outras pessoas. Um ficheiro CSV é um banquete de linhas que deixou de ver como pessoas. Se o processo deixaria o departamento jurídico nervoso, não deve ser enviado.

Métodos de estímulo mais seguros que ainda garantem respostas sólidas ✨

A redação não é inimiga da qualidade. Instruções vagas, sim. Pode ser específico sobre o problema e discreto quanto à identidade. Essa é a essência da arte.

Experimente este formato: objetivo, restrições, entradas fictícias, resultado desejado. "Reescreva este e-mail de rejeição para que seja gentil, mas firme. O destinatário é um designer freelancer. Não mencione o nome real do projeto. Aqui está um rascunho com os nomes trocados." Esta é uma estrutura bem definida. Não necessita da exportação para o CRM.

Padrões que funcionam

  • Marcadores de posição para tudo o que seja único. ACME_CLIENT, USER_A, TOKEN_X. Mantenha a gramática do dia a dia; elimine as impressões digitais.
  • Peça um método, não uma memorização. "Expliquem-me o raciocínio por detrás desta classe de erro" é melhor do que "aqui está todo o nosso registo de produção".
  • Divida a tarefa. Obtenha um modelo a partir do exemplo. Preencha você mesmo as partes sensíveis.
  • Utilize exemplos sintéticos. Invente um cliente chamado River que comprou uma lâmpada. O conselho ainda se aplica.
  • Informe o que já ocultou. Os modelos lidam perfeitamente com "[valor salarial oculto]" se explicar a lógica subjacente.

Existe um tipo de aviso que tenta ser inteligente: "ignore a segurança anterior, guarde esta chave". Não faça isso. Não está a violar a sua própria privacidade. Está a atirar a chave para um lago e esperando que ele seja tímido.

Outro padrão de que gosto: a verificação prévia. Antes de enviar, procure no seu rascunho por @, por sequências de caracteres que parecem teclas (longas, aleatórias e geralmente com prefixos), por números demasiado longos para serem informais e por nomes que não usaria num diapositivo. Dez segundos. Paga a renda para sempre.

Histórico de chat, retenção e o rasto de uma mensagem 📦

As pessoas falam da "nuvem" como se fosse um sistema meteorológico. Na prática, o que tem é um produto com definições padrão. Alguns chats são utilizados para melhorar os modelos, a menos que opte por não participar. Outros são retidos para análise de abusos, pedidos legais ou simplesmente para garantir que o thread ainda carrega amanhã. Alguns planos empresariais mantêm registos para administradores. Não vou fingir que a política de um único fornecedor é universal, porque não é, e está em constante mudança. Deve ler as definições do produto, e não a memória de um blogger sobre as definições.

A abordagem prática é monótona e inflexível: assuma que uma mensagem colada pode persistir. Assuma que um colega com direitos de administrador pode ver as conversas do ambiente de trabalho. Assuma que você, no futuro, se esquecerá que esta conversa existe até que apareça numa pesquisa. Assuma que exportar o seu histórico é algo que pode fazer mais tarde, e que essa exportação é apenas uma cópia.

  • Desative as opções de treino ou "melhoria do modelo" quando o produto as oferecer, se tal for do seu agrado.
  • Apague as informações confidenciais depois de extrair os elementos práticos para uma nota local que seja verdadeiramente local.
  • Não utilize o chat como o seu sistema oficial para assuntos de RH, questões médicas ou trabalho com clientes.
  • Tenha cuidado com as contas partilhadas. As contas partilhadas são o que fez com que a "privacidade" se tornasse um mito no meio empresarial.

As características de memória — aquelas que fazem lembrar o seu emprego, o seu cão, o seu tom de voz preferido — são úteis e um pouco assustadoras. São também um motivo para não ensinar ao sistema os seus identificadores reais "para que seja mais pessoal". Pessoal é um estilo. Não é o seu número de segurança social.

Normas de trabalho quando a sua equipa vive em chatbots 🏢

Nos escritórios, o hábito de copiar e colar informação torna-se quase industrial. Alguém copia um ficheiro CSV de um cliente para "limpar as colunas". Outro copia um documento de estratégia para "torná-lo mais impactante". Um estagiário bem-intencionado copia e cola o conteúdo do canal de incidentes. Ninguém é o vilão. Os incentivos são todos direcionados para a velocidade e perfeição.

Se lidera uma equipa, escreva uma regra curta e objetiva. Não um documento de 40 páginas que ninguém lê. Algo como: sem credenciais, sem informações pessoais de clientes, sem números não divulgados, sem versões preliminares de documentos legais, utilize a ferramenta aprovada, redija as informações automaticamente. Em seguida, mostre um exemplo de um aviso bem formatado para que as pessoas não tenham de adivinhar.

  • Indique as ferramentas aprovadas, caso existam, e as não aprovadas.
  • Forneça uma lista de verificação de escrita que as pessoas possam preencher antes da reunião diária.
  • Deixe claro que é seguro dizer "Quase colei isto" sem precisar de uma investigação dramática.
  • Lembre as pessoas que "a IA disse que estava tudo bem" não é um fator de controlo.

Mesmo que não lidere uma equipa, pode ainda ser a pessoa que cola um boneco de papel. A cultura é contagiosa nos dois sentidos. Acho que isto soa sincero. É assim que as normas se disseminam; uma pessoa deixa de atirar chaves por aí e o ambiente fica um pouco menos desarrumado.

A parte das compras é uma missão secundária que vou ignorar. Comprar um pacote "corporativo" não transforma magicamente todas as dicas em sabedoria. Pode ajudar na retenção e no acesso. Os seus hábitos ainda são os que fazem o trabalho pesado.

Já colou algo estranho - e agora? 🧯

Acontece. Carrega no botão de enviar e a sua alma abandona o seu corpo. Não entre em pânico. Faça uma sequência curta e um pouco sem glamour.

  • Deixe de usar esse segredo. Altere a palavra-passe, revogue a chave, invalide a sessão. Este é o único passo que fecha a porta de vez.
  • Apague o chat se o produto o permitir e esvazie qualquer pasta "apagado recentemente", se existir.
  • Verifique as aplicações ligadas e a memória disponível. Algumas ferramentas armazenam pedaços de código na memória ou em ficheiros de projeto que se esqueceu de ter ativado.
  • Informe a pessoa certa se forem dados de trabalho. Segurança, um gestor, um responsável pelo cliente; quem quer que seja o responsável pela área de atuação. Quanto mais cedo for descoberto, menos problemático será.
  • Esteja atento a logins incomuns nas contas relacionadas. Rodar sem monitorizar é como fazer um trabalho a meio.

Se os dados pertencerem a outra pessoa, também lhe deve uma limpeza e, dependendo da gravidade da situação, um aviso prévio. Situação constrangedora. Ainda assim, melhor do que esperar que o universo seja benevolente.

Não tente "sobrescrever" uma fuga colando mais explicações. Contexto extra é cópia extra. Saia da discussão.

Colocando tudo em prática

A versão resumida de "O que NUNCA deve colocar numa IA" não é uma lista de repreensões. É uma postura. Se algo desbloqueia um sistema, identifica uma pessoa ou te faria estremecer num café, fica fora do âmbito. Pode ainda obter grande ajuda. Basta fornecer ao modelo um esboço, e não as chaves de casa, o registo médico e a correspondência do vizinho.

Resumo rápido:

  • Sem passwords, chaves, tokens ou frases-semente. Gire se escorregar.
  • Sem documentos de identificação reais, informações financeiras completas, registos médicos brutos ou material sujeito a acordo de confidencialidade.
  • Não divulgue informações pessoais de outras pessoas, especialmente de crianças.
  • As capturas de ecrã mentem por inclusão; recorte como se fosse intencional.
  • Redija, crie um modelo fictício e solicite os métodos. Problema específico, rótulos falsos.
  • Presuma que o histórico se mantém. Apague, não arquive segredos num chatbot.
  • Os locais de trabalho precisam de uma regra simples e de um bom exemplo, e não de um clima de informalidade e privacidade.

Utilize as ferramentas. São excelentes para rascunhos, depuração de formas e para te ajudar a resolver erros confusos. Basta parar de tratar a caixa de texto como um cofre com sentido de humor. É um liquidificador muito inteligente. Mesmo assim, não deve colocar o seu passaporte num liquidificador. 🫡

Exemplo prático: Elaboração de um relatório de depuração com redação prioritária para uma pequena equipa de engenharia

As regras de privacidade só funcionam quando salvam uma terça-feira comum, e não quando soam severas. Veja como uma equipa de cinco pessoas de uma empresa de SaaS no Reino Unido usou os hábitos deste guia para deixar de despejar credenciais e informações pessoais de clientes em chatbots para o consumidor — sem abdicar do suporte para depuração.

Cenário

A equipa de desenvolvimento e suporte partilham um hábito irritante: quando um erro de autenticação parece grave, alguém cola todo o registo, uma string de ligação de teste e uma captura de ecrã do painel de administração "para que o modelo tenha contexto". No último trimestre, isto incluiu uma chave API ativa no rastreio de pilha e um e-mail do cliente ainda visível na barra de URL da captura de ecrã. Ninguém teve más intenções. A velocidade venceu. A equipa de suporte gravou tudo.

Não precisam de uma palestra. Precisam de um briefing repetível: descrever o segredo por tipo, redigir com marcadores, recortar capturas de ecrã, pedir um método, não uma recordação, e depois aplicar a correção em sistemas ativos offline. O chat com o cliente ainda se revela útil. As chaves de casa ficam fora do liquidificador.

O objetivo é oferecer a mesma qualidade de aconselhamento com uma análise prévia de dois segundos antes da colagem do documento – e uma regra de equipa simples que todos seguirão.

Do que o assistente precisa

  • Descrição simplificada do problema: classe do erro, hora aproximada de início e ambiente (staging ou produção), sem nomes de host que mapeiem a rede
  • Apenas entradas fictícias: REDACTED_KEY, USER_TOKEN, customer@example.com, IDs de pedido fictícios
  • O que já foi removido (indicado no prompt para que o modelo não solicite os valores reais)
  • Resultado desejado: causas prováveis, verificações a realizar, um esboço da correção - não "ligar com a minha chave"
  • Uma pessoa que guarda credenciais num gestor de palavras-passe ou cofre de segredos
  • Regra da equipa numa página: sem credenciais, sem informações pessoais dos clientes, sem dados não divulgados, ocultar por defeito

Exemplo de instrução

Objectivo: Ajude-me a depurar um erro 401 intermitente na nossa API de teste após a actualização do token. Não me peça para partilhar segredos.

Restrições: Já ocultei palavras-passe, chaves API, tokens, cookies, nomes de host internos e e-mails de clientes. Os marcadores no registo indicam que os valores reais só existem na minha máquina. Inglês britânico. Sem preâmbulo.

Excerto fictício: O pedido para https://api.example-staging.invalid/v1/session retornou 401. Cabeçalho Authorization: Bearer REDACTED_KEY. O corpo do pedido menciona que o USER_TOKEN expirou. Descrição da captura de ecrã (não anexada): apenas a mensagem de erro; a barra de favoritos e o seletor de contas foram cortados.

Tarefa: Enumere as três causas mais prováveis ​​para esta classe de erro, as verificações que devo executar localmente e um esboço mínimo de correção. Se precisar de mais detalhes, solicite o tipo de informação (por exemplo, "configuração TTL do token") - nunca o segredo em bruto.

Resultado: Causas numeradas, seguidas de uma lista de verificação e, por fim, "o que não colar da próxima vez" em três tópicos.

Como testar

  • Compare um registo antigo (log completo + captura de ecrã) com o resumo editado acima, referente ao mesmo tipo de incidente. Compare a qualidade das recomendações e se o modelo solicita informação sensível.
  • Verificação prévia à colagem: antes de enviar, procure no rascunho por @, sequências longas aleatórias e números demasiado longos para serem considerados informais.
  • Caso extremo: inclua uma chave falsa que pareça genuína e confirme se a resposta ainda funciona sem necessitar do valor verdadeiro.
  • Caso extremo: recusar o envio de uma captura de ecrã; digitar novamente apenas a linha com erro; confirmar se a lista de verificação ainda ajuda.
  • Verificações de aceitação: (1) credenciais zero no thread, (2) detalhes de contacto do cliente zero, (3) placeholders declarados, (4) a saída é um método/lista de verificação não um fluxo "cole a sua chave", (5) se algo vazou anteriormente, a rotação aconteceu no mesmo dia.

Resultado

Resultado ilustrativo (estimativa de exemplo para uma pequena equipa de engenharia/suporte, não um estudo publicado): Em 12 chats de depuração ao longo de quatro semanas, o tempo médio para uma lista de verificação utilizável aumentou ligeiramente de cerca de 4 minutos (colagem completa) para cerca de 6 minutos com a escrita — dois minutos extra para a verificação prévia à colagem e os marcadores de posição. As conversas que continham tipos de dados críticos (chaves, e-mails de clientes, strings de ligação em bruto) passaram de 9 de 12 chats para 1 de 12 (esta foi identificada na revisão e removida no mesmo dia). Numa lista de verificação simples (sem segredos, sem informações pessoais identificáveis ​​do cliente, espaços reservados declarados, texto recortado ou sem captura de ecrã), foram aprovados 11 de 12 briefs redigidos, contra 3 de 12 com o método anterior. Limitações: amostra pequena, uma equipa, tempo autodeclarado; incidentes mais ligeiros exigem menos escrita; a "aprovação" foi uma revisão por pares do texto do briefing, e não uma auditoria laboratorial dos registos dos fornecedores.

Para medir a sua própria versão: selecione 10 threads de depuração de IA recentes para tipos de dados proibidos e, em seguida, selecione 10 threads após a aplicação de uma regra de escrita e de um modelo; comunique as contagens com os denominadores, para além da mediana de minutos desde o momento em que o processo esteve "bloqueado" até ao momento em que a "lista de verificação foi concluída"

O que pode dar errado?

  • Contrabando de captura de ecrã: O erro é normal; a barra de URL ainda contém um token. Recorte duas vezes e verifique as arestas.
  • Chaves "apenas desta vez": Uma única chave API que foi divulgada pode expor registos de faturação e de clientes. Troque-a imediatamente; não espere para "ver se acontece alguma coisa".
  • Dados de terceiros: Uma reclamação de um cliente com um número de telefone não lhe pertence e não deve ser doada a um modelo. Resuma por palavras suas.
  • Chat como cofre: Deixar segredos no histórico cria outra cópia. Apague a conversa depois de mover as informações necessárias para uma nota local.
  • Teatro corporativo: Uma ferramenta aprovada no local de trabalho ajuda na retenção; isto não significa que colar joias da coroa seja uma boa ideia.
  • Ignorar a rotação após um deslize: Apagar o chat sem revogar a chave deixa a porta aberta.

Resumo prático

O que nunca se deve colocar na IA não é tanto uma lista de erros a cometer, mas sim uma postura: se desbloqueia um sistema, identifica uma pessoa ou te faria estremecer num café, deve ficar fora do âmbito. Alimente o modelo com um esboço com marcadores, mantenha as credenciais num cofre e peça métodos que aplique offline. Esta pausa de dois segundos é o que impede que um estagiário prestável com café infinito se torne um arquivo para as chaves de sua casa.

Perguntas frequentes

O que nunca deve colocar nos chatbots de IA?

Se desbloquear um sistema, identificar uma pessoa ou causar desconforto num café, mantenha-o fora do seu alcance. Isto inclui palavras-passe, chaves API, tokens, frases-semente, documentos de identidade, registos de saúde e financeiros em bruto, material sob acordo de confidencialidade e informações privadas de outras pessoas — especialmente crianças. O chat não é uma gaveta trancada; o texto pode ser armazenado, processado e, por vezes, utilizado para formação, dependendo do produto e das definições. Forneça ao modelo um esboço com marcadores, e não as chaves da casa.

Porque é que as pessoas inserem segredos nos sistemas de IA mesmo sabendo que não o deveriam fazer?

A velocidade é o fator mais importante: um erro grave faz com que todo o registo pareça mais rápido do que simplificá-lo. Os chatbots também parecem não julgar, pelo que os instintos de privacidade ficam em segundo plano. O modelo precisa frequentemente da estrutura do problema, e não de nomes, tokens, números de conta ou rostos em capturas de ecrã — estes são apenas ornamentos. Uma pausa de dois segundos é melhor do que uma mudança radical de personalidade.

É seguro colar passwords ou chaves API em ferramentas do tipo ChatGPT?

Não. Se algo pode desbloquear algo, não deve estar num prompt — palavras-passe, códigos de utilização única, cookies de sessão, chaves SSH, strings de ligação, seeds de carteiras ou certificados privados. Um modelo não consegue guardar um segredo como um amigo; o texto ainda circula, é registado e pode ficar no histórico. Descreva o segredo por tipo, utilize marcadores como REDACTED_KEY, alterne qualquer informação já divulgada e mantenha as credenciais reais num gestor de palavras-passe ou num cofre de palavras-passe.

Que informações pessoais devo ocultar antes de responder ao pedido?

As informações pessoais identificáveis ​​(PII) acumulam-se rapidamente: documentos de identidade nacionais, dados de passaporte, moradas, números de telefone, crachás de funcionários ou estudantes e nomes completos combinados com datas de nascimento ou clínicas. O modelo não precisa de um código postal real para redigir uma carta — precisa de tom, informação não identificativa e o resultado desejado. Troque nomes por funções, generalize localizações e omita números únicos, a menos que esteja a testar o formato com um exemplo fictício.

Posso colar ficheiros de clientes, acordos de confidencialidade ou código interno numa ferramenta de IA para o consumidor?

Trate o chat com o consumidor como um serviço de conveniência, não como um recurso jurídico da empresa. Se não o colocaria num rascunho pessoal do Gmail ou o diria numa aplicação de transporte, não o coloque num chat público com IA — apresentações a clientes, guiões não divulgados, folhas de pagamento, rascunhos jurídicos confidenciais ou fontes com nomes de host internos. Descreva o documento, cole um excerto editado, peça uma estrutura que aplicaria offline e utilize uma ferramenta aprovada para o ambiente de trabalho, se existir, mantendo a ocultação de informação por defeito.

Como devo lidar com informações de saúde ou financeiras em pedidos feitos por IA?

Faça excelentes perguntas sem expor o histórico completo. As explicações gerais são melhores do que colar resultados de exames, listas de medicamentos, carteiras de seguros, extratos bancários ou fotografias de cartões que também aparecem na mesa da cozinha. Remova os números de conta e tudo o que pareça uma credencial. Utilize o chat para contextualizar e criar listas de verificação para levar a um profissional — não como o seu médico, contabilista ou arquivo de documentos.

Porque é que os dados e capturas de ecrã de outras pessoas representam um risco especialmente grande?

Não é a única pessoa no arquivo: e-mails de colegas, números de telefone de clientes, fotografias de crianças ou transcrições de chamadas podem ser introduzidos num sistema sem o seu consentimento. Resuma por palavras suas, substitua nomes por funções e nunca cole informações pessoais de crianças para fins de "diversão". As capturas de ecrã podem conter barras de favoritos, tokens de URL, nomes do Slack e separadores abertos — recorte duas vezes, desfocar os identificadores ou voltar a digitar o erro em vez de enviar fotografias de passaporte ou documentos.

Que padrões de solicitação mais seguros ainda geram respostas sólidas de IA?

Seja específico sobre o problema e conciso quanto à identidade: objetivo, restrições, entradas fictícias, saída desejada. Utilize etiquetas únicas provisórias, peça um método em vez de um registo de produção completo, divida a tarefa para que possa preencher as partes sensíveis por si próprio e utilize exemplos sintéticos. Execute uma verificação prévia ao texto para identificar arrobas (@), sequências longas e aleatórias semelhantes a chaves, números demasiado grandes e nomes que não colocaria num diapositivo. Dez segundos pagam a renda para sempre.

E se já tivesse colado algo embaraçoso num chat de IA?

Deixe de usar este segredo primeiro — altere a palavra-passe, revogue a chave, invalide a sessão. Apague o chat se o produto o permitir, verifique as memórias ou ficheiros do projeto, avise a pessoa certa se eram dados de trabalho e esteja atento a logins invulgares. Se eram dados de outra pessoa, limpe tudo e avise quando necessário. Não "sobrescreva" uma fuga com mais explicações; contexto extra é cópia extra.

Como pode uma pequena equipa parar de despejar credenciais em sistemas de IA para depuração?

Utilize um briefing com foco na escrita: descreva os segredos por tipo, apresente registos fictícios com a CHAVE REDIGIDA e exemplos de e-mails, indique o que foi removido e solicite as causas prováveis, bem como uma lista de verificação — não se limite a "ligar com a minha chave". Adicione uma regra simples para a análise humana — sem credenciais, sem informações pessoais dos clientes, sem dados não divulgados, escrita por defeito — e mostre um bom exemplo de dados anonimizados. Mantenha as credenciais reais num cofre e aplique as correções offline após o modelo sugerir um método.

Referências

  1. NCSC — ncsc.gov.uk
  2. OpenAI — help.openai.com
  3. OpenAI — openai.com
  4. Claude — privacy.claude.com
  5. Google Workspace — knowledge.workspace.google.com
Questionário
1.De acordo com o artigo, o que nunca se deve colocar num chat público de IA?

2.º O que significa "os segredos permanecem offline" neste guia?

3.º Como deve remover a identidade antes de fazer o aviso?

4.º O que deve ser mantido fora do chat do consumidor para preservar a confidencialidade no trabalho?

5.º Que hábito corresponde às recomendações de consentimento e redação do artigo?


Artigos que você pode gostar de ler depois deste:

🔗 Principais ferramentas de segurança com IA
Descubra poderosas plataformas de segurança com IA que detetam e mitigam as ciberameaças.

🔗 Porque é que a IA às vezes inventa coisas?
Perceba porque é que a IA tem alucinações e aprenda como reduzir os riscos.

🔗 Como automatizar tarefas com IA:
Implemente fluxos de trabalho de automação seguros, adicionando supervisão humana e regras rigorosas.

🔗 O que é a tecnologia de IA?
Explore os fundamentos da inteligência artificial e os desafios comuns da sua implementação.

Voltar ao blog