# O que fica dentro do carro **O que não se cola numa ferramenta de inteligência artificial, e como resolver sem colar** > Capítulo 8.5 de *Antes do Código*, livro aberto e gratuito de Marcelo Castelo Branco. > > Leia esta página no site: https://marcelocastelo.io/livros/antes-do-codigo/secao-8/capitulo-8-5 --- ![A passageira falou do exame o caminho inteiro. O que a passageira contou ficou dentro do carro.](https://marcelocastelo.io/assets/livros/antes-do-codigo/8-5-o-envelope-do-exame.webp) *A passageira falou do exame o caminho inteiro. O que a passageira contou ficou dentro do carro.* O capítulo do túnel terminou com o GPS voltando a mostrar o caminho duas ruas depois da saída. Na rua seguinte, uma senhora fez sinal para o táxi. Este capítulo mostra o que o Seu Ademir faz com o que ouve dentro do carro, e o que a Lia quase colou na ferramenta numa tarde de pressa. Um problema só acontece com os dados de um cliente, e o prazo é hoje. Você tem a tabela inteira na tela, e colar a tabela na ferramenta resolveria em cinco minutos. Você pensa que a ferramenta é só um programa, e que ninguém vai ler o que você colou. > — A ferramenta é só um programa, ninguém vai ler o que eu colo. > > — Se é para resolver mais rápido, vale colar os dados de verdade. > > — Dado de cliente é assunto do jurídico, não meu. > > — Inventar dados de teste dá trabalho demais. > O que você cola numa ferramenta sai da sua mão, e você não sabe por onde o que você colou vai passar. ## A senhora do envelope No banco de trás do táxi da imagem que abre este capítulo, uma senhora fala ao celular e segura no colo um envelope grande de exame, em verde. No banco da frente, o motorista olha para a rua, com as duas mãos no volante. A senhora fez sinal para o Seu Ademir na rua seguinte à saída do túnel. A senhora fala com a filha o caminho inteiro, em voz alta. Em vinte minutos, o Seu Ademir fica sabendo do resultado do exame, do nome do médico, do remédio novo, do endereço da senhora e de uma briga antiga com o irmão. Pare aqui um segundo e responda como se você fosse o Seu Ademir. O que você faz com tudo o que ouviu dentro do carro? ## O grupo dos taxistas O Seu Ademir não faz nada com o que ouviu. Os taxistas do ponto de táxi do Seu Ademir têm um grupo de mensagens no celular, e alguns colegas contam no grupo as corridas curiosas do dia, com detalhes. O Seu Ademir lê o grupo e nunca conta nada de passageiro. O Seu Ademir tem uma regra desde o primeiro ano de táxi: o que o passageiro fala no carro fica no carro. O Seu Ademir sabe que uma história contada no grupo passa para outros grupos, e que o bairro é pequeno. **Uma história mandada para o grupo deixa de ser do Seu Ademir, e ninguém consegue trazer a história de volta**. > A senhora desceu em casa sem saber o que o Seu Ademir tinha ouvido, e o que o Seu Ademir ouviu ficou no carro. ## A tabela de trezentas consultas Numa terça-feira de agosto, uma clínica reclamou que a agenda de um paciente aparecia errada. A Lia exportou a agenda da clínica daquela semana, com trezentas consultas, e cada consulta trazia o nome do paciente, o telefone e o tipo de tratamento. A Lia selecionou a tabela inteira para colar no assistente de inteligência artificial e pedir que a ferramenta achasse o erro. A Lia parou antes de colar. No primeiro dia de trabalho, a empresa tinha explicado que o assistente estava liberado para o código, e que dado de paciente não entra em nenhuma ferramenta. O capítulo da lista de passageiros, na seção do metrô, já mostrou que a lei protege os dados pessoais. Os dados de saúde, como o tipo de tratamento, são os mais protegidos de todos. Uma ferramenta de inteligência artificial é um serviço de outra empresa, que recebe o que você manda em outro computador. O que você manda para o computador da outra empresa segue regras que você não controla. **Colar dados de pessoas numa ferramenta é contar a história do passageiro no grupo dos taxistas**, mesmo quando ninguém parece estar lendo. > A tabela de trezentas consultas ficou na tela da Lia, porque os pacientes da tabela nunca autorizaram a viagem. ## Vinte consultas inventadas A Lia olhou o paciente da reclamação e anotou o que a consulta dele tinha de diferente: a consulta tinha sido remarcada duas vezes no mesmo dia. A Lia montou uma tabela com vinte consultas inventadas, com nomes como Paciente Um e Paciente Dois e telefones de mentira, e repetiu a remarcação dupla numa das vinte. O mercado chama esse tipo de tabela de dados de teste (test data). Com a tabela inventada, o erro apareceu do mesmo jeito: a segunda remarcação não liberava o horário da primeira, e o paciente ficava com dois horários ocupados na agenda. A Lia colou a tabela inventada na ferramenta, consertou o código com um teste e respondeu à clínica no fim da tarde. A tabela inventada levou quinze minutos para ficar pronta. **Quinze minutos de dados inventados resolveram o problema sem tirar do carro a história de ninguém**. A Lia guardou a tabela no projeto, para o próximo teste de agenda. ## Como resolver sem tirar a história do carro ### Quatro perguntas que deixam no carro o que é do passageiro *Antes de colar qualquer coisa numa ferramenta* As quatro perguntas levam um minuto e poupam a empresa de explicar a um paciente por que o tratamento dele foi parar numa ferramenta. **1. O texto tem nome, documento, telefone ou endereço de alguém?** Se o texto tiver um desses dados, o texto não vai para a ferramenta. Dado de saúde, de dinheiro ou de criança pede ainda mais cuidado. **2. O texto tem um segredo da empresa?** Senha, contrato, número de cliente e a chave de acesso, que é a senha que um programa usa para entrar em outro sistema (API key), também ficam no carro. Apague ou troque esses dados antes de colar. **3. A empresa liberou esta ferramenta para este tipo de informação?** O assistente da Lia estava liberado para o código, e não para os dados dos pacientes. Pergunte ao líder quando não souber. **4. O problema aparece com dados inventados?** Quase sempre o problema aparece com dados inventados. A Lia anotou o que a consulta tinha de diferente e repetiu numa tabela de vinte consultas inventadas. > A ferramenta não precisa conhecer o paciente para achar o erro, e precisa conhecer o que a consulta tinha de diferente. ## Levar para a entrevista *Três perguntas sobre o que entra e o que não entra na ferramenta.* Nas três perguntas abaixo existe a mesma tentação: recitar a lei de proteção de dados. Só que nenhuma das três perguntas está medindo se você decorou a lei. As três estão medindo se você protege as pessoas na hora da pressa, como o Seu Ademir deixa no carro o que o passageiro conta. ### “O que você nunca colaria numa ferramenta de inteligência artificial?” A pergunta parece de regra, e mede se você reconhece um dado de alguém quando ele está na sua tela. **O que quem entrevista quer ouvir** - Dado que identifica uma pessoa - Segredo da empresa, como senha e contrato - Como você resolve o problema sem colar esses dados **O que derruba** - Dizer que cola tudo, porque a ferramenta é segura - Dizer que não usa ferramenta nenhuma, por medo - Responder só com o nome da lei **Boa resposta** “Eu não colo nada que identifique uma pessoa, nem segredo da empresa. Numa tarefa, pedi à ferramenta que achasse um erro num arquivo de configuração, e o arquivo tinha a chave de acesso do sistema de mensagens. Troquei a chave por um texto qualquer antes de colar. A ferramenta achou o erro igual, e a troca me custou dois minutos.” **Resposta ruim** “Se a ferramenta for paga, eu colo tudo.” **A ferramenta ser paga não muda de quem é o dado**, e quem entrevista ouve uma pessoa que decide pelo paciente sem perguntar a ninguém. ### “Como você investiga um problema que só acontece com os dados de um cliente?” Esta pergunta mede se você sabe separar o problema dos dados da pessoa. **Boa direção** - Descobrir o que aquele caso tem de diferente - Repetir a diferença com dados inventados - Deixar o teste com dados inventados no projeto **Direção ruim** - Copiar os dados do cliente para o seu computador - Mandar os dados por mensagem a um colega - Testar no sistema de verdade, com o cliente usando **Boa resposta** “Primeiro, eu olho o que o caso tem de diferente, sem tirar os dados de onde estão. Numa agenda, a consulta errada tinha sido remarcada duas vezes no mesmo dia. Eu montei vinte consultas inventadas, repeti a remarcação dupla numa delas, e o erro apareceu. A tabela inventada me custou quinze minutos, e ficou no projeto para o próximo teste.” **Resposta ruim** “Peço ao suporte a planilha do cliente e testo no meu computador.” A planilha sai do lugar protegido e vai parar num computador pessoal, e o problema se resolvia sem ela. ### “Você já cuidou de informação sigilosa? Como?” A pergunta procura saber se você tem o costume de proteger o que é dos outros, antes mesmo da tecnologia. **O avaliador técnico quer ver** - Um exemplo com o tipo de informação - O que você fazia para proteger - O que você leva desse costume para o código **O avaliador de pessoas quer ver** - Que você entende que a informação é de outra pessoa - Que você protege mesmo quando ninguém confere - Que você fala do assunto com naturalidade **Boa resposta** “Por quatro anos, na recepção de uma clínica, eu atendi telefone de gente perguntando do exame de outra pessoa. Eu só confirmava consulta com a própria pessoa, mesmo quando um parente ficava bravo do outro lado da linha. No primeiro emprego em tecnologia, eu mantive o costume, e dado de paciente não sai do sistema, nem para uma ferramenta.” **Resposta ruim** “Nunca precisei cuidar de informação sigilosa, porque eu só mexia com código.” **Quase todo código mexe com a informação de alguém**, e a resposta mostra uma pessoa que ainda não reparou nisso. ## Levar para o trabalho *Três situações em que os dados de alguém estão a um colar de distância.* ### O problema só aparece com os dados de verdade Essa situação é a tabela de trezentas consultas na tela, com o prazo para hoje. O erro comum é colar a tabela inteira na ferramenta para ganhar tempo. **O que ajuda** - Anotar o que o caso tem de diferente - Montar dados inventados com a mesma diferença - Guardar os dados inventados no projeto **O que atrapalha** - Colar a tabela de verdade na ferramenta - Trocar só os nomes e deixar telefone e tratamento - Desistir de usar a ferramenta no problema **O que dizer** Para a ferramenta: “Esta tabela tem vinte consultas inventadas. A consulta do Paciente Sete foi remarcada duas vezes no mesmo dia, e depois disso o paciente aparece em dois horários ocupados. Ache o erro no código que faz a remarcação.” O pedido traz a diferença que importa e nenhum dado de paciente, e a ferramenta acha o erro do mesmo jeito. ### Você colou na ferramenta uma coisa que não devia Essa situação acontece com quem está com pressa, uma vez ou outra, e quase sempre com um arquivo copiado inteiro. O erro comum é apagar a conversa com a ferramenta e ficar quieto, torcendo para ninguém perceber. **O que ajuda** - Avisar o líder no mesmo dia - Dizer exatamente o que foi colado - Seguir o que a empresa manda fazer nesses casos **O que atrapalha** - Apagar a conversa e não contar - Diminuir o que foi colado - Esperar para ver se alguém percebe **O que dizer** “Joana, eu colei na ferramenta, sem querer, um pedaço do arquivo de configuração com a chave de acesso do sistema de mensagens. Eu colei o arquivo às três e dez. Acho que a chave precisa ser trocada. O que eu faço agora?” **Quem avisa no mesmo dia dá ao time tempo de trocar a chave**, e quem esconde deixa a chave aberta sem ninguém saber. ### Um colega cola dados de clientes na ferramenta para ganhar tempo Essa situação é o colega que conta a corrida no grupo dos taxistas. O erro comum é fingir que não viu, ou dar bronca na frente do time. **O que ajuda** - Falar com o colega em particular - Mostrar o jeito dos dados inventados - Oferecer ajuda para montar os dados de teste **O que atrapalha** - Fingir que não viu - Dar bronca na frente do time - Contar ao chefe antes de falar com o colega **O que dizer** Em particular: “Vi que você colou a planilha dos pacientes na ferramenta. Dado de paciente não pode ir para a ferramenta, e a empresa explicou essa regra no primeiro dia. Eu tenho uma tabela de consultas inventadas que repete quase tudo. Quer que eu te mostre?” A fala traz a regra sem bronca e oferece a tabela pronta, e o colega troca de jeito sem perder o prazo. > A conversa em particular protege os pacientes e o colega ao mesmo tempo. ## O que muda daqui em diante **A ferramenta de inteligência artificial** - Antes: Um programa onde ninguém lê nada - Agora: Um serviço de outra empresa, em outro computador **Os dados de verdade** - Antes: O jeito mais rápido de achar o erro - Agora: A história do passageiro, que fica no carro **Os dados inventados** - Antes: Trabalho a mais - Agora: Quinze minutos que resolvem sem expor ninguém **A proteção de dados** - Antes: Assunto do jurídico - Agora: Uma decisão que você toma toda vez que cola alguma coisa - Conferir se o texto tem dado de alguém antes de colar - Tirar senha, chave e contrato de tudo o que vai para a ferramenta - Perguntar ao líder para que a ferramenta está liberada - Repetir o problema com dados inventados - Avisar no mesmo dia se colou o que não devia > A senhora desceu em casa com o envelope no colo, e a Lia guardou no projeto a tabela de vinte consultas inventadas. --- *Capítulo 8.5 de **Antes do Código** — O guia para quem quer entender a tecnologia — e não só usá-la.* *O livro inteiro, de graça: https://marcelocastelo.io/livros/antes-do-codigo*