Princípios da IA · Capítulo 7 de 8
Privacidade, viés e assumir o resultado
O que você cola em uma ferramenta de IA pode ser guardado, então compartilhe só o que a tarefa precisa; o viés vem dos dados e do design e atinge algumas pessoas mais do que outras; diga quando a IA ajudou e assuma o que você envia.
Objetivos
- Oculte os dados pessoais na mensagem de uma cliente, incluindo um que o detector deixa passar, e copie o resultado.A fazer
- Monte uma linha que diga o que a IA fez e como você conferiu.A fazer
- Passe no teste.A fazer
Passo 1 de 4: A leitura
O que você cola pode ser guardado
Quando você cola um texto em um assistente de chat de IA on-line, ele vai para a empresa que opera o serviço. Dependendo do serviço, do seu plano e das suas configurações, ele pode ser armazenado e pode ser usado para treinar modelos futuros. Antes de colar algo privado, procure nas configurações e nos termos do serviço o que ele faz com as suas conversas.
Compartilhe só o que a tarefa precisa
Dado pessoal é qualquer coisa que aponta para uma pessoa: um nome, um endereço de e-mail, um número de telefone, um endereço residencial, um número de pedido ou de documento. A maioria das tarefas não precisa deles. Um resumo de uma reclamação funciona igualmente bem com “[Nome 1]” no lugar do nome da cliente.
Compartilhar só o que uma tarefa precisa se chama minimização de dados. Tirar cada dado pessoal antes de colar, ou trocá-lo por um marcador, se chama anonimizar. Uma ferramenta pode encontrar muitos dados para você, mas deixa passar alguns, então leia o texto você também.
O viés vem dos dados e do design
Aqui, viés significa que as saídas de um sistema pendem para um lado, a favor ou contra alguns grupos de pessoas. Ele pode vir de dados desequilibrados, como o capítulo 1 mostrou. Um sistema treinado com decisões de contratação passadas pode aprender a favorecer o tipo de pessoa contratada antes. Ele também pode vir do design, das escolhas que os criadores fazem sobre o que incluir, testar e deixar de fora. De um jeito ou de outro, o dano recai mais sobre alguns grupos do que sobre outros, muitas vezes os que eram raros nos dados ou estavam ausentes dos testes. Quando uma saída é sobre pessoas, pergunte quem ela pode tratar pior.
Diga quando a IA ajudou e assuma o resultado
Uma linha de transparência diz o que a IA fez e como você conferiu, como “A IA traduziu esta carta. Uma colega que lê os dois idiomas conferiu.” Algumas escolas, empregadores e editoras pedem uma. Ela não transfere a responsabilidade: o que você envia ou publica é seu, não importa quem escreveu o primeiro rascunho.
No visual
Um detector procura dados pessoais na mensagem inventada de uma cliente. Ele não é uma IA, mas algumas regras fixas que rodam nesta página, como um padrão para endereços de e-mail e uma lista curta de primeiros nomes. Nada do que você digita sai da página. Você oculta o que ele deixou passar, vê por quê e copia o resultado. Depois, monta uma linha de transparência.
Passo 2 de 4: Experimente: Anonimize, depois declare
Anonimize, depois declare
Rode o detector na mensagem de uma cliente, oculte o que ele deixou passar e copie o texto que você colaria. Depois, monte uma linha que diga como a IA ajudou.
Modo:RealReal: o detector e a linha de transparência são calculados nesta página por regras fixas, não por uma IA, e nada do que você digita sai dela. A cliente, o vizinho e os dados deles são inventados para este capítulo, e a lista de nomes do detector é curta de propósito para mostrar o que uma lista estreita deixa passar. A página sabe onde está cada dado, então pode dizer quando um ainda aparece.
Passo 3 de 4: Verificação
Verificação
Próximo: Pergunta 2 de 4
Passo 4 de 4: O que você já sabe fazer
O que você já sabe fazer
- Tirar nomes, e-mails, números de telefone, endereços e números de documento de um texto antes de colar, e conferir o que uma ferramenta deixou passar.
- Explicar como o viés pode vir dos dados com que um sistema aprendeu e de como ele foi construído, e a quem pode prejudicar.
- Escrever uma linha que diga o que a IA fez e como você conferiu.
- Tratar o que você envia ou publica como seu, não importa quem escreveu o primeiro rascunho.