Pular para o conteúdo
Voltar para Princípios da IA

Princípios da IA · Capítulo 7 de 8

Privacidade, viés e assumir o resultado

O que você cola em uma ferramenta de IA pode ser guardado, então compartilhe só o que a tarefa precisa; o viés vem dos dados e do design e atinge algumas pessoas mais do que outras; diga quando a IA ajudou e assuma o que você envia.

12 minutos0 de 3 objetivos concluídos

Objetivos

  • Oculte os dados pessoais na mensagem de uma cliente, incluindo um que o detector deixa passar, e copie o resultado.A fazer
  • Monte uma linha que diga o que a IA fez e como você conferiu.A fazer
  • Passe no teste.A fazer

Passo 1 de 4: A leitura

O que você cola pode ser guardado

Quando você cola um texto em um assistente de chat de IA on-line, ele vai para a empresa que opera o serviço. Dependendo do serviço, do seu plano e das suas configurações, ele pode ser armazenado e pode ser usado para treinar modelos futuros. Antes de colar algo privado, procure nas configurações e nos termos do serviço o que ele faz com as suas conversas.

Compartilhe só o que a tarefa precisa

Dado pessoal é qualquer coisa que aponta para uma pessoa: um nome, um endereço de e-mail, um número de telefone, um endereço residencial, um número de pedido ou de documento. A maioria das tarefas não precisa deles. Um resumo de uma reclamação funciona igualmente bem com “[Nome 1]” no lugar do nome da cliente.

Compartilhar só o que uma tarefa precisa se chama minimização de dados. Tirar cada dado pessoal antes de colar, ou trocá-lo por um marcador, se chama anonimizar. Uma ferramenta pode encontrar muitos dados para você, mas deixa passar alguns, então leia o texto você também.

O viés vem dos dados e do design

Aqui, viés significa que as saídas de um sistema pendem para um lado, a favor ou contra alguns grupos de pessoas. Ele pode vir de dados desequilibrados, como o capítulo 1 mostrou. Um sistema treinado com decisões de contratação passadas pode aprender a favorecer o tipo de pessoa contratada antes. Ele também pode vir do design, das escolhas que os criadores fazem sobre o que incluir, testar e deixar de fora. De um jeito ou de outro, o dano recai mais sobre alguns grupos do que sobre outros, muitas vezes os que eram raros nos dados ou estavam ausentes dos testes. Quando uma saída é sobre pessoas, pergunte quem ela pode tratar pior.

Diga quando a IA ajudou e assuma o resultado

Uma linha de transparência diz o que a IA fez e como você conferiu, como “A IA traduziu esta carta. Uma colega que lê os dois idiomas conferiu.” Algumas escolas, empregadores e editoras pedem uma. Ela não transfere a responsabilidade: o que você envia ou publica é seu, não importa quem escreveu o primeiro rascunho.

No visual

Um detector procura dados pessoais na mensagem inventada de uma cliente. Ele não é uma IA, mas algumas regras fixas que rodam nesta página, como um padrão para endereços de e-mail e uma lista curta de primeiros nomes. Nada do que você digita sai da página. Você oculta o que ele deixou passar, vê por quê e copia o resultado. Depois, monta uma linha de transparência.

Passo 2 de 4: Experimente: Anonimize, depois declare

Anonimize, depois declare

Rode o detector na mensagem de uma cliente, oculte o que ele deixou passar e copie o texto que você colaria. Depois, monte uma linha que diga como a IA ajudou.

Modo:RealReal: o detector e a linha de transparência são calculados nesta página por regras fixas, não por uma IA, e nada do que você digita sai dela. A cliente, o vizinho e os dados deles são inventados para este capítulo, e a lista de nomes do detector é curta de propósito para mostrar o que uma lista estreita deixa passar. A página sabe onde está cada dado, então pode dizer quando um ainda aparece.

Passo 3 de 4: Verificação

Verificação

Pergunta 1 de 4Você quer que um assistente de chat de IA resuma a reclamação de uma cliente. Ela traz o nome, o e-mail e o número do pedido da cliente. O que você deve fazer primeiro?

Próximo: Pergunta 2 de 4

Pergunta 2 de 4Onde você descobre se o que cola em um serviço de IA pode ser armazenado ou usado para treinar modelos futuros?
Pergunta 3 de 4Uma empresa treina um sistema para classificar candidaturas a vagas com dez anos das suas próprias decisões de contratação. A maioria das pessoas contratadas nesses anos era homem. Qual é o problema provável?
Pergunta 4 de 4A IA escreveu o primeiro rascunho do boletim do seu clube. Você enviou, e ele trazia a data errada da próxima reunião. O que é verdade?

Passo 4 de 4: O que você já sabe fazer

O que você já sabe fazer

  • Tirar nomes, e-mails, números de telefone, endereços e números de documento de um texto antes de colar, e conferir o que uma ferramenta deixou passar.
  • Explicar como o viés pode vir dos dados com que um sistema aprendeu e de como ele foi construído, e a quem pode prejudicar.
  • Escrever uma linha que diga o que a IA fez e como você conferiu.
  • Tratar o que você envia ou publica como seu, não importa quem escreveu o primeiro rascunho.