Aller au contenu
Retour à Principes de l'IA

Principes de l'IA · Chapitre 7 sur 8

Vie privée, biais et assumer le résultat

Ce que vous collez dans un outil d'IA peut être conservé, alors ne partagez que ce dont la tâche a besoin ; les biais viennent des données et de la conception, et touchent certaines personnes plus que d'autres ; dites quand l'IA vous a aidé, et assumez ce que vous envoyez.

12 minutes0 objectifs sur 3 atteints

Objectifs

  • Masquez les données personnelles dans le message d'un client, y compris celle que le détecteur rate, et copiez le résultat.À faire
  • Composez une mention qui dit ce que l'IA a fait et comment vous avez vérifié.À faire
  • Réussissez le quiz.À faire

Étape 1 sur 4 : La lecture

Ce que vous collez peut être conservé

Quand vous collez un texte dans un assistant conversationnel d'IA en ligne, il part chez l'entreprise qui gère le service. Selon le service, votre formule et vos réglages, il peut être stocké et servir à entraîner de futurs modèles. Avant de coller quoi que ce soit de privé, cherchez dans les réglages et les conditions du service ce qu'il fait de vos conversations.

Ne partagez que ce dont la tâche a besoin

Une donnée personnelle est tout ce qui désigne une personne : un nom, une adresse e-mail, un numéro de téléphone, une adresse postale, un numéro de commande ou d'identité. La plupart des tâches n'en ont pas besoin. Le résumé d'une réclamation fonctionne tout aussi bien avec « [Nom 1] » à la place du nom du client.

Ne partager que ce dont une tâche a besoin s'appelle la minimisation des données. Retirer chaque donnée personnelle avant de coller, ou la remplacer par un marqueur, s'appelle caviarder. Un outil peut trouver beaucoup de ces données pour vous, mais il en rate certaines, alors relisez aussi le texte vous-même.

Les biais viennent des données et de la conception

Ici, un biais signifie que les résultats d'un système penchent d'un côté, en faveur ou au détriment de certains groupes de personnes. Il peut venir de données déséquilibrées, comme l'a montré le chapitre 1. Un système entraîné sur des décisions d'embauche passées peut apprendre à favoriser le profil des personnes embauchées avant. Il peut aussi venir de la conception, des choix que font ses créateurs sur ce qu'ils incluent, testent et laissent de côté. Dans les deux cas, le tort retombe sur certains groupes plus que sur d'autres, souvent ceux qui étaient rares dans les données ou absents des tests. Quand un résultat concerne des personnes, demandez-vous qui il pourrait moins bien traiter.

Dites quand l'IA vous a aidé, et assumez le résultat

Une mention de transparence dit ce que l'IA a fait et comment vous avez vérifié, par exemple « L'IA a traduit cette lettre. Une collègue qui lit les deux langues l'a vérifiée. » Certaines écoles, certains employeurs et certains éditeurs en demandent une. Elle ne transfère pas la responsabilité : ce que vous envoyez ou publiez vous appartient, quel que soit l'auteur du premier jet.

Dans le visuel

Un détecteur cherche des données personnelles dans le message inventé d'un client. Ce n'est pas une IA, mais quelques règles fixes qui tournent dans cette page, comme un motif pour les adresses e-mail et une courte liste de prénoms. Rien de ce que vous tapez ne quitte la page. Vous masquez ce qu'il a raté, vous voyez pourquoi, et vous copiez le résultat. Ensuite, vous composez une mention de transparence.

Étape 2 sur 4 : Essayez : Caviarder, puis le dire

Caviarder, puis le dire

Lancez le détecteur sur le message d'un client, masquez ce qu'il a raté et copiez le texte que vous colleriez. Ensuite, composez une mention qui dit comment l'IA vous a aidé.

Mode :RéelRéel : le détecteur et la mention de transparence sont calculés dans cette page par des règles fixes, pas par une IA, et rien de ce que vous tapez n'en sort. La cliente, le voisin et leurs données sont inventés pour ce chapitre, et la liste de prénoms du détecteur est courte exprès pour montrer ce qu'une liste restreinte rate. La page sait où se trouve chaque donnée, donc elle peut vous dire quand l'une d'elles est encore visible.

Étape 3 sur 4 : Vérification

Vérification

Question 1 sur 4Vous voulez qu'un assistant conversationnel d'IA résume la réclamation d'un client. Elle contient le nom, l'e-mail et le numéro de commande du client. Que faites-vous d'abord ?

Ensuite : Question 2 sur 4

Question 2 sur 4Où savoir si ce que vous collez dans un service d'IA peut être stocké ou servir à entraîner de futurs modèles ?
Question 3 sur 4Une entreprise entraîne un système à classer des candidatures sur dix ans de ses propres décisions d'embauche. La plupart des personnes embauchées pendant ces années étaient des hommes. Quel est le problème probable ?
Question 4 sur 4L'IA a écrit le premier jet de la lettre d'information de votre club. Vous l'avez envoyée, et elle donnait une mauvaise date pour la prochaine réunion. Qu'est-ce qui est vrai ?

Étape 4 sur 4 : Ce que vous savez faire maintenant

Ce que vous savez faire maintenant

  • Retirer d'un texte les noms, e-mails, numéros de téléphone, adresses et numéros d'identité avant de le coller, et vérifier ce qu'un outil a raté.
  • Expliquer comment un biais peut venir des données sur lesquelles un système a appris et de la façon dont il a été construit, et à qui il peut nuire.
  • Rédiger une mention qui dit ce que l'IA a fait et comment vous avez vérifié.
  • Considérer ce que vous envoyez ou publiez comme le vôtre, quel que soit l'auteur du premier jet.