Principes de l'IA · Chapitre 7 sur 8
Vie privée, biais et assumer le résultat
Ce que vous collez dans un outil d'IA peut être conservé, alors ne partagez que ce dont la tâche a besoin ; les biais viennent des données et de la conception, et touchent certaines personnes plus que d'autres ; dites quand l'IA vous a aidé, et assumez ce que vous envoyez.
Objectifs
- Masquez les données personnelles dans le message d'un client, y compris celle que le détecteur rate, et copiez le résultat.À faire
- Composez une mention qui dit ce que l'IA a fait et comment vous avez vérifié.À faire
- Réussissez le quiz.À faire
Étape 1 sur 4 : La lecture
Ce que vous collez peut être conservé
Quand vous collez un texte dans un assistant conversationnel d'IA en ligne, il part chez l'entreprise qui gère le service. Selon le service, votre formule et vos réglages, il peut être stocké et servir à entraîner de futurs modèles. Avant de coller quoi que ce soit de privé, cherchez dans les réglages et les conditions du service ce qu'il fait de vos conversations.
Ne partagez que ce dont la tâche a besoin
Une donnée personnelle est tout ce qui désigne une personne : un nom, une adresse e-mail, un numéro de téléphone, une adresse postale, un numéro de commande ou d'identité. La plupart des tâches n'en ont pas besoin. Le résumé d'une réclamation fonctionne tout aussi bien avec « [Nom 1] » à la place du nom du client.
Ne partager que ce dont une tâche a besoin s'appelle la minimisation des données. Retirer chaque donnée personnelle avant de coller, ou la remplacer par un marqueur, s'appelle caviarder. Un outil peut trouver beaucoup de ces données pour vous, mais il en rate certaines, alors relisez aussi le texte vous-même.
Les biais viennent des données et de la conception
Ici, un biais signifie que les résultats d'un système penchent d'un côté, en faveur ou au détriment de certains groupes de personnes. Il peut venir de données déséquilibrées, comme l'a montré le chapitre 1. Un système entraîné sur des décisions d'embauche passées peut apprendre à favoriser le profil des personnes embauchées avant. Il peut aussi venir de la conception, des choix que font ses créateurs sur ce qu'ils incluent, testent et laissent de côté. Dans les deux cas, le tort retombe sur certains groupes plus que sur d'autres, souvent ceux qui étaient rares dans les données ou absents des tests. Quand un résultat concerne des personnes, demandez-vous qui il pourrait moins bien traiter.
Dites quand l'IA vous a aidé, et assumez le résultat
Une mention de transparence dit ce que l'IA a fait et comment vous avez vérifié, par exemple « L'IA a traduit cette lettre. Une collègue qui lit les deux langues l'a vérifiée. » Certaines écoles, certains employeurs et certains éditeurs en demandent une. Elle ne transfère pas la responsabilité : ce que vous envoyez ou publiez vous appartient, quel que soit l'auteur du premier jet.
Dans le visuel
Un détecteur cherche des données personnelles dans le message inventé d'un client. Ce n'est pas une IA, mais quelques règles fixes qui tournent dans cette page, comme un motif pour les adresses e-mail et une courte liste de prénoms. Rien de ce que vous tapez ne quitte la page. Vous masquez ce qu'il a raté, vous voyez pourquoi, et vous copiez le résultat. Ensuite, vous composez une mention de transparence.
Étape 2 sur 4 : Essayez : Caviarder, puis le dire
Caviarder, puis le dire
Lancez le détecteur sur le message d'un client, masquez ce qu'il a raté et copiez le texte que vous colleriez. Ensuite, composez une mention qui dit comment l'IA vous a aidé.
Mode :RéelRéel : le détecteur et la mention de transparence sont calculés dans cette page par des règles fixes, pas par une IA, et rien de ce que vous tapez n'en sort. La cliente, le voisin et leurs données sont inventés pour ce chapitre, et la liste de prénoms du détecteur est courte exprès pour montrer ce qu'une liste restreinte rate. La page sait où se trouve chaque donnée, donc elle peut vous dire quand l'une d'elles est encore visible.
Étape 3 sur 4 : Vérification
Vérification
Ensuite : Question 2 sur 4
Étape 4 sur 4 : Ce que vous savez faire maintenant
Ce que vous savez faire maintenant
- Retirer d'un texte les noms, e-mails, numéros de téléphone, adresses et numéros d'identité avant de le coller, et vérifier ce qu'un outil a raté.
- Expliquer comment un biais peut venir des données sur lesquelles un système a appris et de la façon dont il a été construit, et à qui il peut nuire.
- Rédiger une mention qui dit ce que l'IA a fait et comment vous avez vérifié.
- Considérer ce que vous envoyez ou publiez comme le vôtre, quel que soit l'auteur du premier jet.