Principes de l'IA · Chapitre 8 sur 8
Qui fixe les règles
Principes partagés, principes des entreprises, constitutions écrites et lois façonnent la manière dont l'IA est conçue et utilisée, et c'est vous qui choisissez ce qu'un agent peut faire seul.
Objectifs
- Associez cinq cas datés et rapportés à la valeur la plus en jeu dans chacun.À faire
- Réglez ce qu'un agent scripté peut faire seul, et arrêtez une demande piégée à une approbation.À faire
- Réussissez le quiz.À faire
Étape 1 sur 4 : La lecture
Principes partagés
Les principes partagés sont des valeurs sur lesquelles des gouvernements ou des experts s'accordent. Ce ne sont pas des lois. L'OCDE, un forum de gouvernements, a adopté ses Principes sur l'IA en 2019 et les a révisés en 2024. En 2023, le NIST, une agence de normalisation américaine, a listé les traits d'une IA digne de confiance, comme être sûre, sécurisée et équitable.
Cinq valeurs reviennent souvent. Transparence : on peut savoir quand l'IA est utilisée et comment elle est arrivée à un résultat. Responsabilité : une personne ou une organisation répond de ce que fait l'IA. Vie privée : les données personnelles ne sont utilisées qu'avec une bonne raison et avec soin. Équité : le système ne traite pas plus mal certains groupes de personnes. Robustesse : il continue de fonctionner sans danger quand les entrées sont inhabituelles, fausses ou faites pour le tromper.
Entreprises et lois
Les entreprises publient leurs propres principes, et peuvent les changer. En février 2025, Google a réécrit ses principes sur l'IA en retirant une liste d'usages qu'il avait dit ne pas poursuivre, comme les armes. Certaines entreprises écrivent une constitution pour leurs modèles : un long texte de valeurs utilisé à l'entraînement. Anthropic en a publié une en janvier 2026, libre de réutilisation pour tous.
Les lois ajoutent des obligations. Depuis février 2025, l'AI Act de l'UE exige des organisations qui créent ou utilisent l'IA qu'elles développent chez leur personnel la maîtrise de l'IA, le savoir-faire pour s'en servir avec soin. Un amendement de 2026 a gardé l'obligation mais supprimé tout niveau fixé.
Ce qu'un agent peut faire
Un agent, comme au chapitre 4, est un programme qui utilise un modèle pour faire des étapes à votre place. Ce qu'il fait seul est un choix de conception. Un article de 2025 de Feng, McDonald et Zhang nomme cinq niveaux selon le rôle que vous prenez : opérateur, collaborateur, consultant, approbateur et observateur. En opérateur, vous décidez chaque étape ; en observateur, vous regardez seulement, et pouvez l'arrêter.
En pratique, vous réglez chaque outil sur autoriser (il s'exécute seul), demander (il attend votre oui) ou refuser (il ne s'exécute jamais). Demander compte surtout pour ce que fait un agent après avoir lu un texte écrit par quelqu'un d'autre : une page web peut essayer de lui donner de nouveaux ordres, ce qu'on appelle l'injection de prompt.
Dans le visuel
Associez cinq cas datés à une valeur, puis réglez ce qu'un agent scripté peut faire seul.
Sources
Les idées de ce parcours s'appuient sur The AI Fluency Framework de Rick Dakan et Joseph Feller (avec Anthropic), © 2025, CC BY-NC-SA 4.0. Écrit de façon indépendante ; ni les auteurs ni Anthropic ne l'approuvent.
Étape 2 sur 4 : Essayez : Les cas et le curseur d'autonomie
Les cas et le curseur d'autonomie
Associez chaque cas à la valeur la plus en jeu. Puis réglez ce qu'un agent peut faire seul, et lancez sa course.
Mode :SimuléSimulé : l'agent, sa course et la page du restaurant sont scriptés, et aucun modèle ne tourne. Les cinq cas sont des faits rapportés, racontés avec nos propres mots ; la valeur qui convient à chacun relève de notre jugement.
Étape 3 sur 4 : Vérification
Vérification
Ensuite : Question 2 sur 3
Étape 4 sur 4 : Ce que vous savez faire maintenant
Ce que vous savez faire maintenant
- Nommer les couches qui fixent des règles pour l'IA : principes partagés, principes des entreprises, constitutions écrites et lois.
- Dire quelle valeur un cas met le plus en jeu : transparence, responsabilité, vie privée, équité ou robustesse.
- Régler, outil par outil, ce qu'un agent peut faire seul, ce qu'il doit vous demander et ce qu'il ne peut pas faire.
- Expliquer pourquoi Demander compte quand un agent lit un texte écrit par quelqu'un d'autre.