Zum Inhalt springen
Zurück zu KI-Grundlagen

KI-Grundlagen · Kapitel 7 von 8

Datenschutz, Verzerrung und Verantwortung für das Ergebnis

Was du in ein KI-Tool einfügst, wird vielleicht gespeichert, also teile nur, was die Aufgabe braucht; Verzerrung kommt aus Daten und Design und trifft manche Menschen stärker als andere; sag, wann KI geholfen hat, und steh für das ein, was du verschickst.

12 Minuten0 von 3 Zielen erreicht

Ziele

  • Verberge die persönlichen Daten in der Nachricht einer Kundin, auch eine, die der Detektor übersieht, und kopiere das Ergebnis.Offen
  • Baue einen Hinweis, der sagt, was KI gemacht hat und wie du es geprüft hast.Offen
  • Bestehe das Quiz.Offen

Schritt 1 von 4: Der Text

Was du einfügst, wird vielleicht gespeichert

Wenn du Text in einen KI-Chat-Assistenten im Internet einfügst, geht er an die Firma, die den Dienst betreibt. Je nach Dienst, Tarif und Einstellungen wird er vielleicht gespeichert und vielleicht genutzt, um spätere Modelle zu trainieren. Bevor du etwas Privates einfügst, schau in den Einstellungen und Bedingungen des Dienstes nach, was er mit deinen Chats macht.

Teile nur, was die Aufgabe braucht

Personenbezogene Daten sind alles, was auf eine Person verweist: ein Name, eine E-Mail-Adresse, eine Telefonnummer, eine Wohnadresse, eine Bestell- oder Ausweisnummer. Die meisten Aufgaben brauchen sie nicht. Eine Zusammenfassung einer Beschwerde funktioniert genauso gut mit „[Name 1]“ statt des Namens der Kundin.

Nur zu teilen, was eine Aufgabe braucht, heißt Datenminimierung. Jede persönliche Angabe vor dem Einfügen herauszunehmen oder durch einen Platzhalter zu ersetzen, heißt Schwärzen. Ein Tool kann viele Angaben für dich finden, übersieht aber manche, also lies den Text auch selbst.

Verzerrung kommt aus Daten und aus Design

Verzerrung (englisch bias) heißt hier, dass die Ergebnisse eines Systems in eine Richtung kippen, für oder gegen bestimmte Gruppen von Menschen. Sie kann aus einseitigen Daten kommen, wie Kapitel 1 gezeigt hat. Ein System, das mit früheren Einstellungsentscheidungen trainiert wurde, kann lernen, die Art Menschen zu bevorzugen, die früher eingestellt wurden. Sie kann auch aus dem Design kommen, aus den Entscheidungen seiner Entwickler darüber, was sie aufnehmen, testen und weglassen. So oder so trifft der Schaden manche Gruppen stärker als andere, oft die, die in den Daten selten waren oder in den Tests fehlten. Wenn ein Ergebnis Menschen betrifft, frag dich, wen es schlechter behandeln könnte.

Sag, wann KI geholfen hat, und steh für das Ergebnis ein

Ein KI-Hinweis sagt, was KI gemacht hat und wie du es geprüft hast, zum Beispiel: „KI hat diesen Brief übersetzt. Eine Kollegin, die beide Sprachen liest, hat ihn geprüft.“ Manche Schulen, Arbeitgeber und Verlage verlangen so einen Hinweis. Er gibt die Verantwortung nicht ab: Was du verschickst oder veröffentlichst, gehört dir, egal wer den ersten Entwurf geschrieben hat.

In der Visualisierung

Ein Detektor sucht in der erfundenen Nachricht einer Kundin nach persönlichen Daten. Er ist keine KI, sondern ein paar feste Regeln, die auf dieser Seite laufen, etwa ein Muster für E-Mail-Adressen und eine kurze Liste von Vornamen. Nichts, was du tippst, verlässt die Seite. Du verbirgst, was er übersehen hat, siehst, warum, und kopierst das Ergebnis. Danach baust du einen KI-Hinweis.

Schritt 2 von 4: Probier es aus: Erst schwärzen, dann offenlegen

Erst schwärzen, dann offenlegen

Lass den Detektor über die Nachricht einer Kundin laufen, verbirg, was er übersehen hat, und kopiere den Text, den du einfügen würdest. Danach baust du einen Hinweis, der sagt, wie KI geholfen hat.

Modus:EchtEcht: Der Detektor und der KI-Hinweis werden auf dieser Seite mit festen Regeln ermittelt, nicht von einer KI, und nichts, was du tippst, verlässt sie. Die Kundin, der Nachbar und ihre Daten sind für dieses Kapitel erfunden, und die Namensliste des Detektors ist absichtlich kurz, um zu zeigen, was eine schmale Liste übersieht. Die Seite weiß, wo jede Angabe steht, und kann dir deshalb sagen, wann eine noch zu sehen ist.

Schritt 3 von 4: Check

Check

Frage 1 von 4Du willst, dass ein KI-Chat-Assistent die Beschwerde einer Kundin zusammenfasst. Sie enthält den Namen, die E-Mail-Adresse und die Bestellnummer der Kundin. Was solltest du zuerst tun?

Als Nächstes: Frage 2 von 4

Frage 2 von 4Wo findest du heraus, ob das, was du in einen KI-Dienst einfügst, gespeichert oder zum Trainieren späterer Modelle genutzt werden kann?
Frage 3 von 4Eine Firma trainiert ein System, das Bewerbungen ordnet, mit zehn Jahren ihrer eigenen Einstellungsentscheidungen. Die meisten Menschen, die sie in diesen Jahren eingestellt hat, waren Männer. Was ist das wahrscheinliche Problem?
Frage 4 von 4KI hat den ersten Entwurf des Newsletters deines Vereins geschrieben. Du hast ihn verschickt, und er nannte das falsche Datum für das nächste Treffen. Was stimmt?

Schritt 4 von 4: Was du jetzt kannst

Was du jetzt kannst

  • Namen, E-Mail-Adressen, Telefonnummern, Adressen und Ausweisnummern aus einem Text nehmen, bevor du ihn einfügst, und prüfen, was ein Tool übersehen hat.
  • Erklären, wie Verzerrung aus den Daten kommen kann, aus denen ein System gelernt hat, und daraus, wie es gebaut wurde, und wem sie schaden kann.
  • Einen Hinweis schreiben, der sagt, was KI gemacht hat und wie du es geprüft hast.
  • Behandeln, was du verschickst oder veröffentlichst, als deins, egal wer den ersten Entwurf geschrieben hat.