Principios de la IA · Capítulo 7 de 8
Privacidad, sesgo y hacerte cargo del resultado
Lo que pegas en una herramienta de IA puede guardarse, así que comparte solo lo que la tarea necesita; el sesgo viene de los datos y del diseño y afecta a unas personas más que a otras; di cuándo te ayudó la IA y hazte cargo de lo que envías.
Objetivos
- Oculta los datos personales del mensaje de un cliente, incluido uno que el detector no encuentra, y copia el resultado.Pendiente
- Arma una línea que diga qué hizo la IA y cómo lo revisaste.Pendiente
- Aprueba el cuestionario.Pendiente
Paso 1 de 4: La lectura
Lo que pegas puede guardarse
Cuando pegas un texto en un asistente de chat de IA en línea, ese texto va a la empresa que ofrece el servicio. Según el servicio, tu plan y tu configuración, puede guardarse y puede usarse para entrenar modelos futuros. Antes de pegar algo privado, busca en la configuración y en las condiciones del servicio qué hace con tus chats.
Comparte solo lo que la tarea necesita
Un dato personal es cualquier cosa que señala a una persona: un nombre, una dirección de correo, un número de teléfono, una dirección postal, un número de pedido o de documento. La mayoría de las tareas no lo necesitan. Un resumen de una queja funciona igual de bien con “[Nombre 1]” en lugar del nombre del cliente.
Compartir solo lo que una tarea necesita se llama minimización de datos. Quitar cada dato personal antes de pegar, o cambiarlo por un marcador, se llama anonimizar. Una herramienta puede encontrar muchos datos por ti, pero se le escapan algunos, así que lee el texto tú también.
El sesgo viene de los datos y del diseño
Aquí, sesgo significa que los resultados de un sistema se inclinan hacia un lado, a favor o en contra de algunos grupos de personas. Puede venir de datos desequilibrados, como mostró el capítulo 1. Un sistema entrenado con decisiones de contratación pasadas puede aprender a favorecer al tipo de personas que se contrató antes. También puede venir del diseño, de lo que deciden sus creadores sobre qué incluir, qué probar y qué dejar fuera. En los dos casos, el daño cae más sobre unos grupos que sobre otros, a menudo los que eran escasos en los datos o faltaban en las pruebas. Cuando un resultado trata sobre personas, pregúntate a quién podría tratar peor.
Di cuándo te ayudó la IA y hazte cargo del resultado
Una línea de transparencia dice qué hizo la IA y cómo lo revisaste, por ejemplo: “La IA tradujo esta carta. La revisó una colega que lee los dos idiomas.” Algunas escuelas, empresas y editoriales la piden. No traspasa la responsabilidad: lo que envías o publicas es tuyo, sin importar quién escribió el primer borrador.
En la visual
Un detector busca datos personales en el mensaje inventado de un cliente. No es una IA, sino unas pocas reglas fijas que se ejecutan en esta página, como un patrón para las direcciones de correo y una lista corta de nombres de pila. Nada de lo que escribes sale de la página. Ocultas lo que se le escapó, ves por qué y copias el resultado. Después armas una línea de transparencia.
Paso 2 de 4: Pruébalo: Anonimiza y luego declara
Anonimiza y luego declara
Pasa el detector por el mensaje de un cliente, oculta lo que se le escapó y copia el texto que pegarías. Después arma una línea que diga cómo te ayudó la IA.
Modo:RealReal: el detector y la línea de transparencia se calculan en esta página con reglas fijas, no con una IA, y nada de lo que escribes sale de ella. El cliente, el vecino y sus datos son inventados para este capítulo, y la lista de nombres del detector es corta a propósito para mostrar lo que se le escapa a una lista estrecha. La página sabe dónde está cada dato, así que puede decirte cuándo todavía se ve uno.
Paso 3 de 4: Comprobación
Comprobación
Siguiente: Pregunta 2 de 4
Paso 4 de 4: Lo que ya puedes hacer
Lo que ya puedes hacer
- Quitar nombres, correos, números de teléfono, direcciones y números de documento de un texto antes de pegarlo, y revisar lo que una herramienta pasó por alto.
- Explicar cómo el sesgo puede venir de los datos con los que aprendió un sistema y de cómo se construyó, y a quién puede perjudicar.
- Escribir una línea que diga qué hizo la IA y cómo lo revisaste.
- Tratar lo que envías o publicas como tuyo, sin importar quién escribió el primer borrador.