Saltar al contenido
Volver a Principios de la IA

Principios de la IA · Capítulo 7 de 8

Privacidad, sesgo y hacerte cargo del resultado

Lo que pegas en una herramienta de IA puede guardarse, así que comparte solo lo que la tarea necesita; el sesgo viene de los datos y del diseño y afecta a unas personas más que a otras; di cuándo te ayudó la IA y hazte cargo de lo que envías.

12 minutos0 de 3 objetivos hechos

Objetivos

  • Oculta los datos personales del mensaje de un cliente, incluido uno que el detector no encuentra, y copia el resultado.Pendiente
  • Arma una línea que diga qué hizo la IA y cómo lo revisaste.Pendiente
  • Aprueba el cuestionario.Pendiente

Paso 1 de 4: La lectura

Lo que pegas puede guardarse

Cuando pegas un texto en un asistente de chat de IA en línea, ese texto va a la empresa que ofrece el servicio. Según el servicio, tu plan y tu configuración, puede guardarse y puede usarse para entrenar modelos futuros. Antes de pegar algo privado, busca en la configuración y en las condiciones del servicio qué hace con tus chats.

Comparte solo lo que la tarea necesita

Un dato personal es cualquier cosa que señala a una persona: un nombre, una dirección de correo, un número de teléfono, una dirección postal, un número de pedido o de documento. La mayoría de las tareas no lo necesitan. Un resumen de una queja funciona igual de bien con “[Nombre 1]” en lugar del nombre del cliente.

Compartir solo lo que una tarea necesita se llama minimización de datos. Quitar cada dato personal antes de pegar, o cambiarlo por un marcador, se llama anonimizar. Una herramienta puede encontrar muchos datos por ti, pero se le escapan algunos, así que lee el texto tú también.

El sesgo viene de los datos y del diseño

Aquí, sesgo significa que los resultados de un sistema se inclinan hacia un lado, a favor o en contra de algunos grupos de personas. Puede venir de datos desequilibrados, como mostró el capítulo 1. Un sistema entrenado con decisiones de contratación pasadas puede aprender a favorecer al tipo de personas que se contrató antes. También puede venir del diseño, de lo que deciden sus creadores sobre qué incluir, qué probar y qué dejar fuera. En los dos casos, el daño cae más sobre unos grupos que sobre otros, a menudo los que eran escasos en los datos o faltaban en las pruebas. Cuando un resultado trata sobre personas, pregúntate a quién podría tratar peor.

Di cuándo te ayudó la IA y hazte cargo del resultado

Una línea de transparencia dice qué hizo la IA y cómo lo revisaste, por ejemplo: “La IA tradujo esta carta. La revisó una colega que lee los dos idiomas.” Algunas escuelas, empresas y editoriales la piden. No traspasa la responsabilidad: lo que envías o publicas es tuyo, sin importar quién escribió el primer borrador.

En la visual

Un detector busca datos personales en el mensaje inventado de un cliente. No es una IA, sino unas pocas reglas fijas que se ejecutan en esta página, como un patrón para las direcciones de correo y una lista corta de nombres de pila. Nada de lo que escribes sale de la página. Ocultas lo que se le escapó, ves por qué y copias el resultado. Después armas una línea de transparencia.

Paso 2 de 4: Pruébalo: Anonimiza y luego declara

Anonimiza y luego declara

Pasa el detector por el mensaje de un cliente, oculta lo que se le escapó y copia el texto que pegarías. Después arma una línea que diga cómo te ayudó la IA.

Modo:RealReal: el detector y la línea de transparencia se calculan en esta página con reglas fijas, no con una IA, y nada de lo que escribes sale de ella. El cliente, el vecino y sus datos son inventados para este capítulo, y la lista de nombres del detector es corta a propósito para mostrar lo que se le escapa a una lista estrecha. La página sabe dónde está cada dato, así que puede decirte cuándo todavía se ve uno.

Paso 3 de 4: Comprobación

Comprobación

Pregunta 1 de 4Quieres que un asistente de chat de IA resuma la queja de un cliente. La queja incluye el nombre, el correo y el número de pedido del cliente. ¿Qué deberías hacer primero?

Siguiente: Pregunta 2 de 4

Pregunta 2 de 4¿Dónde averiguas si lo que pegas en un servicio de IA puede guardarse o usarse para entrenar modelos futuros?
Pregunta 3 de 4Una empresa entrena un sistema para ordenar solicitudes de empleo con diez años de sus propias decisiones de contratación. La mayoría de las personas que contrató en esos años eran hombres. ¿Cuál es el problema probable?
Pregunta 4 de 4La IA escribió el primer borrador del boletín de tu club. Lo enviaste, y tenía mal la fecha de la próxima reunión. ¿Qué es cierto?

Paso 4 de 4: Lo que ya puedes hacer

Lo que ya puedes hacer

  • Quitar nombres, correos, números de teléfono, direcciones y números de documento de un texto antes de pegarlo, y revisar lo que una herramienta pasó por alto.
  • Explicar cómo el sesgo puede venir de los datos con los que aprendió un sistema y de cómo se construyó, y a quién puede perjudicar.
  • Escribir una línea que diga qué hizo la IA y cómo lo revisaste.
  • Tratar lo que envías o publicas como tuyo, sin importar quién escribió el primer borrador.