Principios de la IA · Capítulo 8 de 8
Quién pone las reglas
Los principios compartidos, los principios de las empresas, las constituciones escritas y las leyes dan forma a cómo se crea y se usa la IA, y tú eliges cuánto puede hacer un agente por su cuenta.
Objetivos
- Relaciona cinco casos reportados y fechados con el valor que más está en juego en cada uno.Pendiente
- Define cuánto puede hacer por su cuenta un agente con guion y detén un pedido plantado en una aprobación.Pendiente
- Aprueba el cuestionario.Pendiente
Paso 1 de 4: La lectura
Principios compartidos
Los principios compartidos son valores en los que se ponen de acuerdo gobiernos o expertos. No son leyes. La OCDE, un foro de gobiernos, adoptó sus Principios sobre IA en 2019 y los revisó en 2024. En 2023 el NIST, una agencia de normas de Estados Unidos, enumeró los rasgos de una IA confiable, como ser segura, protegida y justa.
Cinco valores aparecen a menudo. Transparencia: las personas pueden saber cuándo se usa IA y cómo llegó a un resultado. Rendición de cuentas: una persona u organización responde por lo que hace la IA. Privacidad: los datos personales se usan solo con un buen motivo y con cuidado. Equidad: el sistema no trata peor a algunos grupos de personas. Robustez: sigue funcionando de forma segura cuando las entradas son raras, erróneas o están hechas para engañarlo.
Empresas y leyes
Las empresas publican sus propios principios y pueden cambiarlos. En febrero de 2025 Google reescribió sus principios de IA y quitó una lista de usos que había dicho que no buscaría, como las armas. Algunas empresas escriben una constitución para sus modelos: un texto largo de valores que se usa en el entrenamiento. Anthropic publicó una en enero de 2026, libre para que cualquiera la reutilice.
Las leyes agregan obligaciones. Desde febrero de 2025 la Ley de IA de la UE exige a las organizaciones que crean o usan IA que su personal adquiera alfabetización en IA, el conocimiento para usarla con cuidado. Una enmienda de 2026 mantuvo la obligación, pero quitó cualquier nivel fijo.
Cuánto puede hacer un agente
Un agente, como en el capítulo 4, es un programa que usa un modelo para dar pasos por ti. Cuánto hace solo es una decisión de diseño. Un artículo de 2025 de Feng, McDonald y Zhang nombra cinco niveles según el papel que tomas: operador, colaborador, consultor, aprobador y observador. Como operador decides cada paso; como observador solo miras, y puedes detenerlo.
En la práctica, configuras cada herramienta como permitir (se ejecuta sola), preguntar (espera tu sí) o denegar (nunca se ejecuta). Preguntar importa sobre todo para lo que hace un agente después de leer un texto que escribió otra persona: una página web puede intentar darle órdenes nuevas, lo que se llama inyección de prompts.
En el visual
Relaciona cinco casos fechados con un valor y luego define qué puede hacer por su cuenta un agente con guion.
Fuentes
Las ideas de esta ruta se basan en The AI Fluency Framework, de Rick Dakan y Joseph Feller (con Anthropic), © 2025, CC BY-NC-SA 4.0. Escrito de forma independiente; ni los autores ni Anthropic lo respaldan.
Paso 2 de 4: Pruébalo: Casos y el selector de autonomía
Casos y el selector de autonomía
Relaciona cada caso con el valor que más está en juego. Luego define qué puede hacer un agente por su cuenta y ejecuta su encargo.
Modo:SimuladoSimulado: el agente, su encargo y la página del restaurante siguen un guion, y no se ejecuta ningún modelo. Los cinco casos son hechos reportados, contados con nuestras propias palabras; qué valor encaja con cada uno es nuestro criterio.
Paso 3 de 4: Comprobación
Comprobación
Siguiente: Pregunta 2 de 3
Paso 4 de 4: Lo que ya puedes hacer
Lo que ya puedes hacer
- Nombrar las capas que ponen reglas a la IA: principios compartidos, principios de las empresas, constituciones escritas y leyes.
- Decir qué valor pone más en juego un caso: transparencia, rendición de cuentas, privacidad, equidad o robustez.
- Definir, herramienta por herramienta, qué puede hacer un agente solo, qué debe preguntarte y qué no puede hacer.
- Explicar por qué importa Preguntar cuando un agente lee un texto que escribió otra persona.