Iniciar sesión

Transparencia en Inteligencia Artificial

Que se entienda cómo y por qué decide

Unidad: IA responsable Gratis
🔍
Transparencia (transparency)
La IA a veces parece "magia": le preguntas algo y responde, pero no ves cómo llegó a esa respuesta. El principio de transparencia pide quitar esa "caja negra": la gente tiene derecho a saber que está usando IA, cómo funciona el sistema y cuáles son sus límites.
  • Que es una IA. Si hablas con un chatbot, te lo deben avisar desde el inicio. Un asistente que se presenta con nombre de persona para que creas que es humano no es transparente.
  • Cómo decide. Cuando la IA ayuda a tomar una decisión importante (un crédito, una contratación), la persona debe poder entender de qué dependió, para reclamar si no está de acuerdo. Basta con explicarlo en palabras simples: no hace falta enseñar el código del modelo ni revelar información confidencial.
  • Sus límites. La IA puede equivocarse. Lo honesto es decirlo ("puedo equivocarme, revisa la información importante") en vez de prometer que todo lo que contesta es correcto.
EjemploUn banco que aprueba préstamos con IA lo dice abiertamente y explica qué tipo de datos usó para entrenarla, sin revelar información confidencial.
No es transparenteUna app que usa IA para elegir qué noticias ves y no lo dice en ningún lado, o responder solo "el sistema dijo que no".
No lo confundasEquidad = tratar a todos de forma justa. Privacidad = cuidar los datos. Transparencia = explicar qué hace la IA y hasta dónde llega.
Pregunta clave: ¿la gente entiende qué hace el sistema y hasta dónde llega?

Pon a prueba lo que aprendiste

Concepto

¿De qué trata el principio de transparencia?

  1. ADe que la IA no discrimine a ningún grupo de personas
  2. BDe que la gente sepa cómo funciona la IA y sus límites
  3. CDe que la IA no revele los datos personales de nadie
  4. DDe que la IA conteste siempre con la misma frase
Ver respuesta
B) De que la gente sepa cómo funciona la IA y sus límites Nada de "magia" escondida.
Escenario

Un banco que aprueba préstamos con IA lo dice y explica qué datos usó para entrenarla. ¿Qué principio cumple?

  1. APrivacidad y seguridad
  2. BInclusión
  3. CTransparencia
  4. DEquidad
Ver respuesta
C) Transparencia Comunica que usa IA y cómo.
Escenario

Hablas por chat con el soporte de una tienda. ¿Qué es lo transparente?

  1. AQue no te diga de qué empresa es
  2. BQue oculte que guarda la conversación
  3. CQue te avisen que hablas con una IA
  4. DQue se haga pasar por una persona real
Ver respuesta
C) Que te avisen que hablas con una IA Tienes derecho a saberlo.

Practica esta lección completa

Ejercicios de completar código, ordenar bloques y respuesta libre. Ganas XP y mantienes tu racha.

Practicar gratis, sin registrarte Entras como invitado directo a esta lección. Sin tarjeta.