Iniciar sesión

Equidad en Inteligencia Artificial

Que el sistema trate a todos de forma justa

Unidad: IA responsable Gratis
⚖️
Equidad (fairness)
El principio de equidad pide que la IA trate a todas las personas de forma justa, sin discriminar a ningún grupo. El problema: los modelos aprenden de datos que eligen personas, y esos datos pueden traer sesgos, una inclinación injusta o un prejuicio. El modelo los aprende y puede discriminar aunque nadie lo haya querido así.
RiesgoUn sistema de admisiones que aprendió de años en que casi solo entraban hombres ahora califica peor a las mujeres. Un sistema justo se basa en criterios que sí importan (los académicos), no en el género, la edad o la colonia.
OjoUn dato que parece neutral puede discriminar: si un modelo de préstamos rechaza más a quienes viven en ciertas colonias por su código postal, hay que revisar ese dato, no dejarlo "porque así salió el modelo".
Qué hacer1) Revisar los datos y quitar criterios que no importan. 2) Probar el modelo con distintos grupos. 3) Corregir si a un grupo le va peor. Entrenar solo con datos de un mismo grupo empeora el problema.
No lo confundasEquidad = trato justo en las decisiones. Inclusión = que todas las personas puedan usar la IA. Transparencia = explicar cómo decide.
Pregunta clave: ¿trata a todas las personas de forma justa?

Pon a prueba lo que aprendiste

Concepto

¿De qué trata el principio de equidad?

  1. ADe que la IA explique cada respuesta que da
  2. BDe que la IA responda siempre en menos de un segundo
  3. CDe que la IA trate a todas las personas de forma justa
  4. DDe que la IA guarde los datos en un lugar seguro
Ver respuesta
C) De que la IA trate a todas las personas de forma justa Sin discriminar a ningún grupo.
Concepto

¿Por qué un modelo puede salir injusto aunque nadie lo haya querido así?

  1. APorque usa demasiados tokens
  2. BPorque aprendió de datos con sesgos
  3. CPorque su temperatura es muy alta
  4. DPorque se desplegó por lotes
Ver respuesta
B) Porque aprendió de datos con sesgos El sesgo viene en los datos.
Escenario

Un sistema de admisiones aprendió de años en que casi solo entraban hombres y ahora califica peor a las mujeres. ¿Qué principio falla?

  1. AInclusión
  2. BTransparencia
  3. CPrivacidad y seguridad
  4. DEquidad
Ver respuesta
D) Equidad Discrimina a un grupo.

Practica esta lección completa

Ejercicios de completar código, ordenar bloques y respuesta libre. Ganas XP y mantienes tu racha.

Practicar gratis, sin registrarte Entras como invitado directo a esta lección. Sin tarjeta.