El principio de equidad pide que la IA trate a todas las personas de forma justa, sin discriminar a ningún grupo. El problema: los modelos aprenden de datos que eligen personas, y esos datos pueden traer sesgos, una inclinación injusta o un prejuicio. El modelo los aprende y puede discriminar aunque nadie lo haya querido así.
RiesgoUn sistema de admisiones que aprendió de años en que casi solo entraban hombres ahora califica peor a las mujeres. Un sistema justo se basa en criterios que sí importan (los académicos), no en el género, la edad o la colonia.
OjoUn dato que parece neutral puede discriminar: si un modelo de préstamos rechaza más a quienes viven en ciertas colonias por su código postal, hay que revisar ese dato, no dejarlo "porque así salió el modelo".
Qué hacer1) Revisar los datos y quitar criterios que no importan. 2) Probar el modelo con distintos grupos. 3) Corregir si a un grupo le va peor. Entrenar solo con datos de un mismo grupo empeora el problema.
No lo confundasEquidad = trato justo en las decisiones. Inclusión = que todas las personas puedan usar la IA. Transparencia = explicar cómo decide.
Pregunta clave: ¿trata a todas las personas de forma justa?
Pon a prueba lo que aprendiste
Concepto
¿De qué trata el principio de equidad?
ADe que la IA explique cada respuesta que da
BDe que la IA responda siempre en menos de un segundo
CDe que la IA trate a todas las personas de forma justa
DDe que la IA guarde los datos en un lugar seguro
Ver respuesta
C) De que la IA trate a todas las personas de forma justa Sin discriminar a ningún grupo.
Concepto
¿Por qué un modelo puede salir injusto aunque nadie lo haya querido así?
APorque usa demasiados tokens
BPorque aprendió de datos con sesgos
CPorque su temperatura es muy alta
DPorque se desplegó por lotes
Ver respuesta
B) Porque aprendió de datos con sesgos El sesgo viene en los datos.
Escenario
Un sistema de admisiones aprendió de años en que casi solo entraban hombres y ahora califica peor a las mujeres. ¿Qué principio falla?
AInclusión
BTransparencia
CPrivacidad y seguridad
DEquidad
Ver respuesta
D) Equidad Discrimina a un grupo.
Practica esta lección completa
Ejercicios de completar código, ordenar bloques y respuesta libre. Ganas XP y mantienes tu racha.