Iniciar sesión

Privacidad y seguridad en Inteligencia Artificial

Proteger los datos de las personas

Unidad: IA responsable Gratis
🔐
Privacidad y seguridad (privacy and security)
Este principio trata de proteger los datos personales y no revelarlos. Los modelos se entrenan con datos que pueden incluir información personal, y existe un riesgo real: que alguien logre que el modelo revele esos datos. Quien crea la IA debe cuidar que eso no pase.
Los datos personales tienen una "vida" en un proyecto responsable:
  • Pedir solo los necesarios. Una app de salud no tiene por qué pedir tu música favorita: más datos no es mejor, es más riesgo.
  • Guardarlos protegidos mientras se usan. Cifrados y con control de quién puede ver qué: no todo el equipo ve todo, ni se guardan contraseñas en el código.
  • Borrarlos cuando ya no se necesiten. Como el reconocimiento facial de un aeropuerto que borra las fotos en cuanto ya no le sirven.
Antes de usarSi vas a usar conversaciones de clientes para mejorar un chatbot, primero oculta la información personal (en inglés, PII: nombre, teléfono, dirección).
FallaUn chatbot de un banco que le muestra a un cliente los movimientos de otra persona rompe la privacidad y seguridad.
Aquí seguridad es proteger los datos (security), no evitar daños físicos (eso es confiabilidad y seguridad). Pregunta clave: ¿los datos de las personas están a salvo?

Pon a prueba lo que aprendiste

Concepto

¿De qué trata el principio de privacidad y seguridad?

  1. ADe que la IA trate igual a todas las personas
  2. BDe que alguien responda si la IA se equivoca
  3. CDe explicar cómo toma sus decisiones la IA
  4. DDe proteger los datos personales y no revelarlos
Ver respuesta
D) De proteger los datos personales y no revelarlos Los datos de las personas están a salvo.
Escenario

Un sistema de reconocimiento facial de un aeropuerto borra las fotos en cuanto ya no las necesita. ¿Qué principio cuida?

  1. ATransparencia
  2. BPrivacidad y seguridad
  3. CConfiabilidad y seguridad
  4. DInclusión
Ver respuesta
B) Privacidad y seguridad No guarda datos personales de más.
Concepto

¿Qué riesgo de privacidad tiene un modelo entrenado con datos personales?

  1. AQue gaste más tokens de los normales
  2. BQue alguien logre que revele esos datos
  3. CQue conteste más lento que otros modelos
  4. DQue solo funcione con temperatura baja
Ver respuesta
B) Que alguien logre que revele esos datos El modelo no debe poder "soltar" datos privados.

Practica esta lección completa

Ejercicios de completar código, ordenar bloques y respuesta libre. Ganas XP y mantienes tu racha.

Practicar gratis, sin registrarte Entras como invitado directo a esta lección. Sin tarjeta.