Iniciar sesión

Confiabilidad y seguridad en Inteligencia Artificial

Que funcione bien y no cause daño

Unidad: IA responsable Gratis
🛡️
Confiabilidad y seguridad (reliability and safety)
La IA trabaja con probabilidades: no es infalible. Una app responsable asume que el modelo se puede equivocar y se protege para que ese error no le haga daño a nadie.
ConfianzaEl nivel de confianza es qué tan seguro está el modelo de su resultado. Un robot de bodega detecta la caja con la cámara, revisa qué tan seguro está y solo la toma si su confianza es alta; si no, se detiene.
Si dudaUn asistente médico que no está seguro debe avisar su duda y sugerir ver a un doctor, nunca inventar una respuesta que suene segura.
FiltrosLos filtros de contenido bloquean respuestas dañinas, ilegales u ofensivas. Si un chatbot da instrucciones peligrosas a quien se las pide, falla este principio. En Microsoft Foundry se configuran en las guardrails.
PruebasProbar el sistema en muchas situaciones distintas antes de usarlo con personas reales. Probarlo una sola vez o "publicarlo y ver qué pasa" no basta.
OjoAquí seguridad es no causar daño (en inglés, safety). En "privacidad y seguridad" es proteger los datos de quien no debe verlos (security).
Pregunta clave: ¿qué pasa si se equivoca, y cómo evito que dañe a alguien?

Pon a prueba lo que aprendiste

Concepto

¿Por qué una app de IA debe asumir que el modelo se puede equivocar?

  1. APorque solo entiende las preguntas escritas en inglés
  2. BPorque los modelos solo funcionan durante el día
  3. CPorque el modelo olvida todo lo aprendido cada hora
  4. DPorque trabaja con probabilidades, no es infalible
Ver respuesta
D) Porque trabaja con probabilidades, no es infalible Siempre hay un margen de error.
Escenario

Un robot de bodega solo mueve una caja si está muy seguro de qué es; si no, se detiene. ¿Qué principio aplica?

  1. ATransparencia
  2. BResponsabilidad
  3. CPrivacidad y seguridad
  4. DConfiabilidad y seguridad
Ver respuesta
D) Confiabilidad y seguridad Evita dañar algo cuando no está seguro.
Concepto

¿Para qué sirven los filtros de contenido?

  1. APara bloquear respuestas dañinas u ofensivas
  2. BPara traducir la respuesta a otro idioma
  3. CPara guardar las conversaciones en la nube
  4. DPara que el modelo conteste más rápido
Ver respuesta
A) Para bloquear respuestas dañinas u ofensivas Son una barrera de seguridad.

Practica esta lección completa

Ejercicios de completar código, ordenar bloques y respuesta libre. Ganas XP y mantienes tu racha.

Practicar gratis, sin registrarte Entras como invitado directo a esta lección. Sin tarjeta.