Iniciar sesión

Responsabilidad en Inteligencia Artificial

Personas a cargo del sistema

Unidad: IA responsable Gratis
👥
Responsabilidad (accountability)
El principio de responsabilidad dice que las personas responden por lo que hace su IA. Si la IA de una empresa causa un problema, la responsable es la empresa que la creó y la usa: no vale decir "fue la máquina", ni culpar solo al usuario o al modelo.
GobiernoLa organización define un marco de gobierno de IA: reglas y responsables para usar la IA bien (quién decide, qué se revisa y cómo). No es un programa que vigila empleados ni una ley que prohíbe la IA.
Alguien a cargoCada sistema tiene un responsable. Si nadie sabe quién está a cargo del chatbot que da respuestas incorrectas, falla este principio. Una empresa que nombra a alguien para revisar y corregir las decisiones de su IA de contratación lo cumple.
Última palabraEn decisiones importantes (un diagnóstico, un despido), una persona tiene la última palabra; la IA no decide sola.
SiempreLos seis principios se cuidan en todo el proceso: desde la idea, en el diseño y la construcción, y mientras el sistema está en uso. No solo cuando ya falló.
Cuando su IA se equivoca, una empresa responsable sigue tres pasos: alguien a cargo revisa lo que pasó, se corrige la decisión equivocada y se ajusta el sistema para que no se repita.
Pregunta clave: ¿quién responde si algo sale mal?

Pon a prueba lo que aprendiste

Concepto

¿De qué trata el principio de responsabilidad?

  1. ADe que las personas respondan por lo que hace su IA
  2. BDe que la IA guarde los datos con mucho cuidado
  3. CDe que la IA trate a todos de forma justa siempre
  4. DDe que la IA no deje fuera a ninguna persona
Ver respuesta
A) De que las personas respondan por lo que hace su IA No vale culpar a la máquina.
Escenario

Una IA de una empresa causó un problema. ¿Quién es responsable?

  1. AEl modelo de lenguaje que tiene
  2. BSolo el usuario que la usó
  3. CNadie: lo decidió la máquina
  4. DLa empresa que la creó y la usa
Ver respuesta
D) La empresa que la creó y la usa La responsabilidad es de las personas.
Concepto

¿Qué es un marco de gobierno de IA?

  1. AUn programa que vigila a los empleados
  2. BUn modelo que gobierna a otros modelos
  3. CUna ley que prohíbe usar la IA en empresas
  4. DReglas y responsables para usar la IA bien
Ver respuesta
D) Reglas y responsables para usar la IA bien Quién decide, qué se revisa y cómo.

Practica esta lección completa

Ejercicios de completar código, ordenar bloques y respuesta libre. Ganas XP y mantienes tu racha.

Practicar gratis, sin registrarte Entras como invitado directo a esta lección. Sin tarjeta.