Ética y Gobernanza de Agentes de IA Autónomos

Fundamentos de la ética en sistemas autónomos

• Definición de la autonomía en agentes de IA
• Principales teorías éticas aplicadas al comportamiento de las máquinas
• Perspectivas de los interesados y diseño sensible al valor

Riesgos sociales y casos de uso de alto riesgo

• Agentes autónomos en seguridad pública, salud y defensa
• Colaboración humano-IA y límites de la confianza
• Escenarios de consecuencias no deseadas y amplificación de riesgos

Paisaje legal y regulatorio

• Resumen de la legislación de IA y tendencias de política (Ley de IA de la UE, NIST, OCDE)
• Responsabilidad, responsabilidad civil y personalidad jurídica de los agentes de IA
• Iniciativas de gobernanza global y vacíos regulatorios

Explicabilidad y transparencia en la toma de decisiones

• Retos de la toma de decisiones autónoma de caja negra
• Diseño para agentes explicables y auditables
• Herramientas y marcos de transparencia (p. ej., tarjetas de modelos, hojas de datos)

Alineación, control y responsabilidad moral

• Estrategias de alineación de IA para el comportamiento de agentes
• Paradigmas de control de humano en el bucle (human-in-the-loop) vs. humano sobre el bucle (human-on-the-loop)
• Responsabilidad compartida entre diseñadores, usuarios e instituciones

Evaluación y mitigación de riesgos éticos

• Mapeo de riesgos y análisis de fallos críticos en el diseño de agentes
• Medidas de protección y mecanismos de parada de emergencia
• Revisión de sesgo, discriminación y equidad

Diseño de gobernanza y supervisión institucional

• Principios de la gobernanza responsable de la IA
• Modelos de supervisión multilaterales y auditorías
• Diseño de marcos de cumplimiento para agentes autónomos

Resumen y próximos pasos