El Algoritmo de Admisión Universitaria
Una prestigiosa universidad ha decidido usar un sistema de IA para evaluar las solicitudes de sus futuros estudiantes. El algoritmo analiza el rendimiento académico, las actividades extracurriculares y los ensayos de los candidatos de los últimos 20 años para predecir quiénes tendrán éxito en la universidad. El problema surge cuando, sin darse cuenta, el algoritmo comienza a dar mayor peso a los estudiantes que provienen de escuelas privadas y de alto poder adquisitivo, simplemente porque históricamente han tenido un mayor índice de aceptación. Como resultado, las solicitudes de estudiantes talentosos de escuelas públicas son rechazadas.
Preguntas de análisis:
¿Qué problema ético grave se presenta en este caso?
R/ El rechazo a solicitudes de estudiantes de escuelas privadas solo por su alto poder adquisitivo
¿Porque el algoritmo pudo haber desarrollado este sesgo?
R/ probablemente porque se relaciono con algún tema de desigualdad social y empezó a agregar eso en algunas solicitudes, haciéndose las más difícil a unos estudiantes que a otros.
Si tuvieras que corregir este sistema, ¿que datos eliminarías o añadiría para hacerlo más justo?
R/ Añadiría datos de logros y habilidades para que el algoritmo se de cuenta del talento de los estudiantes y no de su caso socioeconómico
No hay comentarios.:
Publicar un comentario