Read on Twitter
Como muchos otros ámbitos, el de los exámenes universitarios en confinamiento forzoso se presta al solucionismo tecnológico: dejemos que sea la IA la que vigile los exámenes.
Pero... ¿son las tecnologías de reconocimiento facial (TRF) la solución para este problema?
Voy:
Pero... ¿son las tecnologías de reconocimiento facial (TRF) la solución para este problema?
Voy:
En los últimos años, las TRF –en general, las tecnologías de identificación biométrica– se expanden a gran ritmo. Sin embargo, hay evidencias crecientes de que estas tecnologías pueden causar serios perjuicios, especialmente a personas racializadas o socialmente desfavorecidas.
De hecho, la UE, en el marco del Libro Blanco sobre la IA, está actualmente estudiando la imposición de una moratoria a todos los usos de las TRF en dominios de alta sensibilidad política o social, incluyendo vigilancia, policía, educación y empleo: https://www.euractiv.com/section/digital/news/leak-commission-considers-facial-recognition-ban-in-ai-white-paper/
Además, un buen número de ciudades de EE.UU., entre ellas San Francisco, Berkeley y Oakland, han
legislado y activado ya sus propias prohibiciones para evitar que instituciones gubernamentales hagan uso de las TRF.
Aquí un mapita y más información: https://www.banfacialrecognition.com/map/
legislado y activado ya sus propias prohibiciones para evitar que instituciones gubernamentales hagan uso de las TRF.
Aquí un mapita y más información: https://www.banfacialrecognition.com/map/
La @UNED, que hace poco se abrió a la participación de su comunidad para definir un marco ético para el uso de datos masivos, se hizo enseguida la pregunta: ¿podemos usar las TRF para garantizar la limpieza en los exámenes confinados? https://twitter.com/JLAznarte/status/1216700984564555777
Para responder se identificó una lista de asuntos potencialmente problemáticos:
a/ No existe un marco regulatorio claro para el uso de las TRF.
La mayor parte de los países carecen de legislación específica que regule su uso, y ese es nuestro caso. En la LOPD y el RGPD no hay un apartado específico sobre TRF y, lo que es peor: no hay jurisprudencia.
La mayor parte de los países carecen de legislación específica que regule su uso, y ese es nuestro caso. En la LOPD y el RGPD no hay un apartado específico sobre TRF y, lo que es peor: no hay jurisprudencia.
b/ El empleo de las TFR puede suponer una violación de los principios de necesidad y proporcionalidad.
Sería preciso determinar que no hay medidas menos gravosas que puedan garantizar el mismo resultado o uno equivalente. Y es que las hay.
Sería preciso determinar que no hay medidas menos gravosas que puedan garantizar el mismo resultado o uno equivalente. Y es que las hay.
c/ Las TRF pueden violar el derecho a la privacidad.
La vigilancia durante un examen es lícita, pero el hecho de que la UNED se dote de la capacidad de reconocer *automáticamente* al alumnado por su rostro implica
que los estudiantes puedan ser vigilados en otros momentos.
La vigilancia durante un examen es lícita, pero el hecho de que la UNED se dote de la capacidad de reconocer *automáticamente* al alumnado por su rostro implica
que los estudiantes puedan ser vigilados en otros momentos.
d/ Las TFR son imprecisas y el software falible.
Muchos estudios han mostrado cómo los algoritmos entrenados con datos sesgados en cuanto a raza tienen
dificultades para identificar a personas racializadas, especialmente mujeres: https://www.wired.com/story/best-algorithms-struggle-recognize-black-faces-equally/
Muchos estudios han mostrado cómo los algoritmos entrenados con datos sesgados en cuanto a raza tienen
dificultades para identificar a personas racializadas, especialmente mujeres: https://www.wired.com/story/best-algorithms-struggle-recognize-black-faces-equally/
e/ Las TFR pueden dar lugar a sesgos de automatización.
Está demostrado que quienes hacen uso de TRF tienden a asumir ciegamente que dichas tecnologías son infalibles, y esto puede dar lugar a decisiones muy equivocadas: https://theconversation.com/automation-can-leave-us-complacent-and-that-can-have-dangerous-consequences-62429
Está demostrado que quienes hacen uso de TRF tienden a asumir ciegamente que dichas tecnologías son infalibles, y esto puede dar lugar a decisiones muy equivocadas: https://theconversation.com/automation-can-leave-us-complacent-and-that-can-have-dangerous-consequences-62429
f/ Las TFR pueden producir discriminaciones y vulneraciones del principio de igualdad.
Personas con poca formación informática, personas mayores, personas con problemas de conexión, con dispositivos obsoletos, personas con dificultades derivadas del COVID19: ¿acceden por igual?
Personas con poca formación informática, personas mayores, personas con problemas de conexión, con dispositivos obsoletos, personas con dificultades derivadas del COVID19: ¿acceden por igual?
g/ Las TFR pueden generar discriminación por motivos de diversidad funcional.
Incluso si cumplen con la legislación sobre requisitos de accesibilidad, existen en la actualidad interrogantes sobre si estas tecnologías atienden los derechos de las personas con y sin discapacidad.
Incluso si cumplen con la legislación sobre requisitos de accesibilidad, existen en la actualidad interrogantes sobre si estas tecnologías atienden los derechos de las personas con y sin discapacidad.
h/ Las TFR no garantizan la autoría ni la ausencia de utilización de medios fraudulentos en la realización de las pruebas online.
No suponen la limpieza en la realización de los exámenes: posibilidad de intervención de terceras personas y utilización de materiales no permitidos.
No suponen la limpieza en la realización de los exámenes: posibilidad de intervención de terceras personas y utilización de materiales no permitidos.
En conclusión, a la hora de plantear soluciones no presenciales para los exámenes, cualquier universidad debería regirse siempre por el principio de precaución: automatizar la vigilancia de los exámenes mediante TRF tiene problemas jurídicos, éticos y técnicos.
La solución finalmente adoptada por la @UNED incluye toma de fotografías aleatorias, pero no utiliza TRF: esas fotos solo están disponibles para el equipo docente, solo durante la evaluación y NO se analizan automáticamente. Emho, no es lo ideal, pero es un compromiso razonable.
Todo esto, y más, en un informe que preparamos en marzo, y se publica ahora, "Sobre el uso de tecnologías de reconocimiento facial en la UNED", descargable en la web de Centro de Prevención, Resolución de conflictos e Inspección: https://www.uned.es/universidad/inicio/institucional/cpri/informes.html
Al hilo de este hilo (y de esto en lo que llevamos trabajando duramente los últimos meses junto a @unedbarbastro y otros), participo en esta pieza de @Nacho_Meneses para @el_pais sobre la seguridad y el control de fraude en los exámenes de la @UNED: https://elpais.com/economia/2020/05/20/actualidad/1589991912_926551.amp.html?id_externo_rsoc=TW_FOR_CM&__twitter_impression=true
