Los automóviles autónomos, “sin conductor”, “conducidos” o “robóticos”, son aquellos que pueden emular el manejo de un ser humano para transportar a sus pasajeros. Para ello, se valen de tecnología que les permite percibir su medio y controlar al vehículo. Esto incluye a peatones y obstáculos.
Con la popularización de esta tecnología, se han empezado a notar algunos detalles en cuanto al desempeño de los dispositivos encargados de los vehículos autónomos y llama la atención que su inteligencia artificial (IA) parece no responder “tan bien” cuando se trata de evitar atropellar a un peatón con tonos oscuros de piel. ¿Es una limitación técnica o tecnología racista?
Discriminación tecnológica
El reporte Inequidad predictiva en detección de objetos (2019) señala el problema de detección de peatones con tonos de piel oscuros y al hacer hincapié en que, independientemente de la dificultad inherente a la precisión y confiabilidad de los sistemas de visión, los peatones con tez más clara son reconocidos con mayor frecuencia y consistencia.
Si bien los sistemas de visión no son perfectos, sí es posible diseñarlos y calibrarlos para proteger a la mayor cantidad de personas posible y aunque se ha dicho que simples ajustes durante el “periodo de aprendizaje” de los sistemas podrían ayudar, los desarrolladores no se han tomado esa propuesta entusiastamente.
No solo le ocurre a los vehículos sin conductor
El problema para reconocer a gente de color que presentan los sistemas de inteligencia artificial existe a muchos niveles y, por supuesto, no se limita a desarrollos en la industria automotriz.
Anteriormente, el software de reconocimiento facial Rekognition se volvió infame por no poder reconocer tonos oscuros de piel y confundir a mujeres de color con hombres. Además, hubo un escándalo por cómo confundió a miembros del Congreso con fotos de archivos criminales.
