Uber Eats courier gana indemnización por la aplicación de reconocimiento facial «racista».
Uber Eats ha realizado un pago a un repartidor para poner fin a una demanda legal sobre alegaciones de que fue despedido injustamente debido a que la aplicación de reconocimiento facial de la empresa es racista.
Pa Manjang iba a presentar su caso ante un tribunal laboral más adelante este año después de ser despedido cuando su verificación de seguridad «selfie» no coincidió con la fotografía que tenían los administradores.
Todos los repartidores de Uber Eats deben pasar por este proceso antes de comenzar su turno para la empresa, pero Manjang mantuvo que el algoritmo que utiliza discrimina a las personas de minorías étnicas.
Manjang, que es negro, dijo que se le pedía que se tomara fotos de sí mismo «varias veces al día» porque el sistema no lo reconocía. Le dijo a Uber Eats: «Por lo que parece, su algoritmo es racista».
Su reclamación fue respaldada por la comisión de igualdad en Inglaterra y hoy se ha revelado que la empresa ha aceptado llegar a un acuerdo por una cantidad no revelada.
El acuerdo, en el que se entiende que Uber Eats no acepta responsabilidad alguna, se produjo casi dos años después de que la empresa intentara desestimar la reclamación de Manjang argumentando que «no tenía perspectivas razonables de éxito».
Pero un juez rechazó esa solicitud y el caso iba a ser juzgado por un tribunal en noviembre. En esa primera audiencia, la empresa reconoció que hubo «deficiencias desafortunadas» en el despido de Manjang, ya que no se le dieron las razones correctas para la desactivación de su cuenta en ese momento.
En 2021, Manjang fue eliminado de la plataforma de Uber después de un control de reconocimiento fallido y un proceso automatizado posterior.
Los gerentes le dijeron al repartidor que habían encontrado «inconsistencias continuas» en las fotografías de su rostro que había proporcionado.
Los funcionarios de la Comisión de Igualdad y Derechos Humanos y el Sindicato de Conductores y Repartidores de Aplicaciones fueron informados del caso de Manjang y ambos financiaron su reclamación contra la empresa.
El organismo de control y el sindicato dijeron que estaban especialmente preocupados por el uso de la inteligencia artificial y los procesos automatizados en el caso de Manjang, «particularmente en cómo podría usarse para suspender permanentemente el acceso de un conductor a la aplicación, privándolo de ingresos».
La comisión dijo en un comunicado después de que se anunciara el acuerdo hoy que estaba claro que Uber Eats no había «informado a Manjang sobre los procesos que llevaron a su suspensión de la aplicación, ni había proporcionado una vía efectiva para impugnar esta decisión».
Comentando sobre el acuerdo, la baronesa Falkner, presidenta de la comisión, dijo que la inteligencia artificial era «compleja y presentaba desafíos únicos para los empleadores, abogados y reguladores. Es importante entender que a medida que aumenta el uso de la inteligencia artificial, la tecnología puede llevar a la discriminación y a los abusos de los derechos humanos».
Falkner agregó que todos los empleadores en el Reino Unido «deberían tomar nota» del acuerdo, y añadió que cuando las grandes empresas «dependen de la automatización para ayudar a gestionar a su personal, deben protegerse contra la discriminación ilegal».
Manjang dijo que su caso había puesto de manifiesto «los posibles problemas con el uso de la inteligencia artificial, especialmente para los trabajadores mal remunerados en la economía de los trabajos temporales que desean entender cómo se toman decisiones que afectan sus medios de vida. Esto marca el final de un caso largo y difícil».
Hannah Wright, abogada del repartidor del bufete de abogados londinense Bates Wells, dijo que había sido «un caso muy importante» ya que era «uno de los primeros en considerar la inteligencia artificial y la toma de decisiones automatizada en el contexto del trabajo y el potencial de injusticia y discriminación».
Un portavoz de Uber Eats dijo que la verificación de identificación en tiempo real de la empresa «no fue la razón de la breve pérdida de acceso del Sr. Manjang a su cuenta de repartidor».
