Censura, sesgos y detenciones: los errores de la inteligencia artificial al analizar fotos y vídeos y generar perfiles y contenido

Lo usual es que el discurso público alrededor de la incorporación de la inteligencia artificial se ubique en espectros opuestos: el «tecno-optimismo» que asume que esta tecnología será clave en una mejora exponencial e inminente en nuestro futuro próximo y los pesimistas cuyas proyecciones se aproximan más a las distopías que ilustran un control total de la ciudadanía o incluso la amenaza de robots rebeldes.

A pesar de las diferencias de enfoque, ambas propuestas parten del supuesto de que la inteligencia artificial funcionará perfectamente y de una forma que supere el razonamiento humano. La realidad ha demostrado que estos sistemas están llenos de errores muy parecidos a los que cometemos todos los días, reflejando el contexto cultural de quienes los programan.

Seguridad

La primera persona arrestada erróneamente tras ser identificado por un algoritmo de reconocimiento facial se llama Robert Julian-Borchak Williams. Fue detenido el pasado enero en Detroit, EEUU, delante de su mujer e hijos, después de que el software DataWorks Plus de la policía de Michigan lo identificara como la persona que robó cinco relojes en una tienda.

Williams estuvo detenido toda la noche antes de que la policía admitiera que la coincidencia entre la licencia de conducir del arrestado (que no sabía que este documento se encontraba en la base de datos del sistema) y las imágenes del delito, captadas por una cámara de vigilancia, eran erróneas.

Desde entonces han

...

¿Te ha gustado este artículo?

Recibe todas las mañanas en tu buzón todos las novedades jurídicas

Área de interes

Encuentra tu abogado

Especialidades