Si su rostro apareció alguna vez en una foto en Flickr, actualmente podría estar entrenando tecnología de reconocimiento facial sin su permiso.
flickr
Según un informe de NBC News, IBM ha estado usando alrededor de un millón de imágenes de la plataforma de alojamiento de imágenes para entrenar su reconocimiento facial IA, sin el permiso de las personas que aparecen en las fotos.
En enero, IBM reveló su nuevo conjunto de datos «Diversidad en caras» con el objetivo de hacer que los sistemas de reconocimiento facial sean más justos y mejores en la identificación de una amplia gama de caras: los algoritmos de IA han tenido dificultades en el pasado para reconocer a mujeres y personas de color.
Teniendo en cuenta los posibles usos de la tecnología de reconocimiento facial, ya sea para la vigilancia incondicional, la búsqueda de personas desaparecidas, la detección de acosadores famosos, el etiquetado de imágenes en las redes sociales o el desbloqueo de su teléfono o su casa, es posible que muchas personas no deseen utilizar su rostro para este tipo de entrenamiento de IA particularmente si se trata de localizar personas por género o raza.
El conjunto de datos de IBM se basó en una gran colección de alrededor de 100 millones de imágenes con licencia de Creative Commons, conocida como el conjunto de datos YFCC-100M y lanzada por el antiguo propietario de Flickr, Yahoo, con fines de investigación. Existen muchas bases de datos de imágenes CC que se utilizan para la investigación académica del reconocimiento facial, o divertidos proyectos de comparación.
IBM usó aproximadamente un millón de estas imágenes para su propio «conjunto de datos de capacitación». De acuerdo con la NBC, que pudo ver la colección, todos se han anotado de acuerdo con diversas estimaciones como la edad y el género, así como los detalles físicos: el tono de la piel, el tamaño y la forma de los rasgos faciales y la postura.
Pero mientras IBM estaba usando imágenes de Creative Commons perfectamente, la compañía no había informado realmente a aquellos cuyas caras aparecen en el casi un millón de imágenes para las que se estaban usando sus caras reales, no solo las imágenes.
Claro, los sujetos de la imagen pueden haber dado permiso para subir una foto de sí mismos a Flickr y ser listados bajo una licencia CC, pero a esos sujetos no se les dio la oportunidad de dar su consentimiento para que sus rostros se usaran para entrenar sistemas de reconocimiento facial de IA.
NBC habló con varias personas cuyas imágenes habían aparecido en el conjunto de datos de IBM, incluido un ejecutivo de relaciones públicas que tiene cientos de imágenes en la colección.
«Ninguna de las personas que fotografié tenía idea de que sus imágenes se estaban usando de esta manera«, dijo Greg Peverill-Conti al medio de noticias. «Parece un poco impreciso que IBM pueda usar estas imágenes sin decirle nada a nadie».
La cofundadora de Flickr, Caterina Fake, también reveló que IBM estaba usando 14 de sus fotos.
«IBM dice que la gente puede optar por no participar, pero hace que sea imposible hacerlo«, escribió en Twitter.
IBM is using 14 of my photos. IBM says people can opt out, but is making it impossible to do so. Thanks @oliviasolon for this story. Facial Recognition is a big big ethical issue these days–Tomorrow's episode of @ShouldThisExist is on this very topic! https://t.co/thDwspiWP9
— Caterina Fake (@Caterina) March 13, 2019
“IBM está utilizando 14 de mis fotos. IBM dice que la gente puede optar por no participar, pero hace que sea imposible hacerlo. Gracias @oliviasolon por esta historia. El reconocimiento facial es un gran problema ético en estos días. ¡El episodio de mañana de @ShouldThisExist es sobre este mismo tema!”
“Según los expertos legales, se usan las caras de las personas sin su permiso para impulsar la tecnología que eventualmente podría usarse para vigilarlas”.
¿Quieres darte de baja? No es tan fácil, aunque IBM confirmó a NBC que cualquier persona que quisiera eliminar su imagen del conjunto de datos puede solicitarla enviando un enlace a la compañía por correo electrónico.
¿El único problema? El conjunto de datos no está disponible públicamente, solo para investigadores, por lo que los usuarios de Flickr y los que aparecen en sus imágenes no tienen forma de saber realmente si están incluidos.
Afortunadamente, NBC creó una pequeña herramienta útil si desea comprobar si está incluido, solo debe ingresar su nombre de usuario en el siguiente enlace :
Mashable ha contactado a IBM para hacer comentarios.