Una nueva face app china que permite a las personas intercambiar caras con celebridades está actualizando sus políticas después de una reacción violenta de los usuarios preocupados por su privacidad y cómo podría usarse su convincente tecnología de imágenes falsas.
weeklyreviewer
La aplicación, llamada Zao, funciona superponiendo una imagen de la cara del usuario en un personaje en un video o GIF utilizando inteligencia artificial (IA).
Se subió a la tienda de aplicaciones iOS de China el viernes y se convirtió en la aplicación gratuita más descargada en la tienda el domingo, según la firma de seguimiento App Annie.
Para usar la aplicación, puede registrarse con su número de teléfono y luego cargar imágenes de su cara desde su teléfono.
Luego, puede elegir entre una serie de videos, con personajes famosos como Leonardo DiCaprio y Marilyn Monroe, en los que puede superponer su rostro antes de compartir los resultados con sus amigos.
Pero las preocupaciones de privacidad surgieron cuando las personas notaron que el acuerdo de usuario decía que las personas que subieron fotos renuncian a los derechos de propiedad intelectual y permiten que Zao use su imagen para marketing, según Reuters.
El acuerdo de usuario se ha actualizado desde entonces.
La face app Zao también planteó preguntas sobre cómo se podrían usar las imágenes. Crear audios y videos falsos convincentes, conocidos como «deepfakes», no es nuevo, pero anteriormente requería mucho tiempo, habilidad y dinero.
Una aplicación como Zao ofrece esa tecnología a los usuarios de teléfonos inteligentes de todo el mundo.
El martes, la face app Zao dijo que había cambiado su acuerdo de usuario para abordar «preocupaciones sobre cuestiones de privacidad y seguridad».
«Este es un producto nuevo. De hecho, fuimos desconsiderados con respecto a las preocupaciones centrales de las personas«, dijo la compañía en un comunicado publicado en el sitio web chino de medios sociales Weibo.
Según la última versión de su acuerdo de usuario, la face app Zao «hará todo lo posible, en base a los términos de privacidad, para utilizar el contenido que usted nos ha autorizado a utilizar dentro de un alcance razonable, necesario y expresamente establecido».
«Su autorización y acuerdo necesarios no cambiarán su propiedad de los derechos de propiedad intelectual«, según los términos.
La compañía también prometió en su declaración no almacenar «datos biométricos faciales» en su aplicación. También dijo que eliminaría información sobre los usuarios «de acuerdo con la ley» si borraban sus cuentas.
La empresa matriz, Momo Inc., dijo a CNN Business que también se aplicaría a cualquier usuario que firmara los términos y condiciones originales de la aplicación.
«Protegemos los datos personales y valoramos la seguridad de los datos«, agregó Zao. «También hemos adoptado varias medidas de seguridad, incluido el cifrado de almacenamiento«.
Grandes implicaciones tecnológicas
Zao demostró ser tan popular que los servidores de la aplicación casi se bloquearon debido a la gran cantidad de usuarios, según una publicación que los fabricantes de la aplicación publicaron el sábado en Weibo.
Un usuario de Twitter, Allan Xia, subió un video de su cara intercambiada con la de Leonardo DiCaprio.
Xia calificó la aplicación como «la mejor aplicación de reemplazo facial con IA al estilo ‘Deepfake’ que he visto», y dijo que el video se generó en menos de ocho segundos a partir de una foto.
«En caso de que no lo hayas escuchado, #ZAO es una aplicación china que explotó por completo desde el viernes. La mejor aplicación de reemplazo facial IA de estilo ‘Deepfake’ que he visto.
Aquí hay un ejemplo de mí como DiCaprio (generado en menos de 8 segundos a partir de esa foto en la miniatura)».
Las preocupaciones sobre el uso fraudulento de la aplicación incluso provocaron una respuesta de Alipay, un popular sistema de pago en línea chino.
«Tenga la seguridad de que no importa cuán sofisticada sea la tecnología actual de intercambio facial, no puede engañar a nuestras aplicaciones de pago«, dijo Alipay en un comunicado el domingo en su cuenta de Weibo.
«Incluso si el caso extremadamente raro de que una cuenta sea robada, las compañías de seguros cubrirán los fondos perdidos en su totalidad».
Zao dijo en su declaración del martes que el uso de su sistema no causaría «riesgos de pago», y agregó que el «umbral de seguridad para el pago de reconocimiento facial es extremadamente alto«.
Otros usos de la IA
Los problemas planteados por Zao recuerdan a FaceApp, otra aplicación viral que usa IA para transformar las fotos de los usuarios.
A principios de 2017, el servicio recibió una ola de publicidad en la prensa por usar inteligencia artificial para transformar imágenes de rostros, hacerlos parecer mayores o más jóvenes, hombres o mujeres, o agregar una sonrisa para parecer más felices.
Luego se volvió viral nuevamente en julio de 2019 y se encontró con renovadas preocupaciones de privacidad.
Los temores fueron provocados por un reclamo no verificado, y ahora eliminado, de un desarrollador en Twitter sobre la aplicación «cargando todas sus fotos», junto con el simple hecho de que la compañía tiene su sede en San Petersburgo, Rusia.
En una sección densamente redactada de los términos de servicio, FaceApp informó a los usuarios que otorgan
«Una licencia sublicenciable perpetua, irrevocable, no exclusiva, libre de regalías, mundial, totalmente paga y transferible para usar, reproducir, modificar, adaptar, publicar, traducir, crear trabajos derivados, distribuir, realizar públicamente y mostrar su contenido de usuario y cualquier nombre, nombre de usuario o imagen proporcionada en relación con su contenido de usuario en todos los formatos de medios y canales ahora conocidos o desarrollados posteriormente, sin compensación para usted «.
En otras palabras, la compañía podría hacer efectivamente lo que quisiera con su selfie.