Con millones de descargas en un fin de semana, la aplicación permite a las personas intercambiar caras con celebridades como Leonardo DiCaprio o Marilyn Monroe. Pero luego que usuarios reaccionaran preocupados por su privacidad, los creadores de la herramienta pidieron disculpas y están actualizando sus políticas.
Zao funciona superponiendo una imagen de la cara del usuario en un personaje en un video o GIF utilizando inteligencia artificial (AI). Se subió a la tienda de aplicaciones iOS de China el viernes y se convirtió en la aplicación gratuita más descargada en la tienda el domingo, según la firma de seguimiento App Annie.
Para usar la app, hay que registrarse con el número de teléfono y luego simplemente cargar imágenes del rostro desde su teléfono. Luego, se puede elegir entre una serie de videos, con personajes famosos como Leonardo DiCaprio y Marilyn Monroe, en los que se puede superponer el rostro antes de compartir los resultados con sus amigos.
Sin embargo, surgieron preocupaciones de privacidad cuando las personas notaron que el acuerdo de usuario indicaba que al subir fotos se renuncia a los derechos de propiedad intelectual, permitiendo que Zao pueda usar su imagen para marketing, según Reuters.
El acuerdo de usuario se ha actualizado desde entonces, y CNN Business no pudo verificar inmediatamente el idioma original de forma independiente.
Zao también plantea preguntas sobre cómo se podrían usar las imágenes. Crear audio y video falsos convincentes, conocidos como "deepfakes ". No es algo nuevo, pero anteriormente requería mucho tiempo, habilidad y dinero. Una aplicación como Zao ofrece esa tecnología a los usuarios de teléfonos inteligentes de todo el mundo.
El martes, la aplicación informó que había cambiado su acuerdo de usuario para incluir "preocupaciones sobre cuestiones de privacidad y seguridad".
"Este es un producto nuevo. De hecho, fuimos desconsiderados con respecto a las preocupaciones centrales de las personas", dijo la compañía en un comunicado publicado en el sitio web chino de medios sociales Weibo.
Según la última versión de su acuerdo de usuario, Zao "hará todo lo posible, en base a los términos de privacidad, para utilizar el contenido que usted nos ha autorizado a utilizar dentro de un alcance razonable, necesario y expresamente establecido".
"Su autorización y acuerdo necesarios no cambiarán su propiedad de los derechos de propiedad intelectual", plantean los términos de la app.
La compañía también prometió en su declaración no almacenar "datos biométricos faciales" en su aplicación. También dijo que eliminaría información sobre los usuarios "de acuerdo con la ley" si borraban sus cuentas. La empresa matriz, Momo Inc., señaló a CNN Business que también se aplicaría a cualquier usuario que firmara los términos y condiciones originales de la aplicación.
"Protegemos los datos personales y valoramos la seguridad de los datos", agregó Zao. "También hemos adoptado varias medidas de seguridad, incluido el cifrado de almacenamiento".
Grandes implicaciones tecnológicas
Zao demostró ser tan popular que los servidores de la aplicación casi colapsaron debido a la gran cantidad de usuarios, de acuerdo a una publicación que los fabricantes de la aplicación publicaron el sábado en Weibo.
Un usuario de Twitter, Allan Xia, subió un video de su cara intercambiada con la de Leonardo DiCaprio.
Xia calificó la aplicación como "la mejor aplicación de reemplazo facial con IA al estilo 'Deepfake' que he visto", y dijo que el video se generó en menos de ocho segundos a partir de una foto.
Las preocupaciones sobre el uso fraudulento de la aplicación incluso provocaron una respuesta de Alipay, un popular sistema de pago en línea chino.
"Tenga la seguridad de que no importa cuán sofisticada sea la tecnología actual de intercambio facial, no puede engañar a nuestras aplicaciones de pago", dijo Alipay en un comunicado el domingo en su cuenta de Weibo. "Incluso si el caso extremadamente raro de que una cuenta sea robada, las compañías de seguros cubrirán los fondos perdidos en su totalidad".
Zao dijo en su declaración del martes que el uso de su sistema no causaría "riesgos de pago ". Agregaron también que "los límites de seguridad para el pago de reconocimiento facial son extremadamente altos".
Otros usos de la IA
Los problemas planteados por Zao recuerdan a FaceApp, otra aplicación viral que usa IA para transformar las fotos de los usuarios.
A principios de 2017, el servicio recibió una ola de publicidad en la prensa por usar inteligencia artificial para transformar imágenes de rostros, hacerlos parecer mayores o más jóvenes, hombres o mujeres, o agregar una sonrisa para parecer más felices.
Luego se volvió viral nuevamente en julio de 2019 y se encontró con renovadas preocupaciones de privacidad. Los temores fueron provocados por un reclamo no verificado, y ahora eliminado, de un desarrollador en Twitter sobre la aplicación, por el simple hecho de que la compañía tiene su sede en San Petersburgo, Rusia.
En una sección densamente redactada de los términos de servicio, FaceApp informó a los usuarios que otorgan "una licencia sublicenciable perpetua, irrevocable, no exclusiva, libre de regalías, mundial, totalmente paga y transferible para usar, reproducir, modificar, adaptar, publicar, traducir, crear trabajos derivados, distribuir, realizar públicamente y mostrar su contenido de usuario y cualquier nombre, nombre de usuario o imagen proporcionada en relación con su contenido de usuario en todos los formatos de medios y canales ahora conocidos o desarrollados posteriormente, sin compensación para usted ".
En otras palabras, la compañía podría hacer efectivamente lo que quisiera con su selfie.
03/09/2019
11:04
