Por Leslie Orozco
Durante los últimos meses se han popularizado diferentes “trends” que utilizan diferentes sistemas de inteligencia artificial (IA) para realizar retratos, ilustraciones, entre otros, pero esta práctica ha popularizado el debate sobre la recopilación de datos de este tipo de aplicaciones y el robo a la comunidad artística.
Asimismo, uno de los debates que inicia la utilización de las aplicaciones de inteligencia artificial es la aceptación y el necesario análisis de las políticas de privacidad, así como los términos y condiciones que en la mayoría de ocasiones no se leen y simplemente se aceptan.
La popularidad de los “trends”
En las últimas semanas, se popularizó la utilización de aplicaciones o servidores de inteligencia artificial que realicen retratos o “modificar” fotografías, para esta nota, usaremos el ejemplo de Lensa pues ha sido una de las más populares, pero existen otros ejemplos, incluso Tiktok integró un filtro para transformar las fotografías a un tipo de animación similar al ánime.
Respecto a la aplicación Lensa, esta nació en 2018 con el propósito de editar fotografías, pero además, cuenta con diferentes extensiones con costo, que tienen el propósito de crear diferentes “avatares” con estilos artísticos mediante la sección de “Magic Avatar”, que funciona a través del aprendizaje de patrones por medio de los datos de las imágenes aportadas, pues la compañía solicita alrededor de 10 fotos y cobra desde 3.99 dólares.
De acuerdo con Lensa, esta sección tiene un costo, por lo que además de pagar el servicio, tus fotos son las que se utilizan para que el sistema siga aprendiendo.
Incluso, personajes de la políticas mexicana comenzaron a publicar sus fotos de la aplicación que cobra desde los 48 pesos hasta los 579 pesos al año.
Desde la jefa de gobierno de la Ciudad de México, Claudia Sheinbaum; el presidente del congreso de la Unión, Santiago Creel; el senador por MORENA, Ricardo Monreal, el gobernador de Nuevo León, Samuel García; y millones de usuarios en redes como Tiktok han utilizado esta aplicación.
La polémica con la inteligencia artificial
Sin embargo, diversos usuarios lanzaron advertencias hacia quienes utilizaron o querían utilizar la aplicación de la compañía Prisma Labs, pues aseguran que la app realiza varias acciones perjudiciales como la recopilación de datos, robo de las creaciones hacía artistas digitales e incluso la hipersexualización de cuerpos femeninos.
- Robo de datos
Los usuarios de distintos países remarcaban que el peligro de usar este tipo de aplicaciones puede ser perjudicial pues presuntamente al usarla se otorga el consentimiento para recopilar la información de lo que se hace en línea o sitios web externos a la aplicación, donde todo estaría explicado en sus políticas de privacidad.
- Robo a creadores de contenido
Desde la popularización del trend, diferentes artistas digitales se pronunciaron en contra de este tipo de aplicaciones. Pues como explicamos al principio, el mecanismo que tiene Lensa es de aprendizaje mediante la alimentación de los clientes.
Por lo que acusaron a la compañía de robar las obras de los creadores en línea, pues diferentes de los retratos publicados mostraban el supuesto rastro de firmas de artistas por lo que acusaron de tomar fragmentos de piezas de otros artistas para armar los retratos de la aplicación.
Asimismo, en el debate se hablaba de la posibilidad de disminuir la compra hacia los artistas independientes, pues la gente podría preferir comprar directamente a Lensa en lugar de apoyar a artistas locales.
- Hipersexualización hacía cuerpos femeninos
Otra de las críticas realizadas por parte de usuarios son los cambios que realizan a los cuerpos femeninos, pues algunos internautas explican que entienden que los retratos cuentan con un toque fantasioso, pero que el resultado realiza modificaciones como el aumento o decremento de peso y/o cintura, aumento de senos y suavidad en rasgos faciales.
“Como mujer asiática, pensé que lo había visto todo. Pero ser sexualizado por una IA no era algo que esperaba, aunque no es de extrañar”, declaró la periodista Melissa Heikkilä, reportera del MIT Technology Review, donde cubre la inteligencia artificial, la autora ejemplifica que al comprar un paquete para la creación de 100 avatares «16 estaban en topless y otros 14 me mostraban con ropa extremadamente diminuta y poses abiertamente sexualizadas».
Las políticas de Lensa
En un análisis de las políticas de privacidad, así como términos y condiciones en la página de Prisma Labs se especifica que estas fueron modificadas por última vez el 15 de diciembre de 2022, después de la polémica.
Entre los cambios de las 14 políticas de privacidad, se encuentran la aclaración de la funcionalidad de “Magic Avatars”, así como la modificación del punto cuatro, donde anteriormente se hablaba de la información que utilizaban, que especificaba que Lensa recopila y especializa sus trazos mediante los “datos faciales” proporcionados por las fotos seleccionadas, por medio de las tecnologías API de TrueDepth y ARKit.
Mientras que ahora se establece que las fotografías y datos se resguardan en un servidor de Amazon Estados Unidos tanto como en las fotografías editadas en Lensa como los avatares creados con Magic Avatars.
Debido al escándalo sobre el almacenamiento de datos, las nuevas políticas de seguridad establecen que no utilizan fotografías, videos o avatares para facilitarlos a terceros, ni se transfiere, comparte, vende o proporcionan datos a “plataformas publicitarias, proveedores de análisis, corredores de datos, revendedores de información u otras partes similares”.
En los 23 puntos de términos de uso, se establece que todo lo creado y almacenado en Lensa o Magic Avatar, son de su propiedad.
“Lensa y el texto, los gráficos, las imágenes, las fotografías, los videos, el audio, la música (incluido, entre otros, el Contenido musical, como se define a continuación), las ilustraciones, las marcas registradas, los nombres comerciales, los encabezados de página, los íconos de botones y aplicaciones, las secuencias de comandos, las marcas de servicio , logotipos, eslóganes, filtros, herramientas y otro contenido incluido en el mismo, excluyendo su Contenido de usuario (colectivamente, » Contenido de Lensa”) (y los derechos de propiedad intelectual sobre los artículos anteriores) son de nuestra propiedad o están autorizados para nosotros y están protegidos por las leyes estadounidenses y extranjeras”.
La importancia de cuidar los datos personales
Más allá de los debates que ha iniciado esta aplicación relacionada a los artistas y al problema estructural del machismo e hipersexualización en redes, se ha iniciado una conversación sobre la protección de los datos personales y biométricos, así como la falta de legislación para cuidar de los mismos.
Si bien la compañía ha aclarado la funcionalidad de su aplicación y diferentes modalidades, es verdad que almacenan y utilizan los datos personales de las y los usuarios, incluyendo la navegación de los usuarios, datos faciales, entre otros.
Por esto, es importante leer las políticas de privacidad y términos de las aplicaciones y sitios que frecuentamos, así como los datos que proporcionamos, como en Verificado lo hemos explicado anteriormente sobre la funcionalidad y vulnerabilidad de los datos biométricos.
