Habiamos hablado de los fakes que se pueden hacer con la inteligtencia artificial; ya habiamos explicado que paginas de internet que son en relidad un experimento de IA podrían y de hecho lo hacen; crear imagenes de personas que no existen en la pagina https://thispersondoesnotexist.com/ podemos comprobarlo

https://thispersondoesnotexist.com

Pero el problema no es crear rostros de perosnas sino que parte de esa tecnología se use solo para el machismo y esque esta app crea falsos desnudos de cualquier mujer usando inteligencia artificial

El programa DeepNude utiliza una inteligencia artificial que desnuda cualquier fotografía de una mujer vestida sin su consentimiento

Por Manu Contreras @mcontreras, hace 2 años

Si una tecnología se puede usar para hacer daño, se usará para hacer daño. Esto es algo que hemos empezado a ver desde 2017 cuándo empezaron a salir los primeros «deep fakes«, vídeos manipulados por algoritmos que cambian lo que dice o el rostro de una persona. Ahora hay un programa llamado DeepNude capaz de desnudar fotos de mujeres sin su consentimiento.

Esta aplicación usa la misma tecnología que se usa para mejorar fotografías, para cambiarlas radicalmente o para agregar filtros o cambiar las caras entre personas como en Snapchat o Instagram.

En este caso es una inteligencia artificial a la que se le han dado miles de fotos para que aprenda y después pueda aplicarlo en imágenes que tú le des. Similar a vídeos que han aparecido, como el de Mark Zuckerberg que cambia lo que dice sin casi percibir que es falso o los vídeos porno falsos de famosas que han aparecido desde hace meses.

Gran invasión de la privacidad sexual de las mujeres

El problema es que se usa para cambiar fotos de mujeres vestidas y crear falsos desnudos. Este es un fenómeno tan viejo como lo es las aplicaciones de retoque de fotografías. Ya en la prehistoria de internet, eran famosos los foros donde la gente subía fotos de famosas editadas poniendo sus caras en fotos pornográficas.

Ahora es mucho más fácil, porque con una sola aplicación que instalas como cualquier otra en Windows o Linux, le das una foto de cualquier mujer vestida y automáticamente «la desnuda».

deepnude

Esta es una gran invasión de la privacidad sexual de las mujeres que en ningún momento dan su consentimiento para este retoque.

El desarrollador, que se hace llamar Alberto, comentó a Motherboard que la idea se le ocurrió tras conocer cómo una inteligencia artificial era capaz de cambiar fotos y vídeos tomadas de día a como si fuese de noche.

Los algoritmos que usan estos sistemas funcionan gracias a que se le dan miles de imágenes de muestra. Este las estudia y busca las partes que son similares entre sí, creando una imagen global de lo que todas tienen en común. De esta forma puede aplicar las mismas características a otras imágenes, reemplazando los elementos que no reconoce (en este caso la ropa) por los que sí, la piel.

Según su desarrollador le ha dado más de 10.000 fotografías de mujeres desnudas «porque son más fáciles de encontrar». Espera que en futuras versiones se pueda hacer lo mismo con fotos de hombres.

‘DeepNude’ está destinada a mujeres, no hombres

El problema de esta tecnología no es su funcionamiento o cómo está programada, sino el uso que las personas le darán. El programa es gratuito, aunque añade una gran marca de agua. Para eliminarla tienes que pagar por una versión premium que cuesta 100 dólares.

Alberto ha visto el negocio, ya que en una versión anterior el programa solo costaba 49 dólares. Tampoco se hará cargo del mal uso de esta tecnología que permite a cualquier persona desnudar digitalmente sin su consentimiento a cualquier mujer.


Actualización 28 de junio: Un día después de hacerse famosa en internet, los desarrolladores han decidido cerrar el servicio porque, según sus palabras, «el mundo no está preparado para DeepNude»

https://twitter.com/deepnudeapp/status/1144307316231200768/photo/1

Por Juan Carlos

Periodista enfocado a TICs desde hace más de una década. Investigando ando UNAM, DGTIC

Deja un comentario