Bl0ckch41nnewsCierran DeepNude: aplicación que «desnudaba» a cualquier mujer mediante IA ~ Segu-Info

El creador de
DeepNude
ha decidido cerrar
la aplicación por los problemas con el servidor y porque asegura que «el mundo aún no está preparado para ella».
En un
segundo tweet, la cuenta de DeepNude emitió un pequeño comunicado donde explican que
«subestimaron mucho» el interés que despertaría su aplicación, por lo que al
final confirmaron que cerrarán el proyecto ya que «la probabilidad de que la gente haga mal uso de éste es demasiado
alta».

DeepNude era una aplicación
que utilizaba inteligencia artificial y redes neuronales para eliminar la ropa
de imágenes de mujeres y recrear desnudos ultra realistas. Se trataba de una
evolución de los llamados ‘Deep Fakes’, un algoritmo que nos anticipa
el gran potencial que tiene esta tecnología así como su impacto en la
sociedad.

Funcionaba de manera sencilla.
DeepNude permite subir una imagen
de una mujer con ropa y crea una nueva imagen de la misma persona pero donde
se ha eliminado la camiseta, sujetador, bikini o cualquier prenda que tape sus
partes. Una imagen marcada como «FAKE» por el propio programa, pero con
un resultado bastante realista y que bien podría pasar por una imagen real.

Una aplicación que solo recreaba imágenes de mujeres

Acceder a DeepNudes era muy sencillo ya que estaba disponible online a través
de una página web. Esta versión de pago tenía inicialmente un coste de 50
dólares como
informa Motherboard, pero debido previsiblemente a la atención generada ha subido el coste a
99,99 dólares. Pudiendo pagar con tarjeta o a través de criptomonedas.

Dicho esto, la aplicación consigue creaba desnudos en segundos. Era tan
sencilla que realmente asusta. Los desnudos falsos han existido en internet
desde hace años pero con los deepfakes entramos en una nueva fase,
mucho más peligrosa ya que deja en manos de cualquier persona poder generar
una imagen así. Ya no hacen falta conocimientos de edición, es el algoritmo el
que se encarga.
Un algoritmo que únicamente funciona con mujeres, ya que cuando lo probamos
con una imagen de un hombre en vez de mostrar un pene, añade de nuevo una
vulva y tetas de mujer.

Como muestra el autor en su
cuenta oficial, DeepNude estaba
basado en las gafas de visión de rayos X que prometían ver a través de la
ropa. El «superpoder que siempre quisiste tener», según reza el lema
oficial de la aplicación.

Estamos
«ante una invasión de la privacidad sexual» comenta a
Vice
Danielle Citron, profesor de derecho de la Universidad de Maryland que
recientemente testificó en el Congreso por el uso de los deepfakes. Y
es que la llegada de estos desnudos falsos generados por algoritmo suponen un
nuevo capítulo en los peligros de los deepfakes.

Basada en un algoritmo Open Source

Los datos de DeepNude se guardan en local y no se suben a la nube indica la
página web. El autor de la aplicación no ha querido revelar su identidad real,
aunque dice llamarse ‘Alberto’ y procedente de Estonia. Sí explica más
detalles sobre cómo funciona el algoritmo de DeepNude. El software estaría
basado en pix2pix, un algoritmo open source desarrollado por la Universidad de
California, Berkeley en 2017.

Se trata de un algoritmo que utiliza redes neuronales para tratar con una gran
base de datos de imágenes. En este caso, más de 10.000 imágenes de mujeres
desnudas que el programador habría utilizado para «entrenar» a la inteligencia
artificial.

Mientras que los vídeos de deepfakes tardan horas en renderizar, estas
imágenes son generadas en menos de un minuto. «Las redes son múltiples, cada
una tiene una tarea diferente. Localizar la ropa, seleccionarla, especular con
las posiciones del cuerpo y renderizarlo», un proceso que según explica el
autor «puede hacerse en 30 segundos en un ordenador normal y puede ser
mejorado en el futuro».

Otras apps con IA que desnudan personas

ClothOff, Live3d y SnapDreess son otras aplicaciones que se hicieron famosas por tomar una fotografía de una
mujer y desnudarla al momento. Son gratuitas aunque ofrece servicios de pago y también señala en sus
términos de servicio que
«al cargar un archivo u otro contenido o al hacer un comentario, el usuario
declara y garantiza que al hacerlo no viola ni infringe los derechos de
nadie más».

Además, avisa que
«con respecto a cualquier archivo o contenido que cargue en las partes
públicas de nuestro sitio, usted nos otorga una licencia mundial no
exclusiva, libre de regalías, perpetua e irrevocable (con derechos de
sublicencia y cesión) para usar, mostrar en línea y en cualquier medios
presentes o futuros, para crear trabajos derivados, para permitir descargas
y/o distribuir dicho archivo o contenido».

Clothoff tiene como eslogan la frase: «¡Desnuda a una chica gratis!».
No obstante, funciona también con hombres. Y tiene una aplicación
disponible tanto para Telegram, iOS y Android.

Fuente: ElHacker | Xataka