ImageNet Roulette: la polémica aplicación web que te lee la cara y te dice cómo eres
El sitio hace uso de inteligencia artificial antes de mostrar las etiquetas, algunas de las cuales han sido catalogadas como absurdas y ofensivas
Seguramente, en alguna ocasión alguien le haya comentado que tiene pinta de dedicarse a un determinado oficio, de ser especialmente amable o que se parece a un famoso. Pues bien, los investigadores Trevor Paglen y Kate Crawford han ayudado a desarrollar una página web que, gracias al uso de inteligencia artificial, es capaz de describir a un usuario a través de una foto. El nombre de la herramienta es ImageNet Roulette .
El funcionamiento del sitio es bastante simple. El usuario únicamente tiene que subir una foto suya, o de otra persona, y la IA de la web le mostrará una serie de etiquetas en las que se recogen lo que ve en sus rasgos. De este modo, si, por ejemplo, subimos a la plataforma una imagen en la que aparece el Presidente del Gobierno, Pedro Sánchez , esta nos va lanzando varias palabras genéricas, como «hombre de negocios», hasta pasar a «rey» o «ejecutivo top».
Sin embargo, en ImageNet Roulette no es oro todo lo que reluce. El sitio ha sido desarrollado con el objetivo de poner en relieve las limitaciones de la IA a la hora de leer el rostro de una persona. De este modo, en algunas ocasiones, lo único que ofrece la web acerca de la imagen del usuario es una palabra sin demasiado sentido . Por ejemplo, en esta imagen de Cristiano Ronaldo solo dice sobre el jugador de la Juventus que tiene cara de «lanzador de peso».
La aplicación también ha sido objeto de polémica en las redes a causa de algunas de sus etiquetas, que pueden llegar a resultar ofensivas. Algunos usuarios, incluso, afirman que el sitio ha llegado a señalar que tienen cara de «violador». En el caso de esta imagen de la popular cantante estadounidense Miley Cyrus , se puede ver como la web la cataloga como «rara» o «escalofriante».
«ImageNet contiene una serie de categorías problemáticas, ofensivas y extrañas, todas extraídas de WordNet. Algunos usan terminología misógina o racista», afirman en el sitio. Y es que, como hemos dicho, el objetivo que persiguen es mostrar como funciona una IA de buena calidad cuando los datos con los que cuenta son deficientes.
Cuando un usuario carga una imagen en el sitio, la aplicación primero ejecuta un detector de rostros . Tras esto, los envía a un modelo Caffe para su clasificación. Luego, la «app» devuelve las imágenes originales con un cuadro delimitador que muestra la cara detectada y la etiqueta que el clasificador ha asignado a la imagen. La exposición de la que forma parte ImageNet Roulette se está celebrando en estos momentos en la Fondazione Prada de la ciudad italiana de Milán. Esta tiene como tema principal mostrar cómo ha sido el desarrollo de los sistemas de reconocimiento de imagen.
Noticias relacionadas
