Mercados españoles abiertos en 5 hrs 32 min
  • S&P 500

    3.390,68
    -10,29 (-0,30%)
     
  • Nasdaq

    11.431,35
    +72,41 (+0,64%)
     
  • NIKKEI 225

    23.387,51
    -98,29 (-0,42%)
     
  • Dólar/Euro

    1,1786
    -0,0004 (-0,04%)
     
  • Petróleo Brent

    40,51
    -0,69 (-1,67%)
     
  • BTC-EUR

    11.674,43
    -0,04 (-0,00%)
     
  • CMC Crypto 200

    272,22
    +10,93 (+4,18%)
     
  • Oro

    1.908,10
    -3,80 (-0,20%)
     
  • HANG SENG

    24.641,44
    -145,75 (-0,59%)
     
  • Petróleo WTI

    38,70
    -0,87 (-2,20%)
     
  • EUR/GBP

    0,9036
    -0,0001 (-0,01%)
     
  • Plata

    24,43
    -0,14 (-0,55%)
     
  • IBEX 35

    6.651,30
    -145,60 (-2,14%)
     
  • FTSE 100

    5.728,99
    -63,02 (-1,09%)
     

El experimento que demuestra que el algoritmo de Twitter es racista y sexista

Tecnología y redes
·3 min de lectura

¿Puede ser un algoritmo o una inteligencia artificial racista o sexista? Si el que los programa no tiene en cuenta que hay otras razas y hay otros géneros, la respuesta es un sí rotundo. Eso es lo que ha pasado con el algoritmo de Twitter, que ha quedado en evidencia tras una serie de experimentos llevados a cabo por sus usuarios que han demostrado que tiene un sesgo no demasiado progresista, que digamos.

El primer en descubrir este probema ha sido el ingeniero de criptografía e infraestructura Tony Arcieri, que mostró en un experimento el sesgo racial del algoritmo de Twitter con dos fotografías en un 'tuit': una del expresidente de Estados Unidos, Barack Obama, y otra del senador republicano Mitch McConnell.

El experimento que demuestra que el algoritmo de Twitter es racista y sexista REUTERS/Fabrizio Bensch
El experimento que demuestra que el algoritmo de Twitter es racista y sexista REUTERS/Fabrizio Bensch

Los rostros de los dos personajes se muestran en parejas en cada foto, colocadas en vertical, una encabezada por la de McConnell y la otra por la de Obama. En la prueba de Arcieri, el algoritmo destaca el rostro de McConnell frente al de Obama en ambos casos, tanto si el senador lleva una corbata roja como una azul. Solo destaca la del expresidente cuando el ingeniero muestra las fotografías polarizadas.

Desde Twitter reconocen que existe un problema y afirman que "está claro que tienen que realizar más análisis". Declaran que hicieron pruebas antes de lanzar oficialmente este algoritmo y que no encontraron "ninguna evidencia de prejuicios raciales o de género".

Han sido muchos los usuarios que han criticado a la red social en los últimos días, publicando imágenes que demuestran este sesgo. Y no solo repitiendo la prueba de Obaam, sino también subiendo imágenes de series de animación, como es el caso de una mítica pareja de 'Los Simpson': Lenny y Carl.

Estas pruebas han llegado a conocimiento de Liz Kelley, del equipo de comunicación de Twitter, quien ha asegurado que la empresa "todavía tiene más análisis que hacer" para evitar el sesgo en su algoritmo. Según Kelley, Twitter realizó 'tests' antes de distribuir el modelo y no encontraron "pruebas de sesgos racial ni de género". No obstante, van a facilitar el código de su trabajo para que otros los puedan revisar y replicar.

Otro usuario lo ha intentado con animales, con fotografías de dos perros (uno de pelo blanco y otro de pelo negro). Al parecer, mismo resultado:

¿Qué está pasando?

Vinay Prabhu, científico en la Universidad Carnegie Mellon, realizó un análisis independiente y publicó sus resultados hace unas horas en un hilo de Twitter. Para ello, Prabhu utilizó una serie de fotos de rostros masculinos y femeninos tomados de la 'Chicago Faces Database' (una web que almacena miles de caras de personas).

Sorprendentemente, su experimento dio como resultado que el algoritmo de Twitter favorecía ligeramente a las fotos en las que aparecen personas de piel oscura, dándoles protagonismo en 52 de las 92 imágenes que publicó.

Pese a las pruebas de Prabhu, en los últimos días se han publicado muchos otros ejemplos en los que ocurre lo contrario. Por eso Twitter ya ha anunciado que van a investigar lo ocurrido y que liberarán el código de este proyecto para que otras personas puedan revisarlo o replicarlo.

También te puede interesar:

Facebook te pagará para que desactives tu cuenta

Facebook, acusada de espiar a usuarios de Instagram por cámaras

El fundador de Instagram tuvo miedo de Facebook y ésa puede ser la prueba que condene a Zuckerberg