Dejar a los sistemas de inteligencia artificial trabajar sin una supervisión humana todavía puede ser una idea peligrosa, aunque los humanos tampoco es que estemos exentos de equivocarnos. Ejemplo de ello es el fallo que ha cometido la IA de Microsoft confundiendo a dos personas en una noticia.
Después de reemplazar a cientos de periodistas por un sistema de inteligencia artificial en MSN. Microsoft ha encontrado con este sistema inteligente tiene problemas para distinguir a las personas. La polémica ha saltado al confundir a dos cantantes del grupo de música Little Mix que son mestizas .
La noticia hablaba sobre las experiencias que había tenido la cantante Jade Thirlwall con el racismo. La cantante explicó que durante su etapa escolar había sufrido acoso por su etnia mestiza. Un tema tan delicado se publica en MSN.com con la foto de otra cantante y no de la protagonista. Para los que no conocen el grupo, Jade Thirlwall es la primera desde la izquierda en la foto que encabeza este artículo, pero como puedes ver a continuación, la foto era de Leigh-Anne Pinnock.
La propia Thirlwall llamaba la atención a MSN del Fallo en una de las historias de su cuenta de Instagram: “@MSN Si vas a copiar y pegar artículos de otros medios de comunicación precisos, es posible que quieras asegurarte de que estés usando una imagen del miembro correcto de raza mixta del grupo . «
Los periodistas que hasta hace un mes en MSN.com se encargan de seleccionar noticias de otros medios y destacarlo en su web, pero ahora ese trabajo lo realiza un sistema de inteligencia artificial. Según explica The Guardian, alrededor de 50 periodistas fueron despedidos en los Estados Unidos y 27 en el Reino Unido .
Aún no se conocen exactamente qué han sido los factores que han desembocado en este error, lo más probable mi s que setrate de una base de datos con imágenes mal etiquetadas pero de cuatro miembros que forman este grupo de música, se ha confundido con dos mujeres con la piel oscura, tal y como se ha quejado Jade Thirlwall .
Microsoft ha explicado a The Guardian: « Tan pronto como nos dimos cuenta de este problema, inmediatamente tomamos medidas para resolverlo y reemplazamos la imagen incorrecta «. Sin embargo, el error demuestra que el sistema no está preparado para rodar y podría haber sido corregido de contar con un supervisor humano.
O puede que esa tampoco sea la solución, porque no es la primera vez que una falla similar los cometen los mismos humanos. La BBC tuvo que disipar los principios de año por confundir al jugador de baloncesto LeBron James con su compañero de equipo Kobe Bryant, cuando se informa de la muerte de este último.
Los sistemas de inteligencia artificial han detectado en otras ocasiones tener un sesgo racista que hace que su trabajo sea injusta con muchas personas y ese Fallo inevitablemente lo han heredado del racismo que conservan los propios seres humanos que son los que crean y desarrollaron esos sistemas.
Deja una respuesta