Poco ha tardado la IA de Microsoft en liarla. Hace unos días os indicábamos que Microsoft iba a remplazar a algunos de sus editores humanos por una IA. Esta escogería las noticias, de otras publicaciones, y luego distribuida a 500 millones de lectores en 140 países.
La IA de Microsoft comete su primer fallo
Microsoft News dijo entonces que usa IA para explorar contenido, entender «dimensiones como la frescura, categoría, tipo de tema, contenido de opinión y popularidad potencial y luego lo presenta para los editores.
Sus algoritmos sugieren fotos apropiadas para emparejar con el contenido para ayudar a dar vida a las historias. Los editores luego se encargan de enviar las mejores historias a lo largo del día, a través de una variedad de temas, para que los lectores reciban las últimas noticias de las mejores fuentes.
El primer fallo ha sucedido cuando la IA publicó una historia sobre el miembro de Little Mix Jade Thirlwall luchando contra el racismo mediante el uso de una foto de su colega Leigh-Anne Pinnock, con Thirlwall quejándose:
“This sh*t happens to @leighannepinnock and I ALL THE TIME that it’s become a running joke. It offends me that you couldn’t differentiate the two women of colour out of four members of a group … DO BETTER!”
La historia original tenía la imagen correcta, haciendo el fallo más embarazoso. Pero además, los editores tienen que adaptarse a trabajar con una IA que les lleva la contraria y vuelve a publicar noticias complicando, más que facilitando, su trabajo.
Un miembro del personal dijo que Microsoft estaba preocupado por el daño reputacional a su producto de IA: «Con todas las protestas contra el racismo en este momento, ahora no es el momento de cometer errores».
El CEO de Microsoft, Satya Nadella, siempre ha mantenido que la IA se utilice junto con los empleados pero este fallo parece situar a la IA por delante de los empleados.
