miércoles, enero 19, 2022
InicioFrikismoLos algoritmos ¿son tan inocentes como pretenden?

Los algoritmos ¿son tan inocentes como pretenden?

Trabajo en una empresa que trabaja con Inteligencia Artificial y una mañana mis compañeros comentaron en el café que un algoritmo se había vuelto nazi y racista en un día. A mí como persona de letras que soy esto me dejó loquísima ¿pero no se suponía que eran puros purísimos? Pues amiguitos, va a ser que no.

Antes de meternos en harina es importante hablar de qué es la inteligencia artificial, algo que a muchos nos suena como algo muy lejano y de ciencia ficción. Básicamente, la I.A. son una serie de algoritmos para crear máquinas lo más parecidas al modo de actuar de los seres humanos En este blog recogen la clasificación de los expertos Stuart Russell y Peter Norvig y básicamente hay 4 tipos en función de si actúan o piensan y si lo hacen como humanos o racionalmente.

¿Cómo que nazi y racista? El experimento Tay

En 2016 Microsoft llevó a cabo un experimento llamado Tay. La idea era básicamente crear un chatBot (o sea, un robot que interactuaba en Twitter) que hablara con los usuarios… pero las alarmas se encendieron ¡y de qué modo! cuando de repente empezaron a salir de su teclado “Hitler tenía razón, odio a los judíos”, “odio a las feministas, deberían morir y ser quemadas en el infierno” y otro montón de insultos racistas.

¿Perdón? Básicamente se suponía que el bot no tenía ningún tipo de filtro ni nada por el estilo y de eso se aprovecharon los usuarios que fundamentalmente lo trolearon para que aprendiera comportamientos cuestionables. Al bot lo suspendieron porque para más inri, empezó a recomendar consolas de la competencia ¡y por ahí sí que no pasamos!

Podéis leer más sobre este experimento aquí.

Pero ¿Es Twitter racista?

Contestar sí o no sería bastante aventurado porque sabéis que para hacer una afirmación como esta habría que hacer bastantes pruebas. Pero reconozco que a mí esto que pasó en Twitter hace unas semanas a mí me resultó bastante perturbador.

Se trata de un experimento que llevó a cabo un usuario y que para los no expertos en redes sociales puede resultar un sinsentido. Este es el tuit: «Probando un experimento horrible. ¿Elegirá el algoritmo de Twitter a Mitch McConnell o a Barack Obama». Y lo acompañan dos imágenes de McConnell, una ligeramente más alta que la otra.

El quid de la cuestión está en pinchar en las imágenes. Igual que el famoso negro de Whatsapp que tanto corrió por los grupos de amigos hace unos años es necesario pinchar en la imagen para entenderlo. Twitter cuando una imagen es muy grande muestra únicamente un trozo de la misma. Sinceramente en mi felicidad yo pensaba que era el centro lo que enseñaba… pero no. Cuando abres estas imágenes lo que te encuentras es un espacio muy grande en el centro y a Obama y a Mitch McConnell cada uno en un extremo. En ambos casos ha escogido al candidato republicano y blanco.

Así es como son las imágenes en realidad si las abrimos

Puede ser casualidad, sí, pero los usuarios estuvieron haciendo muuuuchas pruebas: cambiando los colores de las corbatas, ajustando el contraste, haciendo que las fotos fueran de distintos tamaños… y los resultados son inquietantes. Muy inquietantes. Hay que tomárselo como el experimento aislado que es pero reconozco que a mí me dejó bastante mal cuerpo.

¡No se vayan todavía, aún hay más!

Si todavía no nos hemos caído del guindo y todavía tenemos la mandíbula en nuestro sitio, os recomiendo que leáis este post (en inglés) sobre los experimentos secretos de Facebook. Que ya dabámos por hecho que los hacían pero verlo así puesto negro sobre blanco a mí me deja loca. En el artículo tenéis más pero aquí os dejo algunos de los que me han impactado:

Contagio emocional masivo (2012)

Lo que hicieron fue manipular el feed de casi 700.000 personas enseñándoles sobre todo cosas positivas para ver cómo les afectaba esto. Lo peor fue que esto se hizo público. Y sí, está muy bien que seamos positivos pero no mola nada que nos manipulen. Porque sí, se dieron cuenta de que sí que nos afecta y sí que nos manipularon.

Efectos en las elecciones cuando se comparte online (2012)

Un millón de personas participó sin saberlo en este experimento que lo que hacía era testar si que una persona dijera que iba a comprar algo afectaba A SUS AMIGOS. Y para esto lo que hacía era ofrecerles descuentos, ofertas etc a algunas personas. Si las aceptabas inmediatamente Y SIN PREGUNTAR se compartía en tu muro que lo habías comprado. Una bonita violación de las políticas de privacidad

Influencia social en la mobilización a votar en EEUU (2010)

Lo que querían saber es si saber que tus amigos habían ido a votar influía norteamericanos. Así como en España por defecto todo el mundo está inscrito en el censo (salvo errores) en EEUU tienen que inscribirse para votar. Este experimento afectó a nada más y nada menos que 61 millones de personas y consistió en que Facebook colocó un botón de «he votado» arriba del feed de los usuarios. Si le dabas podías también ver el nombre de los amigos que también le habían dado. Parece ser que ver que tus amigos habían votado hacía que tuvieras más ganas de ir a votar tú mismo.

En principio no parece que viole nada pero … ¿y si este botón sólo se mostrara a un grupo de usuarios segmentados por su tendencia política? ¿Podrían llegar a dar la vuelta a resultados electorales?

Sara Palacioshttp://www.mamisybebes.com
Soy Sara Palacios, aunque en la red muchos me conocen como Walewska, mi nombre de guerra. Soy curiosa, inquieta, seriéfila, gafapastas y a ratos pedante. Los que me conocen dicen que tengo mucho sentido del humor y yo no sé si soy graciosa o no, pero que me gusta reírme continuamente es un hecho. ¡Soy una optimista incorregible!
RELATED ARTICLES

Most Popular

Recent Comments

María L. Fernández on Problemas maternales del primer mundo
Alejandra deF on ¿Eres supersticiosa?
Alma Rosa Calderón Herrera on ¿Tute gratuito? ¡No, gracias!
Juan Luis on Odio Star Wars
María L. Fernández on Mis 10 blogs de cocina IMPRESCINDIBLES
Irene on A veces grito
Silvia - Mimette.com on Mis zapatos depilados, gracias
Ana (Pequeña Hormiguita) on Corresponsabilidad esa gran desconocida
La loca del Pelo Gris on Encorsetar a una hija (escoliosis)
Anya on Verano ¡ven!
Natalia Martín on Encuentro MMM a la vista
Natalia Martín on Encuentro MMM a la vista
Cata de mamatambiensabe on ¿Por qué tenemos miedo al feminismo?
Natalia Martín on iMMMprescindibles de abril
Emmanuel rivera on Odio Star Wars
marisa, la estresada on iMMMprescindibles de abril
Maria José on Esas costumbres molestas
Natalia Martín on ¿Tú no tienes papá, mamá?
Omar on Odio Star Wars
Limonerías on Londres, de niño a niño
Natalia Martín on Cariño, ¿te gusta tu escroto?
Madreexilio on Educar sin género
Sara Palacios on Música para follar
Maria José on Música para follar
Violeta Rodríguez Fotografía on Ama, vive y come
Marta on Ama, vive y come
Natalia Martín on Ama, vive y come
Noelia - Golosi on Querido Fassbender
Noelia - Golosi on Querido Fassbender
Julieth montaña on La frustración y la maternidad
Natalia Martín on Nuevo año o vida nueva
Natalia Martín on Nuevo año o vida nueva
marisa, la estresada on Nuevo año o vida nueva
Ruth de Rioja on ¡Feliz 2017!
anya on ¡Feliz 2017!
Limonerías on Inocentadas de bombero
marisa, la estresada on Inocentadas de bombero
Susana on Querido Fassbender
Sofia Sanchez peña on Sobrevivir a la Navidad en familia
Limonerías on El juguete de tu infancia
Epaminondas on Hablemos de princesas
Alejandra deF on ¿Eres puta o princesa?
Ana Guillén on Agendas bonitas para 2017
Noelia - Golosi on Agendas bonitas para 2017
Sara Palacios on Tu juego de mesa favorito
Juegos de mesa Addicted on Tu juego de mesa favorito
marisa, la estresada on Tu leyenda urbana favorita
La maternidad de Krika en Suiza on Tu leyenda urbana favorita
Paola Velázquez on El segundo hijo o el segundón
Verónica Reng on El segundo hijo o el segundón
Natalia Martín on El segundo hijo o el segundón
Sara Palacios on Todos somos Chenoa
AniPatagonia on Todos somos Chenoa
Johanna Arco on Todos somos Chenoa
Sara Palacios on Todos somos Chenoa
Sara Palacios on Todos somos Chenoa
Noelia - Golosi on Todos somos Chenoa
Ana [Mi mama es asesora de lactancia] on Tu nombre de pueblo favorito
Limonerías on Mi luna de miel
anya on Mi luna de miel
Limonerías on Tu juego de mesa favorito
Laura Arceo on Homeopatía y caries
Marisa, la estresada on La llamaron «loca»
Violeta Rodríguez - Fotografía infantil. on Harry Potter y el Legado Maldito
Violeta Rodríguez - Fotografía infantil. on Harry Potter y el Legado Maldito
Alfonso de Lozar on Asúmelo… ¡eres tu madre!
Vestidos para bautizos on De tutús, pelucas y masculinidad
Aprendemos con mamá on Cerrar etapas para…¿abrir otras?
Sara Palacios on Mujeres y libertad
Noelia - Golosi on Mujeres que son historia
Noelia - Golosi on Mujeres que son historia
Johanna Arco on Mujeres que son historia
Virginia A. C. on Mujeres que son historia
Sónia Cristina Relvas Luciano on Mujeres que son historia
Noelia Martin on Mujeres que son historia
Jess vaquero cuervo on Mujeres que son historia
Patricia Barreiro on Mujeres que son historia
Lupe Soria on Mujeres que son historia
Noelia Martin on Por qué me gusta Peppa Pig
Marisa, la estresada on Río 2016: olimpiadas y machismo
Natalia Martín on Visitar Valencia este verano
rosi marugan on Ser madre y opositar
Sari - Hechizos de Amor on Tácticas amorosas: el tira y afloja
Julia Martín on Montessori para novatos
Sara Palacios on La fiebre de las minicasas
Immi on Extranjera eres
Marisa, la estresada on Extranjera eres
Raquel on Extranjera eres
Laura on Extranjera eres
Esther on Extranjera eres
madrexilio on Extranjera eres
Limonerías on La vieja que quiero ser
Marta García on 7 días sin beber coca-cola
anya on Tengo cursitis
Noelia - Golosi on ¿Hacemos la tortuga?
Noelia - Golosi on Talentos ocultos
notengowhatsapp on Queridas madres del Whatsapp
Marta Capella on Queridas madres del Whatsapp
Alejandra deF on Queridas madres del Whatsapp
Sara Palacios on Queridas madres del Whatsapp
María José on Eres viejuno
La Sonrisa de Mini Yo on No quiero morirme sin visitar…
Limonerías on Eres viejuno
Natalia Martín on Eres viejuno
Noelia - Golosi on El profesor de balonmano
Limonerías on Yo también soy gay
La Sonrisa de Mini Yo on Cómo destrozar Grease
Bobyshaftoe on Cómo destrozar Grease
Natalia Martín on Cómo destrozar Grease
marisa, la estresada on Querido Marido 1.0
Noelia - Golosi on El chico perfecto tendría…
María trinidad espinosa guirao on No, esa frase ya no se dice
Padres en pañales (@Padresenpanales) on El lado Wonderful / Puterful de las cosas. Tú eliges
Mamagnomo on Querido Fassbender
Sara Palacios on Querido Fassbender
Sara Palacios on Querido Fassbender
Sara Palacios on Querido Fassbender
Sara Palacios on Querido Fassbender
Sara Palacios on Querido Fassbender
Sandristica on Querido Fassbender
Natalia Martín on Querido Fassbender
Vidas_pixeladas Carla on ¡Maldito Mickey Mouse!
marisa, la estresada on ¡Maldito Mickey Mouse!
Verónica Reng on Calladita estás más guapa
Noelia - Golosi on Calladita estás más guapa
cata de mamatambiensabe on 12 cosas que adoro de ser autónoma
Ana - Querubino on Calladita estás más guapa
Carmen on ¡Adoro Divinity!
Violeta Rodríguez - Fotografía infantil. on Claves para elegir un buen regalo para un recién nacido
MamaCloud on 7 días sin enfadarme
Limonerías on 7 días sin enfadarme
madre estresada on Cosas que me irritan…
Mónica de Objetivo Tutti Frutti y Blogger Paso a Paso on 7 días sin tomar azúcar ni harinas
Auxi on A veces grito
Teresa - El Rincón del Peque on A veces grito
Daniells on A veces grito
Lorena on A veces grito
VANESA ALONSO CIMAS on A veces grito
Natalia Martín on A veces grito
Carol on A veces grito
Carmen Abián on Confesando mi adicción
Sandristica on Confesando mi adicción
Natalia Martín on Así viví #elVermmmut
Natalia Martín on Así viví #elVermmmut
Natalia Martín on Así viví #elVermmmut
Natalia Martín on Así viví #elVermmmut
Natalia Martín on Así viví #elVermmmut
Violeta Rodríguez - Fotografía infantil. on Así viví #elVermmmut
Madre Exilio (@Madrexilio) on Así viví #elVermmmut
Verónica Trimadre on La brutal sensación de estar viva
Verónica Trimadre on La brutal sensación de estar viva
Verónica Trimadre on La brutal sensación de estar viva
María on Ladrones de tiempo
Alejandra deF on Hay amores que matan…
Cata de mamatambiensabe on Ladrones de tiempo
Eduardo Muñoz on Micromachismos intolerables
Sandristica on Cómo volverle loco
Vyacheslav Dudkin on Las Monas de Pascua más feas
Chica Perika on Dale a tu cuerpo alegría
Natalia Martín on Dale a tu cuerpo alegría
Mamá Resiliente (@MamaResiliente) on Hija, tu cuerpo será tu prisión
Verónica Trimadre on Hija, tu cuerpo será tu prisión
Verónica Trimadre on Hija, tu cuerpo será tu prisión
Verónica Trimadre on Hija, tu cuerpo será tu prisión
Verónica Trimadre on Hija, tu cuerpo será tu prisión
Verónica Trimadre on Hija, tu cuerpo será tu prisión
Verónica Trimadre on Hija, tu cuerpo será tu prisión
Verónica Trimadre on Hija, tu cuerpo será tu prisión
Verónica Trimadre on Hija, tu cuerpo será tu prisión
Verónica Trimadre on Hija, tu cuerpo será tu prisión
Verónica Trimadre on Hija, tu cuerpo será tu prisión
Verónica Trimadre on Hija, tu cuerpo será tu prisión
El espacio del bebé on Fantaseando… o quizá no
Cuestion de Madres on ¿Cómo comunicaste tu embarazo?
Violeta Rodríguez - Fotografía infantil. on Fantaseando… o quizá no
Noelia - Golosi on Modas ideales que vuelven.
Johanna Arco on Modas ideales que vuelven.
marisa, la estresada on Adolescentes y Sexo
marisa, la estresada on Adolescentes y Sexo
marisa, la estresada on Adolescentes y Sexo
marisa, la estresada on Adolescentes y Sexo
marisa, la estresada on Adolescentes y Sexo
marisa, la estresada on Adolescentes y Sexo
marisa, la estresada on Adolescentes y Sexo
Elena on