sábado, octubre 23, 2021
InicioFrikismoLos algoritmos ¿son tan inocentes como pretenden?

Los algoritmos ¿son tan inocentes como pretenden?

Trabajo en una empresa que trabaja con Inteligencia Artificial y una mañana mis compañeros comentaron en el café que un algoritmo se había vuelto nazi y racista en un día. A mí como persona de letras que soy esto me dejó loquísima ¿pero no se suponía que eran puros purísimos? Pues amiguitos, va a ser que no.

Antes de meternos en harina es importante hablar de qué es la inteligencia artificial, algo que a muchos nos suena como algo muy lejano y de ciencia ficción. Básicamente, la I.A. son una serie de algoritmos para crear máquinas lo más parecidas al modo de actuar de los seres humanos En este blog recogen la clasificación de los expertos Stuart Russell y Peter Norvig y básicamente hay 4 tipos en función de si actúan o piensan y si lo hacen como humanos o racionalmente.

¿Cómo que nazi y racista? El experimento Tay

En 2016 Microsoft llevó a cabo un experimento llamado Tay. La idea era básicamente crear un chatBot (o sea, un robot que interactuaba en Twitter) que hablara con los usuarios… pero las alarmas se encendieron ¡y de qué modo! cuando de repente empezaron a salir de su teclado “Hitler tenía razón, odio a los judíos”, “odio a las feministas, deberían morir y ser quemadas en el infierno” y otro montón de insultos racistas.

¿Perdón? Básicamente se suponía que el bot no tenía ningún tipo de filtro ni nada por el estilo y de eso se aprovecharon los usuarios que fundamentalmente lo trolearon para que aprendiera comportamientos cuestionables. Al bot lo suspendieron porque para más inri, empezó a recomendar consolas de la competencia ¡y por ahí sí que no pasamos!

Podéis leer más sobre este experimento aquí.

Pero ¿Es Twitter racista?

Contestar sí o no sería bastante aventurado porque sabéis que para hacer una afirmación como esta habría que hacer bastantes pruebas. Pero reconozco que a mí esto que pasó en Twitter hace unas semanas a mí me resultó bastante perturbador.

Se trata de un experimento que llevó a cabo un usuario y que para los no expertos en redes sociales puede resultar un sinsentido. Este es el tuit: «Probando un experimento horrible. ¿Elegirá el algoritmo de Twitter a Mitch McConnell o a Barack Obama». Y lo acompañan dos imágenes de McConnell, una ligeramente más alta que la otra.

El quid de la cuestión está en pinchar en las imágenes. Igual que el famoso negro de Whatsapp que tanto corrió por los grupos de amigos hace unos años es necesario pinchar en la imagen para entenderlo. Twitter cuando una imagen es muy grande muestra únicamente un trozo de la misma. Sinceramente en mi felicidad yo pensaba que era el centro lo que enseñaba… pero no. Cuando abres estas imágenes lo que te encuentras es un espacio muy grande en el centro y a Obama y a Mitch McConnell cada uno en un extremo. En ambos casos ha escogido al candidato republicano y blanco.

Así es como son las imágenes en realidad si las abrimos

Puede ser casualidad, sí, pero los usuarios estuvieron haciendo muuuuchas pruebas: cambiando los colores de las corbatas, ajustando el contraste, haciendo que las fotos fueran de distintos tamaños… y los resultados son inquietantes. Muy inquietantes. Hay que tomárselo como el experimento aislado que es pero reconozco que a mí me dejó bastante mal cuerpo.

¡No se vayan todavía, aún hay más!

Si todavía no nos hemos caído del guindo y todavía tenemos la mandíbula en nuestro sitio, os recomiendo que leáis este post (en inglés) sobre los experimentos secretos de Facebook. Que ya dabámos por hecho que los hacían pero verlo así puesto negro sobre blanco a mí me deja loca. En el artículo tenéis más pero aquí os dejo algunos de los que me han impactado:

Contagio emocional masivo (2012)

Lo que hicieron fue manipular el feed de casi 700.000 personas enseñándoles sobre todo cosas positivas para ver cómo les afectaba esto. Lo peor fue que esto se hizo público. Y sí, está muy bien que seamos positivos pero no mola nada que nos manipulen. Porque sí, se dieron cuenta de que sí que nos afecta y sí que nos manipularon.

Efectos en las elecciones cuando se comparte online (2012)

Un millón de personas participó sin saberlo en este experimento que lo que hacía era testar si que una persona dijera que iba a comprar algo afectaba A SUS AMIGOS. Y para esto lo que hacía era ofrecerles descuentos, ofertas etc a algunas personas. Si las aceptabas inmediatamente Y SIN PREGUNTAR se compartía en tu muro que lo habías comprado. Una bonita violación de las políticas de privacidad

Influencia social en la mobilización a votar en EEUU (2010)

Lo que querían saber es si saber que tus amigos habían ido a votar influía norteamericanos. Así como en España por defecto todo el mundo está inscrito en el censo (salvo errores) en EEUU tienen que inscribirse para votar. Este experimento afectó a nada más y nada menos que 61 millones de personas y consistió en que Facebook colocó un botón de «he votado» arriba del feed de los usuarios. Si le dabas podías también ver el nombre de los amigos que también le habían dado. Parece ser que ver que tus amigos habían votado hacía que tuvieras más ganas de ir a votar tú mismo.

En principio no parece que viole nada pero … ¿y si este botón sólo se mostrara a un grupo de usuarios segmentados por su tendencia política? ¿Podrían llegar a dar la vuelta a resultados electorales?

Sara Palacioshttp://www.mamisybebes.com
Soy Sara Palacios, aunque en la red muchos me conocen como Walewska, mi nombre de guerra. Soy curiosa, inquieta, seriéfila, gafapastas y a ratos pedante. Los que me conocen dicen que tengo mucho sentido del humor y yo no sé si soy graciosa o no, pero que me gusta reírme continuamente es un hecho. ¡Soy una optimista incorregible!
RELATED ARTICLES

Most Popular

Recent Comments

Viajar a Praga en familia, todo un descubrimiento | MyM on Descubrir Roma en familia, un viaje para crear recuerdos
María L. Fernández on Problemas maternales del primer mundo
Alejandra deF on ¿Eres supersticiosa?
¡Nos vamos de comunión! Zapatos y ropa de ceremonia para los más peques — Mujeres y Madres Magazine – Entre Mujeres… on ¡Nos vamos de comunión! Zapatos y ropa de ceremonia para los más peques
Alma Rosa Calderón Herrera on ¿Tute gratuito? ¡No, gracias!
Juan Luis on Odio Star Wars
La mejor película estrenada en 2017 (de las que has visto, claro) — Mujeres y Madres Magazine on La mejor película estrenada en 2017 (de las que has visto, claro)
¿Te sumas al regalo azul de Unicef? — Mujeres y Madres Magazine on ¿Te sumas al regalo azul de Unicef?
10 cosas por las que los hijos te cambian la vida – Título del sitio on Trucos de maternidad que aprendí viendo Jurassic World
María L. Fernández on Mis 10 blogs de cocina IMPRESCINDIBLES
Irene on A veces grito
¿Cómo comprar una casa o piso? - Mamis y bebés on ¿Quieres ese vestido? Los realities de vestidos de novia
Estudio sobre el juego en los hogares – Mamá también sabe on El Club de los niños cansados
Silvia - Mimette.com on Mis zapatos depilados, gracias
Ana (Pequeña Hormiguita) on Corresponsabilidad esa gran desconocida
Como Decorar Con Plantas | Berryd.com on 10 ideas para decorar tu casa con plantas y flores
La loca del Pelo Gris on Encorsetar a una hija (escoliosis)
Anya on Verano ¡ven!
Dar una conferencia, consejos para que sea épica on Pierde el miedo a hablar en público
Natalia Martín on Encuentro MMM a la vista
Natalia Martín on Encuentro MMM a la vista
Cata de mamatambiensabe on ¿Por qué tenemos miedo al feminismo?
Natalia Martín on iMMMprescindibles de abril
Emmanuel rivera on Odio Star Wars
marisa, la estresada on iMMMprescindibles de abril
Maria José on Esas costumbres molestas
Lunes en Positivo. Navidad a la Vista - Se me cae la casa encima on Calendarios de Adviento
Natalia Martín on ¿Tú no tienes papá, mamá?
8 de marzo 2017: día de la mujer | Violeta Rodríguez   on Así viví #elVermmmut
Omar on Odio Star Wars
Las madres del cole, ese mundo paralelo – La aventura de mi embarazo on Amistades a pie de colegio: las Walking Dead Mothers
FastPass en Disneyland Paris - Las historietas de mamá on Cómo disfrutar en Disneyland Paris
Limonerías on Londres, de niño a niño
Natalia Martín on Cariño, ¿te gusta tu escroto?
Madreexilio on Educar sin género
Sara Palacios on Música para follar
Maria José on Música para follar
Novedades para llevar a los niños en el coche - Las historietas de mamá on Por lo que más quieras, los pequeños a contramarcha
5 cosas que echo de menos de cuando no era madre - Las historietas de mamá on ¿Cuándo nos levantamos?
Un DIY muy fácil para el Día del Padre - Las historietas de mamá on Ideas para sorprender a Papa el Día del padre
Las alfombras de Lorena Canals - Las historietas de mamá on Redecora tu vida
Mi médula es tuya #retounmillon - Las historietas de mamá on ¿Por qué hacerte donante de médula ósea?
Violeta Rodríguez Fotografía on Ama, vive y come
Marta on Ama, vive y come
Natalia Martín on Ama, vive y come
Noelia - Golosi on Querido Fassbender
Noelia - Golosi on Querido Fassbender
Channing Tatum publica una foto de su mujer desnuda on Niños y nuevas tecnologías: teoría vs realidad
Julieth montaña on La frustración y la maternidad
Natalia Martín on Nuevo año o vida nueva
Natalia Martín on Nuevo año o vida nueva
marisa, la estresada on Nuevo año o vida nueva
Ruth de Rioja on ¡Feliz 2017!
anya on ¡Feliz 2017!
Limonerías on Inocentadas de bombero
marisa, la estresada on Inocentadas de bombero
Susana on Querido Fassbender
Sofia Sanchez peña on Sobrevivir a la Navidad en familia
Limonerías on El juguete de tu infancia
Epaminondas on Hablemos de princesas
Alejandra deF on ¿Eres puta o princesa?
Ana Guillén on Agendas bonitas para 2017
Noelia - Golosi on Agendas bonitas para 2017
Menú semanal fácil, rápido y equilibrado para toda la familia on 7 días sin tomar azúcar ni harinas
Sara Palacios on Tu juego de mesa favorito
Juegos de mesa Addicted on Tu juego de mesa favorito
marisa, la estresada on Tu leyenda urbana favorita
La maternidad de Krika en Suiza on Tu leyenda urbana favorita
Paola Velázquez on El segundo hijo o el segundón
Verónica Reng on El segundo hijo o el segundón
Natalia Martín on El segundo hijo o el segundón
Sara Palacios on Todos somos Chenoa
Palacio de Cibeles en Madrid | Violeta Rodríguez   on Harry Potter y el Legado Maldito
AniPatagonia on Todos somos Chenoa
Johanna Arco on Todos somos Chenoa
Sara Palacios on Todos somos Chenoa
Sara Palacios on Todos somos Chenoa
Noelia - Golosi on Todos somos Chenoa
Ana [Mi mama es asesora de lactancia] on Tu nombre de pueblo favorito
Limonerías on Mi luna de miel
anya on Mi luna de miel
Limonerías on Tu juego de mesa favorito
Laura Arceo on Homeopatía y caries
Marisa, la estresada on La llamaron «loca»
“Cómo prevenir que abusen sexualmente de nuestros hijos”. Verónica Trimadre. | Fundación Hugo Zárate – blog on Siempre son los hijos de los demás
Violeta Rodríguez - Fotografía infantil. on Harry Potter y el Legado Maldito
Violeta Rodríguez - Fotografía infantil. on Harry Potter y el Legado Maldito
Mujeres y libertad - Mujeres y Madres Magazine on Otra agresión sexual
Alfonso de Lozar on Asúmelo… ¡eres tu madre!
Historias de Conciliación: parte 2 - Pack WordPress on #ConciliarEsVivir ¿Luchamos por la conciliación?
Vestidos para bautizos on De tutús, pelucas y masculinidad
Aprendemos con mamá on Cerrar etapas para…¿abrir otras?
Cerrar etapas para...¿abrir otras? - Mujeres y Madres Magazine on 40 cosas que aprendes al cumplir 40
Sara Palacios on Mujeres y libertad
Mujeres y libertad - Mujeres y Madres Magazine on Manual de supervivencia para madres en caso de apocalipsis zombie
Mujeres y libertad - Mujeres y Madres Magazine on Río 2016: olimpiadas y machismo
Mujeres y libertad - Mujeres y Madres Magazine on De tutús, pelucas y masculinidad
Mujeres y libertad - Mujeres y Madres Magazine on Diez historias conmovedoras de Río 2016
Noelia - Golosi on Mujeres que son historia
Noelia - Golosi on Mujeres que son historia
Johanna Arco on Mujeres que son historia
Virginia A. C. on Mujeres que son historia
Sónia Cristina Relvas Luciano on Mujeres que son historia
Noelia Martin on Mujeres que son historia
Jess vaquero cuervo on Mujeres que son historia
Patricia Barreiro on Mujeres que son historia
Lupe Soria on Mujeres que son historia
Libros para ninos de mujeres de la historia {Con sorteo} - Tigriteando on Sin mujeres no hay historia
Noelia Martin on Por qué me gusta Peppa Pig
Marisa, la estresada on Río 2016: olimpiadas y machismo
Natalia Martín on Visitar Valencia este verano
rosi marugan on Ser madre y opositar
Sari - Hechizos de Amor on Tácticas amorosas: el tira y afloja
Julia Martín on Montessori para novatos
Menú semanal fácil, rápido y equilibrado para toda la familia on El brownie, muerte por chocolate
Menú semanal fácil, rápido y equilibrado para toda la familia on 7 dias sin comer carne ni pescado
Sara Palacios on La fiebre de las minicasas
Immi on Extranjera eres
Marisa, la estresada on Extranjera eres
Raquel on Extranjera eres
Laura on Extranjera eres
Esther on Extranjera eres
madrexilio on Extranjera eres
Planes para hacer en la ciudad en verano on Y tú… ¿viajas o haces turismo?
Planes para hacer en la ciudad en verano on Las cosas que más odias de ir al cine
Limonerías on La vieja que quiero ser
Marta García on 7 días sin beber coca-cola
anya on Tengo cursitis
Noelia - Golosi on ¿Hacemos la tortuga?
Noelia - Golosi on Talentos ocultos
notengowhatsapp on Queridas madres del Whatsapp
Marta Capella on Queridas madres del Whatsapp
Alejandra deF on Queridas madres del Whatsapp
Sara Palacios on Queridas madres del Whatsapp
María José on Eres viejuno
La Sonrisa de Mini Yo on No quiero morirme sin visitar…
Limonerías on Eres viejuno
Natalia Martín on Eres viejuno
Noelia - Golosi on El profesor de balonmano
Limonerías on Yo también soy gay
La Sonrisa de Mini Yo on Cómo destrozar Grease