Yahoo Noticias Algoritmo de YouTube favorece xenofobia y deshumanización de migrantes, asegura estudio
A YouTube no le interesa mi historia. Soy migrante, al igual que al menos la mitad de mis compañeros de promoción de una escuela de periodismo en una universidad venezolana. Algunos hemos continuado nuestra vida profesional en el extranjero, otros se han dedicado a otras profesiones. Pero todos nos hemos integrado a nuestro país de acogida, hemos formado familias y pagamos impuestos.
Está claro que esas historias de migraciones exitosas no aparecen en las primeras páginas de búsquedas de YouTube. Por el contrario, “la plataforma de video perpetúa una imagen deshumanizante de los migrantes y su sistema de recomendación premia las narrativas xenófobas, lo que retroalimenta un contexto de un discurso político de extrema derecha en ascenso”, afirmó una auditoría externa publicada en diciembre 2022.
Se trata del primer análisis de su tipo realizado por la firma consultora Eticas, especializada en detectar vulnerabilidades algorítmicas de la caja negra, que es una parte impenetrable de cualquier sistema de inteligencia artificial cuyas entradas y operaciones no son visibles para el usuario y otros actores interesados.
La aspiración de Eticas es "reeducar" la tecnología alimentada por la Inteligencia Artificial con mejor data y contenido. En la actualidad, la firma colabora con las autoridades españolas para auditar el algoritmo de prevención de la violencia machista que utiliza el Ministerio del Interior e intenta desarrollar herramientas de transparencia para los algoritmos laborales de las empresas.
Xenofobia y deshumanización
El informe de Eticas señala que la aparente democratización de los contenidos en las redes sociales no está exenta de riesgos por el impacto que esos medios emergentes tienen en las actitudes individuales y públicas hacia la migración.
Y aunque hay muchos estudios sobre la narrativa migratoria en los medios tradicionales, no había investigaciones exhaustivas sobre la representación de los migrantes en YouTube, la segunda red social más utilizada con más de 2.500 millones de seguidores y una de las fuentes preferidas para consumir noticias.
“En los videos de YouTube más vistos, los migrantes se muestran como masas anónimas sin rostros reconocibles con los que empatizar, en su mayoría hombres adultos no blancos, y frecuentemente con la presencia de fuerzas armadas. En el mejor de los casos, se los retrata como víctimas sin agencia”, dijo el análisis.
Otro dato interesante de la radiografía realizada a las entrañas de YouTube es que la marcada diferencia que hay en la representación entre los migrantes y refugiados. La Convención de las Naciones Unidas de 1951 definió que los refugiados son personas que huyen de conflictos armados o persecución, en una medida que pretendió diferenciar a los solicitantes de asilo europeos después del fin de la Segunda Guerra Mundial de las personas que se movilizaban desde otras partes del mundo.
“A diferencia de los migrantes, los refugiados en los videos son en su mayoría personas reconocibles, hombres y mujeres blancos, y con menos frecuencia en un contexto de cruce de fronteras”.
Los resultados de Canadá y el Reino Unido
Eticas utilizó un método de extracción de datos a través de VPN y análisis de contenido para buscar la palabra clave “migrants” en YouTube. Una VPN, o red privada virtual, es un servicio que encripta tu actividad en Internet y mantiene oculta tu identidad mientras navegas. Los investigadores usaron un VPN para simular que realizaban su búsqueda desde Canadá y el Reino Unido.
Esos países de habla inglesa tienen políticas migratorias y actitudes públicas hacia los migrantes casi opuestas.
La auditoría de los primeros 100 resultados de la búsqueda de la palabra clave migrante muestran imágenes de grupos de más de 16 personas adultas, que no pertenecen a la raza blanca. El 75 por ciento de las imágenes en miniatura que se muestran al comienzo de los videos muestra personas cruzando una frontera.
“Una imagen común es la presencia de las fuerzas armadas (21,6%) junto con los migrantes que cruzan la frontera, donde prevalece el encuadre del problema. La misma cantidad de videos muestra a migrantes cruzando el mar por lanchas o barcos, con predominio del encuadre de la víctima”.
Decidí comprobar las afirmaciones de Eticas y busqué la palabra migrantes en inglés y en español en el buscador de YouTube sin VPN. Hay que tomar en cuenta que el algoritmo de YouTube ya ha recabado mucha información sobre mis preferencias por el historial de búsquedas que he acumulado desde que me uní a la plataforma en junio de 2012.
Ocho de los 10 principales resultados de “migrants” mostraban el drama de los migrantes venezolanos durmiendo a la intemperie en un frío extremo en la frontera entre México y Estados Unidos, y los autobuses de migrantes venezolanos que llegaron a Texas cerca de la casa de la vicepresidenta Kamala Harris.
Al buscar la palabra “refugee”, cinco de los 10 videos mostrados por el algoritmo de YouTube eran historias sobre los refugiados ucranianos. Dos videos relataban las terribles condiciones del pueblo Rohingya luego de huir de Myanmar. Y también apareció un video del grupo de hip hop estadounidense Fugees.
Las búsquedas en español arrojaron resultados completamente diferentes. Los primeros 8 resultados eran videos de la agrupación musical de venezolanos en México Migrantes. Uno sobre la situación de los migrantes en Alemania y el último sobre los migrantes venezolanos intentando cruzar la frontera hacia Estados Unidos.
Al buscar la palabra “migrants” con un VPN con una dirección del Reino Unido, los principales resultados fueron videos sobre los migrantes venezolanos intentando ingresar a Estados Unidos o en Texas cerca de la casa de la vicepresidenta. Al cambiar la dirección del VPN a Canadá, los resultados fueron similares.
Al buscar “refugees”, el primer resultado fue un video reportaje de 5:43 minutos de TED-Ed que explicaba la situación de los refugiados en el mundo. El quinto resultado era un reportaje de la DW sobre las mentiras que los traficantes de personas dicen a los migrantes y refugiados. Los otros eran videos musicales o reportajes de grandes medios sobre los refugiados de Ucrania y Serbia.
¿Cuál fue mi conclusión de mi experimento casero? Al usar los mismos criterios de búsqueda que los investigadores de Eticas, mis resultados coincidieron con los de la auditoría.
El peligro de las Cámaras Eco
Una cámara de eco se define como un estado de aislamiento intelectual que resulta de unas determinadas prácticas de acceso a información. Cuando sólo existían los medios tradicionales, las cámaras de eco se producían cuando una persona decidía informarse de manera limitada sobre algunos temas al escuchar una sola emisora de radio o ver siempre el mismo noticiero de televisión. La opinión que se formaba se veía reforzada cuando muchos de sus contactos también se informaban con las mismas fuentes.
Con el ascenso de las redes sociales, la gran variedad de fuentes informativas dificulta que exista un aislamiento intelectual total como ocurría en el pasado.
Sin embargo, cuando la mayoría de los videos de YouTube presentan la misma narrativa con “matices negativos y deshumanizantes”, los investigadores advierten el surgimiento de cámaras eco en contextos anti migratorios o en personas con perfiles sin antecedentes migratorios.
“Teniendo en cuenta el impacto que tiene YouTube en la opinión pública, este fenómeno puede generar polarización, radicalización y, en última instancia, amenazar los valores democráticos, que irónicamente es el peligro que los discursos xenófobos atribuyen a la migración. Esto también tiene un efecto negativo en la autopercepción y la autoestima de los migrantes, lo que se suma a su situación vulnerable”, señaló la auditoría.
Sobre el contenido que los migrantes postean en las redes, los investigadores dicen que son conscientes de cómo estas redes fomentan una imagen negativa y politizada de ellos, mientras se silencian las imágenes positivas. Los medios no consultan a las personas cuando difunden noticias sobre ellos y cunado lo hacen, los migrantes se sienten malinterpretados y utilizados por los periodistas.
Recomendaciones
La consultora Etica realizó está lista de recomendaciones a la popular plataforma de videos.
YouTube necesita desarrollar aún más su sistema de recomendaciones para mejorar la representación de las minorías, como los inmigrantes. La capacidad de auditar de forma independiente los sistemas de recomendación de YouTube y otras redes sociales es una alta prioridad para abordar los problemas.
YouTube y otras plataformas sociales deben facilitar a los investigadores o instituciones de investigación el acceso necesario a datos internos para estudiar los posibles daños o riesgos que pueden traer sus algoritmos de recomendación.
Un esfuerzo colaborativo de instituciones públicas, expertos y el propio YouTube debería definir mejor el conjunto de sesgos que no deberían estar presentes en el sistema de algoritmos de YouTube, incluidos los basados en el género, la raza, el origen étnico y otros factores.
Involucrar a las comunidades de migrantes en todos los procesos mencionados es otro paso sugerido, ya que nuestro estudio mostró los sentimientos de preocupación de los propios migrantes sobre su representación o ausencia en las redes sociales.
El 70% de los vídeos vistos en YouTube son recomendados por su algoritmo, que por la falta de regulación mantiene su opacidad sin rendición de cuentas. En esta auditoría, Eticas anima a la plataforma a apostar por la transparencia algorítmica, mejorar su sistema de recomendación y aumentar su vinculación con las comunidades de migrantes, para lograr una representación más fiel de las mismas.
Puedes leer el informe completo aquí.
TAMBIÉN TE PUEDE INTERESAR | EN VIDEO
Lo bueno, lo malo y lo feo de los influencers
