Bruselas empieza a abrir la caja de Pandora de las redes sociales: sus sistemas de recomendación
La Comisión Europea invocó este miércoles el Reglamento de Servicios Digitales (DSA, por sus siglas en inglés) para enviar tres nuevos requerimientos de información a tres grandes plataformas digitales, YouTube, TikTok y Snapchat.
No es la primera vez que estas plataformas reciben un requerimiento de este tipo, de hecho: YouTube y Snapchat ya han recibido cuatro de esas solicitudes bajo el DSA, y TikTok ya ha recibido seis además de haber visto la apertura de dos procedimientos y alcanzado un acuerdo para terminar satisfactoriamente uno de ellos.
Con estos tres nuevos requerimientos, Bruselas ya ha solicitado información a 23 plataformas digitales mediante el DSA. Solo se ha librado una de las consideradas grandes plataformas bajo esa regulación, Wikipedia. También se escapa, aunque solo por ahora, una web porno, XNXX, que pasó a ser considerada gran plataforma este mismo verano.
Lo novedoso de estos requerimientos es que Bruselas solicita información a las plataformas sobre cómo funcionan sus algoritmos de recomendación de contenidos.
Los sistemas de recomendación en plataformas sociales son cruciales para retener al usuario el mayor tiempo posible. Las tecnológicas compiten por la atención de sus usuarios: cuanto más tiempo pasen estos consumiendo contenido en sus plataformas, más rentables serán en términos publicitarios.
Pero estos sistemas de recomendación también aparejan una serie de desafíos y riesgos. Son los responsables de haber generado en plataformas como Facebook o Instagram cámaras de eco, o de haber polarizado a buena parte de la sociedad. El diagnóstico ya está sobre la mesa: ahora ha llegado el momento de atajarlo.
Sin ir más lejos, Facebook ya sabía hace años que sus algoritmos polarizan, pero sus directivos descartaron tomar decisiones.
Bruselas parece haberse puesto las pilas en este sentido. YouTube, TikTok y Snapchat tienen hasta mediados de noviembre para responder satisfactoriamente las demandas de la Comisión. De no hacerlo, se podrían enfrentar a multas periódicas hasta que obedezcan. Una vez las tecnológicas den sus respuestas, el Ejecutivo comunitario valorará qué pasos seguirá después.
Además de YouTube, TikTok y Snapchat, la Comisión Europea ha elevado preguntas idénticas sobre estos sistemas de recomendación a las plataformas de Meta, Instagram y la propia Facebook. Contra esas dos compañías ya hay procedimientos abiertos en el marco del Reglamento de Servicios Digitales.
Qué responderán las tecnológicas es todavía una incógnita. Qué se encontrará la Comisión si sigue rascando no lo es tanto. Ya hay literatura académica, estudios e investigaciones que abundan en cómo funcionan estos algoritmos, qué promueven y alientan, y qué consecuencias tienen.
Ya se han hecho auditorías previas sobre los algoritmos de recomendación de YouTube y TikTok
Sin ir más lejos, Eticas, una organización que es consultora y además fundación por los derechos y la ética tecnológica, ya ha hecho estudios en el pasado sobre qué promueven los algoritmos de dos de las plataformas ahora señaladas por la Unión Europea: TikTok y YouTube.
La entidad, especializada en auditorías algorítmicas, ya era clara hace un año y medio, cuando se presentaron los resultados de sus estudios: «Las auditorías a YouTube y TikTok revelan la necesidad de la puesta en marcha de los requisitos incluidos en el Reglamento de Servicios Digitales«. Ahora, Bruselas recoge el guante.
En este sentido, Eticas tuvo que hacer una auditoría algorítmica tanto de TikTok como YouTube sin contar con la colaboración de las dos plataformas. Los especialistas de Eticas crearon nueve cuentas en TikTok en distintas ubicaciones de EEUU y se comenzó a entrenar el algoritmo de recomendación de los distintos perfiles.
En el caso de TikTok, Eticas se sorprendió al concluir que los contenidos políticos que el sistema de recomendación aportaba apenas variaban ni por la geolocalización del usuario ni por cómo hubiese entrenado el modelo: «La escasa personalización del contenido político de la plataforma indica que TikTok se centra más en el entretenimiento que en la política».
Con YouTube fue distinto. Los hallazgos de Eticas en la plataforma de intercambio de vídeos de Google desvelaban que sus recomendaciones al buscar el término «inmigrante» en el servicio arrojaban vídeos que deshumanizan al colectivo migrante, dando el algoritmo apoyo a narrativas xenófobas.
«La mayoría de las personas representadas son adultos no blancos, donde las mujeres están subrepresentadas. En la gran mayoría de los vídeos con migrantes presentes, se muestra a los migrantes cruzando una frontera, lo que representa el 75% de las miniaturas y vistas previas de estos vídeos. Solo en el 19,1% de los vídeos los migrantes no cruzan una frontera», destacaba.
Eticas también hizo por aquellas fechas un profundo estudio sobre cómo tarifican sus servicios plataformas de movilidad como Uber o Cabify, que ha desembocado en una reciente proposición no de ley del grupo parlamentario Sumar.
Mientras se sigue a la espera de cómo se resolverán estas nuevas peticiones de información anunciadas por la Comisión Europea, vale la pena recordar que YouTube, TikTok y Snapchat no están solas.
Desde que comenzó a aplicarse el DSA, AliExpress, Amazon, la App Store de Apple, Booking, el buscador de Google, la tienda de aplicaciones Google Play, Google Maps, el comparador de precios Google Shopping, YouTube, Shein, LinkedIn, Facebook, Instagram, Bing, Pinterest, Snapchat, TikTok, X (Twitter), Temu y Zalando han recibido peticiones similares.
También han recibido peticiones de información algunas páginas porno como Pornhub, Stripchat y XVideos.
