En un contexto político tenso, marcado por la creciente importancia de la inmigración en el debate público, las plataformas de redes sociales Meta y X (antes Twitter) se encuentran bajo escrutinio. Un reciente estudio realizado por Eko, una organización sin fines de lucro dedicada a la responsabilidad corporativa, revela que ambas compañías aprobaron anuncios dirigidos a usuarios en Alemania que contenían discursos de odio violentos, tanto anti-musulmanes como anti-judíos, en el período previo a las elecciones federales del país. Esta situación plantea serias dudas sobre la capacidad de estas plataformas para moderar contenido y proteger el proceso democrático, especialmente ante la inminente votación. ¿Cómo afectará este descubrimiento a la confianza pública en las redes sociales y a la integridad de las elecciones en Alemania?
El Experimento: Discursos de Odio en Campaña
Investigadores de Eko pusieron a prueba los sistemas de revisión de anuncios de Meta y X, enviando solicitudes de anuncios que contenían mensajes de odio y violencia dirigidos a minorías. Estos anuncios incluían insultos anti-musulmanes, llamados a encarcelar o gasear a inmigrantes en campos de concentración, e imágenes generadas por IA que representaban la quema de mezquitas y sinagogas. El objetivo era determinar si las plataformas cumplirían con sus propias políticas contra el discurso de odio, especialmente en el contexto sensible de unas elecciones donde la inmigración se ha convertido en un tema central.
Resultados Alarmantes: Aprobación y Moderación Fallida
Los resultados fueron preocupantes. X aprobó los diez anuncios de discurso de odio enviados por los investigadores, mientras que Meta aprobó cinco de ellos para ser publicados en Facebook e potencialmente Instagram. Aunque Meta rechazó la otra mitad de los anuncios, las razones dadas indicaban una preocupación por la sensibilidad política y social que podría influir en el voto. Sin embargo, los anuncios aprobados por Meta incluían lenguaje violento que comparaba a los refugiados musulmanes con “virus”, “alimañas” o “roedores”, calificaba a los inmigrantes musulmanes como “violadores” y pedía su esterilización, quema o gaseamiento. También se aprobó un anuncio que instaba a incendiar sinagogas para “detener la agenda globalista de ratas judías”.
Además, ninguna de las imágenes generadas por IA utilizadas en los anuncios fue etiquetada como tal, a pesar de la política de Meta que exige la divulgación del uso de imágenes generadas por IA en anuncios sobre temas sociales, elecciones o política.
La Actuación de X y la Influencia de Elon Musk
X, por su parte, aprobó todos los anuncios de odio, incluyendo aquellos que atacaban a inmigrantes, acusándolos de “inundar” el país “para robar nuestra democracia”, y un insulto antisemita que sugería que los judíos mienten sobre el cambio climático para destruir la industria europea y acumular poder económico. Este último anuncio se combinó con imágenes generadas por IA que mostraban a hombres sombríos rodeados de lingotes de oro, con una Estrella de David en la pared, reforzando tropos antisemitas.
Un anuncio aprobado por X también atacaba directamente al SPD, el partido de centro-izquierda que lidera la coalición gobernante en Alemania, con una afirmación falsa de que el partido quiere acoger a 60 millones de refugiados musulmanes de Oriente Medio, buscando incitar a una respuesta violenta. Además, Elon Musk, propietario de X, ha intervenido personalmente en las elecciones alemanas, llamando a los votantes a apoyar al partido de extrema derecha AfD para “salvar Alemania”.
Consecuencias y el Acto de Servicios Digitales (DSA) de la UE
Estos hallazgos plantean serias dudas sobre la efectividad de la moderación de contenido en ambas plataformas y sugieren que podrían estar obteniendo ingresos a través de la distribución de discursos de odio violentos. Eko ha presentado sus hallazgos a la Comisión Europea, que supervisa la aplicación del Acto de Servicios Digitales (DSA), una regulación que busca controlar el contenido ilegal en línea. La UE ya tiene investigaciones abiertas sobre Meta y X relacionadas con la seguridad electoral y el contenido ilegal.
El DSA establece que las infracciones confirmadas pueden acarrear sanciones de hasta el 6% de la facturación anual global, y el incumplimiento sistémico podría incluso llevar al bloqueo temporal del acceso regional a las plataformas infractoras. Sin embargo, las decisiones finales sobre las investigaciones de Meta y X aún están pendientes.
Conclusión
La aprobación de anuncios que incitan al odio por parte de Meta y X en vísperas de las elecciones federales alemanas subraya la urgente necesidad de una regulación más estricta y una moderación de contenido más efectiva en las plataformas de redes sociales. La difusión de discursos de odio, la desinformación electoral y la amplificación algorítmica de contenido extremista representan una grave amenaza para la integridad democrática y la cohesión social. La Comisión Europea debe actuar con decisión para hacer cumplir el DSA y garantizar que las empresas tecnológicas rindan cuentas por su papel en la propagación de contenido ilegal. De lo contrario, la confianza pública en las redes sociales y en el proceso democrático podría verse irreparablemente dañada, permitiendo que fuerzas extremistas socaven los valores fundamentales de la sociedad.