Los gigantes de las redes sociales meta y X aprobaron anuncios dirigidos a usuarios en Alemania con un violento discurso de odio anti-musulmán y anti-judío en el período previo a las elecciones federales del país, según una nueva investigación de EKO, un grupo de campaña sin fines de lucro de responsabilidad corporativa.
Los investigadores del grupo probaron si los sistemas de revisión de anuncios de las dos plataformas aprobarían o rechazarían las presentaciones para anuncios que contienen mensajes odiosos y violentos que se dirigen a las minorías antes de una elección donde la inmigración ha tomado el centro del escenario en el discurso político convencional, incluidos los anuncios que contienen insultos anti-musulmanes; pide que los inmigrantes sean encarcelados en campos de concentración o que sean gaseados; e imágenes generadas por IA de mezquitas y sinagogas que se queman.
La mayoría de los anuncios de prueba fueron aprobados a las pocas horas de ser enviado para su revisión a mediados de febrero. Las elecciones federales de Alemania tendrán lugar el domingo 23 de febrero.
Anuncios de discurso de odio programados
Eko dijo que X aprobó los 10 anuncios de discurso de odio que sus investigadores presentaron unos días antes de que se debieran las elecciones federales, mientras que Meta aprobó la mitad (cinco anuncios) por correr en Facebook (y potencialmente también Instagram), aunque rechazó a los otros cinco.
La razón por la que Meta preveía los cinco rechazos indicó que la plataforma creía que podría haber riesgos de sensibilidad política o social que podría influir en la votación.
Sin embargo, los cinco anuncios que meta aprobado incluyeron un discurso de odio violento que comparaba a los refugiados musulmanes con un “virus”, “alimañas” o “roedores”, marcando a los inmigrantes musulmanes como “violadores” y pidiendo que se esterilicen, quemen o gaseen . Meta también aprobó un anuncio que pidió que las sinagogas estuvieran incendiadas para “detener la agenda de ratas judías globalistas”.
Como nota al margen, Eko dice que ninguna de las imágenes generadas por IA que utilizó para ilustrar los anuncios del discurso de odio fue etiquetado como generado artificialmente, sin embargo, la mitad de los 10 anuncios todavía estaban aprobados por Meta, independientemente de que la compañía tuviera una política que requiere la divulgación de El uso de imágenes de IA para anuncios sobre temas sociales, elecciones o política.
X, mientras tanto, aprobó los cinco anuncios de odio, y otros cinco que contenían un discurso de odio igualmente violento dirigido a musulmanes y judíos.
Estos anuncios aprobados adicionales incluyeron mensajes de ataque a los inmigrantes “roedores” que la copia del anuncio afirmó que están “inundando” al país “robar nuestra democracia” y un insulto antisemita que sugirió que los judíos están mintiendo sobre el cambio climático para destruir la industria europea y acumular poder económico.
El último anuncio se combinó con imágenes generadas por IA que representan a un grupo de hombres sombríos sentados alrededor de una mesa rodeada de pilas de barras de oro, con una estrella de David en la pared sobre ellos, con las imágenes que también se inclinan fuertemente en tropos antisemíticos.
Otro AD X aprobado contenía un ataque directo contra el SPD, el partido centro-izquierda que actualmente lidera al gobierno de coalición de Alemania, con una afirmación falsa de que el partido quiere recoger 60 millones de refugiados musulmanes de Medio Oriente, antes de tratar de tratar de Prepare una respuesta violenta. X también programó debidamente un anuncio que sugiere que los “izquierdistas” quieren “fronteras abiertas”, y pidiendo el exterminio de los musulmanes “violadores”.
Elon Musk, el propietario de X, ha utilizado la plataforma de redes sociales donde tiene cerca de 220 millones de seguidores para intervenir personalmente en las elecciones alemanas. En un tweet en diciembre, pidió a los votantes alemanes que respalden al Partido Afd de la derecha para “salvar a Alemania”. También ha organizado una transmisión en vivo con la líder de la AFD, Alice Weidel, en X.
Los investigadores de EKO deshabilitaron todos los anuncios de prueba antes de que se hubieran aprobado que se ejecutaran para garantizar que no hay usuarios de la plataforma expuestos al discurso de odio violento.
Dice que las pruebas destacan fallas evidentes con el enfoque de las plataformas de anuncios para la moderación de contenido. De hecho, en el caso de X, no está claro si la plataforma está haciendo moderación de anuncios, dado que los 10 anuncios de discurso de odio violento se aprobaron rápidamente para exhibir.
Los resultados también sugieren que las plataformas de anuncios podrían obtener ingresos como resultado de distribuir un discurso de odio violento.
Ley de Servicios Digitales de la UE en el marco
Las pruebas de EKO sugieren que ninguna de las plataformas está aplicando adecuadamente las prohibiciones en el discurso de odio que ambos dicen aplicar al contenido de anuncios en sus propias políticas. Además, en el caso de Meta, EKO llegó a la misma conclusión después de realizar una prueba similar en 2023 antes de las nuevas reglas de gobierno en línea de la UE, lo que sugiere que el régimen no tiene ningún efecto sobre cómo funciona.
“Nuestros hallazgos sugieren que los sistemas de moderación de anuncios impulsados por la IA de Meta permanecen fundamentalmente rotos, a pesar de que la Ley de Servicios Digitales (DSA) ahora está en pleno efecto”, dijo un portavoz de EKO a TechCrunch.
“En lugar de fortalecer su proceso de revisión de anuncios o políticas de discurso de odio, Meta parece estar retrocediendo en todos los ámbitos”, agregaron, señalando el reciente anuncio de la compañía sobre la moderación y la verificación de hechos como un signo de “regresión activa” que Sugirieron que lo coloca en un curso de colisión directa con reglas de DSA sobre riesgos sistémicos.
EKO ha presentado sus últimos hallazgos a la Comisión Europea, que supervisa la aplicación de aspectos clave de la DSA en la pareja de gigantes de las redes sociales. También dijo que compartió los resultados con ambas compañías, pero ninguno respondió.
La UE tiene investigaciones abiertas de DSA en Meta y X, que incluyen preocupaciones sobre la seguridad electoral y el contenido ilegal, pero la Comisión aún no ha concluido estos procedimientos. Sin embargo, en abril dijo que sospecha que Meta de moderación inadecuada de anuncios políticos.
Una decisión preliminar sobre una parte de su investigación de DSA sobre X, que se anunció en julio, incluyó sospechas de que la plataforma no está a la altura de las reglas de transparencia publicitaria del reglamento. Sin embargo, la investigación completa, que comenzó en diciembre de 2023, también se refiere a los riesgos de contenido ilegal, y la UE aún no ha llegado a ningún hallazgo en la mayor parte de la investigación más de un año después.
Las infracciones confirmadas del DSA pueden atraer sanciones de hasta el 6% de la facturación anual global, mientras que el incumplimiento sistémico podría incluso conducir al acceso regional a las plataformas de violación que se bloquean temporalmente.
Pero, por ahora, la UE todavía se está tomando su tiempo para decidir en las sondas Meta y X, así que, en espera de decisiones finales, cualquier sanción de DSA permanece en el aire.
Mientras tanto, ahora es solo una cuestión de horas antes de que los votantes alemanes vayan a las urnas, y un creciente cuerpo de investigación de la sociedad civil sugiere que la regulación de gobernanza en línea insignia de la UE no ha podido proteger el proceso democrático de la economía de la UE de una variedad de alimentados con tecnología. amenazas.
A principios de esta semana, Global Witness publicó los resultados de las pruebas de los alimentos algorítmicos de X y Tiktok “For You” en Alemania, que sugieren que las plataformas están sesgadas a favor de promover el contenido de AFD versus el contenido de otros partidos políticos. Los investigadores de la sociedad civil también han acusado a X de bloquear el acceso a los datos para evitar que estudien los riesgos de seguridad electoral en el período previo a la encuesta alemana; se supone que el acceso a la DSA debe habilitar.
“La Comisión Europea ha tomado medidas importantes al abrir investigaciones de DSA en Meta y X, ahora necesitamos ver que la Comisión tome medidas sólidas para abordar las preocupaciones planteadas como parte de estas investigaciones”, también nos dijo el portavoz de EKO.
“Nuestros hallazgos, junto con la creciente evidencia de otros grupos de la sociedad civil, muestran que Big Tech no limpiará sus plataformas voluntariamente. Meta y X continúan permitiendo que el discurso de odio ilegal, la incitación a la violencia y la desinformación electoral se extienda a escala, a pesar de sus obligaciones legales bajo la DSA ”, agregó el portavoz. (Hemos retenido el nombre del portavoz para evitar el acoso).
“Los reguladores deben tomar medidas sólidas, tanto para hacer cumplir la DSA como, por ejemplo, implementar medidas de mitigación preelección. Esto podría incluir la desactivación de sistemas de recomendación basados en perfiles inmediatamente antes de las elecciones e implementar otras medidas apropiadas de “vidrieras” para evitar la amplificación algorítmica del contenido límite, como el contenido de odio en las elecciones de carrera “.
El grupo de campaña también advierte que la UE ahora enfrenta presión de la administración Trump para suavizar su enfoque para regular la gran tecnología. “En el clima político actual, existe un peligro real de que la Comisión no haga cumplir completamente estas nuevas leyes como una concesión a los Estados Unidos”, sugieren.
