Meta posee plataformas de redes sociales que incluyen Facebook e Instagram.
JRdes/Shutterstock
En 2024, Meta permitió más de 3300 anuncios pornográficos en plataformas de redes sociales, incluidas Facebook e Instagram, muchos de los cuales contenían contenido generado por IA.
Los hallazgos provienen de un Informe por Análisis forense de IAUna organización europea sin fines de lucro centrada en la investigación de algoritmos de plataformas tecnológicas. Los investigadores encontraron inconsistencias en las políticas de moderación de contenido de Meta al volver a cargar muchas imágenes claras como publicaciones estándar en Instagram y Facebook. A diferencia de los anuncios, esas publicaciones se eliminaron rápidamente por violar las metas. Normas comunitarias.
“Como mi investigación ya ha revelado un doble rasero en la moderación de contenidos, particularmente en las áreas de contenido sexual, este informe me decepciona y no me sorprende”, afirmó. carolina r en el Centro para Ciudadanos Digitales de la Universidad de Northumbria, Reino Unido.
El informe de AI Forensics se centró en una pequeña muestra de anuncios dirigidos a la Unión Europea. Encontró que los anuncios claros permitidos por Meta, con promociones de “productos falsos de mejora sexual” y “sitios web de citas” dirigidos principalmente a adultos de mediana edad y mayores, totalizaron más de 8,2 millones de impresiones.
Dicho permiso refleja un doble estándar generalizado en la regulación de contenidos, afirmó Arey. Las plataformas tecnológicas a menudo bloquean contenido “para mujeres, presentadores femeninos y usuarios LGBTQIA+”, dijo. Ese doble rasero se extiende a la salud sexual masculina y femenina. “Un ejemplo son los anuncios de ropa interior y período (fueron eliminados) de Meta, los anuncios de Viagra fueron aprobados”, dijo.
Además de encontrar imágenes generadas por IA en los anuncios, el equipo forense de IA también descubrió deepfakes de audio: en algunos anuncios de drogas para mejorar la sexualidad, por ejemplo, se superpusieron imágenes obscenas con la voz manipulada digitalmente del actor Vincent Cassel.
“Meta prohíbe la visualización de desnudez o actividad sexual en anuncios o publicaciones orgánicas en nuestras plataformas, y eliminamos cualquier contenido infractor compartido con nosotros”, dijo un portavoz de Meta. “Los malos actores están constantemente desarrollando sus estrategias para evitar la aplicación de la ley, razón por la cual continuamos invirtiendo en las mejores herramientas y tecnología para ayudar a identificar y eliminar contenido infractor”.
El informe coincide con el anuncio del CEO de Meta, Mark Zuckerberg, de que la compañía eliminará sus equipos de verificación de datos en favor de notas comunitarias colaborativas.
“Si queremos ser realmente distópicos -y dada la última decisión de Zuckerberg de eliminar a los verificadores de datos en esta etapa, creo que hay razones para serlo- también podríamos decir que Meta podría rápidamente despojar a los usuarios individuales y marginados de su agencia. anuncios cuestionables”, dijo Arey.
Elementos:
