¿Le traerá problemas? El algoritmo de Facebook discrimina por raza, edad y zona geográfica según una nueva investigación
El uso de algoritmos en plataformas digitales ha revolucionado la forma en que las empresas se comunican con sus audiencias. Sin embargo, un reciente estudio ha puesto de manifiesto un lado oscuro en el funcionamiento de estas herramientas, en particular en Facebook, que podría tener implicaciones muy serias para la sociedad. El análisis revela que la segmentación de anuncios en esta red social no solo discrimina por raza y género, sino que también podría estar facilitando comportamientos inaceptables y peligrosos.
El estudio que revela la discriminación en Facebook
El 25 de octubre, un estudio publicado en la revista de la Biblioteca Digital de la Association for Computer Machinery expuso cómo Facebook utiliza un software de reconocimiento de imágenes para categorizar contenido publicitario según raza, género y edad. Esta práctica tiene como objetivo mostrar a cada usuario anuncios que supuestamente les interesan, pero los resultados han demostrado ser alarmantes.
La investigación señala que el algoritmo no solo es discriminatorio, sino que también puede llevar a la promoción de la pedofilia, así como a un acceso desigual a anuncios de vivienda y empleo. Esto plantea serias cuestiones sobre la ética de las prácticas publicitarias de la plataforma.
Discriminación en los anuncios de Facebook
Los anuncios en Facebook son visibles según factores como edad, género, raza y ubicación geográfica. Por ejemplo, si un usuario es negro, es poco probable que le aparezcan anuncios que incluyan personas blancas, lo que se ha calificado como una clara forma de discriminación. Este tipo de segmentación crea burbujas de información que pueden reforzar estereotipos y prejuicios sociales.
Resultados de la investigación sobre anuncios
Los investigadores realizaron pruebas consistentes en la plataforma de Facebook, publicando anuncios que incluían imágenes generadas por inteligencia artificial y fotografías de archivo. Al comparar dos anuncios, uno con una mujer blanca y otro con una joven negra, los resultados fueron sorprendentes:
- La imagen de la mujer negra alcanzó un 80% de visualizaciones entre individuos de su raza.
- La fotografía de la joven blanca obtuvo un 50% de visualizaciones entre personas blancas.
Este sesgo también se reflejó en otros contextos, como en anuncios de empleo. Por ejemplo, un anuncio para un puesto de secretaria fue visto en un 80% por mujeres, excluyendo a los hombres de esta oportunidad laboral.
El impacto en la búsqueda de vivienda
La discriminación que se observa en los anuncios de Facebook también afecta a la industria inmobiliaria. Muchos anuncios de propiedades parecen estar dirigidos exclusivamente a personas blancas, lo que implica un acceso desigual a la vivienda. Esto ha llevado a preocupaciones sobre la violación de derechos y la negación de oportunidades basadas en el color de la piel.
En respuesta a estas prácticas, el Departamento de Vivienda y Desarrollo Urbano de Estados Unidos ha demandado a Meta, la empresa matriz de Facebook, por permitir anuncios que discriminan racialmente. La compañía ha prometido detener este tipo de segmentación.
Las repercusiones legales y éticas
Las consecuencias de permitir que estos algoritmos discriminen en la publicidad son múltiples. La legislación en EE. UU. prohíbe la discriminación en el acceso a servicios básicos como vivienda y empleo. En este contexto, la respuesta de Facebook se torna crítica:
“Cuando hablamos de publicidad para oportunidades como trabajos, créditos o vivienda, podemos ver que las estrategias que funcionan bien para la venta de productos pueden llevar a resultados problemáticos.”
El peligro de la incitación a la pedofilia
Quizás lo más perturbador del estudio es la revelación de que el algoritmo de Facebook muestra anuncios de adolescentes a hombres mayores de 55 años, lo que puede interpretarse como una incitación a la pedofilia. Este tipo de segmentación genera un entorno en el cual los hombres pueden ser más propensos a interactuar con contenido que involucra a jóvenes, planteando serios riesgos de acoso.
Los investigadores han subrayado que, aunque la publicidad digital puede ser efectiva al dirigirse a nichos específicos, las plataformas deben ser cautelosas. Las decisiones sobre segmentación deben tener en cuenta la posibilidad de que se promuevan comportamientos perjudiciales.
La respuesta de Facebook a las críticas
Ante la creciente preocupación por la discriminación y el uso irresponsable de su algoritmo, Facebook ha emitido un comunicado que destaca su intención de abordar estos problemas. La empresa ha afirmado que está trabajando en tecnologías diseñadas para prevenir la discriminación en su plataforma de anuncios:
“Hemos creado una tecnología diseñada para ayudar a abordar estos problemas. Hacemos esfuerzos significativos para prevenir la discriminación en nuestra plataforma de anuncios y continuamos con los esfuerzos necesarios para asegurar los derechos civiles.”
El futuro del algoritmo de publicidad
La segmentación de anuncios en Facebook basada en raza, edad, género y ubicación geográfica no solo podría ser perjudicial para los usuarios, sino que también puede afectar negativamente a los anunciantes. Con cada vez más consumidores conscientes de estas prácticas, las marcas podrían verse obligadas a reconsiderar su estrategia publicitaria para evitar asociarse con plataformas que permiten discriminaciones.
Además, si Facebook no aborda estos problemas pronto, puede enfrentar consecuencias que impacten significativamente su modelo de negocio y la percepción pública de la plataforma. La ética en la publicidad digital no es solo una opción, sino una necesidad urgente.
Para profundizar más en este tema, te invitamos a ver el siguiente video que discute las implicaciones de la discriminación en el algoritmo de Facebook:
En conclusión, el estudio resalta la necesidad de una revisión exhaustiva de cómo funcionan los algoritmos en plataformas digitales, así como la importancia de garantizar que la publicidad en línea no perpetúe la discriminación ni facilite comportamientos peligrosos. La responsabilidad recae tanto en las plataformas como en los anunciantes para asegurar un entorno publicitario seguro y equitativo.
Deja una respuesta
🔥 Articulos Destacados