El ejército secreto de Facebook

Con casi un tercio de la población global como usuario de Facebook, millones de posts, fotos y videos son creados todos los días. Desde videos de reuniones a memes del presidente, pareciera que uno puede subir a las redes sociales lo que uno quiere. Subir contenido a Facebook o Instagram es instantáneo, sin tener que esperar ningún tipo de revisión ¿no? Sin embargo, ¿Quién revisa lo que subimos a las redes sociales? ¿Quién revisa cuando hacemos click para reportar alguna foto?  En este articulo hablaremos sobre el ejercito secreto de Facebook, los miles de moderadores que revisan posts todos los días.

¿Qué son los moderadores de contenido?

Distribuidos alrededor de todo el mundo, más de 15,000 personas trabajan como moderadores de contenido todos los días. Estas personas no trabajan directamente para Facebook, Instagram o Twitter, sino que trabajan para empresas como Accenture, las cuales prestan sus servicios como contratistas. Los moderadores de contenidos trabajan en oficinas estilo call center. Desafortunadamente, trabajar como moderador de contenido es una ocupación en ocasiones traumática. En su día a día, los moderadores emiten entre 300 y 400 decisiones ante contenido reportado. Todos los días observan eventos traumáticos: videos y fotos de asesinatos, suicidios y más. Cada vez que haces click para reportar alguna foto o video, el contenido es insertado en una fila donde se distribuyen los posts alrededor del mundo hasta llegar a la computadora de un moderador, quien evaluará el contenido usando los términos de servicio.

En mi opinión, es apropiado llamarlos un ejército secreto, ya que su labor está controlada por acuerdos de no divulgación, lo que les prohíbe hablar sobre todo lo relacionado a su trabajo. Adicionalmente, es difícil comparar los beneficios que reciben con los beneficios recibidos por los que sí trabajan “de verdad” para Facebook: Un moderador de contenido gana $15,000 dólares al año, mientras que un empleado promedio en Facebook gana $240,000. Aunque es difícil comparar las ocupaciones de un desarrollador de software y un moderador de contenido, los moderadores han reportado una falta en recursos para lidiar con los problemas psicológicos causados por su trabajo. El mes pasado, una demanda obligó a Facebook a repartir 52 millones de dólares entre 11,000 moderadores de contenido, como pago por los daños psicológicos causados por el contenido con el que lidian todos los días.

¿Qué impacto sufren los moderadores?

Los moderadores han reportado que en ocasiones su trabajo ha afectado gravemente su salud. En múltiples entrevistas los empleados describen como la exposición ante contenido tan negativo ha causado ansiedad, depresión, pérdida de peso e incluso ataques de pánico. Similar al mercado del hardware, donde nuestros celulares y computadoras son creados gracias a miles de fábricas y minerías en todo el mundo (con condiciones deplorables en algunos casos), los moderadores de contenido, por ahora, parecen ser necesarios para que el resto del mundo pueda disfrutar de las redes sociales.

¿Por qué son necesarios los moderadores de contenido?

No es ningún secreto que varios de los actos terroristas más deplorables en la historia reciente han sido provocados por gente radicalizada mediante el internet. Como ejemplos, están la masacre de Christchurch o los asesinatos de Elliot Rodgers en California. Las redes sociales se han convertido en una de las mejores plataformas para esparcir teorías de conspiración, desinformación e incluso promover organizaciones terroristas. Aunque las compañías mencionadas anteriormente emplean cientos de modelos de inteligencia artificial para identificar contenido negativo, no es suficiente.

Para poner la cereza al pastel, la pandemia global ha mandado a miles de moderadores a casa. Lo cual deja a los algoritmos para determinar que contenido viola los términos de servicio. Esto es particularmente peligroso debido a la cantidad de desinformación que circula sobre la pandemia.

Ser moderador de contenido es una profesión con retos únicos. Desafortunadamente, mientras los humanos seamos mejores en discernir contenido negativo que los algoritmos, solo podemos esperar que el número de personas con esta profesión incremente.

Por: Mario Mendez

Mario Méndez es un apasionado estudiante de Ciencias de la computación en la Universidad de Manitoba en Canadá. Con vasta experiencia y victorias en competencias de robótica internacional, así como varios Hackathons, Mario vive y respira software. Adicionalmente, Mario cuenta con experiencia profesional en el desarrollo de software en múltiples compañías y como freelance.

Sigue a Mario en https://mariomendez.me

Abrir chat
Powered by