Cada vez son más los usuarios de Instagram y Facebook que denuncian la suspensión injustificada de sus cuentas, con acusaciones tan graves como la difusión de contenido relacionado con explotación infantil. Lo alarmante no es solo la naturaleza de estas acusaciones, sino la forma en que se aplican: mediante sistemas automáticos de inteligencia artificial (IA), sin transparencia ni posibilidad clara de defensa.
Desde abril de este año, miles de personas en todo el mundo han compartido en redes sociales y foros como Reddit sus experiencias con bloqueos repentinos e injustificados. El detonante suele ser un supuesto incumplimiento de las normas de contenido de Meta, pero sin explicaciones concretas ni evidencia clara. Algunas de estas cuentas han sido recuperadas solo después de que medios como la BBC intervinieran.
Historias de usuarios: del desconcierto a la angustia
Casos como el de Yassmine Boussihmed, una joven emprendedora en los Países Bajos, ilustran el alcance de esta problemática. Durante cinco años, Yassmine construyó una comunidad de más de 5.000 seguidores en Instagram para su tienda de vestidos en Eindhoven. Todo se vino abajo cuando Meta le suspendió la cuenta por «integridad de cuenta». Solo logró recuperarla cuando la BBC consultó su caso. Sin embargo, su cuenta personal fue nuevamente suspendida minutos después.
Otro ejemplo es el de Lucia (nombre ficticio), una joven de Texas que fue bloqueada durante más de dos semanas bajo la acusación de difundir contenido vinculado a abuso infantil. Nunca se le especificó cuál de sus publicaciones causó la suspensión, aunque sospecha que pudo haber sido una foto inocente con una amiga en bikini. Su caso preocupa especialmente porque planea una carrera en defensa juvenil como abogada. Para ella, ser etiquetada como alguien que vulnera a menores no es solo injusto, sino devastador.
Un sistema de apelaciones ineficiente y automatizado
Muchos afectados coinciden en una queja central: el sistema de apelaciones también está gobernado por la inteligencia artificial. Para contactar con una persona real, es necesario pagar por Meta Verified, y ni siquiera eso garantiza una solución. Mientras tanto, el ciclo de bloqueo, apelación automática y silencio corporativo se repite.
El caso de Ryan, un exprofesor británico, lo evidencia claramente. Fue acusado falsamente de infringir la política de explotación infantil, luego restaurado con una disculpa genérica, y poco después, bloqueado nuevamente. Esta alternancia ha generado en él un profundo sentimiento de aislamiento y miedo: «No sé si la policía va a aparecer en mi puerta», declaró.
Consecuencias más allá de lo digital
Detrás de cada cuenta suspendida hay una persona, y en algunos casos, una comunidad completa. Duncan Edmonstone, paciente con cáncer de pulmón en etapa avanzada, fue bloqueado de Facebook durante 12 días. Su mayor red de apoyo está en los grupos privados de esta red, donde comparte experiencias y recibe consejos vitales. En su caso, una suspensión temporal significó la pérdida de un espacio emocional y práctico fundamental.
Estos testimonios muestran que no se trata solo de un problema técnico, sino de consecuencias humanas tangibles. Desde la pérdida de ingresos por cuentas de negocios hasta la afectación del bienestar mental, la gestión automatizada de contenido puede convertirse en un arma de doble filo.
Las respuestas (o su ausencia) de Meta
Meta ha evitado hacer declaraciones públicas sobre estos casos, a pesar de que muchos fueron resueltos solo tras la intervención de la prensa. En julio, la empresa informó que había eliminado más de 635.000 cuentas por comentarios sexualizados sobre menores, como parte de su «acción agresiva» contra el abuso infantil en línea.
Desde diciembre pasado, su política sobre contenido relacionado con explotación infantil se ha actualizado tres veces, pero Meta no ha aclarado si estos cambios están vinculados con el aumento de suspensiones erróneas. Mientras tanto, la confianza de los usuarios se resiente.
El papel de la IA: ¿herramienta o verdugo?
La inteligencia artificial ha sido una aliada crucial para moderar millones de publicaciones en redes sociales. Pero como cualquier herramienta poderosa, requiere supervisión humana. Automatizar por completo procesos tan delicados como la detección de contenido sensible puede llevar a errores de juicio devastadores.
La IA no tiene contexto emocional ni comprensión de matices culturales. Una foto en bikini entre adultos puede ser interpretada erróneamente como contenido inapropiado si el algoritmo percibe «rasgos juveniles». Esa rigidez, combinada con un sistema de apelación igual de opaco, deja a los usuarios en una posición de indefensión.
Hacia una moderación más humana
El crecimiento de los errores en las suspensiones de cuentas plantea una pregunta urgente: ¿puede una empresa del tamaño de Meta seguir dependiendo exclusivamente de la IA para decisiones tan críticas?
Algunos expertos proponen un enfoque mixto: que la IA funcione como primer filtro, pero que toda apelación sea evaluada por moderadores humanos. Esto permitiría un trato más justo y personalizado, sobre todo en temas tan sensibles como el contenido relacionado con menores.
Meta tiene los recursos para implementar sistemas más robustos y transparentes. La confianza de sus usuarios, especialmente de aquellos que usan sus plataformas como medio de trabajo o comunidad, depende de ello.
