Le tomó a ArcturusXXXIII dos clics para terminar en una página de Tumblr llena de pornografía infantil aparente. Dicen que simplemente obtuvieron un seguimiento, abrieron la página y vieron una nueva publicación de una imagen cuestionable. Cuando abrieron la página, venía de, vieron imágenes gráficas con cientos, incluso miles de me gusta.
Arcturus informó el contenido y obtuvo una respuesta automática. Luego intentaron contactar [correo electrónico protegido] , pero ese correo electrónico ya no estaba en uso. Esperaron cuatro días y no pasó nada; las imágenes aún estaban allí cuando lo comprobaron. Harto, Arcturus escribió un carta abierta sobre el "semillero de la pornografía infantil" en Tumblr, tuiteando al fundador de Tumblr, David Karp, al director ejecutivo Jeff D'Onofrio y a las empresas matrices Verizon y Oath. "Ignorar el problema, como lo ha hecho durante tantos años, claramente no estrabajando ”, escribieron.
Tres días después, la mierda golpeó al fan. Primero, Tumblr desapareció de la App Store , supuestamente por su problema de pornografía infantil. Luego vino el anuncio que sacudió Internet: Tumblr impondría una prohibición total a todo el contenido para adultos.
Ahora, el día del ajuste de cuentas ha llegado y se ha ido: el 17 de diciembre, el día en que Tumblr dijo que limpiaría el sitio para siempre, poniendo fin a lo que era, para muchos, el último espacio seguro para estar cachondo en línea . Innumerables personas detallado cómo el sitio proporcionó una plataforma única para trabajadoras sexuales , gente pervertida y personas LGBTQ para conectarse en todo lo que sea explícito. Casualmente, el cierre tuvo lugar en el Día Internacional para Poner Fin a la Violencia contra las Trabajadoras Sexuales. En el día del cierre, los usuarios organizaron un “ #logoffprotest , ”prometiendo boicotear Tumblr durante 24 horas para mostrar su disgusto por cómo la prohibición perjudica a los creadores de NSFW. Citaron un sistema de marcado ineficaz que considera que el contenido inocuo es explícito y, en gran medida, deja a los nazis solos .
Pero 14 usuarios de Tumblr desde hace mucho tiempo lo dicen MEL el sitio tenía problemas mucho mayores que “ pezones de presentación femenina “: contenido explotador, abusivo e ilegal, que pasaron años denunciando y marcando, en vano. El lado oscuro de Tumblr siempre estaba a dos o tres enlaces de distancia: un hervidero de contenido aparentemente ilegal, desde menores que publican desnudos hasta bestialidad manifiestay ha comentado a los niños en centros de fetiches. Los usuarios dicen que el sitio continuamente no respondía adecuadamente a los informes y que tenía mucho tiempo, y una advertencia anticipada, para corregir el problema antes de seleccionar la opción nuclear. Y al hacerlo, los usuarios dicen que Tumblrfalló a las comunidades que más lo necesitaban.
esto no es noticia, los usuarios han estado gritando a tumblr durante años para meterse en cosas como la pornografía infantil, los blogs de supremacistas blancos y pedófilos y los blogs se han negado por completo a hacerlo por un esfuerzo, ahora lo están quemando todo porque ellos ''todavía hay que investigar informes
- 🌈 @RaygunCourtesan 4 de diciembre de 2018
tumblr: "lo siento, no podemos desactivar estos blogs nazis y pornografía infantil específicos que nos ha llamado la atención varias veces, es demasiado complicado: //"
también tumblr: "vamos a eliminar cada tiddy en todo el sitio para esta fecha"
- un frasco de arañas en su auto @devinlucifer 3 de diciembre de 2018
'Le diría directamente a la gente que tenía 16 años'
La escritora de cómics Leah Williams escribe en a hilo de Twitter que ella "recuerda claramente haber intentado informar al personal de la forma en que los depredadores usaban Tumblr hace años", pero "Tumblr no haría nada al respecto". Hizo una página de Tumblr en 2014 recopilación de capturas de pantalla depredadoras, en su mayoría de un usuario que publicaba fotos de niños pequeños o adolescentes en su blog de pornografía BDSM, a menudo agregando comentarios sugerentes o sexualizados sin el consentimiento del póster original.
También en 2014, una usuaria de Tumblr llamada Em publicó desnudos en su blog. Ella tenía 16 años en ese momento, y lo dijo, pero no solo sus fotos permanecieron publicadas, sino que fueron publicadas como locas. “Le diría directamente a la genteTenía 16 años y a la gente literalmente no le importaba ", admite. MEL . "Nunca me metí en problemas, nunca cerraron mi blog".
Los blogs porno que sexualizan a niños y menores que publican desnudos son solo una muestra del contenido ilegal que los usuarios nos dicen que encontraron en Tumblr. Los usuarios también identificaron pornografía de venganza, bestialidad un problema que también plagó a YouTube y no se manejó adecuadamente hasta después de a BuzzFeed investigación en abril, bots y blogs de pornografía que se identifican a sí mismos como MAP personas atraídas por menores o pedófilos que dicen que no se comunicarán con menores pero que aún publican mensajes de texto que sexualizan a los niños.
algunos usuarios lo dicen MEL pudieron eliminar el contenido cuestionable, pero otros expresan sus frustraciones con el proceso de informes de Tumblr. El usuario de Tumblr a-real-monster, que dirigió un blog porno pervertido que desactivaron por su propia cuenta la semana pasada, dice que a menudo se encontraban con "envíos de usuarios cuestionables "a su blog y tendrían que informarlos" a diario, hasta que finalmente se detuviera ".
Un usuario anónimo de Tumblr, que pasó dos años en el sitio, dice que "se encontró con contenido ilegal de forma habitual", que involucraba predominantemente a los que identificó como menores que intentaban vender videos explícitos. A menudo intentaba denunciar el contenido, perodice que experimentó problemas logísticos en la aplicación móvil, como tener que iniciar sesión nuevamente y no poder generar una URL de la publicación un informe de prueba indica que esto ya no es un problema.
Cuando envió informes, dijo: "Tumblr rara vez respondería". Si alguien lo hiciera, "dirían que no vieron nada malo en ello ... En general, la experiencia fue una molestia y nada efectiva. ”
Lo siento, pero te garantizo que si hago clic en algunos de los desagradables blogs de pornografía que me siguen, podría encontrar fácilmente pornografía infantil en tumblr en menos de cinco minutos. Esto ha sido un problema durante los nueve años que llevo.he utilizado este sitio web y su función de informe inútil no ayuda. pic.twitter.com/LAv5g55FbW
- Hannah @hannahisdumb 3 de diciembre de 2018
'Tumblr claramente no sabía cómo lidiar con esto'
Otro usuario anónimo que dibuja arte explícito dice que bloqueó etiquetas como "menor de edad" y "pedófilo" y aún encontró "fanart pornográfico explícito de adolescentes menores de edad" en las recomendaciones de su feed.
El usuario de Tumblr fuckupdaddy, que tiene un blog porno con 3.000 seguidores centrado en BDSM, fantasías de incesto y juegos de la edad, dice que a medida que acumulaba seguidores, comenzó a notar que un número significativo de blogs de pedófilos lo seguían, en la medida en que publicó sobreeso.
"Tengo un gran problema de edad, pero me gustan esos juegos con adultos y consentimiento, no con niños", dice. Siempre informaba sobre este contenido, pero "seguía encontrándose con él", incluso viendo lo mismoimágenes repetidamente, probablemente porque cuando se elimina un blog, los reblogs de las imágenes de la cuenta eliminada permanecen activos. "Tumblr claramente no sabía cómo lidiar con esto. Si tuvieran un software decente con reconocimiento de imágenes, debería ser fácil de encontrary eliminar las mismas imágenes ".
Tumblr dice utiliza "una combinación de clasificación de aprendizaje automático y moderación humana de nuestro equipo de expertos capacitados" para responder a los informes. En noviembre declaración , la compañía dijo que trabaja con organizaciones como el Centro Nacional para Niños Desaparecidos y Explotados para "monitorear activamente el contenido subido a la plataforma" y que "cada imagen subida a Tumblr se escanea en una base de datos de la industria de material conocido de abuso sexual infantil, y las imágenes que se detectan nunca llegan a la plataforma ". Tumblr no respondió a MEL solicitud de comentarios.
'Preferirían tener anuncios al lado de los nazis que a los asnos'
“He informado de muchos menores que intentan ingresar a la comunidad sexual, pero nunca recibí confirmación de ningún tipo de que se hizo algo”, dice Melody Orenda, una trabajadora sexual de 22 años que dice haber vistodemasiado "contenido ilegal en Tumblr." Deberían tener un equipo de personas reales trabajando en esto, no un terrible algoritmo de lectura de fotos ". Ahora el sistema se ha vuelto loco, dice: todo el contenido de su blog está marcado como explícito, incluso fotos completamente vestidas.
como Leah Williams señalado en su hilo de Twitter, los principales sitios web a menudo no actúan en problemas como este hasta que sus ganancias se ven amenazadas. Ese puede haber sido el caso aquí: un ex ingeniero de Tumblr dicho Vox la prohibición de la pornografía ya había estado en proceso debido a las dificultades para vender anuncios junto a contenido explícito, pero la carta de pornografía infantil de Arcturus hizo que Verizon actuara antes.
Aún así, el problema de los informes no solo se extendió a la pornografía ilegal, dicen los usuarios. Varias personas me dicen que están frustradas con Tumblr por no moderar el contenido gráfico de autolesiones, así como el nazismo y la supremacía blanca, problemas que también impregnar Twitter. Actualmente, si busca "tetas" en Tumblr, no devuelve ninguna publicación. A partir del martes 18 de diciembre, al buscar "orgullo blanco", "Hitler tenía razón" y el término antiinmigrante de extrema derecha "defenderEuropa ”todavía arroja cientos de resultados.
"Parece que [Tumblr] ignora todos los problemas de su sitio y simplemente prohíbe la pornografía", dice Michelle, una trabajadora sexual en Tumblr. "Supongo que preferirían tener anuncios junto a los nazis que como imbéciles".
Cuando intento informar una publicación pro-Hitler en un dispositivo móvil, claramente viola las reglas de Tumblr contra el contenido de odio, es un desafío encontrar el botón de informe correcto. Luego, paso por nueve rondas de CAPTCHA basados en imágenes, solo para recibir uncorreo electrónico automático que dice: "No pida a sus amigos que informen del mismo problema".
El botón de informe de Tumblr está oculto detrás de un botón Compartir, por lo que para denunciar imágenes ilegales como pornografía infantil primero debe hacer clic en Compartir 🙃
¿Quizás la falta de informes adecuados se debió a que esperaba que los usuarios normales hicieran clic en 'Compartir' en pornografía infantil? pic.twitter.com/ERI1FLsbkC
- Josh Ling / Tactful @tactful 4 de diciembre de 2018
Por qué el problema de moderación de las redes sociales nunca termina
Kat Lo , un investigador de la Universidad de California, Irvine, que estudia la moderación del contenido, dice que esta tendencia a filtrar el contenido para adultos mientras parece más indulgente con el discurso de odio y los nazis es multifacética. "Hay un legado de estándares establecidos para la vigilancia del trabajo sexual, enla cima del estigma cultural y la marginación histórica de las trabajadoras sexuales ”, dice, y señala que los procesadores de pagos, los anunciantes y las tiendas de aplicaciones que trabajan con sitios de redes sociales tienden a ser más estrictos con el contenido para adultos.
Moderar esto es "menos riesgoso" y "mucho menos costoso" cuando hay una prohibición total del sexo, dice Lo. Pero, ¿por qué no el discurso de odio? Las empresas "tienen más precedencia y una mejor tecnología desarrollada para la pornografía", agrega, mientrasLas empresas que toman medidas enérgicas contra la supremacía blanca pueden terminar enredadas en una complicada libertad de expresión debate.
Prohibir la pornografía no es el primer intento de Tumblr de administrar el contenido explícito del sitio. En febrero de 2018, después de ser vendido a Yahoo, introdujeron un "Modo seguro" que filtraba el contenido NSFW. Este se convirtió en el predeterminado para todos los usuarios a menos que optaranfuera, y cualquier persona sin una cuenta estaba bloqueada en modo seguro permanente. Los creadores de contenido para adultos dijeron que estaba afectando negativamente su trabajo. Y hubo muchos problemas incluso entonces, aturdido informado : El modo seguro estaba "marcando contenido no explícito pero mostrando trabajos muy explícitos en los resultados de búsqueda".
La moderación de contenido en las grandes plataformas de redes sociales siempre ha sido complicada. Los moderadores humanos son más inteligentes, pero ver contenido perturbador todo el día puede llevar una inmenso costo psicológico . La inteligencia artificial reduce el costo humano, pero está lejos de ser perfecta. La IA que Tumblr usó para marcar el contenido para adultos fue generalizada satirizado para marcar contenido como una fotografía del Sr. Rogers mojándose los pies o dibujos con colores en tonos carne.
"Muchas consecuencias desastrosas de estos sistemas han surgido porque los moderadores de contenido no pueden interactuar con el contexto de las publicaciones sobre las que deben tomar decisiones", dice Lo. Por ejemplo, una foto de un niño no violaría las reglas. Esa misma fotode un niño en una página porno con un comentario sexualizado debería viola las reglas, pero solo si se considera el contexto.
Lo dice que en lugar de ver la moderación de contenido comercial como "mano de obra no calificada que se puede replicar de manera consistente a una escala masiva", debe verse como "trabajo altamente calificado". Ella cita a los moderadores de las grandes comunidades de Reddit como un ejemplo digno: Ellos "han podido crear herramientas que aprovechan lo que la computación puede manejar razonablemente bien ", lo que" libera tiempo y energía al moderador "para prestar un ojo humano a casos más desafiantes, sin ser bombardeado constantemente con imágenes perturbadoras.
ArcturusXXXIII dice que el tiempo para que Tumblr se intensifique y controle su plataforma pasó hace mucho tiempo. "Hay tanto contenido ilegal allí que realmente creo que eliminar todos los rastros de pornografía era su única opción viable".
Lo dice que sería posible una plataforma de redes sociales que permita una amplia gama de contenido para adultos mientras se filtra con éxito el contenido ilegal, "pero requeriría una gran cantidad de trabajo de moderación muy costoso y altamente calificado y una cantidad absurda de recursos iniciales invertidos encreación de políticas, infraestructura y herramientas para respaldar la moderación que pueden actuar rápidamente y con matices ”. Pero cuando los sitios web como Twitter todavía lo son confiando sobre la moderación no remunerada de periodistas y usuarios para averiguar qué eliminar, parece poco probable que una plataforma a gran escala esté dispuesta a pagar por esto.
Steve, que hace porno pervertido gratuito y centrado en el consentimiento en su conjunto de reglas de Tumblr, es aún menos optimista.
“Es descorazonador sentir que eres parte de un nudo gordiano que la gente no podrá resolver”, dice.
Cassidy Dawn Graves
Cassidy Dawn Graves es una escritora independiente, músico de comedia y productora de programas de variedades con sede en Brooklyn, que utiliza todo lo anterior para involucrarse con la sexualidad no convencional, Internet, creadores marginados y arte de todo tipo.
