¿Quién es responsable de tomar nota de los Nazis GIFs?

Más negro y fotografías en blanco sigue: las mujeres y los niños en espera de ejecución; un hombre arrodillado sobre una zanja llena de cuerpos, mientras que un soldado tiene en la mira a su cabeza con una pistola; una foto de los zapatos, pisoteada en el barro.

Juntos, forman una presentación de diapositivas GIF, ahora retirado por su acogida Giphy, que representa a una masacre de Judíos de ucrania por parte de las SS en 1941. Titulado y con la etiqueta “descendantsnet,” el GIF apareció como resultado de una búsqueda para el término “einsatzgruppen” — los escuadrones de la muerte de la Alemania Nazi en Facebook Messenger y Twitter directa del servicio de mensajería.

Este era solo un ejemplo, en una franja de la ofensiva de los GIFs que representa a todo, desde explícito el racismo Nazi y las imágenes gráficas de la violencia y la agresión sexual, que han estado disponibles en varias ocasiones por los usuarios para publicar en Facebook y Twitter.

Estas animaciones fueron accesibles en ambas plataformas, gracias a una cadena de suministro compleja donde no sólo es claro cómo los usuarios pueden reportar y matorrales contenido perturbador, pero también es claro quién es el responsable de la vigilancia de las bases de datos de origen en el primer lugar.

, Mientras que los “einsatzgruppen” GIF y muchos de los de su calaña han sido eliminados, los mecanismos que permiten a proliferar en primer lugar, permanecen sin cambios. Esta falta de rendición de cuentas cuando se trata de moderar los GIFs plantea otras, preguntas inquietantes acerca de cómo las plataformas de medios sociales de elegir a la comisión, de mercado, de policía y de contenido de terceros. Eso es especialmente cierto para el contenido que fácilmente se presta a la manipulación y la difusión por los trolls y los grupos de odio, cuya proliferación en línea ha aumentado en los últimos años en una gran crisis existencial para las plataformas de medios sociales en general.

Inventado en el año 1987 como un silencio, un bucle en miniatura-formato de vídeo, GIFs han convertido efectivamente en su propio lenguaje digital. Son infinitamente maleable, reacciones que se pueden implementar en prácticamente cualquier contexto, y que a menudo se transmiten los mensajes de manera más eficiente que el texto en sólo unos pocos fotogramas. Una vez extraño internet curiosidades, Gif se han convertido en una divertida refugio para muchos en medio de una cada vez más brutal y confuso ciclo de noticias. Para otros, son un útil vehículo de ataque. Puedes utilizar los GIFs de coquetear y de la red. Los estados-nación conversar en ellos. Cuando Ucrania sufrió un importante ciberataque el año pasado, su reacción fue tweet de GIF de la ���Esto está bien” perro, un meme descrito por su creador como “a medio camino entre un encogimiento de hombros y la completa negación de la realidad.”

La increíble popularidad de GIFs también ha hecho de ellos una potente propuesta comercial. En los últimos años, dos startups han llegado a dominar el GIF paisaje: Giphy, fundada en 2013, y el Tenor (originalmente llamado Riffsy) un año más tarde. Giphy y del Tenor exhaustiva de las bases de datos de suministro de Facebook, Twitter, iMessage, la Holgura, y más con cientos de miles de GIFs. Sus respectivos sitios web también permiten a cualquiera crear o cargar sus propios archivos Gif a estas bases de datos. En febrero, el Tenor anunció que busca GIFs en su propiedad teclado cubierto de 12 mil millones de dólares por mes, mientras que Giphy dice que tiene 300 millones de usuarios activos a diario.

Ambas empresas se basan en una mezcla de socios de la empresa, la indexación en buscadores, y de ordinario, a menudo anónimos a los usuarios subir GIFs, que a su vez se transfiere a las redes sociales como Facebook y Twitter y otros clientes. Invitando a toda internet, para crear nuevo contenido en su plataforma tiene sus riesgos. Cuando se trata de los GIFs, el más obvio y fácilmente combatida es violaciónes de derechos de autor. Por su parte, Giphy administrado a la cabeza de la mayoría de potencial Digital Millennium Copyright Act (DMCA) se refiere al entrar en acuerdos de licencia con los principales socios comerciales.

la otra, La más escalofriante peligro es que ambos sitios se vea vil y angustiante de contenido, ya sea accidental de indexado por la costumbre de los rastreadores web o deliberadamente subido, estos últimos han sido un problema para más prominente en plataformas de vídeo como YouTube. Para reducir la posibilidad de que la ofensiva de los GIFs de filtrado en sus sitios, ambos proveedores tienen reglas sobre la inadmisibilidad de la carga de odio o difamatorio, ilegal, pornográfico o de contenido violento, y que emplean una mezcla de humano y automatizado de la moderación de herramientas para hacerlas cumplir. Si una ofensiva GIF a partir de la base de datos está publicado en Facebook y Twitter, herramientas de generación de informes existen en ambas plataformas que permiten a los usuarios de la bandera publicado clips para la eliminación — a pesar de que no existe ningún mecanismo para que los usuarios en cualquier plataforma para informar de GIFs de que la superficie de terceros cuando los usuarios buscan.

Racistas y Antisemitas GIFs procedentes de Giphy continuar a la superficie. En noviembre de 2015, el Tiempos de Israel , informó sobre la existencia de una teoría de la conspiración del 9/11 GIF que aparecen en los resultados de “Israel” en Facebook del GIF de búsqueda. En Marzo de 2017, un Australiano sitio de noticias descubrió que cientos de videos más representa a Hitler y los Nazis imágenes estaban a disposición de los post de Facebook del GIF botón. (Facebook bloquea posteriormente GIFs con la palabra “Hitler”.) Luego, en julio de 2017, Forbes reportado varios casos en los que explícitamente anti-Semita clips se va a devolver en consultas de búsqueda en respuesta a que el término “Judío”, uno de los cuales fue “posteriormente se utilizan para acosar a un Judío periodista en Twitter.” A principios de este año, Instagram y Snapchat suspendido temporalmente GIF funcionalidad en sus plataformas después de un racista de animación fue descubierto en Instagram de la etiqueta Engomada de la biblioteca como un resultado de la búsqueda para el término “delito”.

Cualquier GIF suministrado ya sea Twitter o Facebook tiene que cumplir para cada plataforma en las normas de la comunidad, que, o bien prohibir o imponer un límite de edad en la gráfica de contenido violento o pornográfico y la prohibición de discurso de odio (incluyendo símbolos Nazis). Pero, para la mayor parte, los usuarios pueden reportar contenido después de haber sido publicado, no se si aparece en una búsqueda que se basa en una tercera parte. (Uno de abanderamiento opción existe para los usuarios de la versión de escritorio de Facebook, y aunque técnicamente puede intentar informe GIF resultados de la búsqueda de esta manera, la herramienta está pensada para informe roto las características del sitio.) En todas partes, los usuarios son capaces de confiar en las herramientas administrativas diseñado para el contenido publicado, o de la localización de la animación original del host y alerting moderadores para su existencia. Esto crea un cuello de botella que probable que desalienta a la mayoría de los usuarios casuales de presentación de informes.

Cuando se acercó a su GIF de bandera mecanismos, Twitter se negó a comentar. Un portavoz de Facebook, por su parte, respondió que el sitio ha tenido “varias conversaciones con nuestros socios, como cuando algo que no cumplen con nuestras normas de la comunidad se nos informa.” El portavoz también se repite un comunicado que la compañía había dado a Forbes en julio de 2017: “los GIFs que puede ser enviado por Mensajero, proporcionados por terceros. Si somos informados de que un proveedor de terceros se infringe nuestras políticas, podemos llegar a el proveedor para asegurarse de que abordar el problema mediante la eliminación de la violación de contenido.”

“Es que una respuesta satisfactoria? Creo que es probablemente una información veraz de la respuesta, en este caso, pero no se siente muy satisfactorio”, dice Sarah T. Roberts, un experto en la moderación de contenidos en la UCLA. “Es un arbitrario tipo de diferencia que la mayoría de los usuarios tienen problemas para entender. Pensar acerca de Mark Zuckerberg rendimiento frente al Congreso … [los senadores y representantes] ni siquiera algunas de estas distinciones.”

En teoría, el modelo actual de la policía GIFs debería funcionar. Después de todo, hay varias etapas en las que la idoneidad de un clip es juzgado: al cargar el escenario, donde el GIF está sujeto a una mezcla de humano y revisión automatizada; en contra de Facebook o Twitter las normas de la comunidad; y, en última instancia, por parte de los usuarios de estas plataformas, que debe ser capaz de alertar a la plataforma, y el proveedor, si la animación se rompe las reglas.

Pero esto supone que las normas que rigen lo que es y lo que no está permitido son las mismas entre terceros proveedores y de las plataformas sociales a las que sirven. De hecho, los estándares varían ampliamente, incluso entre Tenor y Giphy. Tenor, por ejemplo, prohíbe la carga de contenidos que “es violento o amenazante o promueva la violencia,” que está en línea con Facebook normas sobre el tema. Giphy, por su parte, hace una excepción para la violencia de ficción, que es la razón por la búsqueda de clips de Inglourious Basterds volverá varios violentos clips en el proveedor pero están bloqueados como una opción en el Messenger.

El anonimato de un GIF uploader también varía: en Giphy, cualquier visitante puede crear uno, aunque es necesario ser un usuario verificado para su clip aparecen como resultado de una búsqueda. En Tenor, los usuarios tienen que crear una cuenta antes de que se puede subir nada. Los términos de búsqueda son también objeto de la vigilancia. Una búsqueda de “Nazi” en Giphy, por ejemplo, no dará ningún resultado; tipo el mismo término en Tenor, mientras tanto, y una cornucopia de animación Hitler clips aparecerá. Hasta muy recientemente, también hubo una disparidad en ambos sitios mecanismos de presentación de informes. En Giphy, los usuarios son capaces de bandera angustiante contenido a través de cada uno de los GIF de la página de detalles. Este mecanismo Tenor del sitio web estuvo ausente hasta finales de Mayo.

Esta indirectos, multi-canalización de la moderación enfoque también se refiere a los visitantes de Facebook, en particular, a menudo son conscientes de que los GIFs fueron suministrados al sitio a través de terceros. En su informe sobre antisemitismo de los clips en 2015, un Tiempos de Israel título se describe como un “Facebook característica”, mientras que en Marzo de 2017, el Australiano B nai B rith Anti-Difamación de la Comisión llamó a Mark Zuckerberg a “personalmente ” intervenir” y quitar los clips que representa a Hitler y símbolos Nazis. A veces Facebook propios moderadores no parecen saber quién es el responsable de la censura GIF contenido. En julio de 2017, Forbes también informó sobre el caso de un usuario de nombre Liz Dobin, que fue repetidamente frustrados en sus intentos para informar de un anti-Semita GIF. En un momento, ella fue informado por un moderador que ella era “hacer una pregunta que no podemos apoyar desde aquí.”

Esta confusión acerca de quién es responsable de moderar los GIFs se deriva de la forma perfecta la función parece un promedio de Facebook o Twitter, dice Tarleton Gillespie, autor de Custodios de la Internet: Plataformas, la Moderación de Contenidos, y la Oculta las Decisiones Que dan Forma a los Medios Sociales.

“Si [quiere] lanzar un GIF animado en tu post, no quiero que se sienta como usted tiene que trasladar a la [proveedor], iniciar sesión, elegir algo en su motor de búsqueda, y el cambio”, dice Gillespie. “Cuanto más que usted puede minimizar esa serie de pasos, los más probable es que usted va a usar, y es más probable que se va a sentir intuitivo. Pero que borra el hecho de que [las plataformas de medios sociales y GIF bases de datos son en realidad los socios, haciendo esto juntos.”

apelaciones Directas en Facebook la Ayuda de la Comunidad a menudo, han caído en oídos sordos. Hace dos años, el usuario Ryan Morse publicado una pregunta preguntando cómo le podría reportar una caricatura retrato de la cara pintada de negro en respuesta a la búsqueda del término “demasiado”. Él sabía que los GIFs fueron suministrados a Facebook a través de terceros, pero no estaba seguro de cuál es el papel de la red social jugó en la moderación de ese contenido. “En última instancia, no era algo que he oído nunca”, dice Morse. “No en realidad no parece ser un proceso o … la rendición de cuentas por algo que va a través de su sistema.”

Varios otros usuarios publicado consultas similares en la Ayuda de la Comunidad sobre cómo denunciar la ofensiva de los GIFs en la búsqueda, incluyendo Thorlaug Ágústsdóttir, un politólogo de Islandia. Ágústsdóttir había descubierto que el primer resultado para el término “feminismo” era un bucle de una mujer pelirroja gritando en una cámara con la palabra “ACTIVA” en virtud de su cara. Incapaz de encontrar una manera de informar, ella y sus amigos trataron de juego del sistema. Su fracaso subrayó lo poco que se sabe acerca de cómo los GIFs son entregados a Facebook.

“pensé que eran generados por el usuario”, dice Ágústsdóttir. “Pero no parece de esa manera, ya que un grupo de 20 mujeres no era capaz de ceder lo que ocurrió en su GIF de selección después de la publicación de nuevos GIFs en la piscina.”

En la mayoría de los casos donde la apariencia de la ofensiva de los GIFs en los medios de comunicación social ha sido discutido públicamente, proveedores y plataformas han adoptado una postura reactiva: una animación es identificado, ambas compañías se acercó a los comentarios del público, y el proveedor responde por la eliminación de los GIF(s). Es un proceso que depende de la existencia de un ofendido de usuario, normalmente uno que sólo se tropezó con una ofensiva de animación después de usar un benignos término de búsqueda.

Una breve investigación revela que un montón de material es fácilmente accesible en Twitter y Facebook a un segundo tipo de usuario: aquel que deliberadamente busca material ofensivo post, y por lo tanto no tiene inclinación alguna a informar de su existencia. En varios casos, fue posible omitir prohibido términos de búsqueda por los insultos racistas, a menudo simplemente colocando espacios entre las letras de una palabra o frase. Muchos de los GIFs que resultó representado los estereotipos racistas, aunque otros simplemente retrata a la gente de color Negro o Asiático. Precisamente por esto es posible sigue siendo poco clara, ya que casi ninguno de ellos había sido etiquetado como tal en cualquiera de los Giphy o Tenor.

“El tipo de mecanismos que se emplean para burlar a los guardias que existen — por ejemplo, como usted describe, poniendo de espacios entre las letras de racista terminología — aquellos que son tan viejos como el social de la internet en sí misma”, dice Roberts. Lo que normalmente combate esta es una simple palabra de la lista de términos prohibidos. “Es la forma más fácil, menos complicado tecnológicamente de contenido automatizado de la barrera. Es también increíblemente fácil de derrotar.”

Una forma para que los trolls para eludir el contenido de las barreras para lograr esto es crear media atado a diferentes términos de búsqueda que a menudo son más general (o más oscuro) en el significado de la máscara de su significado y la intención. No hay evidencia para sugerir que ambos pueden haber tenido lugar en Giphy y Tenor. La búsqueda del término “violación” conjuró muchos violento e insípido imágenes en Facebook Messenger. (Ninguno apareció en Twitter.) Mientras tanto, el término de búsqueda “armenios” cedió un pase de diapositivas de las víctimas de 1992 de la Masacre de Jodyalí. “Schutzstaffel” producido montones de imágenes Nazi, mientras que los resultados de “genocidio” incluido archivados noticiero de material de archivo de un mitin Nazi, y una imagen de un campo salpicado de funerarias de cruces muestra el texto “Genocidio Blanco de sudáfrica.”

El GIF que representa la masacre de Babi Yar también encaja en esta categoría como la de la imagen, que ha sido infame divorciados de su contexto original. En Giphy, su origen está en la lista como una oscura historia familiar página web creada por Christine Usdin, un artista y aficionado a la genealogía que se acredita con la traducción de miles de letones de los registros del censo en inglés. El sitio — la mayoría de ellos dedicados a la historia de Višķi, un ex shtetl en Letonia — es una fuente para la liquidación de la página de la Wikipedia, lo que explica que la mayoría de los habitantes Judíos fueron asesinados por los Einsatzgruppen unidades o por la fuerza se trasladó a la cercana Daugavpils gueto. El GIF animado que representa la masacre de Babi Yar fue uno de los varios pretende “mostrar la berbería de los Nazis.” Usdin, ciertamente, no lo subas a Giphy: fue subido a la plataforma en octubre de 2016. Usdin murió en 2013.

Usdin de Babi Yar GIF se sometió a la misma revisión y proceso de distribución de un segundo clip de La Oficina, o el último juego de la NBA. En respuesta a la Punto‘s solicitud de comentarios Tenor, emitió una disculpa por hosting ofensiva de los GIFs en su plataforma y dijo que se trabaja duro para asegurarse de que las animaciones se suministra a sus socios que son consistentes con sus normas comunitarias y políticas.

“Tenemos una extensa humanos proceso de revisión antes de que el contenido puede ser publicado a Tenor, y tener el contenido de abanderamiento de opciones en nuestra aplicación y en nuestro sitio web”, además de examinar de manera proactiva contenido en su biblioteca, un portavoz dijo Punto. “[W]e he añadido también marcar las opciones para cada GIF en nuestro sitio web, para facilitarle aún más el contenido de los informes.” Tenor, agregó que todas las animaciones descubierto por Punto ahora había sido removidos o recategorized. El contenido de los clasificadores también se han introducido, y un bug que permite a los usuarios conducta inapropiada búsquedas escribiendo espacios entre las palabras, ya se ha solucionado.

Un portavoz de Giphy, por su parte, afirmó que el proveedor tiene una “política de tolerancia cero para cualquier contenido que viole las normas de la Comunidad,” y ya tiene “múltiples niveles de moderación de contenidos filtros para cada pieza de contenido que se distribuye a través de GIPHY,” incluyendo una mezcla de software, servicios de terceros, y en su casa de bandera mecanismo. “Tenemos líneas directas de comunicación con nuestros socios de integración para atender inmediatamente cualquier contenido de los problemas que encuentran que violan sus propias directrices de contenido.” El portavoz añadió que Giphy de forma proactiva remoderates contenido sobre una base regular, y mantiene una lista negra de los términos y contenido ofensivo, que se actualiza continuamente.

Aun así, estas salvaguardias hizo poco para evitar los clips de Nazi manifestaciones, la violación de los chistes, y material gráfico de los crímenes de guerra de que aparezcan en Facebook y Twitter. Estos GIFs fueron escondidos de la vista del Tenor y Giphy, en algunos casos durante años. Que a menudo es porque proactiva de políticas de moderación no son aplicadas con el ímpetu incluso cuando existan. En ausencia de esta, y de una forma más integrada y completa de bandera mecanismo para Giphy y el Tenor de los GIFs en Facebook y Twitter, los usuarios estarán confundidos acerca de — y por lo tanto discouraged de informes de contenido ofensivo. Y hay poco que sugiere que la gráfica de y angustiante contenido no va a continuar a ser indexados de forma accidental o subidos por los trolls y los grupos de odio en los años a venir.

Otras plataformas han adoptado la forma más drástica enfoque GIF moderación de Facebook y Twitter. Cuando un Instagram de usuario en el reino unido informó de que un racista de animación apareció en la plataforma de las Historias de la característica en Marzo, la plataforma suspendida GIF funcionalidad en su plataforma en cuestión de horas. En una declaración de TechCrunch, Giphy dijo que la animación “estaba disponible debido a un error en el contenido de nuestra moderación de los filtros que afectan específicamente a los GIF pegatinas”. GIFs fueron reintegrados en ambas plataformas más tarde ese mes, después de Giphy dijo que había restregado su etiqueta de la biblioteca no menos de cuatro veces.

El diseño de Facebook y Twitter les permite más opciones creativas de Instagram o Snapchat. “Una solución fácil — y la primera orden de negocios debe ser la fijación de las existentes mecanismo de presentación de informes, por lo [que es] funciones de una manera real”, dice Roberts. “Esa es la línea de base. Eso es una cosa fácil que puede hacer ahora mismo.”

Que supondría añadir un mecanismo para que los usuarios del informe una ofensiva resultado de la búsqueda en el GIF botón de búsqueda, los cuales les permitirían al instante informe de su existencia tanto de la plataforma y el proveedor. Esto, a su vez, requieren unificado de políticas acerca de lo que es permisible en el contenido, más líneas directas de comunicación entre los dos, y una más clara explicación pública de por tanto, como quién es el responsable de la moderación de los GIFs en los medios de comunicación social para el beneficio de los usuarios que aún confundido.

Mientras que un efectivo sistema de marcación dentro de Facebook y de Twitter GIF búsquedas pueden ser un inicio, también tendría que ser complementada con otras herramientas de moderación. “Las personas que jugar con ese sistema,” dice Gillespie, como los trolls que subir indignante contenido o los que se quejan de no violar el contenido sólo para ver qué pasa.

Facebook y Twitter también podría censurar GIFs a través de los términos de búsqueda más agresiva, pero esto también es problemático si el sujeto de la palabra denota es demasiado general. El nivel de automatización de las herramientas también son útiles en la detección contenido ofensivo antes de que pueda ser visto por la mayoría de los usuarios. Este fue recientemente acreditado por Facebook como la razón por la que fue capaz de tomar la acción de cumplimiento en 1,9 millones de al-Qaeda e ISIS puestos en su plataforma. Algoritmos, sin embargo, no son infalibles, y que requieren una amplia formación para asegurarse de que entienden correctamente el contexto de los medios de comunicación tienen la tarea de la policía. Todo lo que uno tiene que hacer es buscar en Google “racista GIFs” y haga clic en el primer Giphy resultado de la búsqueda — que ofrece a los GIFs que muestran a alguien diciendo es algo racista, junto con los GIFs que cuentan racista imágenes — para entender cómo limitado de detección automatizada de herramientas puede ser.

al final, ninguna de estas herramientas y acciones son iguales a la cuidadosa labor de los moderadores que se arrastre por el lodo de vil de contenido en línea a pesar de que a menudo viene con un gran coste personal. “No quiero sugerir que poner más gente en la vista, en la diana, de ese tipo de trabajo”, dice Roberts, “pero la restricción de mecanismos tecnológicos, que en muchos casos no son los adecuados, que es la solución.’”

GIFs son polisémicas: son capaces de transmitir muchos significados a la vez, en varios registros de énfasis. Herramientas automatizadas como PhotoDNA puede ayudar enormemente a la hora de frustrar la difusión de contenidos ilegales contenida dentro de ellos, pero la ofensiva de los sentimientos envueltos en benignos imágenes puede escapar de ellos.

Tirar más de ellos en el problema no es una solución que está feliz de recomendar, pero según Roberts,���s uno de los pocos disponibles para la vigilancia de un medio maduro del abuso. Un GIF de “razón de ser es el ser de este abstracta de la forma que transmite algún tipo de poderoso significado en la menor cantidad de tiempo,” ella explica. “Entonces, ¿qué son la gente que va a llegar? Bueno, tal vez sólo quiere alcanzar el nadir.”