Una nueva Actualización de Nueva Zelanda Ataque Terrorista

Una nueva Actualización de Nueva Zelanda Ataque Terrorista

 Guy Rosen, VICEPRESIDENTE de la Integridad

seguimos a mantener a las personas, familias y comunidades afectadas por la tragedia en Nueva Zelanda en nuestros corazones. Desde el ataque, hemos estado trabajando directamente con la Policía de Nueva Zelandia para responder al ataque y de apoyo a la investigación. Además, la gente busca entender cómo las plataformas en línea como Facebook se usa para hacer circular el horrible videos del ataque terrorista, y queríamos proporcionar información adicional de nuestra revisión de cómo nuestros productos se utilizan y cómo podemos mejorar el futuro.

línea de tiempo

Como hemos publicado a principios de esta semana, hemos eliminado el atacanteís de vídeo en cuestión de minutos de la Policía de Nueva Zelanda’s de extensión para nosotros, y, en consecuencia, tenemos gente trabajando sobre el terreno con las autoridades. Vamos a seguir apoyando en todo lo que podamos. A la luz de la investigación activa, la policía nos pidió no compartir ciertos detalles. En la actualidad somos capaces de proporcionar la siguiente información:

• El vídeo fue visto por menos de 200 veces durante la transmisión en vivo.
• No hay usuarios informó el vídeo durante la transmisión en vivo.
• inclusión de las opiniones durante la transmisión en vivo, el video fue visto cerca de 4.000 veces en total antes de ser retirado de Facebook.
• Antes de que fueron alertados de la de vídeo, un usuario en 8chan, publicó un enlace a una copia del vídeo en un archivo de sitio para compartir.
• El primer informe de usuario en el video original se produjo en 29 minutos después de que el vídeo se inició, y 12 minutos después de la transmisión en vivo terminado.
• En las primeras 24 horas, hemos eliminado más de 1,2 millones de videos de el ataque de carga, que eran, por tanto, impedido de ser visto en nuestros servicios. Aproximadamente 300.000 copias adicionales fueron retirados después de que fueron publicados.

Seguridad en Facebook Live

reconocemos que la inmediatez de Facebook Live trae desafíos únicos, y en los últimos años se’ve enfocado en la capacitación de nuestro equipo de revisión para llegar a la mayoría de los videos más rápido. Hacemos uso de inteligencia artificial para detectar y priorizar los videos que son propensos a contener suicidio o actos dañinos, hemos mejorado el contexto que proporcionan los revisores para que puedan tomar sus decisiones y hemos construido sistemas que nos ayudan a ponerse en contacto rápidamente con los socorristas para obtener ayuda sobre el terreno. Seguimos centrándonos en las herramientas, la tecnología y las políticas para mantener a la gente segura en Vivo.

Inteligencia Artificial

Muchas personas han preguntado por qué la inteligencia artificial (AI) ni’t detectar el vídeo de la semana pasada’s ataque de forma automática. AI ha hecho enormes progresos a lo largo de los años y en muchas áreas, lo cual nos ha permitido detectar de manera proactiva la gran mayoría de los contenidos que quitar. Pero’s no es perfecto.

AI sistemas están basados en “los datos de entrenamiento”, que significa que usted necesita muchos miles de ejemplos de contenido con el fin de formar un sistema que puede detectar ciertos tipos de texto, imágenes o vídeo. Este enfoque ha funcionado muy bien para áreas tales como la desnudez, la propaganda terrorista y también la violencia gráfica, donde hay un gran número de ejemplos que podemos utilizar para entrenar a nuestros sistemas. Sin embargo, este video en particular no activar nuestro sistema automático de detección de los sistemas. Para lograr que vamos a necesitar para proporcionar a nuestros sistemas con grandes volúmenes de datos de este tipo específico de contenido, algo que es difícil, ya que estos eventos son afortunadamente poco frecuentes. Otro reto es automáticamente discernir el contenido de este visualmente similares, inocua de contenido – por ejemplo, si miles de videos de live-streaming de video juegos están marcados por nuestros sistemas, nuestros revisores podía faltar a la importante en el mundo real de los videos donde nos puede alertar a primera los socorristas para obtener ayuda sobre el suelo.

AI es un aspecto sumamente importante de nuestra lucha contra los terroristas de contenido en nuestras plataformas, y aunque su eficacia sigue mejorando, nunca va a ser perfecto. La gente va a seguir siendo parte de la ecuación, si se’s la gente en nuestro equipo que revisar el contenido, o de las personas que utilizan nuestros servicios y el contenido de los informes nos. Que’s por qué el año pasado hemos más que duplicado el número de personas que trabajan en seguridad y protección a más de 30.000 personas, incluyendo cerca de 15.000 contenido de los revisores, y por qué tenemos que animar a la gente a que informe el contenido que se encuentra molesto.

Informes

Durante toda la transmisión en vivo, no conseguimos un único informe de usuario. Esto es importante porque los informes que nos llegan, mientras que un vídeo está transmitiendo en vivo son una prioridad para acelerar la revisión. Hacemos esto porque cuando un video está todavía vivo, si no es en el mundo real daño que nos tienen una mejor oportunidad para alertar a los primeros en responder y tratar de obtener ayuda sobre el terreno.

el Último año, hemos ampliado esta aceleración de la lógica para cubrir también los videos que fueron muy recientemente, en vivo, en las últimas horas. Dado nuestro enfoque en la prevención del suicidio, a la fecha hemos aplicado esta aceleración cuando recientemente un video en vivo se informó por el suicidio.

En viernes’s caso, el primer informe de usuario entró en 29 minutos después de la emisión comenzó, 12 minutos después de la transmisión en vivo terminado. En este informe, y una serie de informes posteriores, el video fue reportado por otras razones de suicidio, y como tal fue manejado de acuerdo a los diferentes procedimientos. Como un aprendizaje a partir de esto, estamos re-examen de los informes de la lógica y experiencias tanto en directo y, recientemente, videos en vivo en el fin de ampliar las categorías en las que se podría llegar a una aceleración de la revisión.

la Circulación del Video

El vídeo en sí, se recibieron menos de 200 puntos de vista cuando estaba vivo, y fue visto cerca de 4.000 veces antes de ser retirado de Facebook. Durante este tiempo, uno o más usuarios capturado el vídeo y empezaron a circular. Al menos uno de estos era un usuario en 8chan, que publicó un enlace a una copia del vídeo en un archivo de sitio para compartir y creemos que a partir de ahí, comenzaron a circular de manera más amplia. Forense identificadores en muchos de los vídeos distribuido posteriormente, tales como marcadores de la barra de herramientas visible en una pantalla de grabación, coincide con el contenido publicado en 8chan.

Esto no es’t la primera vez violento, gráfico vídeos, ya sean en vivo en streaming o no, han ido viral en diversas plataformas online. Similares a los anteriores casos, creemos que la amplia circulación fue el resultado de un número de diferentes factores:

1. No ha sido la coordinación de los actores malos para distribuir copias del video a tantas personas como sea posible a través de las redes sociales, sitios para compartir video, sitios de intercambio de archivos y más.
2. con Múltiples canales, incluyendo canales de noticias de TV y sitios web en línea, difundir el vídeo. Reconocemos que hay es un equilibrio difícil de huelga en la cobertura de una tragedia como esta, mientras no proporcionar a los malos actores de amplificación adicional para su mensaje de odio.
3. Personas de todo el mundo, a continuación, volver a la copia compartida de que consiguió a través de diferentes aplicaciones y servicios, por ejemplo, la filmación de las emisiones en la TELEVISIÓN, captura de vídeos de sitios web, videos en pantallas de ordenador con sus teléfonos, o simplemente volver a compartir un clip que han recibido.

la Gente comparte este video para una variedad de razones. Algunos destinados a promover el asesino’s acciones, otros eran curiosas, y a los demás en realidad la intención de destacar y denunciar la violencia. La distribución fue impulsado por la amplia presentación de informes de la existencia de un video, que pueden haber llevado a la gente a buscar y, a continuación, compartirlo con sus amigos.

Bloqueo el Video

Inmediatamente después del ataque, hemos designado a esto como un ataque terrorista, lo que significa que cualquier alabanza, la asistencia o representación de la violación de nuestra Comunidad Stannormas y no está permitido en Facebook. Dada la gravedad del video, se prohíbe su distribución, incluso si es compartida para aumentar la conciencia, o sólo un segmento compartido como parte de un informe de noticias.

En las primeras 24 horas, hemos eliminado más de 1,2 millones de videos de el ataque de carga, que eran, por tanto, impedido de ser visto en nuestros servicios. Aproximadamente 300.000 copias adicionales fueron retirados después de que fueron publicados.

’he estado preguntado por qué nuestra imagen y video de la coincidencia de la tecnología, que ha sido tan eficaz en la prevención de la propagación de la propaganda de las organizaciones terroristas, no se adaptaban a las copias adicionales. Lo desafió a nuestro enfoque fue la proliferación de muchas variantes diferentes de la de vídeo, impulsado por la amplitud y diversidad de maneras en que la gente comparte:

en Primer lugar, vimos a un núcleo de la comunidad de malos actores que trabajan juntos para continuamente re-subir la versión editada de este video en formas diseñado para derrotar a nuestros detección.

en Segundo lugar, un conjunto más amplio de personas distribuido el vídeo y sin querer hizo más difícil para que coincida con las copias. Algunas personas han visto el vídeo en un ordenador o la TELEVISIÓN, filmada con un teléfono y se envía a un amigo. Otros han visto el vídeo en su ordenador, grabaron su pantalla y pasa que en. Sitios y páginas web, con ganas de llamar la atención de las personas que buscan el video, vuelva a cortar y volver a grabar el vídeo en varios formatos.

En total, hemos encontrado y bloqueado más de 800 visualmente distintas variantes de el video que estaban circulando. Esto es diferente de la oficial de la propaganda terrorista de las organizaciones como ISIS – que mientras distribuido a un núcleo duro conjunto de seguidores, no es retransmitidos por las principales organizaciones de medios de comunicación y no es re-ampliamente compartido por los individuos.

’re de aprendizaje para comprender mejor las técnicas que trabajan para casos como este, con muchas variantes de un vídeo original. Por ejemplo, como parte de nuestros esfuerzos se empleó correspondencia de audio de la tecnología para detectar los vídeos que había cambiado visualmente más allá de nuestros sistemas’ capacidad para reconocer de forma automática, pero que tenía la misma banda sonora.

Siguiente Pasos

Nuestras mayores prioridades ahora son para apoyar a la Policía de Nueva Zelandia en todo lo que podamos, y para continuar a entender cómo nuestros sistemas y otras plataformas en línea se utiliza como parte de estos eventos, de modo que podemos identificar las políticas más eficaces y medidas técnicas. Esto incluye:

• lo que es Más importante, la mejora de nuestra tecnología de comparación de lo que podemos detener la propagación de los vídeos virales de esta naturaleza, independientemente de cómo fueron producidos originalmente. Por ejemplo, como parte de nuestra respuesta, el pasado viernes, se aplicó experimental de audio basado en la tecnología de la que habíamos ido construyendo para identificar variantes de la de vídeo.
• Segundo, reaccionar más rápido a este tipo de contenido en un live streaming de vídeo. Esto incluye la exploración de si y cómo la IA puede ser utilizado para estos casos, y de cómo llegar a los informes de usuario más rápido. Algunos se han preguntado si hay que añadir un retardo de tiempo de Facebook en Vivo, similar a la difusión de la demora, a veces utilizado por las estaciones de TELEVISIÓN. Hay millones de transmisiones en Vivo a diario, lo que significa un retraso no ayudaría a resolver el problema debido a la gran cantidad de videos. Lo que es más importante, dada la importancia de los informes de usuario, añadir un retardo sólo aumentaría ralentizar vídeos llegar informó, revisado y socorristas de ser alertado a proporcionar ayuda sobre el terreno.
• Tercer lugar, continuar a luchar contra el discurso de odio de todo tipo en nuestra plataforma. Las Normas de nuestra Comunidad prohibir terroristas y grupos de odio de todo tipo. Esto incluye más de 200 de la supremacía blanca organizaciones de todo el mundo, cuyo contenido nos están quitando a través de la detección proactiva de la tecnología.
• Cuarta, ampliando nuestra colaboración en el sector a través de la Internet Global del Foro contra el Terrorismo (GIFCT). Estamos experimentando con la distribución de las direcciones Url de forma sistemática, en lugar de sólo el contenido de hashes, are trabajo para la dirección de la gama de los terroristas y extremistas violentos que operan en internet, y tiene la intención de perfeccionar y mejorar nuestra capacidad para colaborar en una crisis.

Lo que sucedió en Nueva Zelanda fue horrible. Nuestros corazones están con las víctimas, las familias y las comunidades afectadas por este horrible ataque.

’ll continuar proporcionando actualizaciones a medida que aprendemos más.