Una Actualización sobre Cómo lo Estamos Haciendo En el Cumplimiento de Nuestras Normas de la Comunidad

Una Actualización sobre Cómo lo Estamos Haciendo En el Cumplimiento de Nuestras Normas de la Comunidad

Por Guy Rosen, VICEPRESIDENTE de la Integridad

Hoy en día, estamos publicando nuestro tercer Informe sobre el Cumplimiento de las Normas de la Comunidad, cubriendo el Q4 de 2018 y Q1 2019. Este informe añade un par de puntos de datos adicionales:

¿Qué hay de Nuevo en la Tercera Edición

• Datos sobre los recursos y contenido restaurado: Por primera vez, estamos incluyendo la cantidad de contenido que la gente apelada y la cantidad de contenido que fue restaurada después de que inicialmente se tomó la acción.
• Datos sobre los bienes regulados: En adición a las ocho de la política de áreas cubiertas en la segunda edición del informe (noviembre de 2018), ahora estamos detallando la forma en que estamos haciendo en la eliminación de los intentos en las ventas ilícitas de los bienes regulados — en concreto, un arma de fuego y la venta de drogas.

En total, ahora estamos incluyendo métricas a través de nueve políticas dentro de las Normas de nuestra Comunidad: los adultos de la desnudez y de la actividad sexual, la intimidación y el acoso, hijo de la desnudez y la explotación sexual de los niños, cuentas falsas, el discurso del odio, los bienes regulados, el spam, el global de la propaganda terrorista y la violencia y el contenido gráfico.

Cómo Hacer Sentido de los Números

Las métricas clave en nuestro informe, que en conjunto pista de cómo lo estamos haciendo en el cumplimiento de nuestras Normas de la Comunidad, son:

Prevalencia: La frecuencia con la que el contenido que infringe nuestras Normas de la Comunidad fue visto. más Nos importa cuán a menudo el contenido que viole nuestras políticas es visto por alguien. Mientras que contenido tramite describe cómo muchas de las cosas que se llevó, prevalencia describe cuánto no hemos identificado aún y la gente todavía puede ver. La medimos mediante la toma periódica de muestras de contenido visto en Facebook y luego de su revisión para ver qué porcentaje infringe nuestras normas.

Esta métrica está actualmente disponible para los adultos de la desnudez y de la actividad sexual, la violencia y el contenido gráfico, y para cuentas falsas:

• se estimó que por cada 10.000 veces la gente ve el contenido en Facebook, de 11 a 14 opiniones con contenidos que violan nuestros adultos desnudos y actividad sexual de la política.
• se estimó que por cada 10.000 veces la gente ve el contenido en Facebook, 25 opiniones con contenidos que violan nuestra violencia y el contenido gráfico de la política.
• Para cuentas falsas, se estima que el 5% de los activos mensuales de las cuentas son falsas.

En thien el informe, también estamos compartiendo una prevalencia de métricas para el terrorismo global y para los niños de la desnudez y la explotación sexual por primera vez. La prevalencia de ambas áreas es demasiado baja para medir el uso de nuestros mecanismos estándar, pero que son capaces de estimar que en la Q1 2019, por cada 10.000 veces la gente ve el contenido en Facebook, a menos de tres puntos de vista contenidos que violan cada política.

para continuar desarrollando la prevalencia de indicadores para las áreas de la política se incluyen en el informe. Usted puede aprender más acerca de cómo podemos medir la prevalencia de aquí.

Contenido Tramite: la cantidad de contenido que nos tomó acción debido a que violó las Normas de nuestra Comunidad. Nuestras acciones incluyen la eliminación de los contenidos, la aplicación de una pantalla de advertencia para el contenido, o la desactivación de cuentas. Este indicador refleja la cantidad de contenido que los usuarios publican que infringe nuestras políticas, y de lo bien que podemos identificar.

Para cuentas falsas, la cantidad de cuentas tomamos acción en aumento debido a los ataques automatizados por malos actores que intentan crear grandes volúmenes de cuentas de una sola vez. Nos movilidad 1.2 millones de cuentas en el Q4 de 2018 y 2.19 millones en el 1er trimestre de 2019. Vamos a seguir para encontrar más formas de contrarrestar los intentos de violar nuestras políticas y Alex Schultz explica más acerca de cómo debemos abordar cuentas falsas en un Duro blog de Preguntas también hemos compartido el día de hoy.

Proactiva de la Tasa: el tipo De contenido que tomó acción, cuánto fue detectado por nuestros sistemas antes de que alguien lo denunció a nosotros. Esta métrica normalmente refleja cuánto efectivo AI es en un determinado ámbito de la política.

En seis de las áreas de la política se incluyen en este informe, de forma proactiva detecta más del 95% de los contenidos que tomó acción antes de necesitar a alguien para que lo informe. Para el discurso del odio, ahora podemos detectar el 65% de los contenidos que quitar, desde el 24%, poco más de un año atrás, cuando por primera vez compartido nuestros esfuerzos. En el primer trimestre de 2019, nos llevó a un descenso de 4 millones de discurso de odio puestos y seguimos invirtiendo en tecnología para expandir nuestras habilidades para detectar este contenido a través de diferentes idiomas y regiones.

de las novedades de Este Informe: de Apelaciones y Corregir Nuestros Errores

Cuando tomamos acción sobre una pieza de contenido, se notificará a la persona que lo ha publicado y en la mayoría de los casos ofrecen la posibilidad para que nos diga si piensa que hemos cometido un error. En el tercer editien el informe, hemos iniciado la publicación de datos sobre la cantidad de contenido que la gente apelada y la cantidad de contenido que fue restaurada después de que inicialmente se tomó la acción.

Nuestra aplicación no es perfecta y tan pronto como se identifica un error, estamos trabajando para solucionarlo. Es por eso que estamos incluyendo la cantidad de contenido que fue restaurado después de que fue apelada, y la cantidad de contenido que hemos restaurado en nuestro propio — incluso si el contenido no era directamente apelada. Podemos restaurar el contenido sin una apelación para un par de razones, incluyendo:

• Cuando hemos cometido un error en la eliminación de varias publicaciones de un mismo contenido, se puede utilizar una sola persona de la apelación de nuestra decisión para restaurar todos los mensajes.
• a Veces podemos identificar un error en nuestra revisión y restaurar el contenido antes de que la persona que lo ha publicado apelaciones.
• En otras ocasiones, especialmente en los casos de spam cuando nos eliminan los mensajes que contienen enlaces identificamos como malicioso, podemos restaurar los puestos si nos enteramos de que el enlace no es perjudicial ya.

Hemos incluido esta información para el 1er trimestre de 2019 a través de cada área de política en el informe, excepto para las cuentas falsas:

La cantidad de contenido apelada en un trimestre no se pueden comparar directamente a la cantidad de contenido restaurado dentro de ese trimestre, ya que los contenidos restaurado en el Q1 de mayo de 2019 han sido objeto de recurso en el Q4 de 2018. Del mismo modo, la cantidad de contenido que se apeló en la Q1 2019 puede haber sido accionada en el Q4 de 2018.

Usted puede aprender más acerca de cómo el proceso de apelaciones trabaja aquí.

de las novedades de Este Informe: de Datos sobre los Bienes Regulados

Hemos de larga data de las políticas contra el tráfico ilícito de drogas y de armas de fuego de ventas. Durante años, hemos utilizado una serie de métodos para hacer cumplir nuestras políticas, tales como: la investigación de los perfiles, Páginas, Grupos, hashtags y las cuentas asociadas con la violación de contenido ya hemos eliminado; el bloqueo y filtrado de cientos de términos asociados con la venta de drogas; y el trabajo con expertos para mantenerse actualizado sobre las últimas tácticas de los actores malos utilizar para ocultar su actividad, tales como los nuevos nombres de las calles por las drogas.

En el verano de 2018, se comenzó a tratar el uso de la IA para identificar el contenido que viole nuestros bienes regulados políticas. Esta inversión nos ha permitido actuar en más de contenido y, en la mayoría de los casos, hacerlo antes de que la gente necesita para que informe a nosotros. En la Q1 2019, tomamos acción en unos 900.000 piezas de venta de drogas de contenido, de los cuales el 83.3% que hemos detectado de forma proactiva. En el mismo período, se tomó acción sobre 670,000 piezas de armas de fuego de la venta de contenido, de los cuales 69.9% se detectó de forma proactiva.

Por la captura de más de violar los puestos de forma proactiva, esta tecnología permite que nuestro equipo se centran en el manchado de las próximas tendencias de cómo los malos actores tratan de eludir la detección.

Nuestro Compromiso con la Transparencia

Durante el último año, hemos tomado una serie de pasos para ser más transparentes en la forma en que desarrollamos nuestras políticas y la forma de medir nuestros esfuerzos para hacerlas cumplir. Cuando se trata de nuestras políticas, comenzamos a compartir el acta de la reunión de nuestro bi-semanal de reunión donde podemos determinar cambios a nuestras políticas, y ahora ofrecen un registro de los cambios en las Normas de la Comunidad web, de manera que cada mes todo el mundo puede ver exactamente dónde hemos hecho cambios a nuestras políticas. Además, como parte de nuestros esfuerzos para facilitar la investigación académica, somos de la concesión de becas para el 19 de propuestas de investigación de todo el mundo para el estudio de nuestras políticas de contenido y cómo el contenido en línea influye en eventos sin conexión a internet.

revisión externa Independiente y de entrada es un componente integral de cómo podemos mejorar. En ese espíritu, hemos establecido la Transparencia de los Datos del Grupo Asesor de DTAG) — se compone de expertos internacionales en la medición, la estadística, la criminología y la gobernabilidad — proporcionar una independiente, de evaluación pública de si las métricas que compartir en el Informe sobre el Cumplimiento de las Normas de la Comunidad son significativas y precisa. Hemos proporcionado el grupo asesor detallada y confidencial de la información acerca de nuestro cumplimiento de los procesos y las metodologías de medición y esta semana han publicado su evaluación independiente. En su evaluación, el grupo consultivo tomó nota de que el Informe sobre el Cumplimiento de las Normas de la Comunidad es un importante ejercicio de transparencia y que se encuentra nuestro enfoque y metodología sólida y razonable. También destacó otras áreas en las que podría ser más abierto con el fin de construir más rendición de cuentas y capacidad de respuesta a las personas que utilizan nuestra plataforma. Estos importantes conocimientos servirán para informar de nuestro trabajo futuro.

vamos a seguir para lograr una mayor transparencia en nuestro trabajo y que incluya más información sobre nuestros esfuerzos para que la gente pueda ver nuestro progreso y hacernos responsables en donde tenemos que hacer más.

Usted puede leer el informe completo aquí, y encontrar la guía aquí.