Un Informe Independiente sobre la forma de Medir la Moderación de Contenidos

Un Informe Independiente sobre la forma de Medir la Moderación de Contenido

Por Radha Iyengar Plomada, Jefe de Producto de la Política de Investigación

Tenemos la responsabilidad de mantener a la gente segura y prevenir el abuso en nuestra plataforma y estamos comprometidos a ser transparentes acerca de cómo hacer esto. Por eso hacemos nuestras Normas de la Comunidad disponibles para todo el mundo y por qué compartimos los cambios que realizamos a nuestras políticas de cada mes. Hoy, vamos a conocer la tercera edición de nuestro Informe sobre el Cumplimiento de las Normas de la Comunidad para mostrar cómo lo estamos haciendo en el cumplimiento de dichas políticas.

Este tipo de transparencia permite que la gente de hacernos responsables y nos ayuda a llegar muy necesaria retroalimentación. Pero la transparencia sólo es útil si la información que compartimos es útil y precisa. En el contexto del Informe sobre el Cumplimiento de las Normas de la Comunidad, que significa métricas basadas en una metodología sólida que reflejan con exactitud lo que está sucediendo en nuestra plataforma.

Para ello, hemos establecido la Transparencia de los Datos del Grupo Asesor de DTAG) el año pasado. Este es un órgano independiente, compuesta de expertos internacionales en la medición, la estadística, la criminología y la gobernanza. Su tarea era proporcionar un sistema independiente, de evaluación pública de si las métricas que compartir en las Normas de la Comunidad Informe sobre el Cumplimiento de proporcionar información precisa y significativa de las medidas de Facebook de la moderación de contenidos y de nuestro trabajo para tratar de ellos.

Transparencia de los Datos del Grupo de Asesoría de Resultados

En noviembre, el grupo anunció su mandato y la estructura y compartida de los primeros resultados después de una serie de comentarios con nuestros equipos. Hemos utilizado estas primeras conclusiones para mejorar la forma en que hemos definido nuestras métricas y para asegurarse de que la información que hemos publicado junto a los números en el informe se dio a los lectores un contexto útil acerca de nuestros procesos y prácticas.

Después de que la versión inicial, que dio el grupo asesor detallada y confidencial de la información acerca de nuestro cumplimiento de los procesos y metodologías de medición para que pudieran continuar con su análisis. Esto incluye más detalles sobre nuestros métodos de la muestra, la etiqueta y la medida de violaciones de nuestras políticas. Se revisaron estas prácticas y acaba de publicar los resultados de su revisión, que responde a tres preguntas principales:

1. Es Facebook la identificación precisa de los contenidos, el comportamiento y las cuentas que violen sus Normas de la Comunidad?
2. Son el público-lanzamiento de las métricas de los más informativos manera de clasificar y medir las violaciones y Facebook, la respuesta de ellos?
3. ¿Qué información adicional hace que el público necesita para comprender Facebook de los esfuerzos de aplicación con el fin de evaluar la legitimidad de esas políticas?

Es Facebook con Precisión la aplicación de sus Reglas?

El grupo asesor de la primera pregunta, mira a ver si nuestro enfoque a la moderación de contenidos es adecuada. Llegaron a la conclusión de que nuestro proceso — que incluye una combinación de sistemas automatizados y de revisión humana — es apropiado dada la escala a la que operamos y la cantidad de contenido que los usuarios publican.

por otra parte, el grupo encontró la manera que tenemos de auditoría de la exactitud de nuestra revisión de contenido de sistema se ha diseñado así, si se ejecuta como se describe. En su informe, el grupo reconoce los desafíos técnicos que deben estar equilibrados en construir un sistema eficaz de detección y un sistema de aplicación a gran escala. En particular, la nota de nuestros actuales sistemas de incluir los mecanismos para que la gente se informe el contenido que nosotros y los sistemas para detectar lesivos en los contenidos, incluso si alguien no ha informado de ello. Se recomienda Facebook de aportar más transparencia a ambos procesos y construir otras maneras para que los usuarios proporcionar información para el proceso de desarrollo de políticas de sí mismo.

Son las Métricas correctas?

El grupo asesor evalúa las tres métricas que se incluyen en las dos primeras ediciones de las Normas de la Comunidad Enforcde origen Informe: prevalencia, tramite de contenido y proactiva de la tasa. Las métricas a ser razonable formas de medición de las violaciones y en línea con las mejores prácticas.

Estos hallazgos son el quid de la cuestión, el informe — específicamente sus hallazgos en torno a la prevalencia, los cuales usamos para entender la probabilidad de que la gente en Facebook pueden ver los contenidos en infracción. El grupo tomó nota de que nuestra prevalencia métricas son similares a la forma de aplicación de la ley a las autoridades de medir la delincuencia. Y se recomienda que se incluyen otras métricas que se asignan a las medidas de aplicación de la ley considera que para dar una imagen más completa de la prevalencia. La aplicación de la ley se ve en número de personas que fueron víctimas de la delincuencia, sino que también mira cuántas penal de eventos de aplicación de la ley llegó a ser consciente de, cuántos crímenes se hayan cometido sin la aplicación de la ley a sabiendas y de cómo muchas personas cometen delitos. El grupo recomienda que nos proporcionan métricas adicionales como estos, mientras se sigue observando que nuestras mediciones de corriente y una metodología de sonido.

a partir de las opiniones del grupo — así como el de Facebook de la propia revisión interna — hemos añadido nuevas métricas para nuestros Estándares de Contenido del Informe sobre el Cumplimiento, incluyendo la cantidad de contenido que la gente apeló después de que nos la quitó, la cantidad de contenido que hemos restaurado. También hemos esbozado una serie de cambios que se quieren implementar en futuros informes más información sobre el contenido que se realizará la acción. El grupo observa que estos cambios se añade un valioso transparencia.

¿Qué Más Hace que el Público Necesita Saber?

En su evaluación, el grupo consultivo señala el Informe sobre el Cumplimiento de las Normas de la Comunidad es un importante ejercicio de transparencia. Pero también destacan otras áreas en las que podría ser más abierto con el fin de construir más rendición de cuentas y capacidad de respuesta a las personas que utilizan nuestra plataforma. Esto incluye recomendaciones de formas para mejorar el aporte de la comunidad en nuestro modelo de gobernanza y sugerencias concretas sobre cómo ampliar la información proporcionada en el informe para dar a la gente más contexto.

Recomendaciones Finales

Después de contestar cada una de estas preguntas, DTAG establece 15 recomendaciones para Facebook, que en gran medida se caen en las siguientes categorías:

• medidas Adicionales podríamos prever que muestran nuestros esfuerzos para hacer cumplir nuestras políticas tales como la exactitud de nuestra aplicación y cómo a menudo la gente no está de acuerdo con nuestras decisiones
• dividir aún Más a los altibajos de las métricas que ya ofrecemos, tales como la prevalencia de ciertos tipos de violaciones, en particular, de las zonas del mundo, o la cantidad de contenido que hemos eliminado frente aplicar una pantalla de advertencia cuando la incluimos en nuestro contenido tramite métrica
• Maneras de hacer que sea más fácil para la gente que utiliza Facebook para mantenerse actualizado sobre los cambios que hagamos a nuestras políticas y a tener una mayor voz en lo que el contenido infringe nuestras políticas y lo que no,

ya Tenemos planes para implementar algunos de estos en los próximos informes. Para otros, estamos buscando la mejor manera de poner estas sugerencias en la práctica. Y para algunos, simplemente no creo que las recomendaciones son factibles dado lo revisamos el contenido en contra de nuestras políticas, pero estamos viendo cómo podemos abordar el subrayado de las áreas de mayor transparencia el grupo legítimamente plantea.

Hay una serie de sugerencias que el grupo ofreció fuera de que el informe que se van a incorporar a nuestras prácticas. Estos van desde sugerencias técnicas para la realización de análisis estadísticos para confirmar la validez de nuestras métricas para sugerencias de cómo podemos hacer que el informe sobre el cumplimiento más fácil de entender.

Estamos de acuerdo con la llama de una mayor transparencia de este grupo, así como los de otras organizaciones, defensores y expertos del mundo académico — y estamos comprometidos a compartir más información acerca de cómo hacer cumplir las Normas de nuestra Comunidad en el futuro.

damos las gracias a la Transparencia de los Datos del Grupo Consultivo para su tiempo, su revisión rigurosa de und sus sensatas recomendaciones que ayudarán a informar a nuestros esfuerzos al aplicar nuestras normas y de aportar más transparencia a este trabajo.