¿Cómo Podemos Ayudar A Mantener A Los Grupos Privados De Seguridad?

¿Cómo Podemos Ayudar A Mantener A Los Grupos Privados De Seguridad?

Por Tom Alison, VICEPRESIDENTE de Ingeniería

los grupos Privados pueden ser importantes lugares para que la gente reunirse y compartir en torno a una gama de temas personales, como los que se identifican como LGBT o discutir los desafíos en torno a una rara condición de salud.

Pero el estar en un grupo privado, no significa que sus acciones deben ir sin marcar. Tenemos la responsabilidad de mantener a Facebook, que es por qué las Normas de nuestra Comunidad se aplican a través de Facebook, incluyendo en grupos privados. Para el cumplimiento de estas políticas, se utiliza una combinación de personas y tecnología — el contenido de los revisores y de detección proactiva. En los últimos años, hemos invertido fuertemente en ambos, incluyendo la contratación de más de 30.000 personas a través de nuestra seguridad y equipos de seguridad.

Dentro de este, un equipo especializado que se ha estado trabajando en la seguridad en las Comunidades de la Iniciativa: un esfuerzo que empezó hace dos años con el objetivo de proteger a las personas usando Facebook Grupos de daño. Compuesto de gerentes de producto, ingenieros, máquina de aprendizaje de los expertos y revisores de contenido, este equipo trabaja para anticipar las posibles maneras en que la gente puede hacer daño en grupos y desarrolla soluciones para minimizar y prevenir. Como la cabeza de Facebook Grupos, quiero explicar cómo estamos haciendo a los grupos privados más seguro y se centra en tres áreas clave: detección proactiva, herramientas para los administradores, y de transparencia y control para los miembros.

Uso de la Detección Proactiva Para Moderar Grupos

Una de las principales formas en que podemos mantener a la gente segura es de forma proactiva en la identificación y la eliminación de puestos y grupos que romper nuestras reglas. Esta es una de las principales áreas de interés para la seguridad en las Comunidades de la Iniciativa, y se ejecuta a través de privado y público de los grupos.

cada vez más, podemos usar la IA y el aprendizaje de máquina para detectar de manera proactiva mala contenido antes de que alguien se lo informe, y a veces antes de que la gente lo vea. Como el contenido está marcado por nuestros sistemas o reportados por las personas, capacitó a los revisores de considerar el contexto y determinar si el contenido que infringe nuestras Normas de la Comunidad. Utilice estos ejemplos para entrenar nuestra tecnología para mejorar en la detección y eliminación de contenido similar. Como hemos utilizado la detección proactiva en público, cerrado y secreto de los grupos de antes, este proceso continuará aplicándose a todos los grupos públicos y privados bajo nuestra nueva simplificado de privacidad modelo.

Decidir si un grupo entero debe mantenerse o bajar, es necesario matizar. Si un individuo post rompe las Normas de nuestra Comunidad, que se viene abajo, pero con decenas, cientos, o incluso miles de diferentes miembros y de los puestos, ¿en qué momento debe el grupo entero se considerará inaceptable para Facebook?

Un gran factor que mirar es el tema en cuestión: ¿ el nombre o la descripción del grupo incluyen el discurso de odio o de otros contenidos que no podemos permitir? Otro factor importante es la acción de los administradores y moderadores, ya que establece el tono para el grupo. En abril, hemos actualizado nuestra política para mirar más de cerca a los admin y moderador de la conducta. Si los líderes de grupo a menudo romper nuestras reglas, o si ellos comúnmente aprobar los comentarios de otros miembros que incumplan nuestras normas, esas son claros los ataques contra el grupo en general. Y si un miembro del grupo en repetidas ocasiones que infringe nuestras normas, vamos a empezar a exigir a los administradores una revisión de sus puestos antes de que nadie más puede ver. Entonces, si una administración aprueba un post que rompe nuestras reglas, contará en contra de todo el grupo. Estos, combinados con un número de otros factores, nos ayudan a determinar si el grupo debe ser tomada. Si el grupo no cruzar esta línea, se van a mantenerse, pero vamos a seguir para eliminar los mensajes que van en contra de las Normas de nuestra Comunidad.

Herramientas para Administradores

Administradores conocen a sus comunidades mejor, y queremos darles el poder para ejecutar grupos significativos. Por eso hemos creado el Grupo de Calidad, que da a los administradores una visión general de los contenidos de la Carael libro ha retirado y se marcan para ellos, para la mayoría de las violaciones de las Normas de la Comunidad. También hemos añadido una sección acerca de la falsa noticia encontrada en el grupo. Estas herramientas brindan a los administradores de una mayor claridad acerca de cómo y cuándo aplicar nuestras políticas en sus grupos y les da una mayor visibilidad de lo que está sucediendo en sus comunidades. Esto también significa que son más responsables de lo que sucede en su reloj.

Nos ayuda a los administradores a establecer positivo de las normas del grupo mediante la adición de una sección de reglas, de modo que puede ser claro acerca de lo que está permitido y no permitido. Los administradores y moderadores también tienen la opción de compartir la regla que un miembro se rompió cuando la disminución de la pendiente un post, la eliminación de un comentario o silenciado de un miembro.

la Transparencia y el Control de los Miembros de la

también estamos comprometidos a dar a los miembros del grupo de más transparencia y control. Cuando alguien se une a un grupo, se debe saber qué tipo de comunidad que va a ser una parte de. Es por eso que antes de unirse a un grupo, podemos dejar que la gente vea los detalles pertinentes acerca de ella, al igual que los administradores y moderadores, y si el grupo ha pasado por otros nombres en el pasado. También se puede ver un grupo que fueron invitados y tiene la opción de aceptar o rechazar la invitación.

a Través de la seguridad en las Comunidades de la Iniciativa, vamos a seguir para asegurarse de que Facebook Grupos pueden ser lugares de apoyo y conexión, no el odio o el daño. Siempre hay más que hacer, y vamos a seguir mejorando nuestra tecnología, herramientas y políticas para ayudar a mantener a la gente segura.