La lucha contra el Odio y el Extremismo

La lucha contra el Odio y el Extremismo

Hoy en día, estamos compartiendo una serie de actualizaciones y cambios que mejorar en el combate a los terroristas, grupos extremistas violentos y el odio de las organizaciones en Facebook y Instagram. Estos cambios principalmente impacto de nuestra Peligrosa de los Individuos y de las Organizaciones políticas, que está diseñado para mantener a la gente segura y evitar que en el mundo real un daño de manifestar en nuestros servicios. Algunas de las actualizaciones que estamos compartiendo hoy en día se han implementado en los últimos meses, mientras que otros entraron en vigor el año pasado, pero no ha sido ampliamente discutido.

Algunos de estos cambios antes del trágico atentado terrorista en la ciudad de Christchurch, en Nueva Zelanda, pero ese ataque, y la respuesta global en la forma de Christchurch Llamada a la Acción, ha influido mucho en las actualizaciones recientes de nuestras políticas y de su aplicación. En primer lugar, el ataque demostrado el mal uso de la tecnología para la propagación de los radicales expresiones de odio, y destacó donde necesitábamos para mejorar la detección y aplicación de leyes contra los extremistas violentos contenido. En Mayo, se anunció restricciones sobre quién puede usar Facebook en Vivo y se reunió con los líderes mundiales en París para firmar el Gobierno de Nueva Zelanda, Christchurch Llamada a la Acción. También ha co-desarrollado nueve puntos para la industria de plan en colaboración con Microsoft, Twitter, Google y Amazon, que describe los pasos que estamos tomando para tratar el abuso de la tecnología para difundir contenidos terroristas.

la Mejora de la Detección y la Aplicación

hace Dos años, nos describe algunas de las técnicas automatizadas utilizamos para identificar y eliminar los contenidos terroristas. Nuestras técnicas de detección de incluir contenido coincidente, que nos permite identificar a los ejemplares de la conocida mala calidad del material y de aprendizaje de la máquina clasificadores que identificar y examinar una amplia gama de factores en un post y evaluar si es probable que violan nuestras políticas. A la fecha, se han identificado una amplia gama de grupos como organizaciones terroristas en base a su comportamiento, no de sus ideologías, y que no les permiten tener una presencia en nuestros servicios. Aunque nuestra intención siempre fue que el uso de estas técnicas a través de diferentes peligrosas organizaciones, que inicialmente se centró en el mundial de grupos terroristas como ISIS y al-Qaeda. Esto ha llevado a la eliminación de más de 26 millones de piezas de contenido relacionado con el mundial de grupos terroristas como ISIS y al-Qaeda en los últimos dos años, el 99% de los que hemos identificado de forma proactiva y se retira antes de que alguien lo denunció a nosotros.

desde entonces Hemos ampliado el uso de estas técnicas para una amplia gama de peligrosas organizaciones, incluyendo tanto a los grupos terroristas y el odio de las organizaciones. Hemos prohibido a más de 200 de la supremacía blanca organizaciones de nuestra plataforma, sobre la base de nuestras definiciones de las organizaciones terroristas y el odio de las organizaciones, y utilizamos una combinación de AI y a la experiencia humana de eliminar el contenido alabando o el apoyo a estas organizaciones. El proceso para ampliar el uso de estas técnicas se inició a mediados de 2018 y vamos a seguir para mejorar la tecnología y los procesos a lo largo del tiempo.

vamos a continuar iterando nuestras tácticas porque sabemos que los malos actores continuarán a cambio de la suya, pero creemos que estos son pasos importantes en la mejora de nuestra capacidad de detección. Por ejemplo, el video del ataque en Christchurch no le pedirá nuestra automático de detección de sistemas debido a que no contamos con suficiente contenido que representan en primera persona de material de archivo de eventos violentos para entrenar con eficacia nuestra máquina de aprendizaje de la tecnología. Por eso estamos trabajando con el gobierno y los oficiales de la ley en los estados unidos y el reino unido para obtener imágenes de la cámara a partir de sus armas de fuego los programas de capacitación, proporcionando una valiosa fuente de datos para formar a nuestros sistemas. Con esta iniciativa, pretendemos mejorar la detección de mundo real, en primera persona, de material de archivo de eventos violentos y evitar incorrectamente la detección de otros tipos de material de archivo, tales como ficción de contenidos de películas o juegos de video.

Actualización de Nuestra Política

Mientras que el terrorismo es un problema global, no hay actualmente reconocida a nivel mundial y una definición aceptada de organizaciones terroristas. Para ello hemos desarrollado una definición para orientar nuestra toma de decisiones en la aplicación de leyes contra estas organizaciones. Siempre estamos mirando a ver donde podemos mejorar y perfeccionar nuestro enfoque y recientemente hemos actualizado cómo definimos a las organizaciones terroristas, en consulta con la lucha contra el terrorismo, derecho internacional humanitario, la libertad de expresión, los derechos humanos y la aplicación de la ley de los expertos. La definición actualizada todavía se centra en el comportamiento, no en la ideología, de los grupos. Pero mientras nuestra definición anterior se centró en los actos de violencia destinados a lograr un político o ideológico objetivo, nuestra nueva definición más delinea claramente que los intentos de violencia, especialmente cuando se dirige a la población civil con la intención de coaccionar e intimidar, también califican.

Dar a la Gente los Recursos para Dejar Atrás el Odio

Nuestros esfuerzos para combatir el terrorismo y el odio no terminan con nuestras políticas. En Marzo, empezamos a conectar a la gente que la búsqueda de términos asociados con la supremacía blanca en Facebook Buscar a los recursos enfocados en ayudar a la gente a salir de detrás de los grupos de odio. Cuando la gente busca en estos términos, en los estados unidos, se dirigen a la Vida Después de Odio, una organización fundada por el ex extremistas violentos que proporciona intervención de crisis, educación, grupos de apoyo y difusión. Y ahora, estamos ampliando esta iniciativa a más comunidades.

estamos ampliando esta iniciativa a Australia e Indonesia, y en asociación con el lanzamiento de un cohete lunar CVE medir el impacto de estos esfuerzos para combatir el odio y el extremismo. Ser capaz de medir nuestro impacto nos va a permitir perfeccionar las mejores prácticas e identificar las áreas en las que debemos mejorar. En Australia e Indonesia, cuando la gente la búsqueda de términos asociados con el odio y el extremismo, que será dirigido para SALIR de Australia y ruangobrol.id respectivamente. Estas son organizaciones locales enfocados en ayudar a las personas a dejar la dirección del extremismo violento y el terrorismo. Planeamos continuar la expansión de esta iniciativa y estamos socios de consultoría para desarrollar más este programa en Australia y explorar posibles colaboraciones en Nueva Zelanda. Y mediante el lanzamiento de un cohete lunar CVE enfoque basado en datos para interrumpir el extremismo violento, vamos a ser capaces de desarrollar y refinar cómo podemos hacer un seguimiento del progreso de estos esfuerzos en todo el mundo para conectar a la gente con información y servicios para ayudarles a dejar el odio y el extremismo detrás. Vamos a seguir buscando socios en países de todo el mundo donde expertos locales están trabajando para desenganchar vulnerables a las audiencias de odio organizaciones de base.

la Expansión de Nuestro Equipo

Todo este trabajo ha sido dirigido por un grupo multidisciplinar de seguridad y lucha contra el terrorismo expertos en el desarrollo de políticas, la construcción de las innovaciones de producto y revisión de los contenidos lingüísticos regionales y conocimientos para ayudarnos a definir, identificar y eliminar terroristas contenido de Facebook y Instagram. Previamente, el equipo se centra solamente en la lucha antiterrorista — la identificación de una amplia gama de organizaciones, incluyendo los supremacistas blancos, los separatistas y los Islamistas extremistas yihadistas como terroristas. Ahora, el equipo que dirige nuestros esfuerzos en contra de todas las personas y organizaciones que proclaman o están involucrados en la violencia que conducen a la del mundo real daño. Y el equipo ahora consta de más de 350 personas con conocimientos que van desde la aplicación de la ley y la seguridad nacional, la lucha contra el terrorismo de inteligencia y estudios académicos en la radicalización.

Esta nueva estructura fue informado por una serie de factores, pero nosotros, particularmente, fueron impulsados por el aumento de la supremacía blanca de la violencia y el hecho de que los terroristas cada vez más no puede ser claramente vinculados a determinadas organizaciones terroristas antes de que un ataque se produce, como se ha visto en Sri Lanka y Nueva Zelanda. Este equipo de expertos está ahora dedicado a tomar el progreso inicial hemos hecho en la lucha contra el contenido relacionado con ISIS, al-Qaeda y sus afiliados, y de la construcción a cabo técnicas para identificar y combatir la amplitud de la violencia y el extremismo cubiertos bajo nuestra Peligrosa de las Organizaciones políticas.

que mantiene su Compromiso con la Transparencia

Nos hemos comprometido a ser transparente con respecto a nuestros esfuerzos para combatir el odio, que es por eso que cuando compartimos la cuarta edición del Informe sobre el Cumplimiento de las Normas de la Comunidad en noviembre, nuestras mediciones sobre cómo lo estamos haciendo en el cumplimiento de nuestras políticas en contra de las organizaciones terroristas se incluyen nuestros esfuerzos en contra de todas las organizaciones terroristas para la primera vez. Hasta la fecha, los datos que nos ha proporcionado sobre nuestros esfuerzos para combatir el terrorismo se ha dirigido nuestros esfuerzos en contra de Al Qaeda, ISIS y sus afiliados. Estas métricas actualizadas mejor reflejan nuestra integral de los esfuerzos para combatir el terrorismo en todo el mundo.

sabemos que los malos actores seguirán tratando de falda nuestro detección con el más sofisticado de los esfuerzos y estamos comprometidos a avanzar en nuestro trabajo y compartir nuestro progreso.