La protección de Facebook en Vivo desde el Abuso y la Inversión en Medios Manipulados de Investigación

La protección de Facebook en Vivo desde el Abuso y la Inversión en Medios Manipulados de Investigación

Por Guy Rosen, VICEPRESIDENTE de la Integridad de los

a raíz de los terribles ataques terroristas en Nueva Zelanda, hemos estado revisando lo más que podemos hacer para limitar nuestros servicios sean utilizados para causar daño o propagar el odio.  Como un resultado directo, a partir de hoy, las personas que han roto ciertas reglas en Facebook — incluyendo la nuestra Peligroso Organizaciones y Personas política — se limitará el uso de Facebook en Vivo.

lucha contra estas amenazas también requiere de la innovación técnica para mantenerse por delante de el tipo de confrontación manipulación de los medios vimos después de Christchurch cuando algunas personas modificado el vídeo para evitar la detección con el fin de volver a publicar después de que se había bajado. Esto se requiere de investigación conducido a través de la industria y la academia. Para ello, también estamos invirtiendo us $7,5 millones en nuevas asociaciones de investigación con académicos de tres universidades, diseñado para mejorar la imagen y la tecnología de análisis de vídeo.

Restricciones a Vivir

La inmensa mayoría de la gente utiliza Facebook en Vivo para propósitos positivos, como compartir un momento con amigos o sensibilización por una causa que les preocupan. Aún así, en Vivo puede ser objeto de abuso y queremos tomar medidas para limitar el abuso.

Antes de hoy, si alguien contenido publicado que violó las Normas de la Comunidad — en Vivo o en otro lugar — le sacó de su puesto. Si se mantiene la publicación de contenido que infrinja los hemos bloqueado desde el uso de Facebook durante un cierto período de tiempo, que también se quita su capacidad de transmitir en Vivo. Y, en algunos casos, se les prohibía nuestros servicios por completo, ya sea debido a la repetición de bajo nivel de violaciones, o, en casos raros, porque de una sola flagrante violación (por ejemplo, usando el terror de propaganda en una foto de perfil o compartir imágenes de la explotación infantil).

el día de Hoy nos están apretando las reglas que se aplican específicamente a Vivir. Ahora vamos a aplicar una ‘huelga’ de la política para Vivir en relación con una amplia gama de delitos. A partir de ahora, cualquier persona que viole nuestras más graves de las políticas será restringido el uso Directo para el conjunto de periodos de tiempo (por ejemplo, 30 días (a partir de su primer delito. Por ejemplo, alguien que comparte un enlace a una declaración de un grupo terrorista sin un contexto de ahora será inmediatamente bloqueado el uso Directo para un período de tiempo.

planeamos extender estas restricciones a otras áreas a lo largo de las próximas semanas, comenzando con la prevención de las mismas personas a partir de la creación de anuncios en Facebook.   

reconocemos la tensión entre las personas que prefieren el acceso sin trabas a nuestros servicios y las restricciones necesarias para mantener a la gente segura en Facebook. Nuestro objetivo es minimizar el riesgo de abuso en Vivo, mientras que permite a las personas utilizar Vivir de una manera positiva cada día.

Invertir en la Investigación de los Manipulados Medios de comunicación

Uno de los desafíos que hemos enfrentado en los días después de la Christchurch ataque fue un la proliferación de muchas variantes diferentes de vídeo del ataque. Las personas no siempre intencionalmente compartida de la versión editada del video, lo que hacía difícil para nuestros sistemas de detectar.

a Pesar de que hemos desplegado un número de técnicas para encontrar finalmente estas variantes, incluyendo video y audio, la tecnología de correspondencia, nos dimos cuenta de que esta es un área donde tenemos que invertir en la investigación.

por Eso estamos colaborando con La Universidad de Maryland, la Universidad de Cornell y La Universidad de California, Berkeley para la investigación de nuevas técnicas para:

• Detectar los manipulados medios de comunicación a través de imágenes, de vídeo y de audio, y
• Distinguir entre el inconsciente de los carteles y de los adversarios que intencionalmente manipular vídeos y fotografías.

Tratar con el surgimiento de los medios manipulados requiere una profunda investigación y la colaboración entre la industria y el mundo académico, necesitamos trabajar todos juntos para hacer frente a este reto. Estas asociaciones son sólo una pieza de nuestros esfuerzos para colaborar con los académicos y a nuestros colegas de toda la industria en los próximos meses, vamos a socio más para que todos podamos avanzar lo más rápidamente posible para innovar en la cara de esta amenaza.  

Este trabajo será fundamental para nuestros mayores esfuerzos en contra de los manipulados medios de comunicación, incluyendo deepfakes (videos intencionalmente manipulada para representar eventos que nunca se produjo). Esperamos que también nos ayudará de manera más eficaz la lucha organizada de los malos actores que tratan de burlar nuestros sistemas, como se ha visto después de la Christchurch ataque.

Estos son temas complejos y de nuestros adversarios continuar a cambiar de táctica. Sabemos que es sólo por permanecer atentos y trabajando con expertos de otras empresas, los gobiernos y la sociedad civil de todo el mundo que vamos a ser capaces de mantener a la gente segura. Esperamos continuar nuestro trabajo juntos.