Facebook combatirá los 'deepfakes' creando su propio modelo de manipulación audiovisual (y tiene sentido)

La amenaza incipiente de los deepfakes comienza a preocupar a las plataformas sociales. El aumento de estos vídeos manipulados de un realismo significativo va en aumento y sus efectos desinformadores pueden ser devastadores. Es por eso que Facebook, Microsoft y otras organizaciones se han unido con varias instituciones académicas de Estados Unidos para combatirlos.

Lo paradójico es que necesitan crear su propio modelo de generación de vídeos manipulados mediante inteligencia artificial. Aunque cueste creer.


Las herramientas de detección de ‘deepfakes’ necesitan ser entrenadas y no existen suficientes ejemplos para conseguirlo eficazmente

Mientras grandes bases de datos repletas de millones de imágenes han servido para entrenar a sistemas de inteligencia artificial a la hora de reconocer prácticamente cualquier elemento presente en una fotografía, la industria no dispone de un gran conjunto de datos de referencia sobre deepfakes con los que poder entrenar los sistemas y, por tanto, poder detectarlos y combatirlos.

Facebook invertirá 10 millones de dólares para luchar contra los ‘deepfakes’

Obama

Es por eso Facebook, Microsoft, The Partnership on AI y académicos de Cornell Tech, MIT, University of Oxford, UC Berkeley, University of Maryland, College Park y University at Albany-SUNY se han unido para construir el Deepfake Detection Challenge (DFDC).

«El objetivo del desafío es producir tecnología que todos puedan usar para detectar mejor cuándo se ha usado inteligencia artificial para alterar un vídeo para engañar al espectador. El Deepfake Detection Challenge incluirá un conjunto de datos y una tabla de clasificación, así como subvenciones y premios, para estimular a la industria a crear nuevas formas de detectar y evitar que los medios manipulados a través de la inteligencia artificial se utilicen para engañar a otros».

Dado lo importante que resulta la disponibilidad de datos gratuitos que puedan ser usados por la comunidad, la propia Facebook va a utilizar actores para generar deepfakes con las que contribuir al desafío planteado. Y avisan, por si se generan suspicacias, que no se utilizarán datos de usuarios de la red social en ningún momento.

Entre premios y la financiación de investigaciones, la compañía comandada por Mark Zuckerberg está dedicando más de 10 millones de dólares para sustentar este proyecto. DFDC servirá para que empresas, instituciones, administraciones y medios de comunicación puedan hacer uso de los datos y crear sus propias herramientas de detección.

También te recomendamos


Los creadores de ZAO, la app que te convierte en DiCaprio, piden disculpas y actualizan los términos de privacidad


Educación ya diseña 80 nuevas ofertas de FP sobre inteligencia artificial, ciberseguridad o diseño de videojuegos


Facebook desactiva el reconocimiento facial por defecto, en vez de escanear automáticamente las caras de los usuarios


La noticia

Facebook combatirá los ‘deepfakes’ creando su propio modelo de manipulación audiovisual (y tiene sentido)

fue publicada originalmente en

Genbeta

por
Toni Castillo

.

Powered by WPeMatico

Comenta activando la opción de publicar también en Facebook. Gracias

comentarios

Charlemos via Whatsapp
Compartir whatsapp