Los controles de Meta para detectar y retirar contenido manipulado con inteligencia artificial volvieron al centro de la discusión luego de que dos videos utilizados para desacreditar a mujeres fueran revisados por el Consejo de Supervisión de la compañía.

Los materiales, difundidos en plataformas como Facebook e Instagram, fueron retirados por Meta después de que el organismo determinara que incumplían las reglas de la empresa en materia de acoso, desinformación e incitación al odio.

Uno de los videos hacía parecer que una política británica había realizado declaraciones ofensivas sobre personas refugiadas. Sin embargo, no hay registros públicos de que hubiera hecho esos comentarios y el propio material presentaba indicios de haber sido alterado digitalmente.

El otro contenido tenía como objetivo ridiculizar a una activista musulmana dedicada a la educación en temas de salud, mediante imágenes manipuladas que la mostraban realizando actividades contrarias al mensaje que suele difundir.

Para el Consejo de Supervisión, ambos casos evidencian las dificultades que enfrentan las plataformas ante la circulación de contenidos creados o modificados mediante herramientas de inteligencia artificial.

El organismo señaló que las actuales medidas de Meta no son suficientes para atender este tipo de publicaciones y planteó reforzar los mecanismos para identificar contenido engañoso, aumentar las sanciones contra usuarios reincidentes y retirar aquellos deepfakes empleados para acosar.

Pamela San Martin, copresidenta del Consejo de Supervisión, también llamó la atención sobre el impacto que este tipo de contenido puede tener en mujeres que participan de manera pública en discusiones sobre temas sociales.

Meta deberá aplicar la decisión relacionada con los dos videos dentro de un plazo de siete días. Las recomendaciones adicionales del Consejo, en cambio, no son obligatorias para la compañía.

El debate se da mientras Meta modifica su estrategia para combatir la desinformación. La empresa comenzó a probar las llamadas notas de la comunidad en 16 países de Latinoamérica, un sistema mediante el cual los propios usuarios pueden aportar contexto a publicaciones que consideren engañosas.

El Consejo de Supervisión recomendó recientemente que ese mecanismo no sustituya por completo el programa profesional de verificación de datos que Meta mantiene con organizaciones externas.