Nuevos pasos para combatir la desinformación #desinformación

159 0
Microsoft anunció dos nuevas tecnologías para combatir la desinformación, nuevos trabajos para ayudar a educar al público sobre el problema, y asociaciones para ayudar a avanzar en estas tecnologías y esfuerzos educativos de manera rápida.
 
No hay duda de que la desinformación está generalizada. En una investigación apoyada por Microsoft, el profesor Jacob Shapiro en Princeton, actualizada en agosto de 2020, catalogó 96 campañas separadas de influencia extranjera dirigidas a 30 países, entre 2013 y 2019. Estas campañas, realizadas a través de redes sociales, buscaban difamar a personas notables, persuadir al público o polarizar debates. Mientras que el 26% de estas campañas fueron dirigidas a Estados Unidos, otros países que fueron objetivo incluyeron a Alemania, Arabia Saudita, Armenia, Australia, Brasil, Canadá, Francia, Holanda, Polonia, Reino Unido, Sudáfrica, Taiwán, Ucrania y Yemen. Alrededor del 93% de estas campañas incluyeron la creación de contenido original, 86% amplificaron contenido preexistente, y 74% distorsionaron hechos verificables de manera objetiva. Reportes recientes también muestran que la desinformación ha sido distribuida alrededor de la pandemia de COVID-19, lo que ha llevado a muertes y hospitalizaciones de personas que buscaban supuestas curas que en realidad son peligrosas.
 
Hoy se anuncia una parte importante del Programa Defending Democracy de Microsoft, que, además de combatir la desinformación, ayuda a proteger a los votantes a través de ElectionGuard, y ayuda a asegurar las campañas y a otros involucrados en el proceso democrático a través deAccountGuardMicrosoft 365 for Campaigns y Election Security Advisors. También es parte de un foco más amplio para proteger y promover el periodismo, como lo discutieron Brad Smith y Carol Ann Browne en su Top Ten Tech Policy Issues for the 2020s.
 
Nuevas tecnologías
La desinformación viene en muchas formas, y una sola tecnología no resolverá el desafío de ayudar a las personas a descifrar lo que es cierto y preciso. En Microsoft, se han trabajado en dos diferentes tecnologías para hacer frente a los diferentes aspectos del problema.
 
Un gran problema son los deepfakes, o medios sintéticos, que son fotos, videos o archivos de audio manipulados por inteligencia artificial (IA) en formas que son difíciles de detectar. Pueden aparecer para hacer que la gente diga cosas que no dijo o estar en lugares donde no estuvo, y el hecho de que están generadas por IA, que puede continuar aprendiendo, hace inevitable que puedan vencer a la tecnología convencional de detección. Sin embargo, a corto plazo, como las próximas elecciones en Estados Unidos, las tecnologías avanzadas de detección pueden ser una útil herramienta para ayudar a los usuarios más exigentes a identificar deepfakes.
 
Microsoft anunció Microsoft Video Authenticator, que puede analizar una foto fija o un video para brindar un porcentaje de probabilidad, o una calificación de confianza, de que el medio haya sido manipulado de manera artificial. En el caso de un video, puede brindar este porcentaje en tiempo real sobre cada cuadro a medida que se reproduce el video. Funciona a través de detectar el límite de fusión del deepfake y el sutil desvanecimiento o elementos de escala de grises que tal vez no puedan ser detectados por el ojo humano.
En un principio, esta tecnología fue desarrollada por Microsoft Research, en coordinación con el equipo de Responsible AI de Microsoft, y el Comité de IA, ética y efectos en ingeniería e investigación (AETHER, por sus siglas en inglés) de Microsoft, que es un consejo asesor en Microsoft que ayuda a asegurar que la nueva tecnología sea desarrollada e integrada de manera responsable. Video Authenticator fue creado a través de una base de datos pública de Face Forensic++ y fue probada en el DeepFake Detection Challenge Dataset, ambos modelos líderes para el entrenamiento y pruebas de tecnologías de detección de deepfake.
Se espera que los métodos para generar medios sintéticos continúen con el crecimiento en su sofisticación.
Ya que todos los métodos de detección de IA tienen una tasa de error, tenemos que entender y estar listos para responder a que los deepfakes se deslicen a través de los métodos de detección. Por lo tanto, a largo plazo, debemos buscar métodos más fuertes para mantener y certificar la autenticidad de nuevos artículos y otros medios. Hoy, existen algunas herramientas para ayudar a asegurar a los lectores que los medios que ven en línea vienen de una fuente confiable y que no han sido alterados.
 
Asimismo, también se anunció una nueva tecnología que puede detectar contenido manipulado y asegurar a la gente que los medios que ven son auténticos. Esta tecnología tiene dos componentes. El primero es una herramienta integrada en Microsoft Azure, que permite a un productor de contenido agregar hashes y certificados a una pieza de contenido, que luego viven en él como metadatos, donde sea que viajen en línea. El segundo es un lector, que puede existir como una extensión de navegador o en otras formas, que comprueba los certificados y relaciona los hashes, para permitir a la gente saber, con alto grado de precisión, que el contenido es auténtico y que no ha sido cambiado, así como brindar detalles sobre quién lo produjo.
Esta tecnología ha sido construida por Microsoft Research y Microsoft Azure, en asociación con el Programa Defending Democracy, y va a impulsar una iniciativa recién anunciada por la BBC, llamada Project Origin.
 
Por último, en meses recientes hemos expandido de manera considerable nuestra implementación de NewsGuard, que permite a las personas aprender más sobre una fuente de noticias en línea antes de consumir su contenido. NewsGuard opera a un equipo de experimentados periodistas que califican sitios web de noticias con base en nueve criterios de integridad periodística, que utilizan para crear tanto una “etiqueta nutricional” como una clasificación rojo/verde para cada sitio web de noticias evaluado. La gente puede acceder al servicio de NewsGuard al descargar una sencilla extensión de navegador, que está disponible para todos los navegadores estándar. Es gratis para usuarios del navegador Microsoft Edge. Algo que es importante aclarar, Microsoft no tiene control editorial sobre ninguna de las calificaciones de NewsGuard y la extensión no limita el acceso a la información de ninguna forma. En su lugar, NewsGuard busca brindar mayor transparencia e invitar a la alfabetización mediática al brindar un contexto importante sobre la fuente de noticias.

Related Post