Face à la recrudescence des deepfakes (vidéos manipulées grâce à l’intelligence artificielle) et à l’approche des élections américaines, Microsoft a dévoilé de nouveaux outils dans le cadre de son programme de défense de la démocratie (Defending Democracy Program). Ils visent à lutter contre la désinformation en ligne et la manipulation d’images.
La première technologie baptisée Video Authenticator se présente comme un outil capable d’attribuer un score de confiance ou un pourcentage de chance qu’une photo ou une vidéo soient manipulées artificiellement. Microsoft indique que dans le cas d’une vidéo son outil est en mesure de fournir ce pourcentage en temps réel. «Il fonctionne en détectant la limite de fusion des éléments deepfake et subtils de décoloration ou de niveaux de gris qui pourraient ne pas être détectables par l’œil humain», ont expliqué Tom Burt, vice-président de la sécurité et de la confiance client, et Eric Hovitz, directeur scientifique, dans un billet de blog.
Pour développer cet outil, Microsoft s’est appuyé sur la base de données publiques Face Forensic++. Il a ensuite été testé sur l’ensemble des données du DeepFake Detection Challenge, considéré comme une référence pour le développement de ce type de technologies de détection.
Microsoft a également dévoilé un second outil. Celui-ci peut à la fois détecter les médias manipulés et certifier l’authenticité d’un contenu. Il se compose de deux éléments: le premier est intégré au service Microsoft Azure. Il permet à des producteurs de contenus de leur ajouter des certificats dans les métadonnées. Le second se présente sous la forme d’un lecteur pouvant être intégré dans une extension de navigateur qui vérifie ces certificats pour garantir aux internautes qu’un contenu est authentique.
Source : lessentiel.lu
