in

Facebook annonce le gagnant de son défi de détection Deepfake

« Honnêtement, j’étais assez personnellement frustré par le temps et l’énergie que les chercheurs intelligents consacraient à de meilleurs deepfakes sans le type d’investissement correspondant dans les méthodologies de détection et à lutter contre leur mauvaise utilisation », a déclaré jeudi à la presse le directeur technique de Facebook, Mike Schroepfer. «Nous avons essayé de réfléchir à un moyen de catalyser, non seulement notre propre investissement, mais une focalisation plus large de l’industrie sur les outils et les technologies pour nous aider à détecter ces choses, de sorte que si elles sont utilisées de manière malveillante, nous avons mis à l’échelle des approches pour les combattre. « 

D’où le défi de détection Deepfake. Facebook a dépensé environ 10 millions de dollars pour le concours et a embauché plus de 3 500 acteurs pour générer des milliers de vidéos – 38,5 jours de données au total. C’était le genre de coup de téléphone amatuer que vous voyiez habituellement sur les réseaux sociaux plutôt que les vidéos en studio parfaitement éclairées créées par des influenceurs.

« Notre intérêt personnel dans ce domaine est le type de vidéos qui sont partagées sur des plateformes comme Facebook », a expliqué Schroepfer. « Donc, ces vidéos n’ont pas tendance à avoir un éclairage professionnel, ne sont pas dans un studio – elles sont à l’extérieur, elles sont dans les maisons des gens – nous avons donc essayé d’imiter cela autant que possible dans l’ensemble de données. »

L’entreprise a ensuite remis ces ensembles de données aux chercheurs. Le premier était un ensemble accessible au public, le second un ensemble de «boîtes noires» de plus de 10 000 vidéos avec des astuces techniques supplémentaires intégrées, telles que des fréquences d’images et des qualités vidéo ajustées, des superpositions d’images, des images indépendantes intercalées dans les images de la vidéo. Il comprenait même des contrefaçons bénignes et non profondes juste pour faire bonne mesure.

Sur les ensembles de données publiques, les concurrents ont en moyenne un peu plus de 82% de précision, mais pour le coffret noir, le modèle du participant gagnant, Selim Seferbekov, a en moyenne une précision de plus de 65%, malgré la multitude de trucs et pièges numériques qu’il a dû composer avec.

« Le concours a été plus un succès que je n’aurais pu l’espérer », a déclaré Schroepfer. «Nous avons eu 2 000 participants qui ont soumis 35 000 modèles. Les premières entrées étaient à 50% précises, ce qui est pire qu’inutile. Les premiers vrais étaient à 59% précis et les modèles gagnants à 82%. » Plus impressionnant encore, ces avancées se sont produites au cours des mois plutôt que des années, a poursuivi Schroepfer.

Mais ne vous attendez pas à ce que Facebook déploie ces différents modèles sur le backend de son site de sitôt. Bien que la société ait l’intention de publier ces modèles sous une licence open source, permettant à tout ingénieur logiciel entreprenant d’accéder gratuitement au code, Facebook utilise déjà son propre détecteur de faux. Ce concours, a expliqué Schroepfer, est conçu pour établir une sorte de capacité de détection nominale au sein de l’industrie.

« Je pense que c’était un point très important pour nous faire passer de zéro à un pour obtenir des bases de base », a-t-il déclaré. « Et je pense que la technique générale pour stimuler l’industrie ensemble … Nous avons concentré notre attention sur ce problème, donc nous verrons au fur et à mesure, cette technique générale d’utilisation des concours pour amener les gens à se concentrer sur les problèmes. »

«Une leçon que j’ai apprise à la dure au cours des deux dernières années, c’est que je veux être préparé à l’avance et ne pas être pris au dépourvu, donc tout mon objectif est d’être mieux préparé au cas où [deepfakes do] devenir un gros problème », a poursuivi Schroepfer. «Ce n’est actuellement pas un gros problème, mais le fait de ne pas disposer d’outils pour détecter et appliquer automatiquement une forme particulière de contenu, limite vraiment notre capacité à bien le faire à grande échelle.»

Interview RMR: Plus qu’un masque et un moment viral

Dave Chappelle déchire Don Lemon dans Netflix Special sur George Floyd