Deepfakes a expliqué l’IA qui fait de fausses vidéos trop convaincantes

Voir c'est croire. Du moins, c'était le cas avant de réaliser que les gens pouvaient lire des vidéos pour propulser des canulars et réécrire l'histoire. Bien que nous ayons trouvé des moyens de supprimer la plupart des images de canular, il existe un développement technologique qui s'accélère si rapidement que nous ne pourrons bientôt plus savoir comment dire ce qui est réel et ce qui est faux..

Deepfakes change tout ce que nous pensions possible en termes de vidéos trafiquées. Voici tout ce que vous devez savoir sur eux…

Quels sont Deepfakes?

Le terme deepfakes vient d'une combinaison des mots “l'apprentissage en profondeur” et “faux”. En effet, un logiciel d'intelligence artificielle formé à la synthèse d'images et de vidéos crée ces vidéos. Cette IA peut superposer le visage d'un sujet (la source) sur une vidéo d'un autre (la cible). Des formes plus avancées de la technologie peuvent synthétiser un tout nouveau modèle de personne en utilisant les gestes du visage et les images ou la vidéo du sujet qu’ils souhaitent imiter..

La technologie peut créer des modèles de visage basés sur des données visuelles limitées, telles qu'une image. Cependant, plus l'IA doit travailler avec des données, plus le résultat est réaliste..

C'est pourquoi les politiciens et les célébrités sont des cibles si faciles pour Deepfakes car il y a tellement de données visuelles disponibles en ligne que le logiciel peut utiliser. Les logiciels deepfake étant disponibles sur des plates-formes à source ouverte, les internautes peaufinent et développent en permanence le travail des autres..

Les origines de la technologie Deepfake AI

La technologie derrière Deepfakes a été développée pour une multitude de buts. Tout comme Photoshop, le logiciel a des utilisations professionnelles, de divertissement et amateur. Et tout comme Photoshop, bien que le créateur n'ait aucune intention malveillante dans la création du logiciel, cela n'a pas empêché les gens de l'utiliser à des fins malveillantes..

La technologie de permutation de visage était initialement utilisée principalement dans l'industrie du film. L'un des cas les plus célèbres est celui du film 2016 Rogue One: A Star Wars Story. Dans le film, les cinéastes ont utilisé la technologie de synthèse vidéo et d’échange de visage pour recréer le personnage Grand Moff Tarkin. Une version plus jeune de la princesse Leia a également été créée dans le film. Dans les deux cas, des modèles de visages des acteurs d'origine ont été superposés sur des acteurs suppléants.

Des applications comme Snapchat utilisent également la technologie de permutation de visage pour créer des filtres amusants pour les utilisateurs. Les développeurs derrière ces applications affinent en permanence la détection et le suivi des visages pour appliquer ces filtres plus efficacement..

Pendant ce temps, d'autres ont développé des outils de synthèse vidéo pour créer des hologrammes à des fins éducatives. Par exemple, un projet a développé un logiciel de synthèse vidéo et faciale permettant de présenter le témoignage de survivants de l'Holocauste sous forme d'hologrammes interactifs dans un musée..

Pourquoi Deepfakes rend les gens nerveux

Quand les gens se sont rendus compte que les escrocs et les personnes jouant des canulars utilisaient Photoshop pour créer de fausses images, nous devions devenir plus sceptiques quant à ce que nous considérions comme une preuve. Heureusement, il y avait beaucoup de façons de détecter si une image était fausse, même à l'œil nu.

De plus, créer une image soignée convaincante dans Photoshop nécessite une main-d’œuvre relativement lourde. Tout le monde ne peut pas associer deux images et les rendre réalistes.

Mais les deepfakes sont différents. L'apprentissage automatique vous simplifie la vie 4 Algorithmes d'apprentissage automatique qui façonnent votre vie 4 Algorithmes d'apprentissage automatique qui façonnent votre vie Vous ne le réalisez peut-être pas, mais l'apprentissage automatique est déjà tout autour de vous et peut exercer une influence surprenante sur votre vie. Ne me crois pas? Vous pourriez être surpris. , mais dans ce cas, cela rend l’écriture beaucoup plus facile. Premièrement, le logiciel est largement et librement disponible. FakeApp, par exemple, est un choix populaire pour créer des deepfakes. Vous n'avez pas besoin de compétences avancées pour appliquer un échange de visage, le logiciel le fera pour vous.

Puisque l'IA et l'apprentissage en profondeur aident à créer des deepfakes, la technologie s'améliore également et devient plus convaincante à un rythme alarmant. Il ne faudra pas longtemps avant que ces modifications ne soient visibles à l'œil nu.

Dans un monde semé de fausses nouvelles, convaincre les deepfakes pourrait s'avérer être une force chaotique contre ce que nous croyons être vrai.

La montée en puissance des deepfakes a également lieu à un moment où la synthèse vocale en IA progresse également rapidement. L'intelligence artificielle peut non seulement générer de fausses vidéos, mais également des modèles de voix pour les utilisateurs..

Cela signifie que vous n'auriez pas besoin d'un imitateur pour donner l'impression que le politicien fait une déclaration scandaleuse. Vous pouvez entraîner l'IA à imiter sa voix.

Les conséquences de Deepfakes

Les gens utilisent déjà deepfakes à des fins malveillantes. Les gens utilisaient souvent FakeApp pour créer de fausses vidéos d'actrices célèbres engagées dans du contenu pour adultes..

Gal Gadot, Daisy Ridley et Emma Watson ne sont que quelques-unes des actrices visées par de fausses vidéos pour adultes. Ces deepfakes échangent le visage de leurs actrices en vidéos de stars de cinéma adultes.

Plusieurs plates-formes et certains sites Web pour adultes ont interdit ce type de vidéos, mais chaque jour davantage de vidéos apparaissent. En fait, certains sites Web créent spécifiquement des vidéos pour adultes de célébrités deepfake à la demande de leurs utilisateurs..

Dans la plupart des pays, aucune loi ne traite encore de ce type de contenu, ce qui rend difficile le contrôle.

Alors que nous sommes encore loin de la dystopie régie par la désinformation et les fausses preuves vidéo que nous voyons dans des films comme The Running Man, nous sommes déjà bien au courant des effets des fausses nouvelles What is Fake News et comment cela se propage-t-il Rapidement? Qu'est-ce qu'une fausse nouvelle et comment se propage-t-elle si rapidement? Les fausses nouvelles tourmentent Internet et le pire, c'est que la plupart des gens ne peuvent pas le reconnaître quand ils le voient.. .

Deepfakes peut être un outil puissant pour répandre la désinformation. Personne n'a été accusé d'un crime ou simulé sa mort en utilisant deepfakes, mais que se passe-t-il quand il devient difficile de dire quelles vidéos sont vraiment réelles?

Les conséquences des deepfakes utilisés à des fins politiques sont doubles. Premièrement, cela facilite beaucoup la diffusion de fausses nouvelles. Les vidéos sont plus susceptibles que le texte ou les images de convaincre les gens que quelque chose de fictif s'est réellement passé.

Les gens croient déjà aux manchettes de faux sites Web sans aucune preuve de leur histoire. Soudain, de fausses histoires auront “preuve” montrer des politiciens avouant des actes répréhensibles ou faire des déclarations scandaleuses.

D’un autre côté, Deepfakes pourrait aussi enhardir les politiciens en évitant de rendre des comptes. Ils pourraient toujours facilement prétendre qu’un enregistrement audio ou vidéo est en réalité un faux pas..

Comment combattons-nous Deepfakes??

Alors que de nombreuses entreprises de technologie prennent leur temps pour maîtriser deepfakes, diverses personnes développent des outils pour lutter contre les fausses vidéos malveillantes. L'IA peut combattre les pirates informatiques et la cybercriminalité Comment l'intelligence artificielle combattra-t-elle les pirates informatiques modernes et la cybercriminalité? Comment l'intelligence artificielle combattra-t-elle les pirates informatiques modernes et la cybercriminalité? Avec une pénurie de talents et une épidémie de cybercriminalité, comment les entreprises peuvent-elles lutter contre les pirates informatiques? Avec intelligence artificielle! , mais il est également utile pour détecter la falsification d'IA dans les vidéos.

AI Foundation a créé un plugin de navigateur appelé Reality Defender pour aider à détecter le contenu deepfake en ligne. Un autre plug-in, SurfSafe, effectue également des contrôles similaires. Ces deux outils visent à aider les internautes à discerner les faits de la fiction.

Les sites Web de vérification des faits tels que Snopes ont également étendu leur compétence à la diffusion de vidéos trafiquées. Mais ils n'ont pas encore les outils pour détecter automatiquement les deepfakes.

Même le département américain de la Défense a investi dans un logiciel permettant de détecter les deepfakes. Après tout, que se passerait-il si une vidéo convaincante d'un leader mondial paraissait en ligne, déclarant la guerre ou un lancement de missile contre un autre pays? Les gouvernements ont besoin d'outils pour vérifier rapidement la légitimité d'une vidéo.

Conséquences inattendues de l'apprentissage automatique

Il ne fait aucun doute que la technologie d'intelligence artificielle et l'apprentissage profond en machine améliorent notre vie de nombreuses façons. Mais la technologie a aussi des conséquences inattendues.

Si les mauvaises données constituent un obstacle majeur aux algorithmes d’apprentissage automatique, l’élément humain joue également un rôle. Il est difficile de prédire comment certaines personnes pourraient utiliser certaines technologies à des fins malveillantes. Pour en savoir plus sur l’apprentissage automatique et les erreurs passées, consultez notre guide sur les algorithmes d’apprentissage automatique et expliquez-leur l’erreur. Que sont les algorithmes d’apprentissage automatique? Voici comment ils fonctionnent Que sont les algorithmes d'apprentissage machine? Voici comment ils fonctionnent Les algorithmes d'apprentissage automatique sont conçus pour vous simplifier la vie et améliorer les systèmes, mais ils peuvent avoir des conséquences néfastes. . Et même si vous avez du mal à identifier deepfakes en tant que tel, vous pouvez éviter les fausses nouvelles avec les applications de nouvelles intelligentes. 5 applications Smart News pour vous aider à éviter les fausses nouvelles avec plus de rapports dignes de confiance. 5 applications Smart News pour vous aider à éviter les fausses nouvelles avec plus de rapports dignes de confiance. Vous voulez vous échapper des fausses nouvelles? Vous pouvez utiliser ces applications intelligentes pour obtenir des nouvelles neutres et vérifiées par les faits. .