Que sont les algorithmes d'apprentissage machine? Voici comment ils fonctionnent

L'intelligence artificielle et l'apprentissage automatique sont à l'origine de nombreux progrès constatés dans le secteur des technologies. Mais comment les machines ont-elles la capacité d'apprendre? De plus, comment notre façon de faire entraîne-t-elle des conséquences inattendues?

Voici notre explication rapide sur le fonctionnement des algorithmes d’apprentissage automatique, ainsi que quelques exemples d’apprentissage automatique qui a mal tourné..

Quels sont les algorithmes d'apprentissage machine?

L'apprentissage automatique est une branche de l'informatique qui vise à donner à l'intelligence artificielle la capacité d'apprendre des tâches. 5 Meilleures expériences d'intelligence artificielle Google pour explorer l'intelligence artificielle 5 Meilleures expériences d'intelligence artificielle pour Google pour explorer l'intelligence artificielle Google propose plusieurs expériences d'intelligence artificielle avec lesquelles vous pouvez jouer, à droite à présent. Grâce à l'apprentissage automatique, ils peuvent changer le monde de demain avec votre aide. . Cela inclut le développement de capacités sans que les programmeurs codent explicitement l'intelligence artificielle pour faire ces choses. Au lieu de cela, l'IA est capable d'utiliser des données pour se renseigner.

Les programmeurs y parviennent grâce à des algorithmes d'apprentissage automatique. Ces algorithmes sont les modèles sur lesquels est basé un comportement d'apprentissage de l'IA. Les algorithmes, associés aux jeux de données d'apprentissage, permettent à l'IA d'apprendre.

Un algorithme fournit généralement un modèle que l'IA peut utiliser pour résoudre un problème. Par exemple, apprendre à identifier des images de chats par rapport à des chiens. L'IA applique le modèle défini par l'algorithme à un jeu de données incluant des images de chats et de chiens. Au fil du temps, l'IA apprendra à identifier les chats chez les chiens plus facilement et avec précision, sans intervention humaine..

L'apprentissage automatique améliore les technologies telles que les moteurs de recherche, les appareils intelligents pour la maison, les services en ligne et les machines autonomes. C’est ainsi que Netflix sait quels films vous êtes le plus susceptible d’apprécier et que les services de diffusion de musique en streaming peuvent recommander des listes de lecture..

Mais si l’apprentissage automatique peut rendre notre vie beaucoup plus facile, il peut aussi avoir des conséquences inattendues..

7 fois où l'apprentissage machine a mal tourné

1. Résultat des recherches dans les images Google

Google Search a beaucoup facilité la navigation sur le Web. L'algorithme du moteur prend en compte une variété d'éléments, tels que les mots clés et le taux de rebond, lors de la création de résultats. Mais l'algorithme tire également des leçons du trafic des utilisateurs, ce qui peut poser des problèmes de qualité des résultats de recherche..

Nulle part cela n’est plus apparent que dans les résultats d’image. Etant donné que les images de pages très fréquentées sont plus susceptibles d’être affichées, les histoires qui attirent un nombre élevé d’utilisateurs, y compris les clickbait, sont souvent classées par ordre de priorité..

Par exemple, les résultats de recherche d’image pour “camps de squatters en Afrique du Sud” suscité la controverse quand il a été découvert qu’il présentait principalement des Sud-Africains blancs. Ceci malgré les statistiques montrant que la très grande majorité de ceux qui vivent dans des logements informels, tels que des cabanes, sont des Sud-Africains noirs..

Les facteurs utilisés dans l'algorithme de Google signifient également que les utilisateurs d'Internet peuvent manipuler les résultats. Par exemple, une campagne d'utilisateurs a influencé les résultats de Google Recherche d'images dans la mesure où la recherche du terme “idiot” montre des images du président américain Donald Trump.

2. Microsoft Bot transformé en un nazi

Faites confiance à Twitter pour corrompre un chatbot bien intentionné et en apprentissage automatique. C’est ce qui s’est passé dans la journée qui a suivi la publication du fameux chatbot Tay de Microsoft..

Tay a imité les habitudes linguistiques d'une adolescente et a appris grâce à ses interactions avec d'autres utilisateurs de Twitter. Cependant, elle est devenue l'une des erreurs les plus notoires d'IA lorsqu'elle a commencé à partager des déclarations nazies et des insultes raciales. Il se trouve que les trolls avaient utilisé la machine de l'IA pour apprendre contre elle, l'inondant d'interactions chargées de bigoterie.

Peu de temps après, Microsoft a mis Tay hors ligne pour de bon.

3. Problèmes de reconnaissance faciale chez l'IA

Reconnaissance faciale L'intelligence artificielle fait souvent la manchette pour toutes les mauvaises raisons, telles que des histoires sur la reconnaissance faciale et des problèmes de confidentialité. Mais cette IA a également suscité de vives inquiétudes en tentant de reconnaître les personnes de couleur.

En 2015, les utilisateurs ont découvert que Google Photos classait certaines personnes noires dans la catégorie des gorilles. En 2018, des recherches menées par l'ACLU ont montré que le logiciel d'identification de visage Rekognition d'Amazon avait identifié 28 membres du Congrès américain comme des suspects de la police, avec des faux positifs affectant de manière disproportionnée les personnes de couleur..

Le logiciel d'identification de visage d'Apple a également été acheté lors de l'achat d'un iPhone X? L'identité faciale pourrait vous inciter à reconsidérer l'achat d'un iPhone X? Face ID pourrait vous faire reconsidérer La fonctionnalité la plus remarquable de l'iPhone X est le système de déverrouillage du dispositif Face ID. Mais comment est-il sécurisé? Apple aura-t-il accès à une énorme base de données des visages de chacun? identifiant incorrectement deux femmes chinoises différentes comme la même personne. En conséquence, le collègue du propriétaire de l'iPhone X pourrait déverrouiller le téléphone.

De son côté, Joy Buolamwini, chercheuse au MIT, se souvient d'avoir souvent eu besoin de porter un masque blanc pour travailler sur la technologie de reconnaissance faciale afin que le logiciel la reconnaisse. Pour résoudre de tels problèmes, Buolamwini et d'autres professionnels de l'informatique attirent l'attention sur ce problème et sur la nécessité de disposer de jeux de données plus inclusifs pour la formation en IA..

4. Deepfakes utilisé pour les canulars

Alors que les gens utilisaient depuis longtemps Photoshop pour créer des images canular, l’apprentissage automatique leur donne une nouvelle dimension. Un logiciel comme FaceApp vous permet d’échanger des sujets d’une vidéo à l’autre..

Mais de nombreuses personnes exploitent le logiciel pour une variété d'utilisations malveillantes, notamment la superposition de visages de célébrités dans des vidéos pour adultes ou la génération de vidéos de canular. Pendant ce temps, les utilisateurs d’Internet ont contribué à améliorer la technologie et à rendre de plus en plus difficile la distinction entre les vidéos réelles et les vidéos fausses. En conséquence, cela rend ce type d'intelligence artificielle très puissant en termes de diffusion de fausses nouvelles et de canulars. Facebook offre des conseils pour vous aider à détecter les fausses informations Facebook offre des conseils pour vous aider à détecter des fausses informations Bien que Facebook ne produise pas de fausses informations, c'est au moins en partie responsable de sa diffusion. C'est pourquoi il propose désormais des astuces pour vous aider à détecter les fausses nouvelles avant qu'elles ne se propagent. .

Pour montrer la puissance de la technologie, le réalisateur Jordan Peele et le PDG de BuzzFeed, Jonah Peretti, ont créé une vidéo deepfake montrant ce qui semble être l'ancien président américain Barack Obama présentant un message d'intérêt public sur le pouvoir de deepfakes.

5. La montée des robots sur Twitter

Les robots Twitter ont été créés à l'origine pour automatiser des tâches telles que les réponses au service clientèle pour les marques. Mais la technologie est maintenant un sujet de préoccupation majeur. En fait, la recherche a estimé que jusqu'à 48 millions d'utilisateurs sur Twitter sont en fait des robots de l'IA.

Plutôt que de simplement utiliser des algorithmes pour suivre certains hashtags ou répondre aux requêtes des clients, de nombreux comptes de bot tentent d'imiter de vraies personnes. Ces «personnes» font ensuite la promotion des canulars et aident à faire en sorte que les fausses nouvelles deviennent virales..

Une vague de robots Twitter a même influencé l'opinion publique dans une certaine mesure sur le Brexit et l'élection présidentielle américaine de 2016. Twitter elle-même a admis avoir découvert environ 50 000 robots russes qui ont publié des articles sur les élections..

Les robots continuent à saccager le service, répandant la désinformation. Le problème est si grave qu'il affecte même la valorisation de l'entreprise.

6. Les employés disent qu'Amazon AI a décidé d'embaucher des hommes, c'est mieux

En octobre 2018, Reuters a annoncé qu'Amazon avait dû supprimer un outil de recrutement après que l'IA du logiciel eut décidé que les candidats masculins étaient préférentiels..

Les employés qui souhaitaient rester anonymes sont venus informer Reuters de leur travail sur le projet. Les développeurs souhaitaient que l'IA identifie les meilleurs candidats pour un emploi en fonction de leur CV. Cependant, les personnes impliquées dans le projet ont rapidement remarqué que l'IA pénalisait les candidates. Ils ont expliqué que l'IA avait utilisé des CV de la dernière décennie, provenant pour la plupart d'hommes, comme ensemble de données de formation..

En conséquence, l'IA a commencé à filtrer les CV en fonction du mot clé “femmes”. Leur mot-clé est apparu dans le CV sous des activités telles que “capitaine de club d'échecs féminin”. Alors que les développeurs modifiaient l'intelligence artificielle pour empêcher cette pénalisation des CV de femmes, Amazon finit par abandonner le projet..

7. Contenu inapproprié sur YouTube Kids

YouTube Kids propose de nombreuses vidéos stupides et fantaisistes destinées à divertir les enfants. Mais il y a aussi un problème de vidéos spammées qui manipulent l'algorithme de la plate-forme.

Ces vidéos sont basées sur des tags populaires. Comme les jeunes enfants ne sont pas des téléspectateurs perspicaces, les vidéos indésirables utilisant ces mots-clés attirent des millions de vues. AI génère automatiquement certaines de ces vidéos à l’aide d’éléments d’animation standard, basés sur des tags de tendance. Même lorsque les vidéos sont créées par des animateurs, leurs titres sont spécifiquement générés pour le bourrage de mots clés..

Ces mots clés aident à manipuler l'algorithme de YouTube afin qu'ils aboutissent à des recommandations. Une quantité importante de contenu inapproprié est apparue dans les flux des enfants utilisant l'application YouTube Kids. Cela inclut le contenu qui décrit la violence, les sauts et le contenu sexuel.

Pourquoi l'apprentissage machine va mal

Il y a deux raisons majeures à l'apprentissage automatique qui entraîne des conséquences inattendues: les données et les personnes. En termes de données, le mantra de “junk in, junk out” s'applique. Si les données qui alimentent une IA sont limitées, biaisées ou de mauvaise qualité; le résultat est une IA avec une portée ou un biais limité.

Mais même si les programmeurs obtiennent les données exactes, les gens peuvent tout mettre en œuvre. Les créateurs de logiciels ne réalisent souvent pas comment les gens peuvent utiliser la technologie à des fins égoïstes ou malveillantes. Deepfakes est issu de la technologie utilisée pour améliorer les effets spéciaux au cinéma.

Ce qui vise à fournir des divertissements plus immersifs finit également par ruiner la vie des gens lorsqu'ils sont exploités.

Des personnes s’emploient à améliorer les garanties autour de la technologie d’apprentissage automatique afin de prévenir les utilisations malveillantes. Mais la technologie est déjà là. Pendant ce temps, de nombreuses entreprises ne font pas preuve de la volonté nécessaire pour prévenir les abus de ces développements..

Les algorithmes d'apprentissage automatique peuvent nous aider

Cela peut sembler un peu lugubre lorsque vous réalisez à quel point l'apprentissage automatique et l'intelligence artificielle ne répondent pas aux attentes. Mais cela nous aide également à bien des égards, pas seulement en termes de commodité, mais en améliorant nos vies en général..

.