Le biais humain dans la machine d’IA

Comment l’intelligence artificielle est sujette à des biais cognitifs.

Source: Pixabay

L’intelligence artificielle (IA) peut entraîner des avancées positives et des conséquences négatives imprévues. L’impact du biais cognitif humain sur l’IA est un domaine clé qui nécessite des recherches plus approfondies. Harvard et MIT Professeur George Church, Singularity University Neil Jacobstein, physicien du MIT Max Tegmark, scientifique en économie comportementale et scientifique des données Colin WP Lewis, Ph.D., professeur d’Oxford en philosophie Nick Bostrom, fondateur de SpaceX et Tesla Motors Elon Musk, co-fondateur d’Apple Steve Wozniak et le physicien de Cambridge Stephen Hawking sont parmi les plus de 8 000 personnes qui ont signé une lettre ouverte sur l’intelligence artificielle qui cherche à savoir comment tirer parti de l’IA tout en évitant les pièges [1].

“Le succès dans la création d’une IA efficace pourrait être le plus grand événement de l’histoire de notre civilisation. Ou le pire. “Stephen Hawking, physicien

• Avez-vous un contact ou plus qu’un contact de la dyslexie?
• Les 6 déclencheurs de l’envie
• “Forces cachées et essences” Psychologie comme magie
• Ne discutez pas de Deepak Chopra
• Comment réussir en affaires

Comme le cerveau humain, l’intelligence artificielle est sujette à des biais cognitifs. Les biais cognitifs humains sont des heuristiques, des raccourcis mentaux qui faussent la prise de décision et le raisonnement, entraînant des erreurs de raisonnement. Des exemples de biais cognitifs comprennent les stéréotypes, l’effet d’entraînement, le biais de confirmation, l’amorçage, la perception sélective, l’erreur du joueur et le biais de sélection par observation. Le nombre total de biais cognitifs évolue constamment, en raison de l’identification permanente de nouveaux biais.

Le biais cognitif humain influence l’IA par le biais de données, d’algorithmes et d’interactions. L’apprentissage automatique, un sous-ensemble de l’IA, permet aux ordinateurs d’apprendre sans programmation explicite. L’apprentissage de l’IA est façonné par les données, les algorithmes et l’expérience à travers les interactions et les itérations. La taille, la structure, la méthodologie de collecte et les sources de données ont un impact sur l’apprentissage par machine. L’apprentissage automatique dépend de la qualité des ensembles de données d’apprentissage. Tout comme chez l’homme, dans l’IA, plus les données sont objectives et plus l’ensemble de données est important, moins il y a de possibilités de distorsion [2].

Le facteur sous-jacent commun dans les biais cognitifs est l’inclinaison. La prédisposition en IA est influencée par l’attribution de poids aux paramètres et aux nœuds d’un réseau neuronal, un système informatique modélisé sur le cerveau humain. Le poids peut involontairement biaiser l’algorithme d’apprentissage de la machine dès sa création via la saisie de données, la formation supervisée et l’intervention par des ajustements manuels. L’absence ou l’inclusion d’indicateurs et les biais cognitifs inhérents au programmateur informatique humain peuvent provoquer un biais d’apprentissage automatique [3].

• 6 façons simples de cultiver la pensée positive aujourd’hui!
• Un cercle vicieux: abus domestique, itinérance, trafic
• Ce qui ne va pas chez Roseanne Barr Tweet
• Le mécanisme de défense le plus toxique pour votre relation
• La psychologie a désespérément besoin d’un afflux massif de scepticisme

La révolution de l’intelligence artificielle (AIR) est bien avancée [4]. L’intelligence artificielle est actuellement un outil utilisé pour aider les humains et est déployée en tant que solutions ponctuelles dans un large éventail de fonctions: assistants numériques personnels, filtrage des e-mails, recherche, prévention des fraudes, ingénierie, modèles marketing, distribution numérique, reconnaissance vocale, reconnaissance faciale. , classification du contenu, langage naturel, production vidéo, génération de nouvelles, analyse de jeu et de jeu, service client, reporting financier, optimisation marketing, gestion des coûts énergétiques, tarification, inventaire, applications d’entreprise et autres fonctions [5]. Certains des plus grands penseurs du 21ème siècle ont mis en garde contre les dangers de l’IA sans contrôle. L’omniprésence croissante de l’IA nécessite la minimisation des biais cognitifs humains dans la machine. L’avenir de l’humanité peut très bien en dépendre.

Les références

1. “Priorités de recherche pour l’intelligence artificielle robuste et bénéfique: une lettre ouverte”. Future of Life Institute. Récupéré le 2 février 2018.

2. Rosso, Cami. “L’énigme de l’apprentissage automatique et des biais cognitifs”. 14 juillet 2015.

3. Ibid.

4. Rosso, Cami. “Pourquoi l’intelligence artificielle est la prochaine révolution – L’IA changera presque chaque aspect de notre vie quotidienne”. 16 mars 2016.

5. Rosso, Cami. “Pourquoi l’IA a-t-elle évolué maintenant?” 21 février 2017.