Technologie conçue pour la dépendance

Quels sont les dangers des boucles de rétroaction numériques?

Dans son livre Engineering Ethics , Wade L. Robinson évoque l’importance d’éviter les conceptions «à provocation d’erreur», dans lesquelles l’artéfact technologique permet non seulement la possibilité de faillibilité humaine, mais oriente activement l’utilisateur vers le direction du mal. Il passe beaucoup de temps à discuter des boutons de la cuisinière, par exemple. J’imagine que la plupart d’entre nous ont eu la frustration de penser que nous activons un brûleur du poêle, disons le front gauche, pour constater qu’un autre brûleur, le dos droit, a effectivement chauffé. Il s’avère que chaque fabricant de poêles a une manière légèrement différente d’aligner les boutons sur les brûleurs, et ce problème de conception est étonnamment complexe. La plupart du temps, l’inadéquation entre les boutons et les brûleurs est une source de frustration, mais elle peut provoquer un incendie dans certains cas, et il ne faut qu’une minute ou deux pour qu’un incendie de maison atteigne des niveaux incontrôlables. Robinson évoque également un accident d’avion en Colombie causé par un problème dans le logiciel du pilote automatique et d’autres problèmes de conception ayant causé des blessures et la mort, tels que les défaillances des interrupteurs d’allumage des voitures GM en 2015.

Source: Photos de dépôt

Les entreprises de technologie sont désormais confrontées à des critiques pour les pannes causées par la conception. Récemment, de nombreuses discussions ont porté sur les sociétés de médias sociaux et la manière dont elles manipulent la psychologie humaine pour garder les yeux rivés sur l’écran. Il y a le problème du «temps perdu» lié à la vérification compulsive de Facebook, mais il y a aussi les problèmes sociaux que ces technologies semblent exacerber. Même certains responsables de la technologie se sont joints aux critiques des géants de la technologie de la Silicon Valley ou ont été forcés de se mettre sur la défensive après des années d’enthousiasme pour les médias sociaux. Une vidéo d’une interview de Stanford avec l’ex-cadre de Facebook, Chamath Palihapitiya, fait des tournées sur Internet, Palihapitiya adressant des critiques absolument dévastatrices aux géants des médias sociaux. “Les boucles de rétroaction à court terme induites par la dopamine que nous avons créées détruisent le fonctionnement de la société”, a déclaré Palihapitiya, avec le besoin de gains à court terme, financés par capital-risque. “C’est littéralement un point où je pense que nous avons créé des outils qui déchirent le tissu social du fonctionnement de la société. C’est vraiment où nous sommes. Je vous encourage tous, en tant que futurs dirigeants du monde, à vraiment comprendre à quel point cela est important. Si vous nourrissez la bête, cette bête vous détruira. “Le fait que cette critique provienne d’un initié technique de haut niveau le rend encore plus choquant.

• Ne faites pas confiance à vos sentiments!
• Manger: un manifeste pour la récupération de la dépendance alimentaire
• Héritage indéniable
• Retour du bureau
• Venir à terme avec Ecoanxiety

Pensez un instant à la façon dont la technologie la plus puissante au monde a été utilisée pour résoudre le problème de la faim dans le monde ou envoyer des astronautes sur la lune, mais pour inciter les gens à cliquer sur des publicités et à acheter des produits sur Amazon. Les boucles de rétroaction des médias sociaux entraînent également une polarisation politique et un biais de confirmation, car nous sommes constamment poussés dans la direction du contenu qui correspond à ce que nous croyons déjà et correspond aux groupes démographiques auxquels nous appartenons déjà. Comme nous sommes de plus en plus habitués au fluage de la technologie dans nos vies, cela semble complètement normal. Ceux d’entre nous qui se souviennent de la vie avant Internet seront de moins en moins nombreux et, finalement, personne ne saura à quoi ressemblait la vie sans un accès constant à Internet et aux médias sociaux. Personne ne se souviendra de ce que c’était que de dîner sans en avoir pris une photo ou d’avoir une conversation sans faire référence à un mème. Toutes ces perturbations sont dues à des technologies conçues expressément pour créer une dépendance.

Nir Eyal, un de mes amis de l’université, a écrit un livre intitulé Hooked: Comment construire des produits qui créent des habitudes , dans lequel il décrit, étape par étape, les astuces de conditionnement opérantes utilisées pour rendre une application addictive. En utilisant des récompenses variables, dans lesquelles un “régal” numérique, comme les abonnements Reddit et l’or, les gemmes et les pièces dans divers jeux, les goûts sur Facebook, etc., sont parfois distribués, l’utilisateur arrive à anticiper récompense éphémère. Parce que la récompense n’est pas fiable, le comportement instable est déclenché, dans lequel nous pensons que nous devons continuer à vérifier les messages, les préférences et les mises à jour de statut. Eyal est consultant pour les entreprises qui cherchent à développer ces caractéristiques génératrices d’accoutumance dans leurs produits, mais, à son crédit, il inclut une section sur l’éthique dans son livre intitulé «The Morality of Manipulation» et il évite le piège de la responsabilité des produits addictifs sur l’utilisateur final. Il souligne que les concepteurs doivent tenir compte du bien de l’utilisateur final lorsqu’ils proposent un produit ou un service numérique. Mais il reconnaît aussi implicitement que nous menons une expérience massive et incontrôlée sur la psyché humaine avec l’avènement des médias sociaux et de la publicité numérique.

D’après mon expérience, certaines personnes ont la capacité de passer outre l’impulsion de dépendance et d’autres moins. Nous pouvons tous, dans une certaine mesure, nous dire: «D’accord, si je défile jusqu’au bout de ce flux, il ne fera que charger un nouveau lot d’entrées.» La nature continue des flux sur Facebook et Reddit part pas de points d’arrêt naturels où il serait judicieux de quitter le surf. Les applications qui passent à gauche et à droite signifient qu’il y a des boucles dans toutes les directions: haut, bas et latéralement. Nous pouvons donc logiquement savoir que le flux continue pour toujours, mais pouvons-nous passer à l’étape suivante et nous déconnecter de la plate-forme? Il existe plusieurs sites dédiés à la dépendance au jeu vidéo. Certains jeux, comme World of Warcraft, en sont l’exemple le plus célèbre. Ils incitent les utilisateurs à quitter leur emploi, à négliger les enfants et à divorcer, simplement pour continuer à jouer. Alors que les jeux deviennent encore plus immersifs, avec des fonctionnalités de réalité augmentée et de réalité virtuelle, combinées à des incitations monétisées et à un conditionnement intégré, les aspects addictifs semblent devoir augmenter dans les années à venir. Jusqu’à présent, l’utilisation de Facebook et de Twitter est moins susceptible d’être stigmatisée que le jeu vidéo compulsif, mais ils sont sans doute tout aussi addictifs.

• Le voyage de longue journée dans la nuit: une étude de la forme psychologique
• Donc, vous avez besoin de santé mentale ou de désintoxication?
• Comment le mouvement “Porn Addiction” ne respecte pas les femmes
• La dépression et mon arbre généalogique
• 20 nuances de tristesse: pourquoi sommes-nous dépressifs?

Vous êtes peut-être en train de lire ceci et de penser: «Bon, les gens vérifient constamment leur téléphone, publient des photos d’eux-mêmes sur Instagram et deviennent dépendants des petits jeux, mais quel est le problème? Où est le mal? “Eh bien, à commencer par la mort réelle, le CDC estime que chaque jour aux États-Unis, neuf personnes sont tuées et 1000 sont blessées à cause de la conduite distraite. Bien que la conduite distraite ne soit pas nouvelle (les Américains mangent des hamburgers et des frites depuis des décennies), les textos au volant sont particulièrement dangereux car ils combinent plusieurs types de distraction. Regarder un texte détourne les yeux du conducteur (distraction visuelle), éloigne au moins une main du volant (distraction manuelle) et arrête l’esprit (distraction cognitive). Il est facile de dire que les gens ne devraient pas envoyer de textos et conduire, et de nombreux États et pays ont adopté des lois à cet effet. Mais le problème de conception, l’aspect «erreur provoquant» de la technologie, n’a pas été traité de manière significative. Il semble probable que d’autres accidents se produiront, comme le récent déraillement de train à Washington, dans lequel le chef de train a été distrait, peut-être à cause de l’utilisation du téléphone portable, et trois personnes ont été tuées. Une solution complète relierait le téléphone cellulaire à la machinerie lourde de telle manière que le moteur ne fonctionnerait pas sans que certaines fonctions du téléphone cellulaire ne soient désactivées.

Pour passer à des dommages plus intangibles, le problème de la stagnation des salaires a fait les manchettes au cours des dernières années à mesure que l’inégalité des revenus augmentait. Pendant ce temps, la productivité a augmenté. L’excès de productivité s’est traduit par une augmentation des bénéfices des sociétés et des salaires des suites, mais les travailleurs ont été largement exclus des avantages monétaires. Je soupçonne que certains gains de productivité et d’efficacité vont directement aux médias sociaux, en l’absence de hausse des salaires. Même si les travailleurs se sentent plus stressés et sous-évalués que jamais, ils ne travaillent pas moins d’heures. Au lieu de cela, ils canalisent le stress et l’insatisfaction liés à l’emploi dans les médias sociaux et les jeux numériques, dans une phase de ralentissement massive. Les utilisateurs aux États-Unis passent maintenant environ cinq heures par jour sur les smartphones, la télévision étant désormais dépassée par le temps passé sur les applications. Au lieu d’une journée de travail plus courte et plus comprimée, le travail est désormais réparti sur les heures de veille, avec de fréquentes “pauses” sur les réseaux sociaux. Bien entendu, ces “pauses” sont en réalité des travaux non rémunérés effectués pour le compte des sociétés de médias sociaux elles-mêmes. Chaque photo de vacances, chaque e-mail, chaque interaction numérique est désormais un vecteur de profit des big data. Cela ne poserait pas de problème si la satisfaction à l’égard de la vie et la santé globale augmentaient effectivement, mais il semble que les revenus stagnent et que la durée de vie diminue dans certains cas.

Selon un article de l’économiste Devrim Dumdalug dans l’ International Review of Economics , les niveaux de revenus aux États-Unis ont doublé dans l’après-guerre, mais le bonheur déclaré par eux-mêmes a à peine changé. Depuis le ralentissement économique de 2007-2008, la productivité a augmenté, mais les salaires ont stagné. Encore une fois, cela ne poserait pas de problème si les travailleurs étaient généralement heureux et en bonne santé, mais nous avons d’énormes problèmes de santé publique comme l’obésité, le diabète et l’hypertension, la meilleure façon de passer du temps libre. Étant donné le choix entre une promenade à l’extérieur et vingt minutes sur Facebook, le meilleur choix pour la santé mentale et physique serait de faire une promenade à l’extérieur. Mon point principal ici est que les gens ne font pas le choix pour une meilleure santé en raison des caractéristiques addictives intégrées dans la technologie. Plutôt que de simplement blâmer l’utilisateur final, nous devrions tenir les sociétés de technologie responsables de la manière dont elles encouragent délibérément un comportement de dépendance.

Nous devons cesser d’utiliser des mots comme «addictif» et «perturbateur» comme s’il s’agissait de compliments et exiger que les entreprises et les gouvernements tiennent compte du bien public lors de la conception et de la réglementation de nouveaux produits et services. La technologie en elle-même n’améliore pas automatiquement nos vies: elle doit être utilisée de manière consciente et délibérative pour améliorer notre bien-être. Les concepteurs et les ingénieurs doivent cesser de créer des distractions dans les systèmes que nous utilisons, car notre sécurité et notre bien-être sont en jeu. En attendant, il semble que nous soyons livrés à nous-mêmes (sans jeu de mots!) Pour cesser de défiler et commencer à vivre le genre de vie que nous voulons vivre. La première étape consiste à réaliser que la dépendance est intégrée à l’application et à devenir des utilisateurs plus conscients des médias sociaux. Nous pouvons alors commencer à réclamer notre temps, à mener une vie plus saine, plus saine et plus saine. Nous n’avons pas besoin d’abandonner la technologie, même si cela était possible, mais nous devons faire plus attention à son utilisation.