Voulez-vous concevoir le comportement de l’utilisateur? Passez le premier test de «regret»

Quelles sont les responsabilités éthiques des entreprises capables de manipuler?

Source: NirandFar

Quelles sont les responsabilités éthiques des entreprises capables de manipuler massivement le comportement humain? C’est une question que l’on espère que les technologues et les concepteurs se poseront lorsqu’ils élaboreront des produits qui changeront le monde – mais qui n’a pas été assez souvent demandée.

Le conditionnement opérant, le renforcement intermittent, la recherche de la réalisation de soi – les techniques utilisées par les chefs de produit des plus grandes entreprises du monde sont à parts égales en psychologie et en technologie. Comme Sean Parker, président fondateur de Facebook, l’a récemment reconnu, la société s’engage depuis longtemps à «exploiter une vulnérabilité de la psychologie humaine».

• Branches nues avec des fruits pourris
• Vous êtes seulement malade comme vos secrets
• Comment l’idée du pardon peut changer le monde – et vous
• L’amour n’est pas facile
• Rompre quand tu es toujours amoureux mais sur des chemins différents

Nos gadgets et applications sont plus convaincants que jamais. Pourtant, pour les fabricants de ces technologies, il existe peu de directives sur la manière de modifier le comportement des utilisateurs de manière éthique. Sans norme, les entreprises ont tendance à repousser les limites de la recherche incessante d’engagement, de croissance et de profits. Un fondateur de start-up m’a dit: «Au bout du compte, j’ai une obligation envers mes investisseurs et mes employés et je ferai tout ce que je peux, sans enfreindre la loi, pour amener les gens à utiliser mon produit.

L’industrie technologique doit faire mieux que la menace d’une peine d’emprisonnement pour décider de faire le bon choix.

Heureusement, la plupart des technologues et concepteurs que je connais travaillent à améliorer la vie des gens. Partout dans le monde, les entrepreneurs aspirent à créer des produits que les clients aiment. Qu’ils travaillent dans une grande entreprise de technologie de la Silicon Valley ou dans un garage, ils rêvent de faire bouger les gens en leur offrant la prochaine amélioration indispensable de leur vie, et la plupart essaient de s’y prendre de la même façon.

• Essayé et Trues
• 4 raisons pour lesquelles le célibat fait tellement mal
• Votre chien est-il un mangeur de stress?
• 10 raisons pour lesquelles vous avez besoin d’un animal de compagnie dans votre vie
• La vérité sur le stress et la fertilité

Comment c’est utilisé

Bien sûr, beaucoup d’entre eux n’auraient pas de problème à s’enrichir. Mais ce mélange – la volonté de faire à la fois une différence et un profit – est la façon dont l’humanité a résolu nombre de nos problèmes les plus délicats. Il n’y a rien de mal avec les produits de construction que les gens veulent utiliser, mais le pouvoir de concevoir le comportement des utilisateurs doit s’accompagner d’une norme de limitations éthiques.

Le problème est que les mêmes techniques qui dépassent les limites dans certains cas conduisent à des résultats souhaitables dans d’autres. Par exemple, l’utilisation de stries par Snapchat – le nombre de jours consécutifs où les amis ont partagé des photos – a été critiquée pour avoir incité les adolescents à continuer à revenir sur l’application. Mais la même technique de persuasion est utilisée par l’application de langage Duolingo pour aider les personnes apprenant une nouvelle langue à suivre le programme.

Les mêmes récompenses variables utilisées pour extraire de l’argent des joueurs jouant aux machines à sous électroniques sont également utilisées dans les jeux vidéo qui aident les enfants atteints de cancer à se distraire en recevant des traitements douloureux.

Clairement, ce n’est pas la technique de persuasion elle-même qui pose problème – c’est la façon dont la technique est utilisée.

Mais sans test permettant de faire la différence entre les bonnes et les mauvaises utilisations, il est facile de voir comment les concepteurs peuvent s’égarer.

Le test de regret

L’industrie technologique a besoin d’une nouvelle barre d’éthique. La devise de Google, “Ne pas être méchant”, est trop vague. La règle d’or, «Faites à autrui ce que vous voudriez qu’ils vous fassent», laisse trop de place à la rationalisation.

Je soutiens que ce que nous devrions dire, c’est: «Ne faites pas aux autres ce qu’ils ne voudraient pas qu’on leur fasse.» Mais comment pouvons-nous savoir ce que les utilisateurs font et ne veulent pas?

Je propose humblement le “test du regret”.

Si nous ne sommes pas sûrs d’utiliser une tactique douteuse sur le plan éthique, «Si les gens connaissaient tout ce que le concepteur du produit sait, s’exécuteraient-ils toujours le comportement voulu? Sont-ils susceptibles de regretter cela? ”

Si les utilisateurs regrettaient de prendre l’action, la technique échoue au test de regret et ne devrait pas être intégrée au produit, car elle a incité les gens à faire quelque chose qu’ils ne voulaient pas faire. Inciter les gens à faire quelque chose qu’ils ne veulent pas faire n’est plus une persuasion – c’est la coercition.

Alors, comment savoir si les gens regrettent d’utiliser un produit? Simple! Nous leur demandons

Tout comme les entreprises testent les fonctionnalités potentielles qu’elles envisagent de déployer, elles pourraient tester si une tactique douteuse est une réaction positive des gens s’ils savaient ce qui allait se passer ensuite.

Ce concept de test n’est pas nouveau dans l’industrie – les concepteurs de produits testent constamment de nouvelles fonctionnalités. Mais le test de regret insèrerait une autre vérification éthique en demandant à un échantillon représentatif de personnes de prendre une mesure en sachant que tout ce que le concepteur sait va se passer.

Le test ne nécessiterait pas nécessairement beaucoup d’efforts ou de coûts supplémentaires. Dans un article récent, Jakob Nielsen du Nielsen Norman Group a écrit qu’il pensait que les résultats des tests d’utilisabilité pouvaient provenir de tests effectués auprès de cinq personnes seulement.

Les naufrages

L’histoire de l’innovation technologique entraîne de nombreuses conséquences imprévues. Comme l’a dit un jour le théoricien de la culture Paul Virilio, «l’invention du navire a également été l’invention du naufrage.» L’élément positif du test du regret est qu’il pourrait aider à éliminer certaines de ces conséquences inattendues. pratiques avant de les faire vivre à des millions d’utilisateurs.

Le test de regret pourrait également être utilisé pour des check-ins réguliers. Comme beaucoup de gens, j’ai désinstallé des applications distrayantes telles que Facebook sur mon téléphone, car je regrette d’avoir perdu du temps à parcourir mon flux au lieu d’être totalement présent avec les personnes qui m’intéressent. Ne serait-il pas dans l’intérêt de Facebook de connaître des personnes comme moi?

Si une entreprise, que ce soit Facebook ou une autre entreprise, n’écoute pas les utilisateurs qui en ressentent de plus en plus le ressentiment pour une raison ou une autre, cela risque de réduire le nombre de ses utilisateurs. Et c’est précisément pour cela que comprendre le regret est si important. Ignorer les personnes qui regrettent d’utiliser votre produit n’est pas seulement une mauvaise éthique, c’est aussi mauvais pour les affaires.

Note de Nir: Merci à Jason Amunwa, Rafael Arizaga Vaca, Ahmed Bouzid, Jamie Kimmel, Julie Li, Jennifer McDonald, Bo Ren, Irina Raicu, Julian Shapiro, Shannon Vallor, Anne Marie Ward, Susan Weinschenk, Guthrie Weinschenk et Casey Winters pour lire des versions de cet essai.

Illustrations de John Devolle

Cet article a été initialement publié sur NirAndFar.com