Ben Shneiderman a écrit l'essai que je poste ci-dessous; Je suis le deuxième auteur. Cet essai reflète une série de conversations que Ben et moi avons appréciées au cours de la dernière année.
Ben est professeur émérite d'informatique à l'université du Maryland et membre de la National Academy of Engineering des États-Unis. Son livre le plus récent est The New ABCs of Research: Atteindre des collaborations révolutionnaires. Contactez-le à [email protected].
Gary Klein
_______________________
Le capitaine Sullenberger (Sully) est légitimement célébré pour son talent incroyable en tant que pilote expert. Lorsque des grèves d'oiseaux ont coupé les deux moteurs, il a réussi à atterrir en toute sécurité dans l'Hudson River. La performance remarquable de Sullenberger était due à sa longue expérience en tant que pilote, à une évaluation rapide des possibilités et à une manipulation habile des commandes.
Chaque jour, des infirmières expertes, des pompiers et des parents résolvent de vrais problèmes qui sauvent des vies et réconfortent ceux qu'ils servent. De même, les médecins, les enseignants et les plombiers utilisent leur expérience pour aider les autres de manière significative. Ces experts agissent dans des situations difficiles, dans lesquelles les informations peuvent être incorrectes et incomplètes, et dans lesquelles les directives existantes peuvent être inadéquates. Pourtant, ils continuent en mélangeant leur expérience dans un grand nombre de situations avec ce qu'ils savent du problème actuel, en reconnaissant des schémas familiers et en identifiant les anomalies assez rapidement pour prendre des décisions et prendre des mesures. Les experts font aussi des erreurs, parfois graves, mais une étude attentive de ces erreurs permet d'affiner les pratiques existantes, d'améliorer la formation ou les listes de contrôle, et d'aboutir à de meilleurs outils.
Les experts sont capables d'utiliser des outils sophistiqués, tels que les sonogrammes fœtaux 3D ou les systèmes de contrôle du trafic aérien, qui améliorent leur compréhension de ce qui se passe et préservent leur contrôle. Ces outils peuvent avoir des niveaux d'automatisation élevés, à condition que les utilisateurs experts puissent comprendre, prévoir et contrôler les actions des outils. Et pour que cela se produise, les concepteurs doivent garder à l'esprit que leurs technologies et leurs pratiques visent à soutenir et à renforcer les utilisateurs compétents et experts; Dans le cas contraire, l'automatisation qu'ils introduisent risque d'interférer avec l'expertise et de dégrader les performances, comme cela a été le cas dans certains avions et dispositifs médicaux.
Malheureusement, trop de designers semblent inconscients des compétences et des besoins des experts qui utiliseront leurs créations. Notre but dans cet essai est d'offrir quelques lignes directrices pour la construction d'outils et d'outils automatisés qui améliorent la prise de décision d'experts plutôt que de la dégrader.
Les programmeurs experts qui ont créé et ensuite amélioré la fonctionnalité Traduction de Google méritent une reconnaissance pour leurs contributions. Ils ont clairement compris que:
"L'intelligence artificielle ne consiste pas à construire un esprit; Il s'agit de l'amélioration des outils pour résoudre les problèmes. "
Bien qu'ils aient clairement indiqué qu'ils fabriquaient des outils, de nombreux journalistes ont mal étiqueté leur travail comme une autre démonstration que les humains pouvaient être remplacés. À partir des histoires de «cerveau électronique géant» de 1947, ces reportages trompeurs sur le rôle de la technologie ont miné la confiance dans les experts humains. Même le récent rapport sur l'intelligence artificielle-100 de Stanford affirmait que:
"La différence entre un calculateur arithmétique et un cerveau humain n'est pas unique, mais d'échelle, de vitesse, de degré d'autonomie et de généralité."
Nous ne sommes pas d'accord avec cette déclaration centrale. La pensée humaine n'est pas un calcul ou un compte. La créativité humaine est différente de ce que produisent les réseaux neuronaux et les algorithmes génétiques. Même les experts en intelligence artificielle rejettent l'idée que leurs documents de conférence devraient être examinés par des programmes d'apprentissage automatique. Ironiquement, ces experts humains qui se consacrent à la création de machines «intelligentes» et «intelligentes» savent que les experts humains sont mieux à même d'apprécier les découvertes et les innovations.
Nous croyons que les experts excellent au moins trois traits humains admirables:
1) Pensée de frontière: Les humains sont capables de faire face aux frontières de la connaissance, où les informations incomplètes et incorrectes causent de la confusion et où l'établissement d'objectifs est une compétence clé. Même dans ces environnements difficiles, les experts peuvent formuler et résoudre des problèmes pour créer quelque chose de nouveau. Les experts humains font souvent des percées étonnantes, ouvrant de nouvelles voies à des destinations de recherche surprenantes. Ils font plus qu'optimiser la performance ou reconnaître les modèles statistiques – ils créent des produits et services entièrement nouveaux, discernent des catégories distinctes et voient de nouveaux types de relations. La compétence aux frontières de la connaissance et la capacité de dépasser la frontière est ce que les humains ont toujours démontré. Ils produisent des inventions brevetables inattendues, participent à des débats pour promouvoir des causes convaincantes, et forment des entreprises pour fournir des produits et services révolutionnaires.
2) Engagement social: Les humains sont intrinsèquement sociaux, une compétence qu'ils utilisent pour apprendre, construire la confiance, aider les autres et demander des faveurs. Le discours humain est différent de demander à Siri, Google ou Alexa pour plus d'informations. Les échanges humains informent chaque participant, clarifient les problèmes et construisent des accords. La collaboration humaine a été la clé de ses réussites étonnantes tout au long de l'existence de notre espèce, des collaborations complexes autour de la chasse, la recherche de nourriture et la construction communautaire aux équipes modernes qui dirigent des entreprises et développent Wikipédia. Le leadership humain pour inspirer la participation nécessite une combinaison de compétences qui gèrent de grandes entreprises, transforment les villes et façonnent les gouvernements nationaux. Ce leadership peut aussi être malveillant, corrompu et guerrier, mais c'est le côté sombre de l'être humain. Le bon côté de l'expertise humaine montre un respect significatif, recherche un véritable compromis et nourrit la confiance. Les humains sont très habiles à construire et à utiliser un terrain commun pour permettre une communication efficace, puis à remarquer quand un terrain commun s'est érodé et doit être réparé.
3) La responsabilité de leurs actions: Les humains sont des parties responsables qui méritent des honneurs lorsqu'ils apportent des avantages et qui devraient être responsables lorsque leurs décisions mènent à des préjudices. Des rapports honnêtes et des enquêtes fiables sur les erreurs favorisent des améliorations qui offrent une plus grande protection. Des performances exceptionnelles, comme celles de Sullenberger, permettent de progresser dans la compréhension, améliorent l'entraînement et poussent les experts à atteindre des niveaux de performance de plus en plus élevés. La responsabilité clarifie la conception du produit, car elle encourage les concepteurs à donner aux utilisateurs le contrôle et à fournir aux enquêteurs suffisamment de données pour comprendre ce qui s'est passé. Nous acceptons la responsabilité, qui permet aux autres de nous faire confiance. Nous participons également à d'autres activités de renforcement de la confiance: nous essayons d'être prévisibles; nous avertissons les autres quand notre comportement peut les surprendre, nous prenons des mesures inutiles pour aider les autres, et ainsi de suite.
Au fur et à mesure que les concepteurs reconnaîtront ces traits humains, leurs conceptions s'amélioreront, conduisant à des technologies plus sûres, plus efficaces et plus efficaces. Plus tôt les journalistes comprendront que l'excellence dans la conception de la technologie émerge lorsque ces traits humains sont soutenus plutôt que supplantés, plus tôt leurs écrits célébreront la façon dont des systèmes avancés peuvent améliorer des compétences humaines remarquables.
Nous voyons un avenir dans lequel l'appréciation pour les experts humains se développe, même si les concepteurs créent des outils plus puissants. Le meilleur de ces outils augmentera la performance des experts humains en utilisant plus de leurs capacités créatives. Et pour que cela se produise, les concepteurs devront trouver des moyens de nous laisser tous, pas seulement les experts, de comprendre, prédire et contrôler les actions de nos outils.
