Quand (et pourquoi) la discrimination est-elle acceptable?

Comme un humble vantard, j'aime dire aux gens que j'ai été rejeté par de nombreuses universités prestigieuses; l'Université de Pennsylvanie, Harvard et Yale sont tous sur cette liste. Aussi sur cette liste se trouve l'Université du Nouveau-Mexique, la maison d'un Geoffrey Miller. Très récemment, le Dr Miller s'est retrouvé dans un peu d'eau chaude morale de ce qui semble être un tweet mal conçu. Il se lit comme suit:

"Chers candidats docteurs obèses: si vous n'avez pas assez de volonté pour arrêter de manger des glucides, vous n'aurez pas la volonté de faire une dissertation # vérité".

Miller a ensuite supprimé le tweet et s'est excusé pour cela dans deux tweets de suivi. Maintenant, comme je l'ai mentionné, j'ai été précédemment rejeté du laboratoire de Miller – à plus d'une occasion, je vous en prie (j'avais oublié si c'était 3 ou 4 fois maintenant) – si clairement, j'ai été discriminé. En effet, les politiques de discrimination sont vitales pour quiconque, universitaire ou autre, ayant des postes à pourvoir. Quand vous avez 10 slots ouverts et que vous avez environ 750 applications, vous avez besoin d'un moyen de les différencier (et quelle que soit la méthode utilisée, vous en décevrez environ 740). Évidemment, être obèse est une caractéristique que les gens jugent moralement inacceptable, même en plaisantant, suggérer que vous étiez discriminatoire sur la base de. Cela soulève la question de savoir pourquoi?

Commençons par une situation connexe: il est bien connu que de nombreuses universités utilisent des scores de test standardisés, tels que le SAT ou le GRE, afin d'éliminer les candidats. En règle générale, cela n'a pas tendance à provoquer trop d'indignation morale, bien qu'il provoque beaucoup de frustration. On pourrait – plusieurs le font – faire valoir que l'utilisation de ces scores est non seulement moralement acceptable, mais appropriée, étant donné qu'ils prédisent certaines facettes de la performance dans les tâches liées à l'école. Bien qu'il puisse y avoir un certain désaccord sur la question de savoir si les tests sont suffisamment bons pour prédire la performance (ou s'ils prédisent quelque chose d'important sur le plan conceptuel), il ne semble pas y avoir beaucoup de désaccord sur la possibilité de les utiliser. d'un point de vue moral. C'est un bon principe pour commencer la discussion sur le commentaire obèse avec, n'est-ce pas? Si vous avez une mesure prédictive d'une compétence pertinente à une tâche, vous pouvez l'utiliser.

Eh bien, pas si vite. Disons, pour le bien de cet argument, que l'obésité était en fait un prédicteur de la performance des études supérieures. Je ne sais pas s'il y a vraiment une valeur prédictive, mais supposons qu'il y ait, et juste pour cet exemple, supposons que l'obésité soit un signe d'un peu pire à l'école, comme l'a suggéré Geoffrey; pourquoi cela pourrait-il avoir cet effet, pour le moment, sans importance? Donc, étant donné que l'obésité pourrait, dans une certaine mesure, prédire la performance des études supérieures, les écoles devraient-elles être moralement autorisées à l'utiliser afin de faire la différence entre les candidats potentiels?

Je pense que la question n'est pas aussi simple que la valeur prédictive. Pour commencer, il ne semble pas y avoir de règle largement acceptée en ce qui concerne précisément la façon dont une variable prédictive doit être avant que son utilisation soit jugée moralement acceptable. Si l'obésité pouvait, en contrôlant pour toutes les autres variables, prédire 1% de plus de la performance des diplômés de la variance, les applications devraient-elles commencer à inclure des cases pour la taille et le poids? Alors que 1% peut ne pas sembler beaucoup, si vous pouvez vous donner 1% de chances de réussir une tâche gratuitement (décrocher une promotion, être embauché, éviter d'être heurté par une voiture ou, dans ce cas, admettre une étudiant), il semble que presque tout le monde serait intéressé à le faire; ignorer ou éviter des informations utiles serait une voie très curieuse à opter, car elle assure seulement que, dans l'ensemble, vous prenez une décision pire que si vous ne l'aviez pas envisagée. On pourrait jouer avec les chiffres pour essayer de trouver un certain seuil d'acceptabilité, s'ils étaient si enclins (c.-à-d. Si on pouvait prédire 10%, ou seulement 0,1%), pour aider à faire passer le message. Dans tous les cas, il existe un certain nombre de facteurs qui pourraient prédire la performance des études supérieures à différents égards: les MPC précédentes, les lettres de recommandation, d'autres tâches de raisonnement, l'expérience de travail antérieure, etc. Cependant, au meilleur de ma connaissance, personne ne prétend qu'il serait immoral de n'utiliser que le meilleur prédicteur (ou le plus grand nombre de prédicteurs, ou le deuxième meilleur si vous n'utilisez pas le premier , etc). Le noyau de la question semble se concentrer sur l'obésité, plutôt que sur la validité discriminante en soi.

• Les femmes mariées veulent-elles que leurs maris trichent?
• Laissez Noah en dehors
• Comment choisissons-nous nos partenaires?
• Auto-tromperie, excès de confiance et hommes jetables: une proposition risquée
• Pourquoi le déterminisme culturel n'est pas la science

Heureusement, nous pouvons faire des recherches sur la question. La recherche provient d'un article de Tetlock et al (2000) qui examinaient ce qu'ils appelaient des «taux de base interdits» – un problème que j'ai déjà abordé une fois. Dans une étude, Tetlock et al ont présenté à des sujets un cas lié à l'assurance: un responsable de l'assurance avait été chargé d'évaluer la façon de facturer les personnes pour l'assurance. Trois villes ont été classées comme présentant un risque élevé (10% de chance de subir des incendies ou des cambriolages), tandis que trois autres ont été classées comme présentant un risque faible (moins de 1% de chance). Naturellement, vous vous attendez à ce que toute personne essayant de maximiser son ratio risque-profit change différentes primes, en fonction du risque. Si on ne le permet pas, il leur reste le choix d'offrir une couverture à un prix trop bas pour être durable pour eux ou trop élevé pour être viable pour certains de leurs clients. Bien que vous ne vouliez pas facturer des personnes à faible risque plus que nécessaire, vous ne voulez pas non plus facturer les personnes à haut risque et risquer de perdre de l'argent. La discrimination des prix dans cet exemple est une bonne chose.

La torsion était que ces classifications de risque élevé et faible sont soit corrélées le long des lignes raciales, ou ils ne l'ont pas fait, bien qu'ils n'aient aucun intérêt a priori à discriminer contre une race. Face à cette situation, quelque chose d'intéressant se produit: comparés aux conservateurs et aux modérés, confrontés à des données suggérant que les Noirs avaient tendance à vivre dans les zones à haut risque, les libéraux avaient tendance à interdire l'utilisation des données pour maximiser les profits. les choix. Cependant, cet effet n'était pas présent lorsque les personnes faisant l'objet de discrimination dans la zone à haut risque étaient blanches.

En d'autres termes, les gens ne semblent pas avoir de problème à utiliser des données utiles pour discriminer entre des groupes de personnes, mais si cette discrimination finit par affecter le «mauvais» groupe, cela peut être considéré comme moralement problématique. Comme Tetlock et al. (2000) l'ont soutenu, les gens considèrent certains types de discrimination non pas comme des «problèmes statistiques délicats», mais plutôt comme des problèmes moraux. Les parallèles avec notre exemple initial sont évidents: même si la discrimination fondée sur l'obésité peut nous fournir des informations utiles, l'acte lui-même n'est pas moralement acceptable dans certains cercles. Pourquoi les gens pourraient considérer la discrimination contre les personnes obèses moralement offensant est une question distincte. Après tout, comme mentionné précédemment, les gens n'ont pas de problèmes moraux avec des tests comme GRE qui ne discriminent pas sur le poids, mais d'autres caractéristiques telles que la mémoire de travail, les vitesses de traitement de l'information et d'autres facteurs difficiles à changer. Malheureusement, les gens ont tendance à ne pas avoir beaucoup d'informations sur la façon dont leurs jugements moraux sont établis et sur les variables qu'ils utilisent (Hauser et al., 2007), de sorte que nous ne pouvons pas poser de questions aux gens. réponses convaincantes.

Bien que je n'ai pas de données sur le sujet, je peux faire des suppositions éclairées sur la raison pour laquelle l'obésité pourrait avoir une protection morale: premièrement, et peut-être plus évident, les gens qui ont des problèmes moraux gros ou obèses et préféreraient ne pas avoir ce compte contre eux. En gros, je suis assez confiant que l'on pourrait s'attendre à ce que les personnes qui obtiennent un score faible à des tests comme le GRE minimisent leur validité comme mesure et suggèrent que les écoles devraient vraiment examiner d'autres facteurs pour déterminer les critères d'admission. Parallèlement, on pourrait aussi avoir des gens qu'ils considèrent comme leurs amis ou des membres de leur famille qui sont obèses, de sorte qu'ils adoptent des positions morales contre la discrimination qui nuirait finalement à leur endogroupe sociale. Si de tels groupes deviennent assez importants, le fait de prendre parti contre eux deviendrait de plus en plus coûteux. L'adoption d'une règle morale interdisant la discrimination sur la base du poids peut se répandre dans ces cas, même si l'application de cette règle est coûteuse en raison du non-respect de la règle peut finir par être un coût encore plus élevé (Geoffrey une vague de condamnation morale pour ses remarques).

Quant à une dernière question, on pourrait se demander pourquoi cette moralisation des jugements porte sur certains traits – comme l'obésité – qui peuvent réussir, alors que la moralisation des jugements basée sur d'autres traits – comme n'importe quelle mesure GRE – n'obtient pas. Je pense à cet égard que certains traits affectent simplement plus de personnes ou les affectent de manière beaucoup plus large, ce qui peut avoir des effets majeurs sur la valeur d'une personne qui adopte certaines règles morales. Par exemple, être obèse affecte de nombreux domaines de la vie, tels que les perspectives d'accouplement et la mobilité, et le poids ne peut pas facilement être caché. D'un autre côté, quelque chose comme les résultats du GRE affecte très peu (en réalité, seulement les admissions aux études supérieures), et ne sont pas facilement observables. En conséquence, on parvient à créer une «meilleure» victime de discrimination; celui qui a proportionnellement le plus besoin d'aide et, de ce fait, est plus susceptible de rendre la même assistance à l'avenir (toutes choses étant égales par ailleurs). Une telle ligne de pensée pourrait bien expliquer la différence mentionnée ci-dessus dans les jugements entre la discrimination raciale étant inacceptable quand elle nuit principalement aux Noirs, mais bien quand elle a principalement porté préjudice aux Blancs. Tant que le préjudice n'est pas perçu comme suffisamment important pour générer un besoin suffisant, nous pouvons nous attendre à ce que les gens soient relativement indifférents. Cela ne crée tout simplement pas le même potentiel d'investissement social dans tous les cas.

Références : Hauser, M., Cushman, F., Young, L., Kang-Xing Jin, R., et Mikhail, J. (2007). Une dissociation entre les jugements moraux et les justifications. Mind & Language, 22, 1-21.

Tetlock, P., Kristel, O., Elson, S., Green, M., et Lerner, J. (2000). La psychologie de l'impensable: compromis tabous, taux de base interdits et contrefactuels hérétiques. Journal de la personnalité et de la psychologie sociale, 78 (5), 853-870 DOI: 10.1037 // 0022-3514.78.5.853

Droit d'auteur Jesse Marczyk