Le problème avec l’alerte précoce
Selon une étude des services secrets sur les tireurs d’écoles, qui ont examiné 37 attaques de 41 agresseurs depuis 1974, 75% des tireurs d’école ont informé à l’avance de leurs plans, et le personnel scolaire était souvent au courant des signes avant-coureurs présentés par les étudiants qui sont finalement devenus des tireurs d’école. La sociologue de Princeton, Katherine Newman, qui a étudié en profondeur les fusillades dans les écoles, a déclaré: «Ils [les tireurs d’école] n’explosent jamais spontanément; ils donnent généralement des indices plusieurs mois à l’avance. ”
Et pourtant, dans la plupart des cas, selon les services secrets, personne n’a signalé de tels “drapeaux rouges” aux autorités.
Pourquoi l’IA pourrait aider
Bien que les raisons pour lesquelles les gens n’avertissent pas les autorités varient; de la pression exercée par les pairs (les bêtises ne sont pas cool), à l’abondance de «fausses alarmes» (beaucoup d’enfants s’évanouissent), à des biais cognitifs tels que l’effet normal Pour comprendre l’impuissance (les bureaucrates ne font rien de toute façon), toutes les personnes qui gardent des signes de danger pour elles-mêmes ont un attribut en commun: elles sont humaines.
Et les humains sont et seront toujours soumis à des pressions sociales, à des biais cognitifs, à des croyances et à d’autres forces qui les rendront réticents à présenter des préoccupations précises concernant d’éventuels tireurs scolaires dans un avenir prévisible. En outre, même si davantage de personnes se manifestaient, les autorités seraient probablement submergées de fausses alertes et seraient donc lentes à réagir aux menaces réelles. Enfin, même les pairs ou les enseignants de tireurs d’école qui entendent des avertissements avancés lors d’une attaque n’ont souvent pas connaissance de tous les facteurs qui prédisent la létalité, comme un accès facile aux armes à feu, qui les différencierait des fausses alertes.
Voici donc une idée radicale: appliquons l’intelligence artificielle (IA) en même temps que les progrès récents de la protection de la vie privée numérique, pour que les ordinateurs – et non les humains – génèrent des signes avant-coureurs de fusillades dans les écoles.
Les ordinateurs utilisant des algorithmes d’IA ne sont pas soumis à des pressions sociales et peuvent accéder à beaucoup plus d’informations sur les tireurs potentiels, tels que l’accès aux avant-bras, que les pairs ou les enseignants. Par conséquent, les systèmes d’IA, dotés de données suffisantes et d’une «formation» suffisante peuvent atteindre des «taux de réussite» raisonnablement bas avec des «fausses alarmes». De plus, les nouvelles technologies de confidentialité peuvent protéger les libertés civiles.
Avant d’entrer dans les détails de la raison pour laquelle l’IA, avec les technologies de confidentialité, peut au moins réduire les décès des tireurs d’école, je dois reconnaître qu’aucune technologie, même avancée et précise, ne peut résoudre le problème à elle seule. les profondes racines culturelles, anthropologiques, juridiques et politiques du problème.
La technologie, au mieux, n’offre que l’espoir d’améliorer certains des symptômes de problèmes profondément enracinés tels que les fusillades dans les écoles.
Cela dit, si de tels traitements “symptomatiques” peuvent sauver une seule vie, ils valent la peine d’être considérés.
Comment l’IA, avec les progrès parallèles en matière de protection de la vie privée numérique, pourrait-elle atténuer le problème
L’IA se débrouille plutôt bien dans une tâche que les informaticiens appellent la classification: une photo a-t-elle un chat n’importe où ou pas? Un appelant vers un centre de support client est-il en colère ou non? Une voix sur un téléphone est-elle un homme ou une femme, un locuteur natif ou un locuteur non natif? Est-ce qu’un candidat à l’assurance automobile risque de “tourner” (chiffre d’affaires vers un autre transporteur) ou non? AI est devenue compétente dans toutes ces tâches.
Il est tout à fait possible, et même probable, que les algorithmes d’IA puissent bientôt très bien «classer» les élèves qui sont véritablement menacés de mener des actes meurtriers contre lesquels les élèves ne sont pas susceptibles de le faire. L’IA serait “alimentée” avec autant de données diverses que possible sur les tireurs et les non-tireurs et serait “enseignée” pour faire la distinction entre les menaces réelles et les fausses alertes. Des exemples de données incluraient:
Un problème énorme lié à l’utilisation des sources de données énumérées ci-dessus est la protection de la vie privée et des libertés civiles. Toute organisation, que ce soit une école ou une force de police, qui rassemblait et corrélait ces données, agirait, à première vue, comme le Big Brother d’Orwell.
Mais grâce aux technologies émergentes avec des noms exotiques tels que le cryptage homomorphique et le cryptage sécurisé multipartite, il est désormais possible de crypter toutes les sources de données mentionnées ci-dessus au point de collecte et d’effectuer des calculs d’IA sur celles-ci lors du cryptage. Ainsi, à aucun moment du cycle de collecte, de transmission, de stockage et d’analyse des données, aucun humain ou ordinateur ne saurait-il à qui appartient l’information collectée?
Dans les rares cas où un algorithme de classification déclencherait un drapeau rouge, une école (ou éventuellement un tribunal judiciaire) serait-elle informée qu’une attention particulière devrait être accordée à un étudiant (sans révéler aucune des données personnelles ayant donné lieu à l’alerte)? de sorte qu’une enquête discrète et, en fin de compte, une intervention puissent être planifiées (par exemple, offrir des conseils ou vérifier la présence d’armes à risque chez les élèves à l’entrée à l’école).
Ce déverrouillage de l’identité pourrait être basé sur des preuves présentées par l’IA à un juge, par exemple résumant les motifs d’inquiétude (messages de médias sociaux violents, accès aux armes, commentaires de pairs) sans même donner de détails précis au juge. Ce n’est que si le juge le croyait justifié que le juge utiliserait alors des «clés numériques» spéciales (disponibles uniquement pour les magistrats) pour débloquer l’identité de l’étudiant afin de notifier l’école et les parents.
La décision de l’AI d’aviser un juge, comme suggéré ci-dessus, ne serait pas influencée par la pression sociale, les biais cognitifs, l’impuissance acquise ou d’autres facteurs qui amènent les humains à notifier ou à ne pas avertir les autorités.
Il est vrai que l’utilisation de l’IA pour repérer les élèves dangereux pose de nombreux problèmes. Par exemple, une institution publique, telle qu’une école ou un système de justice pénale, peut-elle prendre des mesures uniquement en fonction de ce qu’un élève pourrait faire à l’avenir par rapport à ce qu’il a réellement fait?
Toutes les questions entourant l’IA et les tireurs d’école sont épineuses et difficiles et entachées de défis éthiques, et certains diront que l’utilisation de l’IA pourrait être une approche déshumanisante pour réduire les décès et les blessures dus aux fusillades à l’école.
Mais rien ne vole un étudiant de leur humanité – ou de leurs droits – plus que d’être tué par un collègue étudiant.
Les références
Farr, K. (2017). Séances scolaires de rampage chez les adolescentes: réponses à la masculinité défaillante des garçons déjà en difficulté, questions de genre DOI 10.1007 / s12147-017-9203-z
“Rapport intérimaire sur la prévention de la violence ciblée dans les écoles”, octobre 2000, Centre national d’évaluation des menaces des services secrets américains.
https://www2.ed.gov/admins/lead/safety/preventingattacksreport.pdf
http://www.popcenter.org/problems/bullying/PDFs/ntac_ssi_report.pdf
Caractéristiques communes de tous les tireurs d’école aux États-Unis depuis 1970
https://en.wikipedia.org/wiki/Homomorphic_encryption
