3 Questions : Marion Boulicault et Milo Phillips-Brown sur l’éthique dans un cursus technique
Marion Boulicault et Milo Phillips-Brown font partie d’une équipe qui travaille sur la transformation de l’enseignement de l’éthique des technologies au MIT.
Boulicault, candidate au doctorat en philosophie du MIT, est boursière en neuroéthique au Centre de neurotechnologie de la Fondation nationale des sciences, pour lequel elle a organisé des tables rondes sur l’éthique et enseigné des ateliers sur l’éthique en partenariat avec Momentum et MOSTEC, les programmes du MIT destinés aux étudiants de premier cycle et aux lycéens. Elle co-dirige également un projet financé par les National Institutes of Health qui examine les implications éthiques de l’utilisation de la neurotechnologie pour le traitement des troubles psychiatriques, et elle est chargée d’enseignement dans le cadre du programme Embedded EthiCS de l’université de Harvard. Sa thèse sur la mesure de l’infertilité examine l’éthique de la technologie à travers le prisme de la philosophie féministe. Ces deux dernières années, elle a été membre du GenderSci Lab de Harvard, un groupe de recherche interdisciplinaire engagé dans la création de concepts, de méthodes et de théories féministes pour la recherche scientifique sur le sexe et le genre.
Phillips-Brown est titulaire d’un post-doc en éthique des technologies au MIT Philosophy (la moitié du département de linguistique et de philosophie), chercheur en éthique et gouvernance numériques au Jain Family Institute, et membre du conseil consultatif sur les responsabilités sociales et éthiques de l’informatique. Il a collaboré avec des professeurs d’informatique, de sciences du cerveau et de sciences cognitives, et avec l’ensemble de l’école d’ingénieurs pour intégrer l’éthique dans les cours d’ingénierie. Il enseigne également 24.131 (éthique de la technologie) dans le cadre de la philosophie du MIT.
Q : Il semble qu’il se passe à peine une journée sans qu’il y ait une controverse sur la technologie dans l’actualité – par exemple, les politiques controversées de Facebook concernant la publicité politique sur sa plateforme. Pensez-vous que l’éducation à l’éthique des technologies peut nous aider à comprendre et à aborder ces controverses ? Et si oui, comment ?
A : L’éducation à l’éthique des technologies peut certainement nous aider à comprendre et à aborder ces controverses. Mais, nous pensons que pour le faire le plus efficacement possible, une nouvelle approche est nécessaire.
Si vous ouvrez un manuel d’ingénierie et que vous passez à la section sur l’éthique – s’il y en a une – vous verrez probablement des études de cas historiques de technologies qui ont mal tourné (la catastrophe de la navette spatiale Challenger, par exemple) et des versions réduites de théories morales (des extraits des philosophes John Stuart Mill sur l’utilitarisme, ou Immanuel Kant sur les raisons pour lesquelles il faut suivre des règles, par exemple). Telle a été l’approche traditionnelle de l’éducation à l’éthique des technologies.
Le problème de l’approche traditionnelle est qu’elle est trop éloignée de ce que font les ingénieurs et les technologues lorsqu’ils fabriquent des choses. Vous pouvez, bien sûr, tirer des enseignements des études de cas sur les erreurs des gens, mais les étudiants et les instructeurs avec lesquels nous avons travaillé disent qu’ils se sentent étrangers aux études de cas traditionnelles et ne comprennent pas toujours le rapport entre ces études et leur propre travail. Et le domaine abstrait de la théorie morale est, eh bien, abstrait !
Il n’est pas toujours évident de savoir comment rendre ces théories opérationnelles dans la pratique. Et nous sommes des philosophes : nous ne voulons pas dire qu’il s’agit d’un coup porté à la théorie morale. C’est juste que Mill et Kant et la plupart des gens qui travaillent dans le domaine de la théorie morale ne pensaient pas nécessairement à l’intersection de la théorie morale avec le changement technologique.
L’approche alternative que nous avons expérimentée au MIT consiste à enseigner l’éthique comme un ensemble de compétences (ou ce qu’Aristote appellerait techné). Si nous voulons que nos étudiants fassent la différence en matière d’éthique et de responsabilité, il faut qu’ils sachent comment s’y prendre. Ils ont besoin de compétences éthiques qu’ils peuvent appliquer à leur propre travail.
Cela va des compétences pour réfléchir aux décisions apparemment banales qu’ils prennent quotidiennement dans leur laboratoire ou lors d’une réunion au moment de leur démarrage, aux décisions concernant l’acceptation d’un financement de l’industrie ou la manière de parler de leur travail en public, en passant par les décisions fondamentales sur l’opportunité d’une technologie au départ. Toutes ces décisions ont des dimensions éthiques, et nous voulons enseigner aux étudiants les compétences qui leur permettront de s’orienter maintenant et tout au long de leur future carrière.
Q : À quoi ressemble la pédagogie de l’éthique basée sur les compétences au MIT ?
A : En 2018, nous avons commencé, avec Abby Jaques et Jim Magarian, à piloter une approche basée sur les compétences dans le cadre de la nouvelle transformation de l’enseignement de l’ingénierie (NEET). NEET est une initiative interdisciplinaire de l’école d’ingénierie qui est orientée vers l’apprentissage basé sur les compétences et les aptitudes. Au cours d’une année, les étudiants du NEET construisent une technologie – comme un drone autonome ou une « micropuce » biologique qui simule l’intestin humain – et au cours d’un atelier en classe, nous fournissons aux étudiants un guide structuré, étape par étape, sur la façon de reconnaître et de réfléchir à certaines des dimensions éthiques et politiques complexes de leur technologie.
Nous avons également travaillé avec des professeurs de l’EECS (le département de génie électrique et d’informatique) pour ajouter des questions d’éthique à l’ensemble des problèmes d’ingénierie, dans l’espoir que les étudiants soient aux prises avec des décisions éthiques pendant leur formation d’ingénieur.
Nous n’avons pas toutes les réponses. Il s’agit encore d’une phase très exploratoire pour déterminer ce qui fonctionne et ce qui ne fonctionne pas avec cette nouvelle approche. Une chose que nous avons constatée jusqu’à présent, c’est que les étudiants sont plus enclins à s’engager dans une réflexion éthique lorsque leurs professeurs leur signalent qu’ils se soucient de l’ingénierie éthique. Par exemple, les professeurs peuvent expliquer pourquoi ils se soucient de l’éthique au début de nos ateliers en classe. Le fait de placer les questions éthiques à côté des questions techniques dans les ensembles de problèmes est également efficace, car cela indique que les questions éthiques sont au même niveau que les questions techniques et qu’elles sont inextricables avec celles-ci.
Q : Comment souhaitez-vous que l’éthique des technologies soit intégrée au MIT ?
A : En fin de compte, nous aimerions que le MIT adopte une approche totalement immersive de l’éducation à l’éthique. Nous entendons par là que les compétences en matière de raisonnement éthique devraient être enseignées, valorisées et récompensées à chaque étape et dans chaque dimension de l’enseignement de premier et deuxième cycles. Le résultat, nous l’espérons, est que les étudiants – et l’Institut dans son ensemble – en viendraient à considérer la technologie, l’éthique et la politique comme étant inévitablement liées entre elles. Cela contraste avec un modèle où l’ingénieur fabrique quelque chose, puis pense « vérifions les questions éthiques ». L’éthique et la politique sont impliquées à chaque étape de la création d’une technologie.
Le MIT Schwarzman College of Computing est une excellente occasion d’illustrer ce modèle. Dans un article récent du MIT News, le doyen du collège, Dan Huttenlocher, a écrit qu' »aucune autre institution académique ne prend l’ampleur et la portée du changement que nous poursuivons au MIT ». Le collège a nommé David Kaiser, le professeur d’histoire des sciences de Germeshausen, et Julie Shah, professeur adjoint au département d’aéronautique et d’astronautique, comme doyens associés pour le programme de responsabilités sociales et éthiques de l’informatique, de sorte qu’il y a une opportunité pour que « l’échelle et la portée » et aussi la direction de ce changement monumental englobent la justice sociale.
L’enseignement de l’éthique en tant que compétence en est un élément clé, tout comme le fait d’avoir des classes complémentaires à l’École des sciences humaines, des arts et des sciences sociales qui encouragent les étudiants à voir l’éthique, la politique et la nature sociale de la technologie à travers le prisme de diverses disciplines. Par exemple, Milo a co-enseigné un cours de philosophie du MIT, Ethics of Technology, qui traite de la théorie morale et politique en relation avec les questions sur la technologie qui font actuellement les gros titres. Dans ce cours, les étudiants ont lu un article sur l’état de surveillance de la Chine aux côtés de Foucault sur le Panopticon, ou un livre blanc sur les meilleures pratiques pour la visualisation de données accessibles avec un article universitaire récent sur la théorie du handicap.
Nous nous associons également à Kate Trimble, doyenne associée pour le service public, pour intégrer le raisonnement éthique dans les programmes d’été d’éducation par l’expérience, tels que l’UROP (Undergraduate Research Opportunities Program) et le MISTI (MIT International Science and Technology Initiatives Program). Ce faisant, nous travaillons à la mise en place d’une approche interdisciplinaire, multimodale et totalement immersive de l’enseignement de l’éthique au MIT, qui offre aux étudiants la possibilité d’apprendre et de mettre en pratique des compétences de raisonnement éthique à travers toutes leurs expériences à l’Institut.
