Travailler en classe sur l’éthique de l’intelligence artificielle

Quand l’intelligence artificielle générative peut être à la fois objet d’étude et outil pour impliquer les élèves dans la vie de leur établissement en les faisant rédiger un texte à valeur règlementaire précisément sur l’éthique de cette nouvelle technologie.

Le collège du Larzac¹ a ouvert ses portes en septembre 2023. Situé sur le plateau du Larzac, en zone rurale, il accueille des enfants d’agriculteurs, d’artisans et de membres de la légion étrangère, lui conférant une dimension internationale avec un tiers d’élèves bilingues. Le département de l’Aveyron dotant les élèves de 5^e d’ordinateurs portables, la moitié du collège a accès à un ordinateur personnel. Le collège bénéficie aussi d’une webradio ainsi que d’une webtv depuis la rentrée 2025.

Le projet a consisté, dans un premier temps, à présenter les intelligences artificielles génératives (IAG) aux élèves. Il s’agissait de leur faire comprendre le développement de cette technologie sur le temps long, mais aussi le fonctionnement des IAG d’images et de texte.

Pour rendre cela interactif, le fonctionnement des IAG a été abordé à l’aide de l’outil Quick, Draw ! pour introduire de manière ludique la notion de données d’entrainement, et l’outil de génération de texte de Vittascience pour montrer l’aspect probabiliste des générations. Ces deux outils ont permis aux élèves de dépasser le côté « magique » de l’IA et d’avoir une première analyse du fonctionnement.

Ensuite, les élèves ont dû réaliser des podcasts sur différents aspects : histoire de l’IA, l’IA dans l’éducation, IA et droits d’auteur, etc. Pour cela, ils et elles ont fait des recherches en salle informatique et au CDI. Cette étape permet aussi de retravailler les compétences de recherche documentaire et de traitement de l’information. Chaque groupe devait rendre une bibliographie et une sitographie critique. Le travail de podcast a donné lieu à une évaluation portant sur le contenu, mais aussi sur la recherche documentaire et l’expression orale. Cette étape permettait aussi d’alterner des échanges en classe entière et d’autres au sein de groupes plus restreints.

Une fois cette phase réalisée, les élèves ont listé avec leur professeur les usages, réels et futurs, des IAG par les élèves. Ils ont dû ensuite les classer dans un tableau sommaire évoquant des usages vertueux et éthiques, d’une part, et des usages négatifs, d’autre part. Un véritable débat s’est engagé entre eux mais aussi avec le professeur sur ce qu’est un usage éthique.

Par exemple, un élève avait utilisé une IA pour l’aider à résoudre un exercice de mathématiques. Cette IA donnait le résultat, mais aussi la démonstration pour aboutir au résultat. La plupart des élèves ont jugé cet usage répréhensible, mais l’élève a alors expliqué que sans cette IA, il n’aurait pas fait son exercice, car il n’avait pas compris ce qu’il fallait faire. Pour lui, l’obtention du résultat était moins importante que la démonstration et les explications obtenues pour aboutir à ce résultat. Il défendait l’idée que l’IA lui avait apporté de l’aide au moment où il en avait besoin.

Une fois ces usages identifiés, une réflexion sur ce qu’est l’éthique a été engagée à partir du dilemme du tramway, où un individu doit faire un choix avantageant un groupe de personnes mais désavantageant une autre personne, remis au gout du jour avec le dilemme de la voiture autonome. Les élèves devaient choisir les actions de la voiture dans différentes situations où se posait un dilemme éthique. Ils se sont donc placés dans la position des programmeurs qui devraient décider de l’action de la voiture, en amont de sa commercialisation.

Puis, les élèves ont réfléchi collectivement à un ensemble de principes éthiques qui devront guider les usages des IAG au collège. Ils se sont centrés sur les principes de transparence, d’équité, de responsabilité, de sécurité, de durabilité et de confidentialité.

Ensuite, la classe a été divisée en plusieurs groupes qui ont rédigé chacun une partie de la charte. Chaque groupe avait une heure pour rédiger, selon les groupes, le préambule, l’introduction, définir les principes éthiques, expliquer la démarche menée (processus de mise en œuvre), les droits et responsabilités des usagers, la communication et la sensibilisation, et le pilotage de la charte. Chaque groupe est alors passé à l’oral devant la classe pour présenter les travaux menés et en débattre avec leurs camarades.

Une fois cette rédaction collective menée, le projet a été présenté par les élèves au chef d’établissement et au CPE pour validation, avant d’être voté en conseil d’administration (avec présentation par une élève de la classe).

À l’issue de ce vote, une instance a été mise en place dans l’établissement pour veiller à l’application et l’actualisation de ladite charte. Ce comité de pilotage est encore en cours de constitution, car il s’ajoute à de nombreux autres organismes du collège. Il est composé du chef d’établissement, du CPE, de deux professeurs volontaires (au minimum), de deux élèves, de deux agents volontaires et de deux parents d’élèves. Ce comité se doit de faire vivre cette charte en la développant et en l’amendant.

Durant l’année 2024-2025, les nouveaux élèves de 4e prennent la relève de leurs camarades. L’enjeu est d’approfondir la charte et de la rendre plus concrète pour les autres élèves du collège. À cette occasion, une infographie a été réalisée pour la rendre plus accessible aux usagers.

La charte va être approfondie en avril-mai 2025 avec des échanges programmés entre les élèves et des intervenants. Ils rencontreront en visioconférence des experts sur certains des thèmes éthiques identifiés, comme Michael Zeyringer, inspecteur de l’Éducation nationale réalisant actuellement un doctorat sur l’éthique de l’IA dans le premier degré, David Wissocq, formateur particulièrement sensible au respect des données personnelles, Henri Poulain, réalisateur du documentaire Les sacrifiés de l’IA, Colin de la Higuera, chercheur en informatique titulaire de la chaire Unesco Ressources éducatives libres et intelligence artificielle (Relia), ainsi qu’Axelle Desaint, directrice d’une entreprise edtech (contraction de education et technology, soit l’innovation technologique pour l’éducation), en charge du Safer Internet Day (campagne nationale pour sensibiliser aux bons usages du numérique).

L’ensemble de ces échanges est volontairement limité à une séance par expert, avec trente minutes d’échanges puis vingt-cinq minutes de production collective d’un support de restitution (podcast, infographie, carte mentale, etc.).

La démarche éthique engagée en 2023 a pour vocation de susciter des débats, des interrogations et des controverses. Pour que les usagers s’emparent de ces questions, il est essentiel qu’ils en soient acteurs et non de simples spectateurs voyant arriver des textes règlementaires venant s’ajouter à tant d’autres. Cette démarche éthique est encore incomplète et imparfaite, mais devrait s’étoffer sur plusieurs années. Elle doit aussi s’élargir dans l’établissement en étant généralisée à l’éthique du numérique.

Si notre dossier de candidature au programme Erasmus+ est accepté et que le projet peut être réalisé, les élèves de 4e de cette année scolaire partiront fin 2025 en Estonie pour étudier les usages du numérique et des IAG. Cette analyse des pratiques et les échanges donneront lieu à une charte rédigée et amendée par les élèves français et estoniens. Affaire à suivre !

À lire également sur notre site

Un colloque pour anticiper l’avenir de l’IA à l’école, par Marie-Claude Pignol

Les élèves face à l’IA : entre séduction et inquiétudes, par Antoine Tresgots

Intelligence artificielle : trois défis pour l’école, par Antoine Tresgots et Jean-Michel Zakhartchouk

Questionner Vera, entretien avec Florian Gauthier

Rédiger avec l’IA sans tricher, par Noël Jouenne

Intelligence artificielle ou intelligence coopérative à l’école : faut-il choisir ? par Laurent Reynaud

Sur notre librairie

1. Le Larzac reste une terre de réflexion et d’imagination d’autres mondes possibles. Si vous voulez vous remémorer la fameuse lutte du camp du Larzac de 1971, vous pouvez découvrir le podcast réalisé par les élèves du club radio qui ont interrogé des acteurs de l’époque et fouillé les archives de la préfecture : https://radioeducation.saooti.org/main/pub/podcast/318689-Gardarem-la-m%C3%A9moire.