Les élèves traquent les biais de l’IA

Comment faire prendre conscience aux élèves qu’ils ne peuvent croire naïvement ce que l’IA leur livre ? Présentation d’une activité en SVT, au cours de laquelle des collégiens sont invités à débusquer des erreurs dans les propositions des IA, et à prendre conscience de leurs propres biais.

Régulièrement, mes élèves me rapportent des faits spectaculaires sur le monde animal ou des actualités pseudoscientifiques glanés sur les réseaux. Mon retour est systématiquement le même : « Où as-tu trouvé cette information ? », parce que, en tant que professeure de sciences de la vie et de la Terre, j’aime les faire réfléchir aux sources et aux preuves de leurs propos. Récemment, les réponses « sur TikTok » ou « sur Snap » ont laissé leur place à « demandez à chatGPT, vous verrez ».

La question des IA génératives m’avait déjà mobilisée car, en tant que RUPN (référente pour les usages pédagogiques du numérique) en REP, je suis bien consciente de la fracture numérique. Mais depuis peu, le besoin de former mes élèves à utiliser les IA s’est imposé.

Au-delà de la prévention sur l’outil, qui ne doit pas remplacer les apprentissages et la réflexion individuelle, la rédaction et la recherche d’information, il s’agit aussi, et surtout, de travailler l’esprit critique de mes élèves, en insistant sur le fait qu’ils ne peuvent pas prendre pour acquis ce qu’ils y voient.

J’ai donc créé un chatbot¹ sur Mizou², qui joue le rôle d’un nutritionniste. Les élèves doivent obtenir de lui un menu équilibré sur une semaine en tenant compte de leurs préférences alimentaires. Une fois la proposition de l’IA reçue, les élèves doivent vérifier avec la brochure de Santé publique France que cela correspond aux recommandations nationales.

Une fois ce premier temps de travail effectué, nous bifurquons vers la question de la bonne croissance. Les élèves jouent un personnage qui va solliciter l’IA en lui disant qu’ils veulent maigrir et engagent alors un échange à ce sujet. Je leur demande alors ce qu’ils pensent de la réponse du chatbot et nous échangeons en classe entière pour mettre en évidence les limites et les biais de l’IA.

Par exemple, le bot utilise des biais, puisqu’il ne propose que des produits principalement occidentaux. Les repas du soir et du midi proposés contiennent systématiquement de la viande ou du poisson. Le chatbot véhicule des préjugés, il a le culte du corps mince plutôt que du poids de santé « tu as raison de faire attention à rester mince » ou « je comprends que tu ne souhaites pas grossir davantage » sans jamais se référer à l’IMC (indice de masse corporelle). Il ne demande pas non plus de consulter pour une perte de poids et ne pose aucune question pour savoir s’il y a des allergies ou autres problèmes médicaux à prendre en compte. Enfin, il propose des menus sans avoir des informations importantes comme l’âge et la pratique régulière ou non d’activité physique.

Les élèves sont assez surpris d’être dans la posture de celui qui corrige l’IA, je les ai entendus dire « hé ! mais en fait c’est n’importe quoi ce qu’il dit ! », « Madame, là ça va pas, hein ? C’est lui qui se trompe ? » Si certains avaient déjà conscience de la nécessité de ne pas accorder trop de confiance aux réponses de l’IA, les mettre dans cette situation leur a permis de vérifier les raisons de ce manque de confiance. Ils ont pu vraiment appréhender que tout n’est pas correct et fiable quand on sollicite une IA.

Par contre, ils ont été très étonnés des biais liés au manque d’ouverture culturelle de l’IA. Ils n’en avaient pas conscience du tout. Ils ne s’étaient jamais posé la question. Ils m’ont alors listé de nombreux plats ou produits communs qui n’étaient pas cités : « mafé, tajine, mangue ».

Les prochains chantiers concerneront probablement le fait d’apprendre à mes élèves à rédiger des prompts³ pour faire des IA des outils d’apprentissage en autonomie. C’est aussi un enjeu fort de savoir « prompter », car cela sera au cœur de la fracture numérique. Il y aura celles et ceux qui savent obtenir ce qu’ils veulent de l’IA, car ils seront à l’aise avec la formulation des requêtes, et les autres qui n’en feront qu’un usage limité par manque de maitrise.

Je vais essayer de créer une ressource vidéo avec l’IA, véhiculant une fausse information en la présentant comme une découverte. Sûr que mes élèves vont marcher à fond, le pouvoir de l’image est tellement fort ! Cela permettra aussi d’aborder la question des réseaux sociaux et de ce que l’on peut y lire et y voir…

À lire également sur notre site :

Regard critique sur l’esprit critique, par Laurent Reynaud

L’esprit critique au cœur des enseignements, entretien avec Elena Pasquinelli

Douze conseils pour éduquer à l’esprit critique, par Sylvie Fromentelle

Sur notre librairie