Pourquoi je n'enseignerai pas l'IA

• Je n'ai pas envie d'utiliser l'IAG avec mes élèves
• Quelques objections
• Intermède : Toute l'IAG n'est pas jeter
• Pourquoi j'en parlerai quand même

Dans ce texte, j'utilise « IAG » comme synonyme d'intelligence artificielle générative (même si elle n'a rien d'intelligente, mais nous y reviendrons) s'appuyant sur des grands modèles de langage (LLM, pour large language models, en anglais), en particulier pour la génération de textes. Ce n'est pas rigoureux, mais tout le monde le fait.

Plus de 90% des étudiants utilisent l'IAG tous les jours¹. Je sais que certain·e·s de mes élèves l'utilisent pour faire leur travail à leur place. Une idée que l'on entend parfois dans les médias est que les professeur·e·s devraient accompagner leurs élèves dans cet usage, et leur apprendre à mieux utiliser l'IAG. Je n'en ai aucune envie.

Je n'ai pas envie d'utiliser l'IAG avec mes élèves

Les IAG ne disent pas la vérité

Commençons par rappeler que les IAG, malgré leur nom, n'ont aucune intelligence : ce sont des agents conversationnels, qui simulent une conversation humaine, sans savoir si leurs réponses ont un sens ou non, ni si elles sont correctes ou non². Notre travail de professeur·e·s étant (notamment) d'enseigner la vérité scientifique et les méthodes y menant, un outil mélangeant le vrai et le faux n'a pas sa place dans nos salles de cours.

L'auteur d'un article³ faisait remarquer que le terme « hallucinations » pour désigner les erreurs des IAG est trompeur, car il donne l'impression que les IAG disent la vérité, et se trompent de temps en temps. Or les IAG ne fonctionnent pas comme cela : elles racontent n'importe quoi, sans aucune notion de vérité ou d'erreur. Les « hallucinations » ne sont pas des exceptions, mais leur fonctionnement normal.

Cette technologie n'est pas écologiquement soutenable

L'informatique en général est une calamité pour la planète. Mais l'arrivée des IAG générative fait exploser cette tendance : les objectifs d'émission de CO2 des grandes entreprises du numérique ont été abandonnés avec l'arrivée de l'IAG⁴, et ces entreprises veulent même relancer des centrales nucléaires pour se fournir en électricié⁵.

Je ne peux pas accompagner et encourager mes élèves à utiliser une technologie qui détruit à ce point le monde dans lequel ils et elles vont vivre plus longtemps que moi.

Cette technologie véhicule des biais (racistes, sexistes, homophobes…)

Pour générer du texte (ou des images), les IAG ont étudié un grand nombre de médias (pour simplifier : elles ont lu tout internet), et les réponses qu'elles donnent ressemblent à ce qu'elles ont appris. Puisque ces médias véhiculent souvent des stéréotypes racistes, sexistes, homophobes… (ce qui reflète parfois le racisme, le sexisme, l'homophobie du monde dans lequel nous vivons), les IAG reproduisent ces stéréotypes, où une personne qui fait le ménage est une femme, une personne qui joue au foot est un fomme, une personne fréquentant les services sociaux est noire, asiatique, d'amérique latine, une latina est une jeune femme sexy en bikini, etc.⁶

Je ne peux pas encourager mes élèves à utiliser un outil qui reproduit ces stéréotypes.

Cette technologie récolte nos données personnelles

L'institution commence à nous encourager à utiliser les IAG⁷ mais, à ma connaissance, sans nous fournir d'outils pour cela. Cela signifie que nous devons nous tourner vers les outils du commerce, ce qui pose des problèmes de données personnelles.

Nous n'avons pas le droit de faire créer de comptes aux élèves (ou alors dans un cadre très contraint), et ce n'est pas parce qu'un outil ne nécessite pas d'authentification qu'il n'en récolte pas. Et même avec toutes les précautions possibles, rien n'indique que ces entreprises protègent efficacement nos données⁸.

Il est de mon devoir moral et légal de ne pas offrir les données de mes élèves à ces entreprises.

Cette technologie viole le droit d'auteur

Si vous ou moi téléchargeons illégalement un film, nous risquons une amende et la suspension de notre connexion à internet ; si nous diffusons illégalement de la musique, une maison de disque peut nous réclamer 180 000 € de dommages et intérêts⁹. Mais pour entraîner les IAG, les entreprises ont besoin d'une grande quantité de médias, qu'elles trouvent notamment sur internet, au mépris du droit d'auteur¹⁰, et s'en justifie en disant que sans cela, elles ne pourraient pas faire fonctionner leur outil.

Quelques objections

« Les élèves peuvent demander à une IAG la réponse à leur devoir, et étudier la réponse de manière critique. »

Je ne suis pas convaincu, pour différentes raisons.

D'une part, la recherche de la solution est une des choses que nous devons enseigner, et cette utilisation de l'IAG (qui se résume à vérifier la réponse donnée par l'oracle) exclut ce travail de recherche.

D'autre part, pour pouvoir porter un regard critique sur une réponse, il faut avoir un minimum de maîtrise du sujet : si je débute dans l'apprentissage du chinois, je n'ai aucun moyen de savoir si la traduction que m'a donnée une IAG est correcte ou non. Des collègue utilisent l'IAG pour générer des exercices (« Génère moi dix questions de difficulté progressive sur les identités remarquables, pour des élèves de troisième ») : cela peut fonctionner car les professeur·e·s sont expert·e·s du sujet, et peuvent en vérifier la pertinence. Je doute de la capacité des élèves à faire le même travail pour la réponse d'une IAG à leurs devoirs (pas parce qu'ils et elles seraient jeunes ou stupides, mais simplement parce qu'ils et elles n'ont pas le niveau d'expertise nécessaire).

« Il est inutile de leur faire apprendre des choses qu'un ordinateur peut faire à leur place. »

À l'école primaire, les enfants apprennent à faire des additions et des multiplications, alors qu'une calculatrice le fait mieux et plus rapidement qu'elles et eux. Mais les professeures prennent le temps de leur apprendre à faire ces opérations car pour comprendre ce qu'est un nombre, et ce que représenteent ces opérations, il faut les manipuler..

En poussant l'idée encore plus loin, on pourrait proposer de ne plus apprendre aux enfants à lire, puisqu'ils et elles peuvent utiliser un smartphone pour photographier un texte et le lire à l'oral. Mais nous ne le faisons pas parce qu'apprendre à lire est nécessaire.

Je pense que même avec l'informatique et les IAG, les compétences que nous enseignons à l'école restent importantes : analyser un texte, résoudre un problème, comprendre un phénomène physique ou social… Ne pas les étudier car une IAG peut le faire à notre place nous prive de ces compétences importaintes, et nous empêche de maîtriser un domaine et d'en devenir expert.

« Les élèves utilisent déjà ces outils : autant les accompagner pour qu'ils et elles les utilisent correctement. »

Ce n'est pas parce que mes élèves fument que je vais leur expliquer comment fumer mieux, et comment mieux choisir leurs cigarettes. Mon devoir est d'aller contre leur pratique, et de leur expliquer pourquoi la cigarette est mauvaise pour eux.

Même s'ils et elles utilisent déjà cet outil, cela reste un outil qui mélange le vrai et le faux, détruit la planète, véhicule des stéréotypes sexistes, et entrave leur apprentissage. Je n'ai aucune envie de les encourager à l'utiliser.

« Utilisées correctement, les IAG peuvent les aider dans leur travail scolaire »

J'ai entendu parler d'élèves qui demandent aux IAG de les interroger sur leur leçon, pour réviser. Beaucoup de gens l'utilisent pour résumer des textes.

Là encore, je suis sceptique, et j'aimerais avoir la preuve que cela fonctionne.

Par exemple, les IAG sont très mauvaises pour résumer un texte¹¹ (encore pour la même raison : elles n'ont aucune notion de vérité). Donc j'aimerais m'assurer qu'elles sont vraiment efficaces pour ces autres usages pédagogiques.

« Les IAG permettent de faire sans effort des choses pénibles et répétitives »

C'est en faisant des choses pénibles et répétitives que l'on apprend. On ne maîtrise pas la musique sans répéter des gammes, ni les langues sans mémoriser du vocabulaire, ni les mathématiques sans développer des identités remarquables à la chaîne. Il faut faire des efforts pour apprendre. Il y a des domaines où les IAG permettent d'éviter ces efforts, parce que l'on veut immédiatement le résultat, mais le but de l'école est d'apprendre, et cela passe par ces choses pénibles et répétitives.

Intermède : Toute l'IAG n'est pas jeter

Je ne crache pas sur toutes les utilisations des IAG. Par exemple, c'est une bonne chose pour les malentendant·e·s que VLC puisse générer des sous-titres à la volée¹², et ce serait une bonne chose que les IA filtre mieux les vidéos de viol et de suicide pour épargner les modérateur·ice·s humain·e·s¹³.

Pourquoi j'en parlerai quand même

Malgré tout le mal que j'en pense¹⁴, mes élèves les utilisent, donc contrairement à ce que j'ai dit plus tôt, il faut en parler. Comme pour les violences et le porno, faire comme si ça n'existait pas ne les aidera pas à porter un regard critique sur leur comportement, voire le changer.

Mais je ne leur apprends pas à l'utiliser. J'en parle en présentant les inconvénients, en essayant de leur faire porter un regard critique dessus, et en les mettant en garde des risques. Voici quelques exemples.

• En donnant des DM (non notés) à mes élèves de première, je leur explique l'intérêt de rechercher la solution (donc sans IA), et que s'ils et elles l'utilisent parce qu'ils et elles sont bloqué·e·s, il ne faut pas recopier bêtement la réponse, mais la comprendre, la cacher, et essayer de la reproduire. S'ils et elles n'y arrivent pas, c'est que la solution n'est pas bien comprise, et la recopier sera une perte de temps.

• En demandant à mes élèves de faire un travail de recherche en SNT, nous (les documentalistes et moi) analysons la pertinence des différentes sources (site institutionnel, blog, réseau social, média de référence, etc.) et nous leurs demandons la place des IAG là-dedans : source pertinente, de qualité, ou pas ?

À ce titre, la séance de Florent Figon (pour ses étudiant·e·s de master) est excellente¹⁵.