Comprendre les risques éthiques de l’IA

La recherche nous apprend que l’IA a déjà fait son entrée dans les classes. Le personnel enseignant comme les élèves l’utilisent. Par exemple, selon un rapport de sondage éclair publié en 2025 par l’Alberta Teachers’ Association (ATA), 78 % des enseignantes et enseignants avaient utilisé l’IA au cours des six mois précédents. De plus, le rapport PISA 2025/2026 de l’OCDE indique que plus de 46 % des adolescentes et adolescents dans le monde utilisent l’IA pour « les aider à apprendre ».

À mesure que l’IA prend de la place en éducation, il est essentiel de réfléchir de façon critique à la question de savoir si ces technologies devraient être intégrées en classe, à quel moment et de quelle façon. Quelles conséquences imprévues peuvent survenir ? Comment protéger la vie privée des élèves, préserver l’authenticité de l’apprentissage et faire en sorte que l’IA favorise l’équité plutôt que d’accentuer les écarts existants ?

L’éthique de l’IA désigne les principes qui orientent le développement et l’utilisation des technologies d’IA afin de s’assurer qu’elles sont sûres, équitables et bénéfiques (UNESCO, 2023). De la maternelle à la 12e année, l’éthique de l’IA est une responsabilité partagée entre les développeurs d’IA, les entreprises technologiques, le personnel éducatif, les leaders en éducation et les décideurs politiques. Les développeurs et les entreprises technologiques ont la responsabilité de concevoir des systèmes d’IA dotés de mesures de protection appropriées, et les leaders en éducation et les décideurs politiques jouent un rôle essentiel dans l’établissement de garde-fous et de lignes directrices encadrant l’utilisation de ces technologies en classe. Les membres du personnel éducatif sont des experts de la pédagogie qui exercent leur jugement professionnel et prennent des décisions éclairées quant à la pertinence d’utiliser les technologies d’IA pour soutenir leur pratique pédagogique au moment opportun et de la manière qui convient. Pour être en mesure de prendre cette décision, il faut d’abord comprendre la technologie elle-même et les risques qu’elle peut présenter.

Les systèmes d’IA apprennent à partir de données et utilisent les schémas appris pour faire des prédictions, des classifications et des recommandations, et peuvent parfois agir en notre nom. Les biais peuvent s’introduire à différents moments, depuis les schémas déjà présents dans les données jusqu’aux décisions sur la façon dont un modèle est entraîné et sur l’endroit où il sera finalement utilisé.

Le biais algorithmique est un terme général servant à décrire des schémas systématiques dans un système algorithmique qui peuvent mener à des résultats injustes ou inégaux pour différentes personnes ou différents groupes (Suresh & Guttag, 2021). Les différentes formes de biais que nous avons explorées, notamment les biais historique, de représentation, d’apprentissage et de déploiement, peuvent toutes contribuer à ces résultats.

Suivons maintenant ce biais au-delà du système lui-même. Que peut-il se produire lorsque des prédictions, des classifications ou des recommandations biaisées s’infiltrent dans les milieux éducatifs ? Quelles sont les répercussions directes sur le quotidien, les possibilités et les résultats des élèves comme du personnel éducatif ?

Exemples réels de biais algorithmiques dans les milieux de la maternelle à la 12e année

Ces études de cas donnent un aperçu des façons dont les biais algorithmiques peuvent avoir une incidence sur les systèmes scolaires de la maternelle à la 12e année et montrent que les outils automatisés ne fonctionnent pas dans un environnement neutre. Lorsqu’elles sont entraînées sur des ensembles de données non représentatifs ou conçues sans garde-fous inclusifs, ces technologies peuvent renforcer activement des inégalités systémiques, mal interpréter les actions de groupes marginalisés et limiter les possibilités d’apprentissage. Pour favoriser des milieux d’apprentissage véritablement équitables, les communautés scolaires doivent évaluer de façon critique les modèles qu’elles déploient, en veillant à ce que la supervision humaine et la responsabilisation demeurent au centre des décisions administratives et pédagogiques.

Pour comprendre pourquoi les modèles d’IA produisent de fausses informations, nous pouvons revenir au chapitre 2, où nous avons vu qu’un grand modèle de langage génère une réponse en prédisant ce qui est le plus susceptible de venir ensuite, à partir des schémas appris pendant l’entraînement. Les modèles d’IA ne « connaissent » pas les faits et ne vérifient pas la vérité : ils calculent la probabilité statistique du mot ou du jeton qui devrait suivre le précédent, d’après les schémas appris pendant l’entraînement.

Une hallucination de l’IA se produit lorsqu’un modèle génère avec assurance des informations complètement fausses, fabrique des événements historiques, invente des affirmations scientifiques ou produit des références universitaires et des adresses URL d’apparence réaliste qui n’existent pas dans la réalité.

Parmi les principaux facteurs d’hallucinations et d’inexactitudes de l’IA, on trouve :

La date limite des connaissances

De nombreux grands modèles de langage sont entraînés à partir d’un instantané statique de données historiques qui s’arrête à un moment précis, appelé date limite des connaissances (ou date limite d’entraînement). Cela signifie qu’ils peuvent ne pas connaître les événements, les changements de politique ou les découvertes scientifiques qui surviennent par la suite. Lorsqu’on les interroge sur un sujet qui dépasse leur entraînement, ils peuvent ne pas se rendre compte que leur information est manquante ou périmée. Au lieu d’admettre qu’ils ne savent pas, ils peuvent générer une réponse qui semble convaincante, mais qui comprend des faits inventés ou de l’information périmée.

L’« illusion de fluidité »

Parce que les grands modèles de langage excellent à imiter la grammaire professionnelle et universitaire ainsi que le ton d’autorité, les résultats fabriqués sont présentés avec une fluidité convaincante. Les utilisateurs sont donc fréquemment victimes de l’« illusion de fluidité » (Benjamin, 1998), en prenant le vernis linguistique pour de l’exactitude factuelle.

Pourquoi est-ce important ?

Même si ces exemples peuvent sembler être des erreurs mineures pour certaines personnes, ils soulignent l’importance de la littératie en IA et du jugement professionnel lorsqu’on envisage d’utiliser l’IA en éducation. Il est important que le personnel éducatif soit capable d’évaluer de façon critique le contenu généré par l’IA. Ce discernement suppose de savoir reconnaître les images manipulées ou fabriquées, de repérer les inexactitudes et de vérifier l’information avant de la communiquer aux élèves. Nous mettrons cette compétence en pratique au chapitre 4 : Pratiques quotidiennes et intégration en classe.

À mesure que les modèles génératifs s’étendent au-delà du texte vers des formats multimodaux, voir et entendre ne suffisent plus à établir l’authenticité. Les résultats multimodaux peuvent produire des médias synthétiques, terme qui désigne de façon générale tout contenu numérique (y compris le texte écrit, les images, la voix et la musique, les vidéos, les ressources numériques 3D, les avatars virtuels et les environnements simulés) qui est généré, augmenté ou manipulé par des modèles d’IA. Contrairement à la retouche et au montage numériques traditionnels, qui exige des compétences techniques et une manipulation manuelle de logiciels, les outils de médias synthétiques fonctionnent à l’aide de modèles génératifs pilotés par des requêtes qui construisent à grande échelle des médias numériques réalistes.

Les hypertrucages (deepfakes) sont une catégorie particulière de médias synthétiques créés à l’aide d’algorithmes d’apprentissage profond permettant de remplacer des visages, cloner des voix humaines ou manipuler des séquences vidéo afin de montrer des personnes disant ou faisant des choses qu’elles n’ont jamais dites ou faites.

Par exemple, l’image ci-dessous montre Albert Einstein en train de magasiner dans un magasin Apple, un événement que nous reconnaissons comme historiquement impossible.

Toutefois, bon nombre d’hypertrucages sont beaucoup plus malveillants que notre image d’Albert Einstein. Dans l’éducation de la maternelle à la 12e année, la multiplication des hypertrucages modifie fondamentalement le paysage de la littératie médiatique numérique. Au-delà de la simple détection de la désinformation ou d’un texte biaisé, les élèves doivent aussi être capables d’évaluer de façon critique l’authenticité des médias dans un environnement où les preuves visuelles, sonores et vidéo peuvent être synthétisées ou manipulées de façon convaincante.

Exemple : En 2024, un faux enregistrement audio dans lequel le directeur de la Pikesville High School, au Maryland, semblait tenir des propos racistes et antisémites a circulé dans l’école. Les autorités ont allégué que la voix du directeur avait été clonée et manipulée à l’aide de l’IA. L’enregistrement s’est propagé par courriel et dans les médias sociaux, entraînant des conséquences importantes pour la communauté scolaire, dont la mise en congé du directeur, qui a aussi reçu des menaces et été victime de harcèlement (Finley, 2024).

Ce cas montre comment des médias synthétiques peuvent causer un préjudice bien réel avant même que leur authenticité ait été vérifiée. Dans les milieux scolaires, des contenus audio, des images ou des vidéos manipulés peuvent nuire à des réputations, perturber les communautés scolaires et rendre de plus en plus difficile, pour les élèves et le personnel éducatif, de déterminer quelles preuves sont dignes de confiance.

Ce changement pose des défis particuliers sur le plan éducatif et de la sécurité dans les milieux scolaires :

Se retrouver dans la complexité des médias synthétiques met en évidence à quel point les interactions numériques sont de plus en plus façonnées par un réalisme simulé. À mesure que les élèves apprennent à évaluer de façon critique l’authenticité des médias générés par des modèles synthétiques, ils font face à un défi connexe : interagir avec une IA conversationnelle conçue pour simuler l’empathie humaine. Au-delà de distinguer les vrais médias des contenus fabriqués, les apprenants doivent composer avec les limites émotionnelles et les risques socioémotionnels de l’interaction avec des compagnons d’IA.

L’essor rapide des agents conversationnels d’IA conçus pour offrir des dialogues très empathiques, polis et personnalisés a donné lieu à un phénomène croissant : des élèves interagissent avec des agents conversationnels comme s’ils étaient des « compagnons d’IA », des confidents numériques ou des amis virtuels.

Bien que les agents conversationnels puissent offrir des exercices de pratique linguistique sans pression ou du tutorat interactif, leur conception anthropomorphique entraîne d’importants risques socioémotionnels et psychologiques pour les jeunes apprenants (UNICEF, 2025).

Établir des limites et des mesures de protection

À mesure que les risques de l’IA anthropomorphique deviennent plus clairs, des membres du personnel éducatif et des décideurs s’emploient à restreindre ou à interdire ces systèmes dans les milieux de la maternelle à la 12e année, comme le montrent des organismes tels que l’Alberta Teachers’ Association (2026). Ce changement met en évidence une réalité cruciale : les outils automatisés ne peuvent pas remplacer des professionnels humains formés dans des rôles de soutien essentiels comme celui de conseiller ou de conseillère scolaire, où l’empathie authentique et le jugement éthique sont non négociables.

Pour aider à gérer ces risques, les élèves ont besoin d’un enseignement explicite sur le fonctionnement interne des systèmes d’IA, qui les aide à reconnaître que ces modèles sont des outils informatiques dépourvus de conscience plutôt que des substituts à de véritables relations humaines.