Des prédictions aux décisions

Un système peut prédire si un courriel est un pourriel, recommander la prochaine vidéo que vous pourriez vouloir regarder ou générer une réponse à partir de ce qui est le plus susceptible de venir ensuite. Mais que se passe-t-il après qu’un système d’IA a produit un résultat ?

Parfois, ce résultat nous donne simplement de l’information à prendre en considération. D’autres fois, il peut influencer ce que nous voyons, les occasions qui nous sont présentées ou la mesure qui est prise ensuite. Dans ce sujet, nous suivrons plus en détail les résultats de l’IA et nous explorerons comment les prédictions et les recommandations peuvent influencer ce qui se passe ensuite, y compris les choix humains qui façonnent la conception et l’utilisation de ces systèmes.

Un système d’IA peut faire une prédiction, attribuer une note, classer quelque chose dans une catégorie ou recommander une option. Mais ces résultats ne déterminent pas nécessairement ce qui devrait se passer ensuite.

Imaginez qu’un outil d’apprentissage assisté par l’IA repère des schémas dans le travail d’un élève et prédit que celui-ci risque d’éprouver des difficultés avec une prochaine notion. Cette prédiction peut fournir de l’information utile, mais elle n’explique pas pourquoi l’élève pourrait avoir de la difficulté et ne détermine pas ce qu’il faut faire en réponse.

La façon dont un résultat de l’IA influence ce qui se passe ensuite dépend de la manière dont le système est conçu et utilisé. Une prédiction peut simplement être présentée à un membre du personnel éducatif comme information supplémentaire, être utilisée par le système pour générer une recommandation ou déclencher automatiquement une action.

De la prédiction à l’action

Une même prédiction peut jouer des rôles très différents selon ce qui se passe après qu’elle a été faite. L’exemple ci-dessous suit une prédiction à travers trois parcours possibles, depuis l’information transmise à un membre du personnel éducatif jusqu’au déclenchement d’une action automatisée.

La prédiction est la même dans chaque parcours, mais ce qui en découle est différent. Dans le premier parcours, la prédiction fournit de l’information que le membre du personnel éducatif peut prendre en considération. Dans le deuxième, le système va un cran plus loin en utilisant la prédiction pour recommander une action, tandis que le membre du personnel éducatif décide toujours de ce qu’il faut faire. Dans le troisième, le système agit automatiquement à partir de la prédiction, sans examen préalable par le membre du personnel éducatif. L’importance de cette automatisation dépend aussi de l’action entreprise. Assigner automatiquement une activité de pratique supplémentaire est très différent d’utiliser une prédiction de l’IA pour déterminer une note, une admission ou un autre résultat à fort impact. Plus l’incidence potentielle sur un apprenant ou une apprenante augmente, plus un jugement humain significatif devient important.

Lorsque des algorithmes servent à éclairer ou à façonner ce qui se passe ensuite, nous entrons dans le monde de la prise de décisions algorithmique.

La prise de décisions algorithmique désigne de façon générale les processus dans lesquels des algorithmes sont utilisés pour éclairer, soutenir ou automatiser des décisions. Ces processus font déjà partie de nombreuses expériences numériques. Les moteurs de recherche classent les résultats qui apparaissent en premier, les systèmes de recommandation influencent ce qui apparaît dans les fils de contenu et les plateformes éducatives peuvent utiliser des prédictions pour recommander des activités, personnaliser le contenu ou fournir de la rétroaction.

Parfois, ces décisions peuvent sembler mineures, comme la vidéo qui apparaît ensuite. D’autres peuvent avoir une plus grande influence sur l’expérience ou les possibilités d’une personne. Dans chaque cas, il vaut la peine de regarder non seulement ce que le système prédit, mais aussi comment cette prédiction façonne ce que quelqu’un voit, vit ou fait ensuite.

Examinons quelques exemples que le personnel éducatif et les élèves pourraient rencontrer.

Les systèmes d’IA peuvent faire des prédictions et des recommandations, mais ce sont des personnes qui font bon nombre des choix qui façonnent leur fonctionnement. Concevoir un système d’IA n’est pas toujours uniquement le travail des développeurs d’IA ou des spécialistes des données.

Lorsque l’IA est développée pour un domaine particulier, des spécialistes de ce domaine peuvent aussi y contribuer. Un spécialiste du domaine est une personne qui possède des connaissances ou une expérience spécialisées dans le secteur où le système d’IA sera utilisé. Cette personne peut apporter un contexte sur les gens, les pratiques et les situations que les équipes techniques n’ont peut-être pas. Des recherches sur le développement de l’apprentissage automatique ont montré que des spécialistes du domaine contribuent à des activités comme la collecte et la validation des données, la définition des concepts et l’évaluation du rendement du système (Díaz & Smith, 2023).

En éducation, les membres du personnel éducatif sont les spécialistes du domaine. Leurs connaissances sur les élèves, l’apprentissage et la pratique en classe peuvent aider à façonner les décisions sur la conception des outils assistés par l’IA et sur leur fonctionnement dans les milieux éducatifs. L’étude suivante illustre comment les membres du personnel éducatif peuvent participer à ce processus.

Ce type de collaboration réunit différentes formes d’expertise. Les équipes techniques savent comment construire le système, tandis que le personnel éducatif peut apporter un contexte sur l’enseignement et l’apprentissage qui n’est pas nécessairement visible dans les données seules.

Une recommandation, une prédiction ou une réponse générée peut sembler immédiate lorsqu’elle apparaît à l’écran. Mais nous savons maintenant qu’il y a bien plus derrière ce résultat. Les systèmes d’IA apprennent à partir de données, repèrent des schémas, font des prédictions et utilisent ces prédictions d’une manière qui dépend de la façon dont le système a été conçu.

Pour le personnel éducatif, comprendre ce processus permet d’adopter une perspective différente et utile. Au lieu de se demander seulement : « Ce résultat de l’IA est-il exact ? », on peut commencer à poser des questions plus riches. Quelles informations ont pu façonner ce résultat ? Que le système cherche-t-il à prédire ou à accomplir ? Que pourrait-il laisser de côté ? Et quelle influence son résultat devrait-il avoir sur ce qui se passe ensuite ? Ces questions n’exigent pas que le personnel éducatif devienne développeur d’IA ni qu’il comprenne tous les détails techniques. Elles font partie de la littératie en IA nécessaire pour aborder ces systèmes avec curiosité, en tenant compte du contexte et en exerçant un jugement éclairé.

Comprendre le fonctionnement de l’IA nous donne aussi une base pour réfléchir de façon plus critique à son incidence. Lorsque nous comprenons comment les données, les schémas, les prédictions et les choix humains façonnent les systèmes d’IA, nous sommes mieux préparés à examiner les effets que ces systèmes peuvent avoir lorsqu’ils sont utilisés dans le monde réel.

Maintenant que vous avez examiné de plus près comment l’IA apprend, prédit et influence ce qui se passe ensuite, il est temps de mettre ces idées en commun. Utilisez cette vérification des connaissances pour voir dans quelle mesure vous arrivez à relier les concepts abordés tout au long du chapitre.

Quelle est la prochaine étape de votre parcours d’apprentissage ?

Au chapitre 3, nous nous appuierons sur ce que nous avons appris au sujet des données, des schémas, des prédictions et des décisions en examinant de plus près les risques et les responsabilités qui accompagnent l’utilisation de l’IA. Nous explorerons des enjeux comme les biais, le contenu inexact ou manipulé, la protection des renseignements personnels, l’intégrité scolaire et la prise de décisions responsable, ainsi que les mesures de protection qui peuvent aider le personnel éducatif à relever ces défis avec réflexion.