Les systèmes d’intelligence artificielle

Les systèmes d’intelligence artificielle prennent une place grandissante dans plusieurs outils et environnements numériques. Même si leur présence et leur utilisation peuvent varier d’une famille à l’autre, il est important de comprendre leurs possibilités, leurs limites et leurs impacts.

Consulter la page Citoyenneté numérique

L'intelligence artificielle au CECCE

L'IA est présente dans une variété d’outils, comme les agents conversationnels, les plateformes éducatives, les applications de création de contenu, les outils de traduction ou de recommandation et les systèmes d’analyse. Certains sont visibles et interactifs ; d’autres fonctionnent discrètement en arrière-plan.

Au CECCE, les systèmes d’intelligence artificielle sont considérés comme des outils pouvant soutenir l’apprentissage lorsqu’ils sont utilisés avec intention, éthique et discernement. Utilisés de manière réfléchie, certains outils d’IA peuvent aussi soutenir la créativité, l’exploration d’idées, la différenciation pédagogique et l’accès à des ressources adaptées aux besoins et aux intérêts des élèves.

L’IA influence notamment

La façon dont l’information est générée, diffusée et consommée

La capacité des enfants, adolescentes et adolescents à interpréter ce qu’elles ou ils voient

La créativité, la communication et la résolution de problèmes

La relation entre les humains, les données et les algorithmes

Un encadrement responsable

Dans le développement de la citoyenneté numérique, il est essentiel que les enfants, adolescentes et adolescents apprennent non seulement à utiliser ces outils, mais aussi à en comprendre les possibilités, les limites, les impacts et les risques — autant à l’école qu’à la maison. Le CECCE met également en place des mécanismes pour encadrer l’utilisation des systèmes d’intelligence artificielle de manière responsable et transparente. L’utilisation de ces outils s’appuie sur des pratiques visant à protéger les renseignements personnels, à réduire les risques et à favoriser une utilisation éthique et sécuritaire des outils utilisant l’intelligence artificielle en milieu scolaire.

Ce que cela signifie pour votre enfant ou adolescente et adolescent

Au CECCE, l’intégration de l’IA vise à :

soutenir l’apprentissage et non pas à le remplacer, grâce à des outils offrant des modèles ou des ressources supplémentaires et personnalisées ;
développer la pensée critique, l’analyse, la créativité et le jugement éthique ;
offrir des possibilités supplémentaires d’explorer, de créer, de communiquer et d’apprendre de manière personnalisée ;
aider les élèves à comprendre comment les systèmes automatisés influencent ce qu’ils voient et utilisent en ligne ;
encourager une utilisation responsable et réfléchie, alignée sur des valeurs de respect, d’intégrité et de bienveillance.

Une utilisation éthique et responsable de l'IA se caractérise par sa capacité à :

favoriser l’apprentissage sans le supplanter ;
renforcer l’autonomie, sans faire le travail à la place de l’enfant ou de l’adolescente et l’adolescent;
être utilisée avec permission et de manière transparente ;
s’inscrire dans une intention pédagogique claire, connue de l’enseignant(e).

Les risques à connaître

Comme toute technologie, l’IA comporte aussi des défis et des risques :

Vie privée : certaines applications peuvent collecter des données personnelles.
Désinformation : l’IA peut générer du contenu faux ou trompeur de manière convaincante.
Biais : les systèmes peuvent reproduire des stéréotypes ou des injustices.
Usurpation d’identité : des images, des voix ou des vidéos peuvent être modifiées ou créées artificiellement.
Dépendance technologique : l’outil peut devenir une béquille si l’enfant ou l’adolescente et l’adolescent n’est pas guidé, et peut même nuire à l’apprentissage de connaissances et de compétences spécifiques.
Relation affective : l’utilisation de l’IA pour entretenir une relation affective peut entraîner de la confusion, une illusion d’empathie, de la dépendance et un accès à des contenus inadaptés ;
Vulnérabilité face à certaines interactions : certains enfants et adolescentes et adolescents peuvent avoir plus de difficulté à reconnaître les intentions réelles derrière certains contenus, messages ou systèmes automatisés et peuvent être plus susceptibles de partager des renseignements personnels ou de faire confiance rapidement.

Innover en toute sécurité

Le CECCE sélectionne et encadre rigoureusement les outils utilisés en milieu scolaire afin de réduire ces risques et de protéger ses élèves et son personnel. Lorsqu’un nouvel outil numérique ou un système d’intelligence artificielle est envisagé en contexte scolaire, des vérifications et des évaluations sont réalisées afin d’assurer une utilisation sécuritaire et appropriée. Ces démarches permettent entre autres, de clarifier comment les renseignements personnels sont protégés, qui peut y avoir accès et pendant combien de temps les données peuvent être conservées.

Pistes pour accompagner votre enfant ou votre adolescente et adolescent

Les systèmes d’intelligence artificielle influencent ce que les enfants, adolescentes et adolescents voient, consomment et parfois croient. Les algorithmes peuvent créer des bulles de contenu captivant, mais pas toujours équilibré ou fiable. L’accompagnement parental demeure essentiel pour développer une utilisation éclairée. Il est important de parler de l’IA à la maison, d'ouvrir la discussion et de ne pas chercher à l’interdire.

L’IA évolue rapidement. Un accompagnement constant, des échanges ouverts et une réflexion partagée permettent de soutenir des utilisations responsables, sécuritaires et éclairées du numérique.

Pistes simples pour soutenir cet accompagnement

Selon l’âge et le niveau d’autonomie de l’enfant ou de l’adolescente et l'adolescent

Parler de l’IA comme d’un outil et non comme d’une solution automatique

Rappeler qu’elle peut aider à apprendre, mais qu’elle ne remplace ni la réflexion, ni l’effort personnel, ni le soutien d’un adulte de confiance en cas de détresse.

S’intéresser aux outils utilisés

Poser des questions comme : Quels outils d’IA sont utilisés ? À quoi servent-ils ? Quelles données peuvent être partagées ?

Développer la pensée critique

Encourager la vérification des sources, la comparaison de l’information et le questionnement lorsque le contenu semble douteux ou irréaliste.

Parler des images, vidéos et audios générés

Expliquer que certains contenus peuvent être fabriqués ou modifiés et sembler authentiques.

Favoriser le dialogue et la prudence

- Maintenir un climat de confiance afin que l’enfant ou l’adolescente et l’adolescent se sente à l’aise de poser des questions ou de chercher du soutien.
- Discuter ensemble des types d’informations qui ne devraient jamais être partagés avec un inconnu, une application ou un système automatisé ;