[Projet de Loi] Pour une souveraineté et une responsabilité numérique dans l’enseignement obligatoire
Adrienne Sordet
Projet de Loi déposé par Adrienne Sordet en juin 2022
Texte complet: PL 13138
Exposé des motifs:
Aujourd’hui, le numérique est très présent dans la vie de tous et de toutes.
Si, en tant qu’adultes, nous sommes censé-e-s être capables de discernement
quant à l’utilisation des outils numériques et d’en faire une utilisation
rationnelle, les usages qui en sont faits nous montrent la difficulté à évoluer
dans cet univers numérique. Les choix, quant à la protection et la gestion des
données personnelles, s’effectuent, le plus souvent, de manière passive de la
part des utilisateurs et utilisatrices. L’utilisation intensive des écrans dans nos
vies a fait émerger des nouveaux maux, tant chez les adultes que chez les
enfants. Si la responsabilité individuelle peut, dans une certaine mesure (pour
autant que le libre arbitre des personnes concernées soit encore pleinement
établi avec l’utilisation de certains outils du numérique), être invoquée
concernant les adultes, elle ne peut être évoquée pour les enfants.
Si la responsabilité quant à l’usage des outils du numérique par les
personnes mineures dans la sphère privée incombe aux parents, cette
responsabilité incombe aux autorités publiques dans le cadre de la scolarité
obligatoire. Dans le cadre d’un usage contraint de certains des outils du
numérique, comme c’est le cas dans le cadre d’un programme scolaire, il est
donc de l’entière responsabilité des institutions et des autorités publiques de
mettre en place un cadre législatif garantissant un usage raisonné, raisonnable
et garantissant l’intégrité (physique, psychique et numérique) des utilisateurs
et utilisatrices.
Le numérique à l’école : de quoi s’agit-il ?
Le plan d’études romand (PER) définit l’éducation numérique selon les
« visées prioritaires » suivantes :
- rechercher, analyser, évaluer l’information et créer des contenus
médiatiques à l’aide d’outils adéquats, de manière citoyenne et
responsable ; - modéliser des phénomènes naturels, sociaux et techniques et résoudre des
problèmes en recourant aux concepts de base de la science informatique ; - développer des compétences d’utilisation efficiente et responsable des
environnements de communication, de collaboration et d’édition
numériques.
Dans ces « visées prioritaires », l’objectif d’une utilisation responsable
des outils et informations mises à dispositions est clairement énoncé. Or, si
l’on souhaite enseigner aux élèves une utilisation responsable du numérique,
il faut que l’Etat lui-même en ait une approche et une utilisation responsable,
tout du moins pour ce qui est mis à disposition des enseignant-e-s et des
élèves. Bien qu’une utilisation responsable du numérique puisse s’appliquer à
l’ensemble des services de l’Etat, le présent projet de loi se limite à mettre en
application les principes d’utilisation responsable dans le cadre de la loi sur
l’instruction publique pour les raisons suivantes :
- le numérique à l’école (utilisation responsable) est une demande émanant
du PER et il s’agit d’un chantier en cours ; - les projets demandant des crédits supplémentaires pour l’acquisition
d’outils numériques ont été refusés à plusieurs reprises et il est important
de donner une direction et un cadre en la matière au DIP ; - limiter, dans un premier temps, la portée de ce projet de loi permet d’en
faire un modèle pilote qui pourrait être par la suite adopté par les
différents départements et services de l’état.
Le présent projet de loi souhaite garantir la souveraineté numérique et
établir le principe de responsabilité numérique de l’Etat vis-à-vis des outils et
des informations gérées au sein du département de l’instruction publique. Ce
principe doit permettre d’assurer l’intégrité numérique tant des élèves que des
enseignant-e-s. Il a vocation à établir des principes d’introduction et
d’utilisation des outils numériques qui pourront éventuellement être repris, à
terme, par d’autres secteurs de l’administration publique.
La souveraineté et la responsabilité numériques : comprendre les enjeux
pour en garder la maîtrise
Dans le cadre du présent projet de loi, la souveraineté et la responsabilité
numériques doivent se comprendre comme la nécessité pour l’Etat de
maintenir la pleine et entière maîtrise dans la gestion des outils et
applications numériques utilisés dans le cadre des activités scolaires. Cette
maîtrise doit s’entendre d’un point de vue économique, social et écologique.
L’Etat doit, notamment, être en mesure :
- d’empêcher toute utilisation abusive des données récoltées dans le cadre
du programme scolaire, à des fins commerciales ou pour l’amélioration de
services numériques qui ne rentrent pas strictement dans le cadre du
programme pédagogique (p. ex. machine learning ou automatisation) ; - d’avoir le contrôle, en tout temps, sur le lieu de stockage des données ;
- d’accéder aux algorithmes permettant d’orienter et de définir les élèves
dans leurs apprentissages ; - de changer d’outils en s’assurant que les données stockées ne sont pas
conservées suite à l’arrêt de l’utilisation d’un outil ; - de s’assurer que les outils numériques mis à disposition dans le cadre
scolaire ne prétéritent ou n’orientent pas les choix économiques, sociaux
et politiques, actuels ou futurs, des différents usagers et usagères (élèves,
enseignant-e-s) ; - de s’assurer que les outils numériques et internet soient utilisés de
manière rationnelle de sorte à limiter leur impact énergétique.
Préserver l’intégrité numérique des enfants pour ne pas prétériter leur
avenir (numérique ou pas)
En ce sens, l’intégrité numérique des données récoltées dans le cadre
scolaire doit être assurée en tout temps et pour tous les usagers et toutes les
usagères.
L’intégrité numérique fait, ici, référence au lien avec le droit à
l’autodétermination informationnelle, déjà reconnu par la jurisprudence. Des
tribunaux ont, en effet, reconnu, dans le cadre du droit à la protection de la
sphère privée, un « droit à l’autodétermination informationnelle », en le
définissant comme un droit qui confère à toute personne une forme de
maîtrise sur ses données personnelles ou un droit qui permet à toute personne
de déterminer elle-même, à l’égard de tout traitement de données qui la
concerne, que ce soit par des entités publiques ou privées, et
indépendamment du caractère sensible ou non des données en question, si et
dans quels buts de telles données sont traitées1. Sans rentrer dans les détails
de l’évolution du champ d’application de ce droit et de la jurisprudence à ce
sujet, il paraît important de le garantir, de manière préventive, à tous les
élèves et enseignant-e-s, dans le cadre d’une utilisation contrainte (et de la
transmission des données personnelles qui vont avec) du numérique à l’école.
Tenir compte des potentiels effets à moyen et long terme
Ce projet de loi vise également à mieux encadrer dans quel contexte le
numérique peut être introduit dans les programmes scolaires. Si le PER
définit le cadre global à respecter pour l’introduction du numérique à l’école,
il n’en définit pas les limites à ne pas dépasser. En ce sens, il paraît nécessaire de fixer un cadre cantonal relativement strict qui fixe les
conditions dans lesquelles le numérique à l’école peut être introduit. Ainsi, il
paraît nécessaire de rappeler que les outils et applications du numérique
n’apportent pas que des aspects positifs et qu’il s’agit de préserver les élèves
des potentiels effets négatifs.
Face au manque de recul sur les effets à moyen et long terme des outils du
numérique, notamment sur le développement du cerveau des élèves, il paraît
nécessaire d’introduire un principe de précaution quant à l’introduction de
ces outils dans le cadre des programmes scolaires. Il s’agit, avant tout, d’en
éviter une utilisation systématique (et abusive) tant de la part des
enseignant-e-s que de la part des élèves. La plus-value pédagogique doit, en
ce sens, être systématiquement démontrée pour en justifier l’introduction.
D’autres aspects du numérique à l’école ne doivent également pas être
négligés :
- la préservation de la santé des élèves et des enseignant-e-s ;
- l’indépendance la plus complète possible des intermédiaires, plateformes
et acteurs majeurs (GAFAM) ; - la nécessité d’allouer des moyens conséquents pour la formation des
enseignant-e-s aux outils numériques ; - la pertinence et l’empreinte environnementale des technologies et du
matériel qui vont être utilisés.
Tous ces aspects pourront faire l’objet d’un traitement particulier dans le
code de responsabilité numérique du département de l’instruction publique. Ce code permettra de différencier les usages entre les niveaux scolaires.
Code de responsabilité numérique : un outil évolutif, développé par des
professionnels et professionnelles, pour encadrer les outils et les usages
Inspiré par une étude sur le numérique, ce projet de loi vise à instituer un
code de responsabilité numérique qui s’appliquerait à l’enseignement
obligatoire. Ce code de responsabilité numérique devrait traiter, notamment,
des points suivants :
- La gouvernance et la gestion des risques : la gouvernance numérique doit
être une priorité pour l’Etat et les collectivités publiques. Au vu de leur
caractère « disruptif » et de l’évolution rapide des nouvelles technologies,
les collectivités publiques doivent s’assurer qu’elles investissent suffisamment dans ce domaine en respectant les plus hauts standards
éthiques, environnementaux et sociaux en la matière. Etant donné la
complexité de la thématique, il est nécessaire de s’assurer que les
responsables hiérarchiques au plus haut niveau disposent des
connaissances et de la compréhension nécessaires des enjeux liés à la
numérisation (dans l’enseignement obligatoire, pour ce qui concerne ce
projet de loi). L’Etat doit veiller à ce que les enjeux liés au numérique à
l’école soient traités avec sérieux et à ce que les politiques mises en
oeuvre respectent des procédures avec les meilleures pratiques en la
matière. L’établissement d’un code de responsabilité numérique participe
à instituer à la bonne gouvernance sur le sujet. L’existence d’un tel code
est en effet primordial pour s’assurer que l’Etat tient compte des
nombreux enjeux liés à la numérisation dans sa stratégie et son utilisation
dans le cadre pédagogique. La manière dont ces enjeux sont gérés doit
être prévue et stipulée dans le code. Cela devrait également être le cas des
enjeux et des risques liés à la cybersécurité, au respect de la vie privée et
des données ainsi que des règles éthiques dans le recours à l’intelligence
artificielle et autres processus d’apprentissage des machines par la récolte
de données (p. ex. machine learning et automatisation). La manière dont
sont gérées les données et leur lieu de stockage doivent également être
précisés. L’introduction des outils numériques dans l’enseignement
obligatoire et l’utilisation qui en est faite doit être guidée par des
principes éthiques qui doivent être explicités. Ces principes doivent
guider l’action et être un prérequis à l’introduction de nouvelles
technologies. - La transparence numérique : dans le cadre de l’enseignement obligatoire, il paraît parfaitement normal que le département de l’instruction publique informe les utilisateurs et utilisatrices (enseignants et enseignantes, élèves et responsables légaux, etc.) de la collecte de données à caractère personnel qui est effectuée dans le cadre des activités pédagogiques. Les données stockées devraient également être obtenues par un consentement libre et éclairé de la part de ces personnes. Lorsque les utilisateurs et utilisatrices quittent l’instruction publique, elles devraient être en mesure de demander à ce que les données personnelles récoltées soient entièrement effacées. L’actualité récente a également montré à quel point il est nécessaire pour les autorités publiques de définir une stratégie, en cas de fuite des données. Si certaines données sont dérobées ou exploitées par un tiers non autorisé, les autorités doivent s’engager à informer rapidement toutes les personnes concernées. S’il n’est pas explicitement prévu et souhaitable d’introduire l’intelligence artificielle dans l’enseignement obligatoire, la
transparence numérique suppose également qu’un éventuel recours à
l’intelligence artificielle soit clairement expliqué et explicité
(développement et utilisation). L’application de l’intelligence artificielle
s’effectue dans des champs et domaines de plus en plus larges (ressources
humaines, services à la clientèle, diagnostics) et connaît des
développements dans l’éducation. Il s’agit d’en éviter de potentiels usages
induits par l’introduction des outils numériques dans l’enseignement.
La transparence numérique induit également la nécessité de communiquer
sur l’emplacement et la consommation énergétique des centres où les
données collectées sont stockées. Il s’agit, notamment, d’éviter que
celles-ci soient stockées dans un Etat susceptible de les exploiter à l’insu
de l’Etat de Genève. Enfin la transparence numérique implique de donner
une indication de l’empreinte carbone du parc informatique et des outils
numériques utilisés, ainsi que des moyens à disposition des usagères et
usagers afin de la limiter. - La protection des données : le code de responsabilité numérique doit
également traiter la manière dont l’Etat protégera les données des
utilisateurs et utilisatrices. Les risques et les conséquences négatives qui
pourraient résulter d’une mauvaise utilisation des données personnelles
doivent être pleinement pris en considération. Si l’exploitation des
données n’est pas nécessairement négative en soi (elle peut permettre de
détecter des difficultés d’apprentissage ou de stimuler certains élèves),
elle peut représenter un risque si elle devait s’effectuer au détriment du
caractère privé de certaines données.
Les outils et services numériques qui utilisent des données personnelles
devraient également être conçus de sorte qu’ils respectent la vie privée et
ne puissent pas automatiquement exploiter les données. Ce concept,
appelé « Privacy by Design », est l’un des éléments clés du règlement
général sur la protection des données de l’Union européenne (RGPD)
entré en vigueur en 2018.
Enfin, l’étude s’est penchée sur la question de la minimalisation des
données, soit le fait que pour respecter la vie privée les systèmes de
traitement des données devraient être élaborés dès leur conception dans le
but de traiter le moins de données possible. Ce principe de minimalisation
suppose de mettre en oeuvre un paramétrage par défaut favorable au
respect de la vie privée, de limiter l’accès aux renseignements personnels
strictement nécessaires pour fournir le service voulu et de mettre en place
des outils permettant aux utilisateurs et utilisatrices de mieux protéger
leurs données personnelles (contrôle de l’accès, cryptage, etc.). - L’éthique vis-à-vis de l’utilisation ou de la création de technologies
d’automatisation ou d’intelligence artificielle : l’intelligence artificielle
risque de constituer un des enjeux majeurs de la responsabilité numérique
et il s’agit, ici, d’en anticiper, voire restreindre, les usages pernicieux qui
pourraient découler de l’introduction d’outils numériques dans
l’enseignement. Car, si cette dernière peut s’avérer très utile dans certains
domaines, l’impact potentiel des algorithmes sur la vie quotidienne des
utilisateurs et utilisatrices laisse également la place à un large et vaste
débat sur la responsabilité et l’éthique associées à ces nouvelles
technologies.
Le fonctionnement des systèmes reposant sur l’utilisation d’une
intelligence artificielle est souvent opaque. Les décisions effectuées à
l’aide de l’intelligence artificielle peuvent également se heurter à des
dilemmes moraux et éthiques importants. La traçabilité du mécanisme
décisionnel est donc indispensable pour garantir que les décisions prises à
l’aide de l’intelligence artificielle ne souffrent d’aucun biais, qu’ils soient
ethniques, de genre ou de toutes autres sortes. Cette neutralité doit être à
la base de la conception des programmes informatiques pouvant aboutir à
des mécanismes décisionnels autonomes. Si elle ne peut être garantie,
alors la mise en service de tels logiciels ne devrait pas être possible. Si la
question de l’égalité de traitement et de l’impartialité est cruciale, elle ne
permet toutefois pas forcément de résoudre l’ensemble des dilemmes
moraux que pose le recours à l’intelligence artificielle. Il est également
vital que l’intervention humaine reste possible à tout instant, que les
machines conservent leur statut d’outils et que les personnes physiques
gardent le contrôle et la responsabilité des machines en permanence3. Ce
sont ces principes qui doivent être entérinés de ce code de responsabilité
numérique, afin de ne pas se laisser déborder par les usages.
Ainsi, il est indispensable que l’introduction de certains outils du
numérique dans l’enseignement obligatoire s’accompagne d’une
interdiction explicite de pratiques (utilisation des données, intelligence
artificielle, machine learning, etc.) qui : porteraient atteinte aux droits humains ; limiteraient la liberté d’expression ; auraient pour objectif de créer des addictions ; seraient utilisée à des fins malveillantes ; permettraient de manipuler ou influencer le comportement (économique, social et politique). Le développement rapide des nouvelles technologies fait également apparaître de nouvelles questions éthiques quant à leurs buts et à leur utilisation. On pense notamment à la reconnaissance faciale, à la promotion de contenus sensibles ou prohibés, voire aux activités qui visent à influencer le comportement humain de façon cachée. Ces questions devront toutes être traitées dans ce code de responsabilité numérique. Enfin, l’Etat doit s’assurer que l’introduction des outils numériques ne contienne et ne perpétue pas des biais genrés, racistes ou sexistes. Il s’agit de s’assurer que ces outils ne contribuent pas à la diffusion de contenus sensibles, racistes, sexistes ou illégaux ou permettent l’accès à des contenus et à des activités inappropriés pour les mineurs. - La responsabilité sociale dans l’introduction du numérique :
l’introduction des outils numériques dans l’enseignement obligatoire pose
aussi de nouvelles questions en termes d’égalité. Il s’agit de s’assurer que
l’introduction de ces outils est juste et qu’elle ne crée pas de nouvelles
inégalités, que ce soit entre élèves ou entre enseignants. A ce titre, il est
essentiel que l’Etat mette en place des programmes de formation et de
soutien pour les enseignants et enseignantes qui ne seraient pas à l’aise
avec ces outils. En ce sens, la plus-value pédagogique pour les élèves doit
être comprise. Les limites de l’utilisation des outils du numérique doivent
être assimilées. Il est important que l’Etat réfléchisse à la manière dont les
outils numériques peuvent contribuer à l’apprentissage de certains élèves
ou être non nécessaires pour d’autres, tout en garantissant une égalité de
traitement pédagogique.
- La réduction de l’empreinte environnementale du numérique : l’impact
environnemental des outils numériques et de leur utilisation, à
commencer par leur empreinte carbone, doit évidemment faire partie de
ce code de responsabilité numérique. A l’heure où notre société doit
réduire drastiquement ses émissions de gaz à effet de serre pour tenter de
limiter le réchauffement climatique, cette problématique est plus que
jamais d’actualité.
Or, au vu de la croissance effrénée de l’utilisation d’objets connectés, de
la rapide obsolescence de certains outils, des réseaux informatiques et
d’une économie centrée sur les données, l’empreinte environnementale de la numérisation risque d’augmenter fortement ces prochaines années.
L’Etat doit être en mesure de suivre de manière étroite l’impact
environnemental de l’utilisation du numérique dans l’enseignement
obligatoire. La localisation des données dans des centres de stockage
hébergés dans des localisations à bas carbone est une piste qui permet de
minimiser l’empreinte environnementale.
Concernant l’énergie utilisée pour faire fonctionner les outils et
applications numériques, le choix du langage de programmation et
l’optimisation de code permettent de réduire la consommation
énergétique. La consommation énergétique des modèles algorithmiques
utilisés et l’empreinte carbone des parcs technologiques doivent être
mesurées avec précision. De même, la sensibilisation des élèves aux
manipulations particulièrement gourmandes en énergie (envoi de photos,
émoticônes, envois multiples, « reply all », gros groupes sur les réseaux
sociaux, etc.) doit faire partie intégrante des mesures d’économie
d’énergie.
Concernant le choix du matériel informatique, l’Etat doit privilégier des
caractéristiques de performance énergétique sur le long terme, comme
critère d’achat, et s’assurer de la réutilisation et de la réparabilité des
outils afin de lutter contre une certaine obsolescence programmée.
Un code de responsabilité numérique transversal
Ce code de responsabilité numérique ne saurait être uniquement l’apanage
de l’Etat ou du département de l’instruction publique. Il doit être conçu en
étroite collaboration avec des professionnel-le-s du numérique, des éthiciens
et éthiciennes, des professionnel-le-s de la santé mentale, les associations
professionnelles et les associations de parents d’élèves. Il devra être publié et
être à disposition des collaborateurs et des collaboratrices, ainsi qu’auprès
des responsables légaux des élèves. Ce code doit également être
régulièrement révisé, afin de couvrir au mieux les évolutions technologiques
et les usages qui en sont faits.
En conclusion
Le présent projet vise à poser un cadre légal pour une introduction
sereine, raisonnée et raisonnable du numérique à l’école, en fonction des
objectifs définis dans le PER.