Section surveillance

Commission d’accès à l’information du Québec Dossier : 1020040-S

Nom de l’organisme :

Date :

Membre :

Centre de services scolaire du- Val- des- Cerfs (anciennement C ommission scolaire du Val-des-Cerfs)

9 novembre 2022

M

e Rady Khuong

DÉCISION

ENQUÊTE en vertu de la Loi sur l’accès aux documents des organismes publics et sur la protection des renseignements personnels 1 .

APERÇU [1] La Commission d’accès à l’information (la Commission) a déclenché une enquête de sa propre initiative 2 à l’égard du Centre de services scolaire du Val-des-Cerfs (à l’époque la Commission scolaire du Val-des-Cerfs) (ci-après l’organisme).

[2] Cette enquête fait suite à la parution d’un article de journal 3 affirmant que l’organisme a mis au point un algorithme permettant de cibler les élèves de 6 e année qui présentent un risque important de décrochage durant les trois années suivantes, dans le cadre d’un projet expérimental en collaboration avec l’entreprise Raymond Chabot Grant Thornton (RCGT).

[3] Plusieurs échanges ont eu lieu entre l’analyste-enquêteur de la Direction de la surveillance de la Commission et l’organisme entre 2018 et 2019. Dans le cadre de ces échanges, l’organisme précise à la Commission que le projet vise le développement d’une méthodologie d’apprentissage automatique pour identifier ces élèves.

1 RLRQ, c. A-2.1, la Loi sur l’accès. 2 Dossier d’enquête ouvert le 6 février 2019. 3 VALIANTE, Giuseppe, « Un algorithme repère les décrocheurs », La Presse, 1 er novembre 2018.

1020040-S

Page : 2

[4] Au terme de son enquête, la Commission émet un avis d’intention le 5 novembre 2020. Elle y indique que même si plusieurs mesures ont été prises par l’organisme afin d’assurer une meilleure protection des renseignements personnels, la Commission pourrait tout de même conclure que l’organisme ne respecte pas certaines exigences de la Loi sur l’accès, plus précisément en ne rencontrant pas son obligation d’information auprès des parents 4 et en n’ayant pas établi de délai de destruction spécifique pour les résultats produits dans le cadre du projet 5 .

[5] Par la suite, l’organisme produit des observations le 11 décembre 2020 et une mise à jour de ses observations le 14 mars 2022, à l’invitation de la Commission.

[6] Il appert de cette mise à jour que la phase de développement de l’infrastructure est complétée. L’organisme informe la Commission du fait qu’il travaille désormais sur la phase de déploiement de l’outil et qu’il n’a pas encore établi les détails des mécanismes d’intervention.

[7] Puisque l’enquête et l’avis d’intention ont porté sur la phase de développement, la présente décision vise à déterminer si l’organisme a respecté ses obligations en vertu de la Loi sur l’accès lors de la collecte et de l’utilisation des renseignements personnels dans le cadre de cette phase.

CONSTATS FACTUELS DE LA COMMISSION AU TERME DE L’ENQUÊTE [8] Il ressort de l’enquête et des observations de l’organisme les constats factuels suivants :

• Pour diminuer le décrochage scolaire, l’organisme a donné un mandat à RCGT de développer des outils technologiques aux fins de générer des données pouvant identifier de façon précoce les élèves à risque de décrochage scolaire ;

• Ce mandat impliquait la communication de renseignements personnels dépersonnalisés à RCGT. Il a été confié par le biais d’une entente conformément à ce que prévoit l’article 67.2 de la Loi sur l’accès. Cette communication a été enregistrée au registre des communications selon 67.3 de la Loi sur l’accès ;

4 Article 65 de la Loi sur l’accès. 5 Articles 63.1 et 73 de la Loi sur l’accès.

1020040-S

Page : 3

• L’algorithme développé par RCGT (l’Outil) sert à analyser plus de 300 types de données brutes pertinentes détenues par l’organisme dans sa base de données centralisées, par le biais de croisements ou de comparaison de données, afin de générer un ensemble d’indicateurs prédictifs d’un risque de décrochage scolaire à partir des données scolaires de la 6 e année du primaire ;

• Comme prévu dans l’entente, RCGT a eu temporairement accès à une base de données contenant des renseignements personnels dépersonnalisés afin de créer l’Outil. Ces données, transférées temporairement sur son serveur à l’époque, ont été détruites depuis ;

• Dans le cadre du projet, l’Outil a produit une liste de numéros de fiche auxquels sont rattachés un niveau de risque et des facteurs de risque à l’intérieur d’un fichier Excel, que RCGT a communiqué à l’organisme. Tout comme les renseignements personnels dépersonnalisés qui ont servi au développement de l’algorithme, le fichier Excel ne contient pas de nom d’élève. La connexion avec la base de données de l’organisme est requise pour identifier les élèves en lien avec leur numéro de fiche ;

• Le développement de l’infrastructure technique étant complété, l’implication de RCGT est maintenant très limitée. L’organisme est propriétaire et exploitant principal de l’Outil, qu’il peut utiliser de façon autonome ;

• Cependant, l’organisme n’a pas encore établi les modalités du déploiement de l’Outil. Les mécanismes déjà en place à travers l’ensemble des centres de services scolaires seront utilisés ;

• L’organisme s’est doté d’un nouveau service dédié au « développement de solutions d’analytique et de persévérance scolaire ». Une ressource interne est entrée en fonction en mars 2021 et travaille sur les moyens de déployer l’Outil ;

• Aucune nouvelle donnée produite par l’Outil dans le cadre de la phase de développement n’a été consignée aux dossiers de l’élève 6 ni aux dossiers d’aide des élèves 7 . L’organisme indique que seuls les

6 Ces dossiers contiennent tous les documents exigés par les lois pour permettre le cheminement scolaire de l’élève, dont les documents d’admission et d’inscription, les bulletins et les fiches de renseignements scolaires. 7 Ces dossiers peuvent notamment contenir des rapports, des plans d’action et des fiches de suivi.

1020040-S

Page : 4

documents prévus au calendrier de conservation doivent être conservés dans ces dossiers ;

• L’organisme indique que les modalités spécifiques et complémentaires relatives au déploiement de l’Outil dans ses établissements seront élaborées préalablement à sa mise en service et s’engage à rédiger des documents prévoyant l’encadrement nécessaire à la protection des renseignements personnels.

ANALYSE 1. L’organisme est un organisme public au sens de la Loi sur l’accès [9] L’organisme est un centre de services scolaire et est donc un organisme scolaire 8 . À ce titre, il est un organisme public assujetti à la Loi sur l’accès 9 , notamment à l’égard des obligations qui incombent à un organisme public en matière de protection des renseignements personnels 10 .

2. Les renseignements concernés par le projet constituent des renseignements personnels

[10] Les renseignements personnels sont ceux qui concernent une personne physique et qui permettent de l’identifier

11 .

[11] Dans le cadre du mandat donné à RCGT de développer l’Outil, l’organisme a utilisé des renseignements sur des élèves contenus dans sa base de données GPI (les Renseignements personnels d’origine).

[12] L’organisme a communiqué une copie des Renseignements personnels d’origine à son mandataire, mais sous un format modifié (les Renseignements personnels dépersonnalisés).

[13] En effet, l’organisme indique qu’avant de communiquer une copie de cette banque de données à RCGT, il en a retiré 80 données considérées comme sensibles, notamment l’identité de l’enfant et de ses parents, leurs coordonnées (adresses postales et de courriel, téléphone), leurs noms d’utilisateurs pour accéder au portail et leurs alias.

8 Article 6 de la Loi sur l’accès. 9 Article 3 de la Loi sur l’accès. 10 Chapitre III de la Loi sur l’accès. 11 Article 54 de la Loi sur l’accès.

1020040-S

Page : 5

[14] Même si l’organisme a pris des mesures pour faire en sorte que les Renseignements personnels dépersonnalisés transmis à RCGT ne permettent pas d’identifier directement les élèves et leurs parents, la Commission constate cependant qu’ils ne sont pas anonymisés. Il s’agit plutôt d’une dépersonnalisation des renseignements personnels concernés.

[15] En effet, un renseignement est anonymisé s'il est, en tout temps, raisonnable de prévoir qu'il n'est plus possible, de façon irréversible, d'identifier directement ou indirectement cette personne 12 . Or, les mesures prises par l’organisme pour que les Renseignements personnels dépersonnalisés ne puissent pas identifier les personnes qu’ils concernent ne sont pas irréversibles.

[16] Ainsi, la Commission conclut que les Renseignements personnels dépersonnalisés utilisés aux fins de développer l’Outil demeurent des renseignements personnels puisqu’ils concernent des personnes physiques et permettent de les identifier à travers les données recueillies tout au long du cheminement scolaire de l’élève.

3. L’organisme a utilisé des renseignements personnels qu’il détient sur des élèves à des fins nouvelles dans le cadre du développement de l’Outil

[17] La Loi sur l’accès prévoit qu’un organisme public ne peut utiliser les renseignements qu’il détient qu’aux fins pour lesquelles ils ont été recueillis, sauf avec le consentement des personnes concernées ou sans leur consentement, dans certains cas précis, notamment lorsque l’utilisation est faite à des fins compatibles avec celles pour lesquelles ils ont été recueillis. Pour qu’une fin soit compatible au sens du paragraphe 1° du deuxième alinéa de l’article 65.1, il doit y avoir un lien pertinent et direct avec les fins pour lesquelles le renseignement a été recueilli 13 .

[18] La Commission conclut que l’organisme a utilisé les renseignements personnels des élèves dans le cadre d’une nouvelle démarche visant spécifiquement à développer l’Outil permettant de générer des indicateurs prédictifs d’un risque de décrochage scolaire. Or, il appert de la preuve que les élèves et leurs parents n’ont pas consenti à cette utilisation. Au surplus, les élèves et leurs parents n’ont pas été informés de cette utilisation à l’époque de la

12 Cette définition est prévue à l’article 73 de la Loi sur l’accès tel que modifié par Loi modernisant des dispositions législatives en matière de protection des renseignements personnels, Lois annuelles du Québec (2021), chapitre 25. L’entrée en vigueur de cet article est prévue le 22 septembre 2023. 13 Article 65.1 de la Loi sur l’accès.

1020040-S

Page : 6

cueillette initiale des renseignements personnels (dans le cadre du cheminement scolaire).

[19] L’organisme a soulevé que le décrochage scolaire est un enjeu et une préoccupation de longue date pour l’ensemble des intervenants scolaires au Québec. Un des objectifs faisant partie de la Politique de la réussite éducative du ministère de l’Éducation du Québec instaurée en 2017-2018 vise d’ailleurs la diplomation et la qualification des élèves, avec des pourcentages prévus d’ici 2030.

[20] Par conséquent, la Commission conclut que cette fin est compatible avec l’un des objectifs de l’organisme lors de la cueillette initiale des données brutes, soit d’assurer la réussite scolaire puisqu’il y a un lien pertinent et direct entre cet objectif et le développement de l’Outil visant à identifier de façon précoce les élèves à risque de décrochage scolaire.

4. Les indicateurs générés par l'Outil, un système d'intelligence artificielle, constituent une collecte de renseignements personnels

[21] L’Outil vise à générer des indicateurs prédictifs d’un risque de décrochage scolaire.

[22] L’organisme considère qu’il ne procède pas à la collecte de nouveaux renseignements personnels, puisque l’Outil analyse des données brutes qu’il détient déjà pour générer les indicateurs. Selon lui, il s’agit plutôt d’une valorisation de données qu’il possède déjà.

[23] L’organisme précise que le projet vise la création d’une méthodologie qui permettra ultimement de produire de l’information permettant d’améliorer l’efficience des interventions faites par les intervenants scolaires. Dans ce processus, il reconnait que de nombreux algorithmes interviennent. Toutefois, il insiste sur le fait que l’Outil utilise l’intelligence artificielle dans une définition qu’il qualifie de « classique », faisant appel à des techniques analytiques avancées et à de l’apprentissage supervisé, mais non à d’autres formes d’intelligence artificielle plus avancées susceptibles de comporter plusieurs enjeux éthiques.

[24] Dans la mesure où l’Outil est un système ayant pour objectif d’augmenter le travail humain, capable de procéder à de l’analyse prédictive par un système

1020040-S

Page : 7

technologique impliquant des algorithmes 14 , la Commission conclut que cet outil d’aide à la décision est un système d’intelligence artificielle

15 .

[25] L’Office québécois de la langue française (l’Office) définit plusieurs termes du vocabulaire entourant les concepts liés à l’intelligence artificielle

16 :

• Algorithme : une séquence de règles exécutées sur des données et qui permettent l’obtention d’un résultat ;

• Algorithme prédictif : algorithme qui associe des données hétérogènes tirées d'événements du passé dans le but de prédire des comportements futurs ;

• Intelligence artificielle : domaine d'étude ayant pour objet la reproduction artificielle des facultés cognitives de l'intelligence humaine dans le but de créer des systèmes ou des machines capables d'exécuter des fonctions relevant normalement de celle-ci.

[26] Comme l’indique l’organisme dans ses observations, l’Outil a la capacité de produire une information qui, pour un être humain, serait très complexe à obtenir et nécessiterait une analyse comparative d’une très grande quantité de données et une connaissance approfondie en statistiques. Il ne s’agit pas simplement d’extraire ou de répertorier les données brutes déjà détenues.

[27] Cette analyse complexe est faite par un système d’intelligence artificielle qui génère de nouveaux renseignements personnels sur des élèves identifiés par un numéro générique (donc facilement réidentifiables), soit des indicateurs prédictifs d’un risque de décrochage scolaire.

[28] À l’issue de l’analyse effectuée par le système d’intelligence artificielle, l’Outil produit de nouveaux renseignements personnels, soit des indicateurs

14 Un algorithme est un ensemble de procédures codées ayant pour objectif de présenter un résultat précis en transformant des éléments fournis en entrée. Ces procédures peuvent être basées sur des calculs ou des règles spécifiés, comme des instructions ou des opérations mathématiques, statistiques ou logiques : VAZQUEZ ROJAS, Tomas, Projet de recherche- Algorithmes et administration publique – rapport sur l’inventaire d’outils, Laboratoire de cyberjustice (2021). 15 G. Misuraca et C. van Noordt, Artificial Intelligence in public services : Overview of the use and impact of AI in public services in the EU, Science for Policy report, EUR 30255 EN, coll. AI Watch, Luxembourg, Publications Office of the European Union, 2020, en ligne : <https://ec.europa.eu/jrc/en/publication/eur-scientific-andtechnical-research-reports/ai-watch-artificial-intelligence-public-services>. 16 https://www.oqlf.gouv.qc.ca/ressources/bibliotheque/dictionnaires/vocabulaire-intelligence-artificielle.aspx.

1020040-S

Page : 8

prédictifs d'un risque de décrochage. La production de ces nouveaux renseignements, à partir de données brutes déjà détenues, équivaut à une collecte de renseignements personnels au sens de la Loi sur l’accès.

[29] En effet, ces renseignements (indicateurs prédictifs de risque de décrochage) permettront de dresser un profil de l’élève et qui sont susceptibles d’avoir un effet sur les décisions prises à son sujet. Ces éléments du profil portent sur l’élève visé et permettent de l’identifier.

[30] Ainsi, la Commission rappelle à l’organisme qu’il devra aussi s’assurer de la nécessité de cette collecte en application de l’article 64 de la Loi sur l’accès soit que :

L’objectif poursuivi est légitime, réel et important ; L’atteinte à la vie privée qu’elle constitue est proportionnelle à l’objectif qu’elle poursuit 17 .

[31] Comme le soutient l’organisme, il s’agit effectivement d’une valorisation de données déjà détenues, mais cette valorisation s’effectue par le biais d’une création (collecte) de nouveaux renseignements personnels sur les élèves.

5. L’organisme n’a pas respecté ses obligations d’information dans le cadre de cette collecte d’indicateurs aux fins de développer l’Outil

[32] Puisque la Commission conclut que l’organisme a procédé à une collecte de renseignements personnels aux fins de développer l’Outil, il doit respecter certaines obligations en vertu de la Loi sur l’accès.

[33] Notamment, il doit informer les personnes concernées des fins pour lesquelles un renseignement est recueilli, des catégories de personnes qui y auront accès et de leurs droits d’accès et de rectification 18 .

[34] Pour que la collecte respecte la Loi sur l’accès, l’organisme devait informer les parents des élèves dont les données brutes ont servi au développement de l’Outil du fait que des indicateurs prédictifs de décrochage scolaire ont été créés au sujet de leur enfant dans le cadre du projet, ainsi que des catégories de personnes qui y ont eu accès et de leurs droits d’accès et de rectification.

17 Laval (Société de transport de la Ville de) c. X., 2003 CanLII 44085 (C.Q.) ; Grenier c. Centre hospitalier universitaire de Sherbrooke, [2010] QCCQ 9397 ; Synergie Hunt International inc. c. Trinque Tessier, 2017 QCCQ 13747 ; Les 3 Piliers inc., CAI 1018507-S, 14 février 2020. 18 Article 65 de la Loi sur l’accès.

1020040-S

Page : 9

[35] L’organisme n’indique pas avoir procédé à une telle transmission. Il soutient qu’il rencontre son obligation d’information puisque les parents sont informés de façon mensuelle des difficultés scolaires. Or, le fait d’être informé le cas échéant de difficultés scolaires n’équivaut pas à être informé du fait que l’organisme recueille de nouveaux renseignements, soit des indicateurs prédictifs d’un risque de décrochage scolaire, par le biais d’un système d’intelligence artificielle. Il s’agit d’une collecte significative et distincte, à laquelle l’organisme n’était pas en mesure de procéder avant le développement de l’Outil.

[36] Quant à la phase de déploiement de l’Outil, l’organisme n’a pas encore établi les modalités de ce déploiement.

[37] La Commission rappelle que l’organisme devra s’assurer de respecter cette obligation d’information à l’égard de toute collecte future de renseignements personnels par le biais de l’Outil en informant les personnes concernées, entre autres, des fins pour lesquelles ces renseignements seront recueillis, des catégories de personnes qui y auront accès et de leurs droits d’accès et de rectification.

6. L’organisme doit adopter des mesures de sécurité pour assurer la protection des renseignements personnels recueillis dans le cadre du développement de l’Outil (les indicateurs prédictifs d’un risque de décrochage scolaire), notamment quant aux modalités entourant leur destruction

[38] La Loi sur l’accès prévoit que l’organisme public doit prendre les mesures de sécurité propres à assurer la protection des renseignements personnels qu’il détient tout au long de leur cycle de vie, en tenant compte notamment de leur sensibilité 19 .

[39] Il ressort de l’enquête et des observations de l’organisme que les données brutes utilisées pour le développement de l’Outil ont été détruites des serveurs de RCGT et ne sont plus détenues par le mandataire, dont le mandat est complété.

[40] Quant aux renseignements personnels recueillis, la Commission comprend des observations de l’organisme qu’un document rassemble ces données créées dans le cadre du développement de l’Outil. En effet, l’Outil a produit une liste de numéros de fiche auxquels sont rattachés un niveau de risque et des facteurs de risque à l’intérieur d’un fichier Excel, fichier que RCGT a communiqué à l’organisme.

19 Article 63.1 de la Loi sur l’accès.

1020040-S

Page : 10

[41] À l’égard de la destruction de ce document, l’organisme ne semblait pas avoir prévu de délai de conservation spécifique, ce que la Commission avait noté dans son avis d’intention.

[42] Or, lorsque les fins pour lesquelles un renseignement personnel a été recueilli ou utilisé sont accomplies, l’organisme public doit le détruire 20 , sous réserve du délai prévu au calendrier de conservation. Les renseignements personnels contenus dans le fichier Excel ont été utilisés aux fins de développer l’Outil et cette fin est accomplie.

[43] Cependant, la Commission note des observations mises à jour en mars 2022 que l’organisme fait désormais référence, pour ce fichier, au délai de conservation prévu à son calendrier pour les documents relatifs aux études, enquêtes ou sondages et aux statistiques de l’organisme et de ses établissements, qui demeurent actifs durant 2 ans puis semi-actifs durant 3 ans avant d’être détruits.

[44] La Commission s’interroge sur la pertinence d’appliquer ce délai au document qui contient des renseignements personnels. Elle invite l’organisme à revoir le délai de conservation de ce document qui ne servira pas pour intervenir auprès des élèves qui y sont identifiés.

[45] D’ici sa destruction et puisqu’il contient des renseignements personnels, l’organisme doit s’assurer d’appliquer les mesures de sécurité adéquates pour assurer la confidentialité du document 21 .

[46] En ce qui concerne les renseignements personnels qui seront générés à la suite du déploiement de l’Outil, l’organisme indique à la Commission que les modalités spécifiques et complémentaires relatives à la protection et au respect de la confidentialité de ces informations seront élaborées préalablement à sa mise en service et feront notamment l’objet d’une Politique sur la sécurité de l’information.

[47] La Commission rappelle à l’organisme qu’il devra s’assurer de respecter ses obligations, notamment en vertu des articles 63.1 et 65 de la Loi sur l’accès dans le cadre du déploiement de l’Outil, ce qui inclut mais ne se limite pas à la sécurité de l’information.

20 Article 73 de la Loi sur l’accès. 21 Article 63.1 de la Loi sur l’accès.

1020040-S

Page : 11

6. L’organisme devrait réaliser une évaluation des facteurs relatifs à la vie privée avant le déploiement de l’Outil

[48] Comme indiqué dans le préavis d’ordonnance, la Commission considère que la réalisation d’une évaluation des facteurs relatifs à la vie privée aurait permis à l’organisme de prendre en considération, dès le début du projet et tout au long de celui-ci, tous les facteurs ayant un impact positif ou négatif sur le respect de la vie privée des personnes concernées et de s’assurer de sa conformité aux dispositions de la loi, notamment du respect de ses obligations relatives à la collecte et à la destruction des renseignements ainsi colligés.

[49] L’organisme indique avoir pris en considération les enjeux relatifs à la confidentialité des données et à leur sécurité dans le cadre du projet de développement de l’Outil, mais convient qu’une analyse plus poussée pourrait être envisagée pour l’avenir.

[50] La réalisation d’une évaluation des facteurs relatifs à la vie privée deviendra d’ailleurs obligatoire à l’égard de tout projet de système d’information ou de prestation électronique de services impliquant la collecte, l’utilisation, la communication, la conservation ou la destruction de renseignements personnels 22 .

[51] La Commission recommande donc à l’organisme de procéder à une évaluation des facteurs relatifs à la vie privée avant le déploiement de l’Outil

23 .

CONCLUSION [52] À la lumière de ce qui précède, la Commission conclut que l’organisme a utilisé des renseignements personnels qu’il détenait déjà à des fins compatibles aux fins pour lesquelles ils ont été recueillis et qu’il a procédé à une collecte de renseignements personnels (niveau de risque et indicateurs prédictifs de décrochage) dans le cadre du développement de l’infrastructure de l’Outil.

[53] Puisqu’il a recueilli de nouveaux renseignements personnels, la Commission conclut que l’organisme aurait dû informer les parents sur la collecte qu’il a effectuée pour le développement de l’Outil, notamment de la nature des indicateurs ainsi générés, des fins pour lesquelles l’Outil génère ces indicateurs,

22 Loi modernisant des dispositions législatives en matière de protection des renseignements personnels, précitée, Note 12. 23 Voir le document intitulé Guide d’accompagnement : Réaliser une évaluation des facteurs relatifs à la vie privée, disponible pour consultation sur le site internet de la Commission).