flowchart LR A[Informations explicites] --> D[Agrégation] B[Traces d'usage] --> D C[Contexte et métadonnées] --> D D --> E[Inférences possibles] E --> F[Profil probabiliste] F --> G[Personnalisation] F --> H[Classement] F --> I[Orientation des réponses]
Chapitre 1 : Données et vie privée : comprendre ce que l’usage expose
Traces, inférences, liberté académique et souveraineté informationnelle
Que donnons-nous réellement à une IA lorsque nous lui confions une question, un document, une difficulté étudiante ou une idée de recherche, et comment garder la maîtrise de ce que ces usages exposent, permettent d’inférer et peuvent transformer ?
Mots-clés
Traces numériques Métadonnées Inférence Effet mosaïque Profilage algorithmique Minimisation des données Souveraineté informationnelle Vie privée
Ce chapitre ouvre le Volume 2 en prolongeant les acquis du Volume 1 :
- Passer de la question « que fait l’IA à notre activité cognitive ? » à « dans quelles conditions matérielles et informationnelles cette interaction a-t-elle lieu ? » ;
- Relier l’externalisation cognitive à ce qu’elle suppose concrètement : transmettre des informations à une infrastructure qui les traite selon des règles que l’utilisateur ne maîtrise pas toujours ;
- Prolonger la vigilance épistémique par une vigilance informationnelle : vérifier une réponse ne suffit pas si l’on ignore ce que l’on a exposé pour l’obtenir ;
- Étendre la métacognition à la connaissance de ses propres traces : ce que je dis explicitement, ce que mon usage révèle et ce que le système peut inférer ;
- Relier le jugement professionnel à un nouvel arbitrage : obtenir une réponse plus contextualisée sans transmettre plus d’informations que nécessaire ;
- Comprendre pourquoi la vie privée, dans l’enseignement supérieur, protège aussi le droit d’hésiter, de chercher, de se tromper et de contester ;
- Passer d’une prudence individuelle à une question de gouvernance : la maîtrise ne peut pas reposer uniquement sur la vigilance de chaque utilisateur.
Repères essentiels
Notions essentielles du chapitre
Ces sept notions structurent la lecture du chapitre. Les autres notions restent accessibles dans le corps du texte et dans le glossaire du chapitre.
| Notion | Définition courte | Question pédagogique ou professionnelle associée |
|---|---|---|
Traces numériques |
Informations produites directement ou indirectement par une interaction numérique. | Qu’est-ce que l’usage produit au-delà du texte volontairement saisi ? |
Métadonnées |
Données décrivant le contexte d’une interaction : temporalité, appareil, fréquence, organisation des usages ou autres caractéristiques techniques. | Quelles informations contextuelles accompagnent la requête ? |
Inférence |
Déduction de caractéristiques non explicitement déclarées à partir de données ou de traces disponibles. | Que peut-on apprendre sur une personne sans qu’elle l’ait directement dit ? |
Effet mosaïque |
Production d’une information nouvelle par agrégation de fragments qui, isolément, paraissent peu sensibles. | Plusieurs informations banales deviennent-elles révélatrices une fois rapprochées ? |
Profilage algorithmique |
Construction d’un portrait probabiliste à partir de comportements, requêtes et traces. | Un usage peut-il contribuer à classer, anticiper ou orienter un utilisateur ? |
Minimisation des données |
Principe consistant à ne traiter ou transmettre que les données nécessaires à une finalité déterminée. | De quelles informations l’outil a-t-il réellement besoin pour accomplir la tâche ? |
Souveraineté informationnelle |
Capacité d’un individu ou d’une institution à comprendre, choisir et gouverner l’exposition et l’usage de ses informations. | Qui conserve la capacité de décider ce qui est transmis, conservé, réutilisé ou contesté ? |
Introduction
Le Volume 1 a progressivement déplacé le regard : de la mémoire et de l’effort cognitif vers l’externalisation, de l’apparence du raisonnement vers la preuve de compétence, puis de l’autonomie individuelle vers le jugement professionnel et les choix institutionnels.
Ce déplacement conduit à une question que le premier volume pouvait seulement ouvrir : dans quel environnement ces usages ont-ils lieu ?
Lorsqu’un étudiant demande à une IA de reformuler son raisonnement, lorsqu’un enseignant lui confie une copie pour préparer un feedback, lorsqu’un chercheur lui soumet une hypothèse ou lorsqu’un service administratif lui demande de synthétiser un dossier, l’interaction n’est pas seulement cognitive. Elle est aussi informationnelle et infrastructurelle.
Le Volume 1 demandait notamment : qu’est-ce que l’étudiant délègue ?
Le Volume 2 ajoute : qu’est-ce que cette délégation expose ?
Cette distinction est essentielle. Une requête n’est pas seulement un moyen d’obtenir une réponse. Elle peut contenir des informations explicites, révéler un contexte, laisser des traces et permettre des inférences. Une succession de requêtes peut également dessiner progressivement un portrait de l’utilisateur, de ses difficultés, de ses centres d’intérêt ou de ses activités.
Le problème ne se réduit donc pas à « ne pas saisir de données sensibles ». Il faut apprendre à distinguer :
- ce que l’on donne volontairement ;
- ce que l’usage laisse comme traces ;
- ce que le système ou son environnement peut déduire ;
- ce que l’institution est en mesure de maîtriser, contractualiser ou contester.
Centre de gravité du chapitre : passer d’une représentation de la donnée comme contenu volontairement saisi à une compréhension de l’exposition comme processus, puis transformer cette compréhension en capacité d’arbitrage.
Continuité avec le Volume 1
| Acquis du Volume 1 | Prolongement dans le Volume 2 |
|---|---|
| L’externalisation cognitive peut soutenir ou court-circuiter l’apprentissage. | Externaliser vers une IA signifie aussi transmettre des informations à un environnement technique. La question devient : qu’externalise-t-on, vers où, et sous quelles conditions ? |
| Une production fluide ne prouve pas une compréhension réelle. | Une interface fluide ne prouve pas davantage que l’environnement est neutre, maîtrisé ou sans conséquences informationnelles. |
| L’abondance numérique exige vigilance épistémique et métacognition. | La vigilance doit maintenant porter aussi sur les données : identifier ce que l’on expose, ce qui peut être inféré et ce qui échappe au contrôle visible. |
| La stratégie Produit / Processus / Propos rend l’apprentissage plus observable. | Rendre un processus observable ne signifie pas qu’il faut transmettre toutes ses traces à n’importe quel outil. La transparence pédagogique doit rester compatible avec la protection des personnes. |
| Le jugement professionnel permet de choisir, justifier et reprendre la main. | Ce jugement doit intégrer la proportionnalité : la valeur attendue de l’usage justifie-t-elle les données et le contexte transmis ? |
| L’autonomie ne consiste pas seulement à pouvoir agir. | Elle suppose aussi de pouvoir préserver des espaces d’exploration, de doute et de retrait face au profilage. |
Le parcours en trois mouvements
| Mouvement | Intention pédagogique |
|---|---|
| 1 - Traces, métadonnées et inférences | Comprendre pourquoi ce que l’IA « sait » ne se limite pas à ce que l’utilisateur écrit explicitement. |
| 2 - Vie privée, profilage et liberté académique | Comprendre pourquoi protéger les données ne consiste pas seulement à protéger des secrets, mais aussi des espaces de doute, d’essai et de contestation. |
| 3 - Sobriété des données et souveraineté informationnelle | Transformer la compréhension des risques en réflexes d’usage, puis identifier ce qui relève de la responsabilité institutionnelle. |
Activité : Auto-test de sensibilisation
1 - Ce que l’IA sait de nous : données visibles, traces et inférences
Essentiel Approfondissement
Dans cette partie, vous allez :
| Comprendre | Repérer | Agir |
|---|---|---|
| Pourquoi une interaction produit davantage d’informations que le contenu explicitement saisi. | Les données directes, les traces contextuelles et les inférences possibles. | Décomposer une situation d’usage avant de transmettre des informations à un outil. |
Situation ESR
Une enseignante souhaite obtenir de l’aide pour rédiger un message à destination d’un étudiant en difficulté. Elle retire son nom et son numéro d’étudiant, puis décrit précisément sa situation : formation, année, difficultés rencontrées, aménagements déjà mis en place, résultats récents et échanges avec l’équipe.
Elle considère avoir anonymisé la situation.
La question n’est pourtant plus seulement : « ai-je retiré le nom ? »
Elle devient : « l’ensemble des informations restantes permet-il de reconnaître, caractériser ou profiler la personne ? »
Une interaction n’est pas seulement un texte
Dans le Volume 1, l’interface conversationnelle a été étudiée comme un artefact susceptible de produire une impression de compréhension et de faciliter la délégation. Ici, le même objet est observé depuis une autre strate.
Une interface simple peut donner l’impression d’un échange éphémère : j’écris, l’IA répond, puis la conversation disparaît de mon écran. Cette représentation est utile pour interagir, mais insuffisante pour raisonner sur les données.
Trois niveaux doivent être distingués :
| Niveau | Exemple | Erreur fréquente |
|---|---|---|
| Données explicites | Texte, document, image, code ou tableau transmis volontairement. | Penser que retirer un identifiant direct suffit toujours. |
| Traces et métadonnées | Contexte d’usage, répétition, temporalité, organisation des interactions ou autres informations techniques associées. | Ne regarder que le contenu visible de la conversation. |
| Inférences | Déductions construites à partir de plusieurs informations ou interactions. | Croire qu’une caractéristique non déclarée ne peut pas être connue. |
Le passage de l’un à l’autre est important pédagogiquement : la donnée n’est pas seulement ce que l’on donne ; elle est aussi ce que l’on rend déductible.
L’effet mosaïque : quand des fragments deviennent révélateurs
Une information peut paraître anodine lorsqu’elle est considérée isolément. Le problème change lorsque plusieurs fragments sont rapprochés.
Une promotion, une spécialité, une difficulté particulière, un type d’aménagement, un projet précis et une date peuvent, ensemble, réduire fortement le nombre de personnes possibles.
C’est l’idée d’effet mosaïque : la sensibilité n’est pas toujours contenue dans une donnée unique ; elle peut émerger de leur combinaison.
De la trace au portrait probabiliste
La métaphore de l’« autoportrait algorithmique » rend visible un phénomène : des interactions répétées peuvent permettre de construire progressivement une représentation probabiliste de l’utilisateur.
Il ne faut pas interpréter cette métaphore comme si le système possédait nécessairement un dossier humain complet et stable sur chaque personne. Elle sert à poser une question plus rigoureuse : quelles caractéristiques deviennent inférables lorsque des traces sont agrégées ?
la règle des trois questions
Essentiel
Avant d’utiliser une IA avec un contexte réel, poser trois questions :
- Qu’est-ce que je transmets explicitement ?
- Qu’est-ce que l’ensemble de ces informations permet de déduire ?
- Ai-je besoin de transmettre tout cela pour obtenir l’aide recherchée ?
La troisième question introduit le principe de minimisation des données : ne pas chercher à « ne rien donner », mais ne donner que ce qui est nécessaire à la finalité.
du droit à la conception
Approfondissement
Le principe de minimisation ne constitue pas seulement une règle de prudence individuelle. Il modifie la manière de concevoir un usage.
Au lieu de partir de la question :
« Quelles données ai-je à disposition ? »
on part de :
« Quelle est ma finalité et quelles données sont strictement nécessaires pour l’atteindre ? »
Ce renversement est important pour la formation des ingénieurs. Il transforme la protection des données en contrainte de conception plutôt qu’en vérification tardive.
Activité : cartographier l’exposition
2 - Pourquoi « je n’ai rien à cacher » ne suffit pas : vie privée, profilage et liberté académique
Essentiel Recommandé Approfondissement
Dans cette partie, vous allez :
| Comprendre | Repérer | Agir |
|---|---|---|
| Pourquoi la vie privée protège davantage que des secrets. | Les situations où profilage, personnalisation ou traçabilité peuvent modifier les comportements. | Préserver des espaces où l’on peut explorer, hésiter et se tromper sans être immédiatement catégorisé. |
Situation ESR
Un étudiant utilise régulièrement un assistant d’IA pour demander de l’aide sur des notions qu’il maîtrise mal. Il formule des questions très élémentaires, revient plusieurs fois sur les mêmes erreurs et explore parfois des pistes qu’il abandonne.
Pris séparément, aucun de ces échanges n’est particulièrement sensible.
Mais faut-il considérer que l’accumulation de ces traces est neutre simplement parce que l’étudiant « n’a rien à cacher » ?
La vie privée n’est pas le secret
L’argument « je n’ai rien à cacher » réduit la vie privée à la dissimulation d’une information honteuse, illégale ou intime.
Dans un contexte d’apprentissage et de recherche, cette définition est trop étroite.
Apprendre suppose de pouvoir :
- formuler une hypothèse fragile ;
- poser une question naïve ;
- essayer une méthode inadéquate ;
- changer d’avis ;
- explorer une piste sans l’adopter ;
- se tromper avant de comprendre.
Le Volume 1 a montré que l’erreur peut être une trace du raisonnement et une ressource pour apprendre. Le prolongement est direct : si toute erreur devient une donnée durable de profilage, son statut change.
La protection de la vie privée contribue donc à préserver un espace de réversibilité intellectuelle : ce que j’ai essayé hier ne doit pas nécessairement définir ce que je suis demain.
De l’illusion de compétence au portrait algorithmique
Le Volume 1, chapitre 3 analysait la difficulté de l’étudiant à calibrer correctement ce qu’il sait. Le risque étudié ici est différent mais complémentaire.
L’étudiant peut se tromper sur lui-même.
Un système peut également produire une représentation partielle de l’étudiant à partir de traces incomplètes.
| Volume 1 | Prolongement dans le Volume 2 |
|---|---|
| Illusion de compétence : je crois maîtriser parce que la réponse est familière ou fluide. | Profilage probabiliste : un système attribue des caractéristiques à partir de traces et régularités. |
| Le problème est la calibration de mon propre jugement. | Le problème est la possibilité de contester, corriger ou sortir d’un portrait produit sur moi. |
| La réponse pédagogique est la métacognition et la preuve de compétence. | La réponse informationnelle est la minimisation, la transparence, la contestabilité et la gouvernance. |
Les deux problèmes se rejoignent sur un point : une représentation probabiliste ne doit pas être confondue avec la personne ni avec sa compétence réelle.
Effet mosaïque et contexte académique
Une succession de données ordinaires peut révéler :
- une difficulté d’apprentissage ;
- un rythme de travail ;
- des intérêts de recherche ;
- une orientation intellectuelle ;
- une situation organisationnelle ;
- des collaborations ou projets en cours.
Le risque n’est pas seulement la divulgation. Il est aussi l’usage secondaire : classement, personnalisation, orientation, prédiction ou réutilisation selon des finalités que l’utilisateur n’avait pas nécessairement envisagées.
Personnalisation : aide ou réduction du champ des possibles ?
La personnalisation peut être utile. Elle permet d’adapter une explication, de tenir compte d’un contexte ou de proposer des ressources plus pertinentes.
Mais une personnalisation construite sur un portrait probabiliste pose une question éducative : l’outil aide-t-il l’apprenant à élargir ses possibilités ou le reconduit-il vers ce qu’il suppose déjà de lui ?
flowchart TD
A[Traces accumulées] --> B[Inférences]
B --> C[Personnalisation]
C --> D{Effet sur l'autonomie}
D --> E[Adaptation utile]
D --> F[Renforcement d'un profil]
E --> G[Plus de possibilités]
F --> H[Réduction du champ]
H --> I[Autocensure ou conformisme]
Le lien avec le Volume 1, chapitre 4 est ici explicite : l’autonomie n’est pas seulement la capacité de choisir parmi des options proposées. Elle suppose de pouvoir déplacer le cadre, contester la catégorisation et faire émerger une trajectoire non anticipée.
protéger le droit à l’essai
Essentiel
Dans l’enseignement supérieur, protéger la vie privée contribue à protéger :
- le droit à l’erreur ;
- le droit à l’hésitation ;
- le droit de tester une hypothèse ;
- le droit de changer d’avis ;
- le droit de ne pas être réduit à un profil ;
- le droit de contester une décision ou une catégorisation.
La vie privée est donc aussi une condition de l’autonomie intellectuelle.
distinguer personnalisation et assignation
Recommandé
Lorsqu’un outil adapte ses réponses, poser quatre questions :
| Question | Ce qu’elle permet de vérifier |
|---|---|
| Sur quelles informations l’adaptation repose-t-elle ? | La visibilité des données utilisées. |
| Puis-je corriger ou réinitialiser ce contexte ? | La réversibilité. |
| Puis-je obtenir une réponse qui ne parte pas de ce profil ? | L’ouverture du champ des possibles. |
| Une décision importante dépend-elle de cette inférence ? | La nécessité d’un recours humain effectif. |
nudges et liberté académique
Approfondissement
Les architectures de choix et les mécanismes de nudging permettent d’examiner comment une interface oriente les conduites sans interdire explicitement les autres options.
Une interface ne contraint pas nécessairement par interdiction. Elle peut orienter par :
- une suggestion placée en premier ;
- un format par défaut ;
- une réponse immédiatement disponible ;
- une personnalisation qui rend certaines options plus visibles que d’autres.
Le Volume 1, chapitre 4 analysait déjà le gouvernement algorithmique et la capacité de désaccord. Ici, la question se précise : les traces laissées par l’utilisateur peuvent alimenter les mécanismes qui orienteront ensuite ses choix.
La boucle n’est donc plus seulement cognitive :
j’utilise l’outil → l’outil m’aide à penser.
Elle peut devenir :
j’utilise l’outil → je laisse des traces → ces traces alimentent une représentation → cette représentation contribue à configurer les réponses qui me seront proposées.
Activité : espace d’erreur protégé
3 - De la prudence à la souveraineté informationnelle : choisir ce que l’on donne
Essentiel Recommandé Approfondissement
Dans cette partie, vous allez :
| Comprendre | Repérer | Agir |
|---|---|---|
| Pourquoi la prudence n’est ni l’abstention ni la peur de l’outil. | Les arbitrages entre contextualisation, utilité et exposition. | Mettre en œuvre six réflexes de sobriété des données et identifier les limites de la seule responsabilité individuelle. |
Situation ESR
Un enseignant veut utiliser une IA pour préparer un feedback très personnalisé. Plus il donne de contexte, plus la réponse semble pertinente. Mais ce contexte comprend précisément ce qu’il cherche à protéger : difficultés, parcours, production et situation de l’étudiant.
Doit-il renoncer à l’IA ?
Doit-il tout transmettre pour obtenir la meilleure réponse ?
Ou peut-il concevoir un usage intermédiaire ?
Le prix de la précision
Le Volume 1 a montré qu’un outil peut réduire un coût cognitif tout en créant une dette si l’utilisateur délègue les opérations qui permettent d’apprendre.
Le Volume 2 rencontre une tension analogue, mais sur un autre plan : plus une requête est contextualisée, plus elle peut devenir utile ; plus elle est contextualisée, plus elle peut exposer d’informations.
Ce conflit interdit les recettes simplistes.
| Extrême | Avantage | Limite |
|---|---|---|
| Tout transmettre | Réponse potentiellement très contextualisée. | Exposition excessive, perte de maîtrise. |
| Ne rien transmettre | Exposition minimale. | Utilité parfois très faible. |
| Minimiser et transformer | Recherche d’un compromis proportionné. | Demande un travail de préparation et de jugement. |
Cette troisième voie est celle de la sobriété des données : choisir ce que l’on expose en fonction de la finalité, plutôt que transmettre spontanément tout le contexte disponible.
Six réflexes de prudence
| Réflexe | Principe | Exemple ESR |
|---|---|---|
| 1. Reformuler | Retirer les détails non nécessaires et généraliser le problème. | Demander une stratégie de feedback sans transmettre la copie réelle. |
| 2. Choisir l’environnement | Adapter l’outil à la sensibilité de la situation. | Ne pas traiter un document administratif dans un environnement grand public non validé. |
| 3. Pseudonymiser et réduire | Retirer les identifiants et les éléments contextuels inutiles. | Remplacer les données réelles par des catégories pertinentes. |
| 4. Gérer mémoire et historique | Connaître les réglages disponibles sans confondre interface et effacement infrastructurel. | Désactiver une mémoire persistante lorsque cela est pertinent. |
| 5. Tester sans exposer | Utiliser des données fictives ou synthétiques pour éprouver une méthode. | Tester une grille d’analyse sur de faux profils avant toute donnée réelle. |
| 6. Maintenir une distance critique | Vérifier la réponse et conserver la décision humaine. | Utiliser l’IA comme aide à l’analyse, pas comme autorité de classement. |
Sobriété informationnelle ≠ sobriété environnementale
Tester sans exposer : intérêt et limites des données synthétiques
Les données fictives ou synthétiques peuvent permettre de tester :
- une procédure ;
- un prompt ;
- une grille de classification ;
- une chaîne de traitement ;
- une interface pédagogique.
Elles peuvent ainsi réduire l’exposition lors des phases exploratoires.
Mais elles ne constituent pas automatiquement une preuve de validité. Un jeu synthétique peut reproduire imparfaitement la distribution, les biais ou les cas limites des données réelles.
À retenir : les données synthétiques peuvent être un outil de minimisation et d’expérimentation. Elles ne dispensent pas de vérifier leur qualité, leurs biais et leur adéquation à la finalité.
Prudence cognitive : un nouveau travail d’inhibition
Le lien avec le Volume 1 est ici particulièrement fort.
Dans le chapitre consacré à la cognition, l’inhibition consistait notamment à résister à une réponse intuitive ou à une stratégie inadéquate.
Avec les données, une autre inhibition apparaît :
résister au réflexe de copier-coller tout le contexte simplement parce que l’interface le permet.
La prudence informationnelle mobilise donc plusieurs compétences déjà travaillées :
- inhiber ;
- sélectionner ;
- hiérarchiser ;
- justifier ;
- vérifier ;
- accepter parfois une réponse moins précise pour préserver une information.
La différence est que l’enjeu n’est plus seulement d’apprendre correctement. Il est de maintenir une capacité de choix sur les conditions de l’usage.
la règle « Finalité - Minimum - Environnement - Contrôle »
Recommandé
Avant un usage, vérifier quatre dimensions :
- Finalité : qu’est-ce que je cherche réellement à obtenir ?
- Minimum : quelles informations sont indispensables ?
- Environnement : cet outil est-il adapté à la nature des informations restantes ?
- Contrôle : qui vérifie la réponse et assume la décision finale ?
Cette règle ne remplace pas les procédures institutionnelles, juridiques ou de sécurité. Elle constitue un premier filtre de discernement.
pourquoi l’hygiène individuelle ne suffit pas
Approfondissement
Les six réflexes sont utiles, mais ils ne doivent pas déplacer toute la responsabilité vers l’utilisateur.
Un enseignant ou un étudiant ne peut pas, à lui seul :
- auditer toute l’infrastructure d’un fournisseur ;
- négocier les conditions contractuelles ;
- garantir la localisation et les conditions de traitement ;
- déterminer toutes les réutilisations possibles ;
- maintenir une solution locale ;
- arbitrer seul les exigences juridiques, techniques et pédagogiques.
La souveraineté informationnelle est donc à la fois :
- individuelle, par les choix d’usage ;
- professionnelle, par le jugement situé ;
- institutionnelle, par la sélection des environnements, les règles, l’accompagnement et les alternatives disponibles.
Cette conclusion prépare directement le Volume 2, chapitre 2 : toutes les situations n’exposent pas les mêmes données et tous les environnements n’offrent pas les mêmes garanties. Le prochain chapitre portera donc sur l’appariement entre sensibilité de la situation, propriétés de l’environnement et compromis acceptable.
Carte d’aide à la décision pédagogique
Essentiel
Objectif : décider ce qui peut être transmis, transformé ou maintenu hors d’un outil d’IA avant même de choisir la qualité du prompt.
flowchart TD
A[Je souhaite utiliser une IA] --> B[Définir la finalité]
B --> C{Ai-je besoin de données réelles ?}
C -->|Non| D[Utiliser données fictives ou synthétiques]
C -->|Oui| E[Identifier les données nécessaires]
E --> F[Retirer identifiants et contexte inutile]
F --> G{Des personnes, données sensibles ou informations stratégiques restent-elles exposées ?}
G -->|Oui| H[Vérifier l'environnement et le cadre institutionnel]
G -->|Non| I[Utiliser avec minimisation]
H --> J{Environnement adapté et usage autorisé ?}
J -->|Non / doute| K[Ne pas transmettre ou demander conseil]
J -->|Oui| L[Usage encadré]
D --> M[Vérifier la sortie]
I --> M
L --> M
M --> N[Maintenir un recours humain effectif]
Règle de décision : une donnée utile n’est pas automatiquement une donnée nécessaire ; une donnée nécessaire n’est pas automatiquement transmissible dans n’importe quel environnement.
Étude de cas : préparer un feedback individualisé avec une IA
Situation
Une enseignante souhaite préparer plus rapidement des feedbacks individualisés sur des rapports étudiants. Elle envisage de copier dans une IA :
- le rapport complet ;
- le nom de l’étudiant ;
- ses résultats précédents ;
- des remarques issues d’un entretien ;
- la grille d’évaluation.
Analyse
1. Finalité
L’objectif n’est pas de « faire connaître l’étudiant à l’IA », mais d’obtenir une aide pour structurer un feedback.
2. Données nécessaires
Le nom et une partie de l’historique personnel ne sont probablement pas nécessaires à cette finalité.
3. Effet mosaïque
Même sans nom, le cumul du rapport, de la spécialité, des résultats et des remarques peut rendre la situation reconnaissable.
4. Alternative
L’enseignante peut d’abord tester sa méthode sur un extrait fictif ou synthétique, puis utiliser une version minimisée des éléments strictement nécessaires dans un environnement compatible avec le cadre institutionnel.
5. Contrôle
La réponse de l’IA reste une proposition. Le feedback final engage l’enseignante et doit être relu, contextualisé et assumé.
Ce que le cas prolonge du Volume 1
Le Volume 1 aurait demandé : le feedback produit par l’IA soutient-il réellement l’apprentissage ?
Le Volume 2 ajoute : quelles informations avons-nous dû exposer pour produire ce feedback et cet environnement était-il approprié ?
Les deux questions sont complémentaires. Un usage pédagogiquement pertinent peut rester informationnellement inadapté.
Fiche action : auditer un usage d’IA en 10 minutes
Avant l’usage
Pendant l’usage
Après l’usage
En lien avec la Charte IA de l’INSA Lyon
Ce que prévoit la Charte : Repère C06 : analyser les données exposées et choisir un environnement adapté.
Ce que ce chapitre permet de comprendre : L’exposition comprend le contenu transmis, les traces et les informations qui peuvent être inférées. La minimisation doit précéder le choix de l’environnement.
Point d’attention : Retirer un nom ne garantit pas l’anonymat. Une combinaison de détails peut rester identifiante. Ces repères relèvent du cadre institutionnel de l’INSA Lyon ; ils ne constituent pas une règle universelle.
Auto-positionnement final
Se situer après le chapitre
Répondez de 1 à 4 : 1 = pas du tout, 2 = rarement, 3 = souvent, 4 = systématiquement.
| Question | 1 | 2 | 3 | 4 |
|---|---|---|---|---|
| 1. Je distingue données explicitement saisies, traces et inférences possibles. | ||||
| 2. Je vérifie si le contexte transmis est réellement nécessaire à la tâche. | ||||
| 3. Je sais que pseudonymiser ne garantit pas automatiquement l’anonymat. | ||||
| 4. Je prends en compte l’effet mosaïque lorsque plusieurs informations sont combinées. | ||||
| 5. Je considère la vie privée comme une condition du droit à l’erreur et à l’exploration. | ||||
| 6. Je distingue personnalisation utile et risque d’assignation à un profil. | ||||
| 7. Je reformule mes requêtes pour limiter les informations non nécessaires. | ||||
| 8. J’utilise des données fictives ou synthétiques lorsque des données réelles ne sont pas nécessaires. | ||||
| 9. Je choisis l’environnement en fonction de la nature des données et du cadre institutionnel. | ||||
| 10. Je maintiens une validation humaine pour les décisions ayant un impact sur une personne. |
Analyser son positionnement
Repérez les réponses 1 et 2, puis observez dans quelles dimensions elles se concentrent. Les numéros ci-dessous correspondent à l’ordre des dix questions. Les regroupements suivent les trois mouvements du chapitre ; ils ne supposent pas que les items soient tous consécutifs.
| Dimension | Items | Question de lecture |
|---|---|---|
| Comprendre les traces et les inférences | 1, 3 et 4 | Ai-je repéré les informations explicites, les possibilités de réidentification et l’effet mosaïque ? |
| Préserver la vie privée et la liberté académique | 5 et 6 | Est-ce que je préserve le droit à l’essai et distingue personnalisation et assignation ? |
| Minimiser et gouverner l’exposition | 2, 7, 8, 9 et 10 | La transmission est-elle nécessaire, minimisée, adaptée à l’environnement et soumise à une validation humaine ? |
Points de vigilance prioritaires : items 3 et 4 (réidentification), 9 (environnement adapté) et 10 (validation humaine). Une réponse faible sur un item critique ne doit pas être compensée par des réponses élevées ailleurs. Elle invite à examiner la situation concernée avant de poursuivre l’usage.
Pour progresser :
- Pour les items 1, 3 et 4, reprendre Ce que l’IA sait de nous : données visibles, traces et inférences.
- Pour les items 5 et 6, reprendre Pourquoi « je n’ai rien à cacher » ne suffit pas : vie privée, profilage et liberté académique.
- Pour les items 2, 7, 8, 9 et 10, reprendre De la prudence à la souveraineté informationnelle : choisir ce que l’on donne.
Choisissez une situation concrète, formulez une modification de pratique et identifiez une trace permettant d’en discuter les effets. Cette lecture sert à orienter la réflexion ; elle ne constitue ni une certification, ni un audit, ni une validation institutionnelle.
Conclusion
Le Volume 1 a montré qu’utiliser une IA ne consiste jamais seulement à obtenir une production : l’outil redistribue l’effort, peut masquer le raisonnement, modifier la perception de la compétence et déplacer les conditions de l’autonomie.
Ce premier chapitre du Volume 2 ajoute une couche décisive : l’interaction produit aussi des données.
Ce que l’on expose ne se limite pas au texte visible. Des traces peuvent être produites, des informations rapprochées et des caractéristiques inférées. La prudence ne peut donc pas se réduire à retirer un nom ou à éviter quelques catégories de données manifestement sensibles.
Trois déplacements structurent le chapitre :
- du contenu à l’exposition : regarder ce qui est transmis, mais aussi ce qui devient déductible ;
- du secret à la liberté : comprendre que la vie privée protège aussi le droit d’essayer, de se tromper et de ne pas être réduit à un profil ;
- de la prudence individuelle à la souveraineté : apprendre à minimiser et à arbitrer, tout en reconnaissant que l’institution doit fournir des environnements, des règles et des alternatives.
Le paradoxe est alors plus précis :
plus une IA connaît le contexte, plus elle peut sembler utile ; mais plus nous lui donnons de contexte, plus nous devons savoir pourquoi, où et sous quelles conditions nous l’exposons.
La maîtrise ne consiste donc ni à tout transmettre pour maximiser la performance, ni à renoncer systématiquement à l’outil. Elle consiste à choisir ce que l’on donne, pour quelle finalité, dans quel environnement et sous quelle responsabilité.
Le chapitre suivant prolongera cette logique : après avoir appris à identifier ce que l’usage expose, il faudra déterminer quels environnements sont compatibles avec quelles données et quelles situations.
Glossaire du chapitre
| Notion | Définition |
|---|---|
Données personnelles |
Informations se rapportant à une personne identifiée ou identifiable. |
Métadonnées |
Informations décrivant le contexte ou les caractéristiques d’une donnée ou d’une interaction. |
Traces numériques |
Informations produites directement ou indirectement par l’activité numérique d’un utilisateur. |
Inférence |
Déduction d’une caractéristique ou d’une information à partir de données disponibles. |
Effet mosaïque |
Apparition d’une information sensible ou identifiante par combinaison de fragments qui, isolément, semblent anodins. |
Profilage algorithmique |
Construction ou utilisation d’un portrait probabiliste à partir de données et comportements observés. |
Minimisation des données |
Principe consistant à limiter les données traitées à ce qui est nécessaire pour une finalité déterminée. |
Vie privée |
Espace de maîtrise et de retrait permettant notamment de ne pas être constamment observé, catégorisé ou évalué. |
Liberté académique |
Liberté d’explorer, questionner, discuter et produire des connaissances dans le cadre des responsabilités propres à l’enseignement supérieur et à la recherche. |
Souveraineté informationnelle |
Capacité à comprendre et gouverner l’exposition, l’usage et les conditions de traitement de ses informations. |
Sobriété des données |
Pratique consistant à limiter et transformer les informations exposées en fonction de la finalité de l’usage. |
Données synthétiques |
Données artificiellement produites pour reproduire certaines propriétés d’un jeu réel sans utiliser directement les observations originales. |
Recours humain effectif |
Possibilité réelle pour une personne compétente de vérifier, contester, modifier ou refuser une décision ou recommandation assistée par IA. |
Bibliographie
- European Data Protection Board (EDPB). (2024). Orientations mobilisées sur la protection des données et les modèles d’IA.