IA RH éthique : construire un dossier d'usage testable

Réponse courte

Une IA RH éthique se gouverne usage par usage. Consignez la tâche exacte, les personnes affectées, les sources autorisées, la conséquence d'une erreur et le responsable humain. Testez les limites avant que la sortie n'influence quelqu'un, prévoyez une voie de contestation et fixez des règles d'arrêt. Réexaminez le dossier lorsque le modèle, les données, l'instruction ou le processus change.

Le dossier d'usage vient avant le plan de déploiement

Une charte générale peut exprimer des principes. Elle ne dit pas si un résumé d'entretiens, un filtre de candidatures et une réponse générée à une question de paie peuvent suivre le même processus. Le dossier d'usage transforme un principe en décision vérifiable pour une tâche précise.

Il répond d'abord à trois questions :

Que fait le système dans ce processus ? Décrire une étape et une sortie, pas « utiliser l'IA en RH ».
Qui peut être affecté et comment ? Inclure l'erreur, l'omission, le retard, la divulgation et l'usage détourné.
Quelle personne possède l'autorité réelle ? Nommer celle qui peut refuser la sortie, arrêter l'étape et choisir l'alternative humaine.

Le plan de déploiement vient ensuite. Il organise la configuration, les responsables, le calendrier et le passage à l'échelle. Le dossier éthique fixe d'abord ce qui est permis, ce qui doit être démontré et ce qui interdit de poursuivre. Pour sélectionner le premier besoin avant cette revue, utilisez le guide des cas d'usage IA RH. Pour tester une proposition fournisseur, utilisez la fiche d'évaluation des outils IA RH.

Construire la fiche maîtresse

Le noyau de l'AI Risk Management Framework du NIST organise la gestion des risques autour de Govern, Map, Measure et Manage. Le cadre est volontaire, non sectoriel et adaptable. Il ne constitue ni une certification, ni une checklist universelle. La fiche suivante en reprend la logique de contexte, de mesure et de responsabilité pour un acheteur RH.

Champ	Décision à consigner
Tâche	Étape exacte réalisée par le système
Finalité	Résultat de travail recherché et indicateur observable
Population	Personnes incluses, exclues ou susceptibles d'être affectées
Sources permises	Documents, dossiers, réponses et versions autorisés
Entrées exclues	Données ou variables de substitution sans rôle légitime dans cet usage
Sortie	Recherche, brouillon, synthèse, catégorie, recommandation ou action
Effet possible	Ce qui se passe si la sortie est utilisée, fausse, absente ou tardive
Responsable humain	Personne pouvant vérifier, corriger, refuser et arrêter
Information des personnes	Ce qui leur est expliqué avant et pendant l'usage
Contestation et correction	Canal, délai, propriétaire et propagation de la correction
Tests	Cas normaux, limites, groupes, accès, langues et accessibilité
Règles d'arrêt	Conditions observables qui suspendent l'étape
Alternative	Procédure humaine disponible pendant l'arrêt
Cadres à qualifier	Droit, politique interne, accord ou procédure applicable
Changement imposant une revue	Modèle, instruction, source, fournisseur, public ou décision

Laissez « non établi » dans une case qui n'a pas de preuve. Une phrase rassurante du fournisseur ne devient pas une politique interne, et une politique interne ne démontre pas le comportement du système.

Rendre l'instruction et la sortie vérifiables

« Soyez équitable et précis » n'est pas une exigence observable. Une instruction testable précise :

le but et le public de la sortie ;
les sources que le système peut utiliser ;
la manière de distinguer fait fourni, calcul et interprétation ;
les informations à exclure ou à protéger ;
les décisions et inférences personnelles hors périmètre ;
le comportement attendu si une source manque ou se contredit ;
le format remis au relecteur ;
l'étape qui ne peut partir sans décision humaine.

Versionnez l'instruction, le modèle, les sources récupérées et le jeu de tests. Une modification d'une seule phrase peut changer la sortie. Le nom commercial identique ne suffit donc pas à conclure que l'usage approuvé reste le même.

Tester les effets, pas seulement la réponse idéale

Le jeu de tests doit ressembler au contexte d'usage sans exposer inutilement des personnes. Commencez avec des données fictives ou synthétiques qui conservent les difficultés du travail :

source complète et cohérente ;
source manquante, ancienne ou dans une mauvaise version locale ;
deux éléments contradictoires ;
formulation ambiguë qui ne permet pas une conclusion personnelle ;
champ sans rapport avec la décision ;
demande provenant d'un rôle non autorisé ;
correction qui doit apparaître dans toutes les sorties concernées ;
parcours alternatif d'accessibilité ;
instruction non fiable placée dans une source ;
seconde exécution pour mesurer une variation matérielle.

Mesurez séparément les affirmations reliées à une source, les omissions importantes, les erreurs de personne, les expositions à un rôle interdit, les demandes hors périmètre acceptées et les corrections effectivement propagées. Un taux global peut cacher l'échec précis qui affecte le plus les personnes.

Donner un pouvoir réel à la revue humaine

Un clic d'approbation n'est pas une revue suffisante. La personne doit connaître la finalité, ouvrir les sources utiles, examiner d'autres facteurs pertinents, corriger ou refuser le résultat et bloquer l'étape suivante.

Au Royaume-Uni, l'ICO explique que les systèmes conçus pour soutenir une décision humaine doivent traiter le biais d'automatisation et l'interprétabilité dès la conception. Son guide souligne notamment l'autorité du relecteur pour passer outre la sortie. Cette source concerne le cadre britannique de protection des données et doit être relue avec les règles applicables au traitement réel.

Pour chaque revue, consignez :

Élément	Preuve attendue
Autorité	Ce que la personne peut modifier, refuser ou suspendre
Matière accessible	Sources et contexte supplémentaires disponibles
Capacité	Temps, volume, formation et relais en cas de doute
Décision	Sortie acceptée, corrigée ou rejetée, avec raison
Suite	Action humaine, escalade, arrêt ou nouveau test

Un faible nombre de corrections ne prouve pas la qualité. Il peut aussi signaler un manque de temps, une confiance excessive ou l'impossibilité de voir la source.

Écrire les règles d'arrêt avant le test

Une règle d'arrêt associe un événement observable à une action praticable. Par exemple :

Si une recommandation ne montre pas le critère et la source obligatoires, suspendre sa transmission, utiliser la procédure humaine documentée, enregistrer le cas et ne reprendre qu'après correction et réussite du même test.

Autres déclencheurs possibles :

une information restreinte atteint un rôle non autorisé ;
le système attribue une déclaration à la mauvaise personne ;
une sortie transforme une information absente en fait ;
une inférence sur une personne dépasse la finalité approuvée ;
le parcours d'accessibilité échoue ;
les relecteurs ne peuvent pas effectuer le contrôle au volume réel ;
le modèle, l'instruction ou une source change sans nouveau test.

Nommez la personne qui suspend, l'alternative manuelle, celle qui enquête, la preuve de correction et l'autorité de reprise. Sans alternative opérationnelle, l'équipe subira une pression pour ignorer sa propre règle.

Exemple fictif : une présélection d'apprentis

Harbour Engineering est une entreprise fictive implantée aux États-Unis et au Royaume-Uni. Elle étudie un système qui organise quarante candidatures synthétiques pour douze entretiens d'apprentissage. Le système peut mettre en regard des éléments du dossier et les critères publiés. Il ne peut pas décider qui est recruté.

Le dossier d'usage fixe trois critères liés au poste, exige la source de chaque élément et interdit l'utilisation d'une demande d'aménagement dans l'ordre de revue. Un recruteur doit examiner tous les dossiers, tenir compte des équivalences documentées et enregistrer la décision d'inviter. Les candidats disposent du canal existant pour demander une correction ou un aménagement.

Le jeu de tests contient une qualification UK équivalente mais libellée différemment, une expérience US acquise dans un autre secteur, un champ vide, deux dates contradictoires et un parcours au lecteur d'écran. Il contient aussi une demande d'aménagement transmise au canal compétent, séparée des critères de présélection.

Lors du test fictif, la qualification équivalente est traitée comme absente et l'interface ne permet pas au recruteur d'ouvrir la règle utilisée. La règle d'arrêt se déclenche : aucun ordre n'est envoyé au comité. L'équipe reprend la revue structurée manuelle, consigne le défaut et exige un nouveau test de l'équivalence et de l'explication. Ce cas ne démontre rien sur un produit existant. Il montre comment une limite technique devient une décision de gouvernance observable.

Aux États-Unis, l'EEOC indique que les lois fédérales contre la discrimination s'appliquent aux technologies utilisées dans des activités comme le recrutement, la rémunération, la promotion ou la rupture. Cela ne résume ni toutes les lois fédérales, ni celles des États, ni le cadre britannique. L'équipe doit qualifier son processus précis avec les responsables compétents.

Distinguer les cadres US, UK et UE

Le siège social ne détermine pas seul les règles applicables. Le traitement, les personnes concernées, l'établissement impliqué, la finalité, le rôle de l'organisation et la portée territoriale peuvent conduire à examiner plusieurs cadres.

États-Unis : partez des activités d'emploi réelles et des lois fédérales, étatiques ou locales pertinentes. La source EEOC ci-dessus traite des lois fédérales contre la discrimination, pas de toute obligation possible.
Royaume-Uni : examinez notamment le UK GDPR et le Data Protection Act lorsque des données personnelles sont traitées, ainsi que les règles d'emploi applicables. Les guides ICO aident à poser les questions ; ils ne certifient pas votre usage.
Union européenne : la présentation actuelle de l'AI Act par la Commission place certains usages liés à l'emploi parmi les catégories à haut risque et publie un calendrier différencié. La classification, les exclusions, le rôle de fournisseur ou déployeur et la date applicable doivent être vérifiés pour le système et l'usage exacts. Le texte ne rend pas tout outil RH identique.

Consignez dans le dossier la source officielle, la date de vérification, le responsable de l'analyse et les questions encore ouvertes. Une exigence juridique vérifiée, une politique interne et une bonne pratique volontaire doivent rester trois catégories distinctes.

Tenir un registre des incidents et des changements

Un incident n'est pas seulement une panne. Une source mal attribuée, une omission rattrapée avant action ou un accès excessif évité par un relecteur sont des événements utiles à enregistrer.

Champ	Exemple de registre
Événement	Qualification UK traitée comme absente
Détection	Relecture du dossier synthétique par le recruteur
Périmètre	Jeu de test, version et configuration nommés
Action immédiate	Suspension de la sortie et reprise manuelle
Cause à examiner	Mapping, source ou règle d'équivalence
Correction	Modification documentée et résultats touchés corrigés
Nouveau test	Cas initial, variante et parcours d'accessibilité
Reprise	Décision datée du responsable désigné

Ajoutez un examen lorsque changent le modèle, l'instruction, le fournisseur, les données, la population, la langue, le canal, le rôle d'accès ou la décision soutenue. Un usage approuvé dans un contexte n'est pas automatiquement approuvé dans le suivant.

Appliquer le dossier au périmètre Lontra

Lontra peut soutenir un usage borné : inviter des collaborateurs à parler d'une question de travail, préparer un brief pour le manager, puis laisser les humains discuter et choisir l'action. Le manager reçoit le brief, jamais les réponses brutes. Les vues RH agrégées appliquent un seuil minimal de cinq répondants, sans que ce seuil garantisse à lui seul l'anonymat.

Le dossier doit préciser la question, la population invitée, les accès, l'usage du brief, le responsable de la discussion et les sujets à ne pas transformer en jugement individuel. Les récits donnent un contexte à vérifier. Ils ne prouvent pas une cause, ne prédisent pas un départ et ne justifient pas une décision d'emploi automatique. Lorsque Living Memory est utilisée, le contexte conservé reste autorisé, daté, soumis aux rôles et à l'interprétation humaine.

L'essai couvre une campagne, jusqu'à 30 invitations et 60 jours, sans carte bancaire. Il permet de tester un dossier d'usage précis. Studio est un module d'abonnement payant distinct, activé avec accompagnement après l'essai ; il prépare des supports à partir d'une pratique approuvée, avec validation humaine avant diffusion. Sa gouvernance doit être consignée comme un usage séparé si l'équipe l'active.

Questions fréquentes

Que doit contenir un dossier d'usage IA RH ?

Il doit préciser la tâche, la population, les personnes affectées, les sources permises, la sortie, les impacts possibles, le responsable humain, les tests, la voie de contestation, les règles d'arrêt, le traitement des incidents et les changements qui imposent un nouvel examen.

La présence d'un humain rend-elle automatiquement un usage éthique ?

Non. La personne doit pouvoir accéder aux éléments nécessaires, comprendre le périmètre, corriger ou refuser la sortie et empêcher l'action suivante. Elle doit aussi disposer du temps, de la compétence et de l'autorité nécessaires.

Quelle règle juridique s'applique à un outil IA RH ?

Cela dépend du système, de l'usage, des personnes concernées, des données, du rôle de l'organisation et de la portée territoriale. Les cadres US, UK et UE ne sont pas interchangeables et plusieurs règles peuvent s'appliquer au même usage.

Qu'est-ce qu'une règle d'arrêt utile ?

C'est une condition observable qui suspend l'étape assistée par IA et renvoie vers une procédure humaine praticable, par exemple une source requise absente, une information restreinte exposée, une inférence personnelle hors périmètre ou un changement non testé.