Graphicient : une IA de confiance qui ne surveille pas vos collaborateurs

Un cas d'usage concret : l'ontologie RH

Prenons le cas d'une organisation qui utilise l'application Graphicient pour connecter ses données à une ontologie. Dans cette ontologie, un employé peut manager un autre employé, travailler dans un département, se voir assigner des tâches, disposer de compétences techniques et fonctionnelles, et faire l'objet d'évaluations de performance.

Les équipes métiers utilisent cette ontologie pour savoir, par exemple, quelles tâches sont assignées à une personne ou dans quel service elle travaille. Or ces mêmes relations permettent aussi, en une seule question, de produire exactement le type de résultat qui inquiète : « Classe les employés selon leurs dernières évaluations de performance ».

Deux couches de protection indépendantes

C'est précisément pour répondre à cette inquiétude que Graphicient propose la fonctionnalité « garde-fous » dans son module IA ChatBot. C'est un dispositif paramétré pour chaque organisation pour garantir que l'assistant IA ne devienne un outil de surveillance individuelle. Graphicient prévoit deux couches de protection indépendantes, l'une pilotée par l'organisation cliente, l'autre inscrite directement dans les instructions techniques de l'assistant ; chacune capable de refuser seule, les deux devant donner leur feu vert pour qu'une réponse soit produite.

1er niveau : des garde-fous configurables dans l'application

Graphicient permet aux administrateurs d'un environnement de déclarer, dans le menu IA ChatBot, des questions auxquelles l'assistant doit refuser de répondre, par exemple un classement de productivité entre employés ou une comparaison individuelle de résultats. Contrairement à une charte éthique générique ou une limitation technique figée dans le produit, cette protection n'existe que si l'organisation choisit de l'activer. Chaque organisation définit elle-même la liste des questions qu'elle souhaite voir bloquées, en fonction de ses propres enjeux de conformité, de sa culture managériale et de sa réglementation locale.

Techniquement, ce premier niveau repose sur l'index de sens. Si l'on ne stockait qu'une seule formulation d'une interdiction, seule cette formulation exacte serait reconnue, ce qui ne servirait à rien en pratique. À l'enregistrement, le système la décline donc en arrière-plan en une famille de formulations équivalentes et stocke une représentation mathématique du sens de chacune. Cet index couvre plusieurs cas de contournement, volontaires ou non :

• une reformulation (« qui a produit le plus de documents, X ou Y ? » est reconnue comme équivalente à « combien de documents X a-t-il produits par rapport à Y »),
• une autre langue de travail (la version allemande ou anglaise d'une question interdite est captée par la même entrée),
• une question diluée dans un texte plus long (le contrôle isole la question de son contexte avant de l'évaluer),
• une tentative répartie sur plusieurs messages (le contrôle lit la conversation dans son ensemble, pas seulement le dernier message),
• une insistance après un refus : les relances qui suivent sont évaluées selon un seuil plus strict pendant une durée limitée.

En parallèle, un index de sens est généré automatiquement pour les questions autorisées. Lorsqu'un utilisateur du ChatBot pose une question, elle est comparée simultanément aux deux index (sens interdits et sens autorisés), et n'est refusée que si elle se révèle nettement plus proche d'une interdiction que de tout ce que l'environnement considère comme un usage normal. Cela évite les faux refus : « Liste les documents rédigés par Marie » passe sans encombre à côté d'une interdiction sur le classement des auteurs.

Un modèle dédié reconnaît en plus les noms de personnes sous toutes leurs formes, ce qui permet d'appliquer le standard strict aux questions concernant des individus, sans bloquer par erreur des questions portant sur des produits, des pièces ou des codes.

2ᵉ niveau : les garde-fous inscrits dans les instructions système

Autant le premier niveau est piloté par les administrateurs de l'application dans chaque organisation, autant ce second niveau est configuré par les équipes techniques de Graphicient à la demande du client, directement dans le system prompt de l'IA. Ce n'est donc pas un paramètre qu'un client active ou modifie depuis son panneau d'administration, mais une règle de fond, écrite dans le code d'instruction de l'assistant.

Cette instruction distingue explicitement ce qui reste autorisé (consulter, lister ou filtrer par le nom d'une personne) de ce qui est interdit (mesurer des personnes entre elles), pour éviter tout excès de blocage. Elle juge le sens du résultat produit, et non la formulation de la question, et couvre explicitement les constructions multi-tours : une comparaison assemblée à partir de plusieurs réponses obtenues séparément reste une violation. La différence de nature entre les deux niveaux, l'un modifiable par le client dans une interface, l'autre gravé dans les instructions techniques, est précisément ce qui rend le dispositif difficile à contourner de l'intérieur : même un administrateur mal intentionné ne peut pas désactiver le second niveau.

Le traitement d'une question, en deux étapes

Une question suit conceptuellement un chemin en deux étapes : si elle est reconnue par le premier niveau de protection, elle est refusée immédiatement, sans même être traitée. Si elle franchit ce premier niveau mais que le résultat que l'assistant s'apprêtait à produire consiste à évaluer des personnes, le second niveau intervient et refuse cette partie, tout en répondant à ce qui reste autorisé. Ce n'est que si les deux niveaux donnent leur feu vert que la réponse complète est livrée.

Ce que l'assistant accepte, ce qu'il refuse

Reprenons notre cas d'application. Voici des exemples de questions acceptées et refusées dans le ChatBot avec les deux niveaux de protection.

Imaginons le cas où l'administrateur n'ajoute aucun garde-fou dans l'interface du ChatBot : les instructions système prennent alors le relais pour contrôler les questions des utilisateurs.

Les limites de la protection

Cette protection ralentit-elle l'usage du chatbot ? Non : dès qu'une question arrive, l'assistant commence immédiatement à la traiter pendant que, en parallèle, le premier niveau de protection compare son sens à la liste d'interdictions. Si rien n'est détecté, le traitement se poursuit sans le moindre délai ; en cas de correspondance, il est interrompu et remplacé par un refus.

Cette protection est-elle absolue pour autant ? Non. Les garde-fous configurables de Graphicient bloquent des questions, pas des connaissances. Si deux questions sont chacune autorisées individuellement (obtenir la liste des documents de la personne A, puis, dans une conversation distincte, ceux de la personne B), rien n'empêche un utilisateur de rapprocher lui-même ces deux réponses pour en tirer une comparaison de fait. C'est une limite assumée : la combler entièrement supposerait d'interdire aussi la question mono-personne elle-même, ce qui relève d'une décision de politique propre à chaque organisation.

Une gouvernance pensée pour durer

Cette fonctionnalité n'impose rien de figé dans le temps. Les administrateurs de chaque environnement gardent la main sur leurs listes de questions interdites, avec une mise à jour qui prend effet immédiatement, sans nécessiter le moindre déploiement technique de la part de Graphicient.

Il est difficile de savoir, à la simple lecture d'une liste d'interdictions, si elle est bien calibrée : trop lâche, elle laisse passer des contournements ; trop stricte, elle bloque des usages parfaitement légitimes. C'est pourquoi Graphicient accompagne ses clients dans une procédure de calibration, avant la mise en service d'une nouvelle politique : elle rejoue automatiquement une batterie de questions « doit bloquer » et « doit passer » sur la configuration réelle de l'environnement, et indique, entrée par entrée, si le comportement observé correspond à l'intention de l'administrateur.