IA responsable : prouver pour passer du PoC à la production

Sur le papier, les principes de l’IA responsable font l’unanimité, qu’il s’agisse de fiabilité, de transparence, de sécurité, de contrôle humain ou de conformité. Sur le terrain, c’est une autre histoire. Pour AMEXIO, spécialiste de la gestion et de la structuration de l’information, ces exigences ne se greffent pas en fin de projet. Elles s’inscrivent dans l’architecture, des contenus jusqu’à la supervision des modèles.
 

Structurer le contenu à la source

Une IA n’est jamais plus fiable que les contenus qu’elle exploite. Or l’information reste souvent enfermée dans des documents monolithiques, redondants et difficiles à maintenir. Découpés mécaniquement pour alimenter un modèle de langage, ils produisent des extraits tronqués, obsolètes ou contradictoires, qui nourrissent les hallucinations et gonflent la facture.

AMEXIO prend le problème en amont en migrant ces documents vers des fragments XML conformes à des standards comme DITA. Chaque fragment est unique et se comprend sans son document d’origine. Ses métadonnées précisent à quoi il s’applique, dans quel cas d’usage et dans quelle version, et servent de filtres pour que l’IA s’appuie sur la bonne information. Concevoir des architectures de contenus qui servent aussi bien la documentation que l’IA, c’est le cœur du métier d’AMEXIO depuis vingt ans.
 

Garder l’humain dans la boucle

AMEXIO conçoit également des Intelligent Front Doors (IFD), une approche reconnue par les analystes du marché. Ce point d’entrée unique capte l’intention de l’utilisateur dès le premier échange et l’oriente vers la réponse la plus adaptée, contenu en libre-service, IA conversationnelle ou expert humain. Quand l’IA atteint ses limites, le relais vers un expert se fait sans rupture et reste tracé.
 

Mesurer chaque réponse

Sur ce socle, AMEXIO déploie IBM watsonx, dont watsonx.ai pour choisir et combiner les modèles selon l’usage. Orchestrés par watsonx Orchestrate, les agents IA n’accèdent qu’aux informations autorisées et rattachent chaque réponse à ses sources. Dans une architecture RAG, où le modèle rédige sa réponse à partir des fragments récupérés, watsonx.governance mesure en continu la pertinence du contexte récupéré (context relevance), la fidélité de la réponse à ce contexte (faithfulness) et sa pertinence au regard de la question (answer relevance). Croisés, ces indicateurs révèlent si une erreur vient de la recherche ou de la génération, et donc où corriger. La plateforme détecte aussi les contenus haineux ou injurieux, les données personnelles, les tentatives d’injection de prompt et les biais, et alimente un audit automatisé.
 

Instrumenter dès le prototype

Leurs seuils doivent être fixés dès la preuve de concept, car un prototype non instrumenté est un prototype à refaire. La gouvernance n’est pas l’étape finale du projet, c’est elle qui rend possible son passage à l’échelle.

Stéphanie DESHAYES, Directrice marketing groupe, AMEXIO

Nos clients ne demandent plus si l’IA fonctionne, mais comment le prouver à leur direction, à leur conseiller à la protection des données et, demain, à leur régulateur. Cette preuve se construit dès le PoC.

Garder la maîtrise des données

Reste la question de l’hébergement. Déployable en SaaS comme sur site, watsonx laisse chaque organisation choisir où résident ses données. C’est un atout décisif en Suisse, où la nLPD impose depuis 2023 la protection des données dès la conception, et où l’AI Act s’applique dès que les résultats d’un système d’IA sont utilisés dans l’Union.

Contenus structurés, humain dans la boucle, réponses mesurées, données maîtrisées : prises ensemble, ces briques changent la nature du débat. Une IA responsable, au fond, c’est une IA dont on peut prouver qu’elle fonctionne. Et c’est la seule qui passe en production.

AMEXIO
Rue des Pâquis 11, 1201 Genève, Suisse
+41 78 329 49 04
amexiogroup.com
contact@amexio.ch