Exploitation des données

La blockchain pour éviter les abus de l’intelligence artificielle

| mise à jour

DeepMind Health élabore un outil de registre digital pour permettre la traçabilité des données médicales traitées par ses programmes d’intelligence artificielle.

(Source: Pixabay)
(Source: Pixabay)

Filiale de Google se consacrant au développement de l’intelligence artificielle appliquée au secteur de la santé, DeepMind Health travaille sur la mise au point d’une technologie de traçabilité de l’utilisation des données utilisateurs basée sur un registre digital chiffré, concept inspiré de la blockchain. L’objectif consiste à permettre aux établissements de soins, aux services de santé mais aussi aux patients, de suivre en temps réel le traitement des données personnelles. DeepMind nomme son initiative Verifiable Data Audit, laquelle est décrite comme une approche particulièrement utile dans ce contexte, compte tenu de la sensibilité des données médicales personnelles. DeepMind ajoute que l’utilisation des données médicales devrait nécessiter, pour chaque interaction et exploitation dans le cadre de recherches, par exemple, d'être autorisée de manière appropriée et avec le consentement du patient. «Ce n'est pas seulement l'endroit où les données sont stockées qui compte, c'est aussi ce qui en est fait», précisent sur ce point dans un billet de blog deux responsables de DeepMind.

Pour permettre à toutes les parties prenantes de savoir pourquoi et comment des données médicales personnelles sont rendues accessible et sont utilisées, DeepMind Health met au point un outil qui étend les fonctionnalités d’audit de son système d’intelligence artificielle au service des établissements hospitaliers. A l'heure actuelle, chaque fois que les systèmes de DeepMind Health reçoivent ou traitent des données, un log pouvant être audité ultérieurement est créé. A la place de ce log, le nouvel outil développé va, lors de chaque traitement de données, créer une entrée dans un registre digital. Cette entrée enregistrera le fait qu'une donnée particulière a été utilisée et dans quel but. A l'instar de la blockchain, le registre n’acceptera aucun effacement des informations une fois enregistrées. De plus, le registre permettra aux tiers de vérifier que personne n'a falsifié d’entrées.

Webcode
DPF8_36672