Intelligence artificielle en santé: création d’un comité pilote d’éthique du numérique

Tic santé- Extrait - 4 décembre 2019

Le Comité consultatif national d’éthique (CCNE) a constitué un comité pilote d’éthique du numérique chargé de plancher sur « les enjeux éthiques du numérique et de l’intelligence artificielle » (IA), notamment en santé, a annoncé l’instance dans un communiqué paru le 2 décembre.

Créé à l’initiative de Matignon, sur recommandation du CCNE, ce comité pilote d’éthique est né de l’avis 129 du CCNE.

Celui-ci proposait, en septembre 2018, « de jouer un rôle d’aide à la constitution d’un futur comité d’éthique du numérique, spécialiste des enjeux numériques dans leur globalité ».

Le comité pilote d’éthique du numérique portera ses premiers travaux sur trois saisines, dont deux se rapportant à la santé:

♦ Le diagnostic médical l’IA
« Il s’agira de discuter la tension entre proposition de décision algorithmique et garantie humaine, de se demander quels sont les risques encourus lorsqu’on ne suit pas le ‘conseil’ d’un algorithme de prédiction ou encore de promouvoir la transparence et l’explicabilité du fonctionnement de ces algorithmes tant pour les professionnels de santé que pour les usagers du système de santé », a précisé le CCNE.

Cette problématique répond à la notion de « garantie humaine » en matière d’IA en santé, telle que définie par le comité national. Elle doit permettre de préserver la maîtrise finale du professionnel de santé, en interaction avec le patient, pour prendre les décisions appropriées en fonction de chaque situation spécifique ».

♦ Les agents conversationnels
Présents dans les téléphones, les interfaces avec les services en ligne ou encore les appareils tels les enceintes connectées, ces chatbots font leur apparition dans les hôpitaux et plusieurs applications de santé.

« Les enjeux éthiques concernent la transparence sur le traitement des données récoltées, le respect des individus d’une part et la commodité de l’utilisation de telles applications de l’autre, ou encore la mise en œuvre de stratégies d’influence par de tels agents », observe le CCNE.

♦ Le troisième volet de travail du comité portera sur le véhicule autonome.

Un bilan attendu pour 2021

Ce comité pilote d’éthique du numérique tient sa première réunion plénière ce mercredi 4 décembre.

Début 2021, il devra remettre au président du CCNE, Jean-François Delfraissy, un bilan de ses activités. Le comité national émettra alors des recommandations sur les modalités d’un éventuel comité pérenne d’éthique du numérique.

Organisé sur le mode de fonctionnement du CCNE, le comité pilote va être dirigé par Claude Kirchner, directeur de recherche à l’Institut national de recherche en informatique et en automatique (Inria) et membre du CCNE.

Composé de 30 membres experts des questions d’IA et issus de divers métiers, il compte plusieurs personnalités du monde de la santé.

 

Newsletter

Inscrivez-vous pour recevoir nos dernières actualités.

Catégories