Un grand merci aux 70 participants à ce débat public !

Face à la transformation rapide du secteur de la santé par les technologies numériques associées à des systèmes d’intelligence artificielle, il est crucial d'engager une réflexion sur les enjeux éthiques soulevés par ces nouvelles pratiques.

Aujourd’hui, chacun d'entre nous peut interagir facilement avec une intelligence artificielle, sans aucune connaissance en informatique. Les applications et des usages de l’IA sont aujourd’hui très diverses.

En santé, l’IA permet et promet des avancées majeures dans des domaines tels que le dépistage, le diagnostic, la personnalisation des traitements ou encore l’analyse des données de santé. Son utilisation en santé soulève cependant de multiples questionnement, tels :

- l'opacité épistémique de l'intelligence artificielle : nous ne sommes pas capables d'expliquer le processus réel qui permet d’aboutir au résultat délivré par l’IA, comment alors consentir de manière éclairée à son utilisation ?
- les biais dans la constitution des données d’entrainement avec un phénomène de rétrovalidation qui risque de renforcer des biais initiaux et de produire des recommandations inadaptées ou d’exclure des soins certaines populations.
- les modalités de collecte, de stockage et d’utilisation des données, avec des enjeux de souveraineté et de sécurité.

D’un point de vue global, se posent les questions des impacts :

- écologique et géopolitique de l’usage de l’IA (utilisation très énergivore dans un contexte de raréfaction des ressources et de réchauffement climatique)
- sur les métiers (évolution ou disparition)
- sur l’économie (mainmise de quelques entreprises sur le marché des données).

(Cédric Brun)

Comment évaluer les systèmes et des outils avec intelligence artificielle ?

Il s’agirait de pouvoir évaluer les technologies utilisant l’IA de leur conception à leur implémentation et utilisation. Une évaluation qui paraît difficile à mettre en œuvre avec des outils évoluant très rapidement, des algorithmes difficilement explicables et qui eux-mêmes évoluent dans le temps.

(Rodolphe Thiébaut)

Quel impact de l’usage de l’IA dans la relation médecin-patient ?

Pour le médecin, peut-on parler de médecin augmenté, avec le risque d’un médecin remplacé ?

Les véritables clés pour les médecins résident dans la formation sur les usages et les risques de l’IA et l’information du patient.

(Emmanuel Bataille)

L’IA dans les soins, est-ce une opportunité pour réhumaniser la relation de soin ou un accélérateur de sa déshumanisation ?

L’IA dans les soins renforce-t-elle l’autonomie du patient (patient acteur de sa santé) ou au contraire l’affaiblit-elle ?

(Louise Guillanton)

Les enjeux pour le patient et le médecin

Quelle résistance peut-on mettre en place face au développement massif de l’IA et de son utilisation ?

Comment conserver, en formation initiale et continue, les apprentissages traditionnels de la réflexion et de la décision médicale ?

Comment maintenir les savoirs médicaux et scientifiques ainsi que la capacité de l’évaluation clinique, pour garder un esprit critique sur les résultats fournis par l'IA ?

Comment former et accompagner les médecins pour qu’ils restent décisionnaires face à l’IA ?

 

> Voir le programme détaillé de l'événement avec la présentation des intervenants.