Intelligence artificielle en santé - Bien l’utiliser et bien se protéger

Parmi les systèmes d’intelligence artificielle (IA), les systèmes d’IA générative se distinguent par leur capacité à apporter des réponses à vos questions sous forme de texte, d’image, de son ou de vidéo. Ces réponses ne sont pas garanties comme vraies : elles correspondent à ce que l’outil d’IA considère comme le plus probable.

Utilisés par des professionnels de santé dans l’aide au diagnostic, les outils d’IA générative peuvent, par exemple, produire des rapports médicaux à partir d’images ou de comptes-rendus médicaux et proposer des soins personnalisés. Par ailleurs, ils peuvent contribuer à la création de nouveaux médicaments en simulant leurs propriétés et ouvrir la voie à un accès plus précoce aux innovations.

Pour autant, les outils d’IA générative en santé exigent des précautions d’emploi :

• d’une part, quant à la fiabilité des résultats : la qualité des données à partir desquelles l’outil d’IA élabore ses réponses est essentielle. Si ces données sont scientifiques ou médicales, validées et à jour, les réponses qui vous sont apportées peuvent être pertinentes. Mais, si l’outil d’IA fonde sa réponse sur des données fausses, biaisées ou non mises à jour, les réponses sont partielles, erronées ou dangereuses ;
• d’autre part, quant à la conformité juridique en matière de protection des données personnelles (règlement européen protégeant les personnes, RGPD).

Il est important de voir l’IA générative comme un outil technique intéressant mais imparfait et non une solution « clé en main » pour répondre à des difficultés de santé.

Les outils d’IA générative accessibles au grand public peuvent être gratuits. Mais, en échange, vos informations personnelles, vos questions et les réponses qui vous sont données sont enregistrées par l’éditeur de l’outil. Ces données peuvent ensuite être réutilisées pour améliorer l’outil d’IA générative.

Souvent, ces outils ne garantissent pas suffisamment la confidentialité de vos données personnelles, y compris dans leurs versions payantes.

En Europe, le règlement général sur la protection des données (RGPD) et le règlement européen sur l’IA protègent les informations personnelles, liées à votre santé ou non, que vous partagez de votre plein gré. Toutefois, l’exercice de vos droits est complexe à mettre en œuvre.

Lorsque vous utilisez des outils d’IA générative, il vous revient de prendre vos précautions : beaucoup d’entre eux sont proposés par des entreprises qui ne sont pas toujours soumises à l’environnement juridique français et européen. Dans ce cas, vous êtes exposé au risque que vos données personnelles soient réutilisées à d’autres fins et sans votre consentement.

Il est donc recommandé de ne jamais partager d’informations personnelles conduisant à vous identifier, vous comme vos proches, même indirectement (nom, adresse, initiales, date de naissance, numéro de téléphone, numéro de sécurité sociale, numéro de dossier à l’hôpital ou en cabinet libéral, etc.). Appliquez la même prudence avec les informations sur les soignants et les lieux où vous recevez des soins : médecin, infirmier, laboratoire d’analyse médicale, hôpital… Si vous faites par exemple analyser un bilan sanguin par un outil d’IA générative, masquez leurs nom, adresse, initiales, numéro de téléphone…

Les réponses de l’IA générative en santé peuvent prendre en compte toutes sortes de données accessibles, médicales comme non médicales. Toutefois, la prudence s’impose : ces réponses nécessitent une vérification systématique des informations. Les outils d’IA générative peuvent vous répondre à partir d’informations qui ne sont pas vérifiées, parfois même inventées à partir de sources inexistantes (phénomène dit « d’hallucination »). Concrètement, demandez à l’outil d’IA que vous utilisez de citer ses sources et n’hésitez pas à les consulter directement : vous pourrez ainsi vérifier si celles-ci sont validées et à jour, ou au contraire discutables ou périmées.

Les réponses d’un outil d’IA générative reposent davantage sur des probabilités que sur de réels liens logiques. Les performances d’un outil d’IA générative sont liées à sa capacité à produire une réponse qui soit la plus probable en créant des enchaînements de mots et de phrases.

Les outils d’IA générative n’agissent donc pas comme un « moteur de recherche » qui vous propose une liste de contenus existants. Ils reformulent du contenu, ce qui peut déformer les informations. La réponse donnée ne vous permet pas d’explorer par vous-même la diversité des informations existantes ou de les comparer en fonction de leur source (sources scientifiques et plus généralement validées). Il est donc préférable de consulter directement la source utilisée par les outils d’IA générative.

Votre façon de questionner l’intelligence artificielle est essentielle :

• Avez-vous pris en compte et transmis à l’outil d’IA générative l’ensemble de vos paramètres de santé (vos difficultés de santé, votre âge, votre sexe, vos facteurs de risques personnels, familiaux, environnementaux…) ?
• La façon de formuler votre question peut influencer la réponse donnée par les outils d’IA générative. Ainsi, si vous reformulez votre question plusieurs fois différemment, vous pouvez obtenir des réponses variables.
• Par ailleurs, confier vos données personnelles présente des risques : il faut donc, dans votre façon de poser vos questions, trouver le juste équilibre entre les informations que vous partagez et le risque d’être identifié vous ou vos proches (voir « Avec quelles ressources l’intelligence artificielle répond-elle à votre question ? Est-ce fiable ? »).

Les outils d’IA générative accessibles au grand public proposent une réponse directe mais souvent incomplète par rapport à la complexité de chaque situation médicale. Seuls les professionnels qui vous accompagnent (professionnels de santé, des secteurs social et médico-social, etc.) auront l’initiative et l’expérience de vous demander des informations complémentaires utiles et ainsi vous proposer une réponse adaptée et plus sûre.

Le ton chaleureux employé par les outils d’IA générative pour dialoguer avec vous n’est pas gage de qualité ou de véracité, ni finalement de sécurité. Gardez à l’esprit que l’IA générative est un outil capable de simuler, d’imiter une conversation avec un humain. Son ton convivial et attentionné peut être persuasif et tromper votre vigilance.

Si les réponses de l’IA générative rendent la médecine plus compréhensible, cette simplification peut également vous induire en erreur.

Ainsi, utilisés seuls, les avis et conseils médicaux (traitements ou conduite à tenir, soutien psychologique, etc.) délivrés par un outil d’IA générative peuvent être trompeurs, contre-indiqués ou dangereux pour votre état de santé ou votre situation personnelle.

Mais ils peuvent être une excellente base d’échange avec le professionnel de santé qui vous suit ! (Voir « Comment parler de mes recherches grâce à l’intelligence artificielle à un professionnel de santé ? »)

Seul un professionnel médical peut établir un diagnostic et vous prescrire des soins ou un traitement médical. Les outils d’IA générative ne peuvent pas poser un diagnostic car ils ne sont pas responsables juridiquement.

Les outils d’IA générative accessibles au grand public ne sont, pour la plupart d’entre eux, pas spécialisés. Ils ont des niveaux de performance variables quand il s’agit d’analyser des informations médicales et des situations médicales personnelles. Ils ne sont pas toujours conçus pour répondre précisément à ce type de demande. Ils peuvent recourir à de fausses informations ou même inventer des sources scientifiques qui n’existent pas (phénomène dit « d’hallucination ») pour accompagner leur réponse.

Cependant, à partir des informations personnelles que vous avez partagées avec l’outil, l’IA peut apporter une première réponse à vos questions de santé. Ces hypothèses peuvent apporter un premier niveau d’information pour commencer un échange avec votre professionnel. Mais ces hypothèses ne remplacent jamais ni les entretiens avec les soignants ni les examens cliniques qui guident un professionnel de santé dans la pose d’un diagnostic. N’hésitez pas à en discuter avec les professionnels qui vous suivent.

Les outils d’IA générative en santé constituent un moyen de vous informer sur votre santé et de vous impliquer dans vos propres soins. Mais seul un professionnel de santé vous doit une information loyale, claire et appropriée sur votre état de santé, les examens et les soins qu'il vous propose. Les outils d’IA n’y sont en aucun cas tenus.

Les outils d’IA générative vous sont utiles pour structurer des informations que vous lui transmettez. Ils synthétisent les informations issues de différentes sources, quand les réponses apportées par les moteurs de recherche nécessitent de parcourir des contenus variés qui ne semblent pas toujours répondre à votre question initiale.

Évoquer vos recherches avec des outils d’intelligence artificielle sur votre situation personnelle fait partie de vos échanges avec les professionnels de santé. N’hésitez pas à leur en faire part. L’échange permet de valider, de nuancer ou d’exclure les réponses apportées par l’outil d’intelligence artificielle.

Les soignants et les organisations de santé ont recours de plus en plus à des outils d’IA. Ceux-ci visent le plus souvent à synthétiser des connaissances médicales pour faciliter le travail du professionnel. Ils ne ressemblent souvent pas aux outils d’IA accessibles au grand public : ils ne cherchent généralement pas à simuler une conversation avec un humain.

Les soignants qui utilisent un dispositif médical comportant de l’IA générative pour un acte de prévention, de diagnostic ou de soin doivent vous en informer (article L. 4001-3 du Code de la santé publique).

Certains de ces outils professionnels répondent à des cahiers des charges qui permettent de s’assurer qu’ils se fondent exclusivement sur des sources scientifiques fiables. Ils évitent des erreurs présentes dans des outils d’IA générative grand public. N’hésitez pas à en parler avec vos soignants.

Ressources

• Règlement général sur la protection des données (RGPD), site de la CNIL
• Pour vous aider à vous opposer à la réutilisation de vos données personnelles par des outils d'IA générative, site de la CNIL
• Entrée en vigueur du règlement européen sur l’IA : les premières questions-réponses de la CNIL