ChatGPT Santé : qu’est-ce que c’est et quels changements pour le secteur de la santé

Avez-vous déjà imaginé demander l’aide de l’intelligence artificielle pour lire vos dossiers médicaux, les comprendre et rendre les informations plus accessibles ? Il y a encore quelques années, cela aurait certainement été impensable (à moins de regarder un film de Christopher Nolan).

Pourtant, de nombreuses personnes utilisent déjà ces outils pour recevoir des informations sur leur santé. En effet, selon l’Observatoire de la santé numérique, 11 % des citoyens recherchent déjà des informations sur les maladies, les médicaments et les thérapies grâce à l’IA. Un moyen d’avoir des réponses accessibles rapidement. Après tout, c’était la même chose que beaucoup de gens faisaient déjà avec Google : maintenant seul l’outil a changé !

Aujourd’hui, nous sommes entourés d’informations, notamment de fichiers PDF, de documents papier, d’applications de fitness, de montres intelligentes, de programmes de sommeil, etc. L’habitat idéal pour ceux qui veulent toujours être informés de leur santé. Mais pour beaucoup de gens, cela ressemble davantage à un labyrinthe.

Et c’est exactement là qu’intervient OpenAI. La société américaine a en effet lancé ChatGPT Health aux États-Unis il y a quelques semaines. Dans cet article, nous verrons de quoi il s’agit, quelles sont les limites et quelles sont, au contraire, les opportunités pour la communication sur la santé et pour le secteur de la santé en général.

ChatGPT Health : qu’est-ce que c’est et pourquoi cela mérite notre attention

ChatGPT Health est un espace intégré à la plateforme, dédié au bien-être personnel et créé pour aider les utilisateurs à s’orienter parmi les données, rapports et informations de santé, en les soutenant dans la phase de traitement et d’interprétation des documents officiels. Cet outil – encore en test aux États-Unis – permet aux utilisateurs de télécharger leurs documents de santé et de connecter certaines des principales applications de santé pour faire du chatbot un collaborateur spécialisé au quotidien.

Il s’agit donc d’une nouvelle tentative de transformer la plateforme en un assistant personnel, capable d’aider les gens à atteindre leurs objectifs dans tous les domaines de la vie. Pour atteindre cet objectif, OpenAI a collaboré pendant plus de 2 ans avec 260 médecins de 60 pays à travers le monde et a défini la méthodologie avec laquelle offrir des réponses fiables, en évitant les contenus trompeurs ou peu fiables.

Mais attention : l’objectif de ChatGPT Santé reste d’accompagner les personnes dans la compréhension de leur état de santé sans remplacer la relation clinique avec le médecin et sans apporter de diagnostics et de thérapies.

Pourquoi alors mérite-t-il notre attention ? Parce qu’elle s’inscrit dans un moment précis du processus de soin : celui où le patient tente de comprendre. Avant le diagnostic, avant le choix de la structure ou du professionnel, avant même l’échange direct avec le médecin. C’est au cours de cette phase que se forment les attentes, les croyances et les niveaux de conscience qui influencent profondément la relation avec le système de santé.

Des outils tels que ChatGPT Health aident à redéfinir la manière dont les gens accèdent à l’information, interprètent les données cliniques et construisent leurs rôles dans leur parcours de santé. Un changement qui concerne non seulement les patients, mais aussi les entreprises, les établissements de santé et les professionnels appelés à faire face à des utilisateurs de plus en plus informés, exigeants et participatifs.

Et si l’IA se trompait ? Doutes (légitimes) sur la fiabilité des informations

Pour de nombreux utilisateurs, il peut être difficile de comprendre où s’arrêtent les informations générales et où commencent les recommandations médicales. Mais surtout, le risque que certains utilisateurs se fient à des conseils partiels ou erronés, laissant de côté des éléments essentiels comme par exemple les effets secondaires ou les allergies, est inquiétant.

Outre d’éventuelles inexactitudes, il ne faut pas non plus oublier que lorsqu’on parle d’IA générative, la qualité de la réponse dépend en grande partie de la qualité de la question. Si donc un patient pose mal la question, le risque de recevoir des indications inexactes ou trompeuses augmente proportionnellement.

Avec ChatGPT Health, nous courons donc le même danger que d’autres géants mondiaux (comme Google, par exemple) ont déjà eu l’occasion de vivre eux-mêmes. Voyons plus en détail à quoi nous faisons référence…

Le cas de Google : aperçu de l’IA et santé

Il y a quelques semaines, on apprenait que, contrairement à ce que fait OpenAI avec ChatGPT Health, Google faisait un grand pas en arrière en matière de santé.

Le Guardian a braqué les projecteurs sur la question et, avec la contribution d’une équipe d’experts, a révélé une série d’inexactitudes cliniques présumées découlant du modèle d’intelligence artificielle de Google (AI Overview). Une décision qui a conduit à la suppression de certaines recherches médicales erronées de ses résumés (maintenant gonflés).

Depuis quelques semaines donc, Google ne répond plus à certaines questions dans les domaines médical et sanitaire. Le grand thème sur lequel nous nous sommes concentrés lors de cette « enquête » était l’absence de contexte réel. Les modèles d’intelligence artificielle générative fournissent en effet des valeurs générales et indicatives, sans tenir compte d’éléments essentiels comme l’âge, le sexe ou les pathologies préexistantes qui peuvent, évidemment, modifier les paramètres de référence.

Dans ce cas précis, il a été constaté que l’AI Overview de Google ne serait pas en mesure de prendre en compte ces différences, conduisant à des réponses génériques et potentiellement dangereuses pour la santé des utilisateurs.

Une autre confirmation de la façon dont, à ce jour, les grands modèles linguistiques doivent encore faire face au risque de renvoyer des informations incorrectes. Un sujet qui est déjà à l’ordre du jour, mais qui dans un contexte comme celui de la santé prend un poids bien plus important.

Confidentialité et données sensibles : les promesses d’OpenAI sous observation

Une autre question cruciale à considérer est celle relative à la vie privée, un problème qui a été débattu à plusieurs reprises dans le panorama de l’IA, notamment en Europe.

En ce sens, OpenAI a garanti que ChatGPT Health utilisera des systèmes de sécurité avancés. L’outil, en fait, a été conçu pour séparer les informations médicales du reste des activités du chatbot. Il a également été précisé que les conversations, ainsi que les fichiers partagés dans le « chat », ne seront pas utilisés pour entraîner les modèles de base de ChatGPT.

Ce ne sont là que quelques-unes des assurances fournies par le géant américain : OpenAI a également précisé que les partenaires tiers devront se conformer à des exigences rigoureuses et passer des contrôles de sécurité spécifiques, que les utilisateurs pourront demander la suppression de leurs données des systèmes dans un délai de 30 jours et que, pour profiter de certaines fonctionnalités, un consentement explicite sera requis, qui pourra être révoqué à tout moment depuis les paramètres.

Tout cela pour dire que ChatGPT Health essaie de donner les garanties appropriées en matière de confidentialité. Le temps nous dira à quel point ils seront fiables.

Alors, que devons-nous attendre de ChatGPT Health ?

ChatGPT Health est actuellement testé aux États-Unis. Pour arriver en Europe (et donc aussi en Italie), le nouveau chatbot devra respecter une réglementation stricte en matière de traitement des données et de dispositifs médicaux (justement).

En attendant de pouvoir tester l’outil, il ne reste plus qu’à se demander quel sera son impact sur le secteur de la santé et sur la communication. Noetica, en effet, est une agence spécialisée dans le marketing de la santé. Grâce à l’expérience acquise au fil des années et à la collaboration avec le Cabinet d’Avocats Delli Ponti, spécialisé en droit de la santé, nous accompagnons les entreprises et les professionnels du secteur de la santé, notamment les cliniques privées, les organismes de protection sociale et les principales compagnies d’assurance italiennes. Et nul doute que l’avènement de ChatGPT Health pourrait modifier significativement notre approche du secteur.