Google désactive les aperçus de l’IA pour certaines requêtes médicales
La relation entre la santé de Google AI Overviews entre dans une nouvelle phase critique. Après des semaines de controverse, Google a supprimé les aperçus de l’IA pour certaines recherches médicales sensibles, suite à la publication d’une enquête mettant en évidence de graves erreurs d’information.
Aperçus et santé de Google AI : un retour en arrière inattendu
Selon ce qui a été rapporté par The Guardian, certaines réponses générées par l’intelligence artificielle auraient fourni des indications trompeuses ou potentiellement dangereuses, rouvrant ainsi le débat sur le rôle de l’IA dans la diffusion d’informations sur la santé.
Signalements : informations définies comme « alarmantes » et « dangereuses »
L’affaire a été déclenchée par une enquête journalistique qui a montré comment la recherche Google proposait des aperçus incorrects de l’IA en réponse à des questions médicales courantes.
Le cas du cancer du pancréas
Dans l’un des exemples les plus cités, Google a conseillé aux personnes atteintes d’un cancer du pancréas d’éviter les aliments riches en graisses, une indication définie par les experts comme « vraiment dangereuse ».
Selon les cliniciens, cela va à l’encontre des recommandations correctes et pourrait augmenter le risque d’issue fatale.
Erreurs de test de la fonction hépatique
Dans un autre cas jugé « alarmant », l’IA aurait fourni des informations erronées sur des analyses hépatiques, avec le risque que des personnes souffrant de maladies hépatiques graves puissent croire à tort qu’elles sont en bonne santé.
La réponse de Google aux critiques
Après la publication des rapports, Google a complètement désactivé les aperçus de l’IA pour certaines requêtes médicales, telles que « quelle est la plage normale pour les analyses de sang du foie ». L’entreprise n’a pas commenté directement la suppression spécifique, mais a défendu son approche globale du système.
Le point de vue officiel
Selon Google, la plupart des aperçus de l’IA fournissent des informations précises étayées par des sources de haute qualité. Un porte-parole a expliqué qu’une équipe interne de cliniciens a examiné le contenu signalé, affirmant que dans de nombreux cas, les informations n’étaient pas incorrectes, mais manquaient de contexte.
Lorsque des problèmes surviennent, dit Google, l’entreprise prend des mesures soit en améliorant le système dans son ensemble, soit en appliquant ses politiques de suppression.
LIRE AUSSI : OpenAI lance ChatGPT Health : vous pouvez désormais télécharger votre dossier médical
AI Aperçus Google entre innovation et controverses
Cet incident n’est pas isolé. Les aperçus de l’IA de Google se sont déjà retrouvés au centre de controverses pour des suggestions absurdes ou incorrectes, telles que recommander de mettre de la colle sur une pizza ou de manger des pierres, ainsi que d’être impliqués dans des actions en justice.
Le problème de la confiance
Lorsque l’IA pénètre des domaines tels que la santé, l’erreur n’est pas seulement une question de qualité de l’information, mais aussi de confiance. La recherche Google est depuis des années un point de référence pour des millions de personnes, et l’introduction de réponses synthétiques générées par l’IA relève considérablement la barre des responsabilités.
Ce qui change pour les recherches médicales sur Google
La suppression partielle des aperçus de l’IA suggère une approche plus prudente, au moins pour les sujets liés à la santé. Google semble implicitement reconnaître que toutes les requêtes ne peuvent pas être traitées de la même manière, surtout lorsque les conséquences d’une erreur peuvent être graves.
Un précédent pour l’avenir de l’IA dans la recherche
Cette affaire pourrait créer un précédent important. L’utilisation de l’intelligence artificielle dans la recherche médicale nécessite des contrôles, des limites et peut-être un degré d’automatisation différent de celui dans d’autres domaines.
Google AI Overviews santé : l’innovation sous observation
Le retrait des AI Overviews de certaines recherches médicales montre à quel point l’équilibre entre innovation et responsabilité est fragile. Google continue de faire de l’IA un pilier de la recherche, mais la santé reste un domaine à haut risque, où la vitesse et la synthèse ne peuvent remplacer la précision et le contexte.
Pour les utilisateurs, les médecins et les régulateurs, l’affaire rouvre une question centrale : dans quelle mesure peut-on faire confiance à l’IA en matière de santé ?
Une réponse que, pour l’instant, Google semble vouloir différer, choisissant la prudence.
