Selon The Guardian, les aperçus de l’IA de Google exposent les utilisateurs à des risques pour la santé

Lorsque vous recherchez des informations sur la santé, la rapidité peut faire toute la différence. Mais selon une enquête du Guardian, les aperçus de l’IA de Google pourraient exposer les utilisateurs à des risques réels, car les avertissements de sécurité n’apparaissent pas lorsque les conseils médicaux générés par l’IA sont affichés.

Les aperçus de l’IA de Google et le problème des clauses de non-responsabilité médicale

Google affirme que ses aperçus Google AI incitent les utilisateurs à consulter un professionnel en matière de santé. Cependant, l’enquête révèle que la clause de non-responsabilité médicale n’est pas visible sur le premier écran où apparaît le résumé généré par l’IA.

L’avertissement n’apparaît que si l’utilisateur clique sur « Afficher plus » pour obtenir plus de détails. Et même dans ce cas, la note de sécurité est placée en bas de la page, dans une police plus petite et moins visible.

Où apparaît réellement l’avertissement médical

Ce n’est qu’à la fin du contenu étendu qu’apparaît la formule : « Ceci est à titre informatif uniquement. Pour un avis médical ou un diagnostic, consultez un professionnel. Les réponses de l’IA peuvent comporter des erreurs. »

Le problème, selon les experts, est que de nombreux utilisateurs risquent de ne jamais lire cet avertissement, en se fiant au premier résumé fourni par l’IA.

LIRE AUSSI : OpenAI lance ChatGPT Health : vous pouvez désormais télécharger votre dossier médical

Les risques des aperçus de l’IA de Google pour les informations sur la santé

Plusieurs spécialistes de l’IA et de la santé publique ont exprimé leur inquiétude. Pat Pataranutaporn du MIT a souligné que même les modèles les plus avancés peuvent « halluciner de la désinformation » ou fournir des réponses privilégiant la satisfaction des utilisateurs plutôt que l’exactitude.

Dans le contexte des soins de santé, cela peut devenir dangereux. Les aperçus de l’IA de Google peuvent contenir des informations partiellement correctes et partiellement incorrectes, ce qui rend difficile la distinction de ce qui est fiable sans expertise médicale.

IA générative et confiance automatique

Un autre élément critique concerne le comportement humain. Lorsqu’une réponse apparaît en haut de la page, sous la forme d’un résumé faisant autorité, elle tend à générer une confiance immédiate.

Selon Sonali Sharma de Stanford AIMI, la position privilégiée des AI Overviews décourage une vérification plus approfondie. Le sentiment d’avoir reçu une réponse complète réduit la propension à consulter d’autres sources ou à lire l’intégralité du contenu.

Pourquoi les aperçus de l’IA de Google donnent la priorité à la vitesse

Gina Neff, de l’Université Queen Mary de Londres, affirme que le problème est structurel : les aperçus de l’IA de Google sont conçus pour la rapidité et non pour une précision absolue.

La logique de l’IA générative est de proposer une réponse synthétique et immédiate. Mais en santé, la précision n’est pas un détail mineur : c’est une exigence fondamentale.

L’enquête du Guardian avait déjà mis en évidence des cas de désinformation sur la santé dans des résumés générés par l’IA en janvier.

LIRE AUSSI : Anthropic lance Claude for Healthcare et poursuit OpenAI

Aperçus de l’IA de Google et responsabilité des plateformes

Le problème n’est pas seulement technique, mais éthique. Si un système présente des informations médicales sans avertissement clair et immédiat, le risque est que l’utilisateur les considère comme équivalentes à un avis professionnel.

Tom Bishop d’Anthony Nolan a demandé que la clause de non-responsabilité soit visible dès le début, dans la même taille que le texte principal. Non pas comme note marginale, mais comme premier élément à lire.

Google, pour sa part, affirme que les aperçus de l’IA encouragent souvent les gens à consulter un médecin directement dans le texte, le cas échéant.

Cependant, une question centrale demeure : dans un écosystème où l’IA générative occupe la partie la plus visible de la page de recherche, qui garantit que la sécurité des informations de santé en ligne passe avant la rapidité ?

Les aperçus de l’IA de Google représentent une évolution puissante dans la recherche. Mais lorsqu’il s’agit de santé, la forme et l’emplacement d’un simple avertissement peuvent faire la différence entre l’information et un préjudice réel potentiel.