Google a récemment supprimé certains résumés médicaux générés par intelligence artificielle. Cependant, cette décision intervient après des inquiétudes majeures. En effet, des informations de santé inexactes pouvaient induire les utilisateurs en erreur. Ainsi, ces contenus risquaient d’influencer dangereusement des décisions médicales sensibles.
Google : Des résumés jugés trompeurs
La fonctionnalité AI Overviews propose des réponses rapides via l’IA générative. Selon Google, elle reste utile et globalement fiable. Cependant, une enquête du Guardian a révélé des dérives préoccupantes. En effet, certains résumés affichaient des données médicales erronées.
Ainsi, ces informations apparaissaient en haut des résultats de recherche. Par conséquent, les utilisateurs pouvaient leur accorder une confiance excessive.
Des cas qualifiés de dangereux
Dans un exemple jugé « grave » par des experts, des données sur le foie étaient fausses. Ces informations concernaient les tests essentiels des fonctions hépatiques. Ainsi, des patients atteints de maladies graves pouvaient être rassurés à tort. De plus, les chiffres présentés manquaient totalement de contexte médical. Ils ignoraient des facteurs clés comme l’âge ou le sexe. Cependant, les valeurs dites « normales » variaient fortement en réalité.
Suppression ciblée par Google
À la suite de l’enquête, Google a retiré certains résumés précis. Les recherches liées aux valeurs normales des tests hépatiques ont été concernées. Cependant, l’entreprise reste discrète sur les suppressions individuelles.
Elle affirme améliorer les contenus manquant de contexte. De plus, des actions sont prises selon les politiques internes.
Inquiétudes persistantes des experts
La British Liver Trust a salué cette suppression. Cependant, elle reste préoccupée par d’autres formulations similaires. En effet, certaines recherches techniques affichent encore des résumés IA. Or, les tests hépatiques sont complexes et multidimensionnels.
Ainsi, une simple comparaison chiffrée reste insuffisante. De plus, l’absence d’alerte crée une fausse sensation de sécurité.
Un risque étendu à d’autres pathologies
Les résumés IA apparaissent encore sur d’autres sujets sensibles. Ils concernent notamment le cancer et la santé mentale. Selon des spécialistes, certaines informations seraient totalement incorrectes. Google affirme s’appuyer sur des sources reconnues. Cependant, la vigilance médicale reste indispensable pour les utilisateurs.
Sujets connexes :
Compétences humaines face à l’intelligence artificielle
ICAN 2026 à Riyad : l’avenir de l’éducation et de l’intelligence artificielle
