Google minimise les alertes de santé dans ses résumés IA

Google a réduit les alertes de sécurité dans son outil de résumés générés par intelligence artificielle (IA) pour des conseils médicaux. Ces résumés apparaissent au-dessus des résultats de recherche et, selon l'entreprise, devraient encourager les utilisateurs à chercher une aide professionnelle sur des sujets sensibles comme la santé.

L'entreprise affirme que ses résumés IA sont conçus pour informer les utilisateurs de l'importance de consulter des experts ou de vérifier les informations fournies. Cependant, l'absence d'avertissements clairs peut entraîner un usage inapproprié des informations, ce qui représente un risque potentiel pour la sécurité des utilisateurs.

Google a été critiqué pour ne pas inclure d'avertissements de sécurité de manière proéminente, ce qui pourrait aider à atténuer les risques liés à des informations potentiellement incorrectes. L'entreprise défend que les résumés IA ne sont qu'une source d'information complémentaire et que la responsabilité de chercher un avis médical approprié revient à l'utilisateur.

La réponse du marché et des experts a été préoccupante, soulignant la nécessité d'une plus grande transparence et responsabilité dans la présentation d'informations sensibles par les systèmes IA. Google pourrait devoir ajuster son approche pour s'assurer que les utilisateurs comprennent clairement les limites des informations générées par IA.

Google doit s'assurer que ses résumés IA incluent des avertissements clairs et visibles sur la nécessité de consulter des experts, surtout sur des sujets critiques comme la santé.