Google poursuit d'une action en justice pour R$ 100 millions liée à des canaux YouTube diffusant des contenus de santé tromcheux

Le Google est visé par une action civile publique déposée par deux instituts brésiliens : l’Institut de Fiscalização e Controle (IFC) et l’Institut Tecnologia e Equidade (IT&E). Le document a été enregistré auprès de la Comarca de São Paulo et signé par cinq avocats, dont Márlon Reis et Matheus Lopes. Les plaignants réclament 100 millions de réais (environ 18 millions d’euros) à titre de dommages moraux collectifs.

Des canaux prétendant être des médecins

L’enquête porte sur un réseau d’au moins 29 chaînes YouTube en langue portugaise, cumulant 70 millions de vues. Ces chaînes utilisent des avatars de médecins générés par intelligence artificielle, certains revêtant des blouses blanches, pour promouvoir des traitements sans fondement scientifique. Parmi les exemples cités : un guide prétendant régénérer le cœur et les artères, ainsi qu’un autre vantant le contrôle de la glycémie. Un profil admet même être un avatar d’IA tout en utilisant l’image d’une médecin célèbre sans clairement identifier le contenu comme étant généré par IA.

Ciblage des personnes âgées

Les auteurs de l’action estiment que le public ciblé est principalement composé de personnes âgées. Les vidéos utiliseraient des messages de peur pour inciter les spectateurs à abandonner les traitements traditionnels au profit de thérapies non validées. Les ministères brésiliens de la Santé et de l’Advocacy générale de l’Union (AGU) avaient déjà alerté YouTube sur ces pratiques, demandant la suppression de 97 profils jugés trompeurs. Selon la pétition, ces canaux sont restés actifs après les avertissements, certaines comptes ayant même été renommées ou dupliquées pour contourner les mécanismes de modération.

Demandes spécifiques

Les plaignants demandent à la justice d’ordonner la suppression des vidéos concernées, la suspension des paiements versés aux chaînes, et l’interruption des recommandations automatiques de ce type de contenu. Ils souhaitent également l’ajout d’avertissements clairs et la vérification obligatoire des enregistrements professionnels. L’objectif est d’obliger YouTube à vérifier si les prétendus médecins possèdent un enregistrement valide auprès du Conseil fédéral de médecine (CFM).

Des évolutions parallèles de la plateforme

Parallèlement à cette affaire, YouTube continue d’intégrer de nouvelles fonctions basées sur l’IA. Lors de l’événement « Made on YouTube », la plateforme a présenté un outil permettant de créer des flux personnalisés via des requêtes en langage naturel, similaires à celles utilisées avec des modèles comme Gemini ou ChatGPT. Cette fonctionnalité, d’abord disponible aux États-Unis, permet aux utilisateurs de générer des onglets thématiques sur leur page d’accueil selon leur humeur, leurs centres d’intérêt ou leurs routines. YouTube a également annoncé un doublage automatique en temps réel pour les vidéos en direct, ainsi qu’un nouvel outil pour le contenu épisodique via Shorts series.

Risques accrus pour les créateurs et les spectateurs

Ces avancées technologiques suscitent des préoccupations quant à la qualité du contenu et à la sécurité des utilisateurs, notamment des jeunes. Des études récentes ont montré que l’expansion de l’IA dans les plateformes pouvait accroître le risque de contenus inappropriés ou trompeurs. La décision de justice pourrait donc avoir un impact significatif sur la manière dont les plateformes gèrent les vérifications de crédibilité, surtout dans des domaines sensibles comme la santé.