Google AI Overviews : une IA vivement critiquée La nouvelle fonctionnalité de Google, AI Overviews, est sous le feu des critiques de ses p...
Google AI Overviews : une IA vivement critiquée
La nouvelle fonctionnalité de Google, AI Overviews, est sous le feu des critiques de ses premiers utilisateurs en raison de ses réponses souvent absurdes. Actuellement disponible uniquement aux États-Unis, cette IA témoigne de la précipitation de Google à maintenir sa position face à la concurrence.
Une réaction précipitée à la concurrence
Pour contrer la menace posée par OpenAI et d'autres concurrents proposant des résumés de pages web grâce à l'IA, Google développe depuis plus d'un an sa propre technologie de résumés IA. Jusqu'à récemment, cette fonctionnalité était accessible uniquement sur inscription. Depuis le 14 mai 2024, AI Overviews est activée par défaut pour tous les utilisateurs de Google aux États-Unis. Déjà, des milliards de recherches ont été résumées par l'IA Gemini, qui affiche une réponse écrite en haut des résultats de recherche. Cependant, les résultats produits par l'IA sont souvent jugés absurdes.
Des réponses problématiques et controversées
AI Overviews a une fâcheuse tendance à puiser ses réponses sur Reddit, une source souvent moins fiable, plutôt que de s'appuyer sur des informations plus crédibles. De plus, les résultats ne sont pas uniformes pour tous les utilisateurs, ce qui ajoute à la confusion. Il arrive que Gemini fournisse des conseils de santé erronés ou confonde des blagues avec des faits réels. Par exemple, l'IA a conseillé aux femmes enceintes de consommer deux cigarettes par jour, ce qui a provoqué une vague d'indignation. Sur la plateforme X (anciennement Twitter), les utilisateurs ont largement partagé des captures d'écran des réponses inexactes fournies par AI Overviews.
Réactions et mesures de Google
Face à ce fiasco, Google a rapidement modifié les réponses de son IA. Une porte-parole de l'entreprise a déclaré à The Verge que Google avait "pris des mesures rapides" pour supprimer les aperçus de l'IA pour certaines requêtes et utiliser ces exemples pour améliorer ses systèmes de manière plus générale.
Précédents lancements controversés
Ce n'est pas la première fois que Google fait face à des controverses avec ses lancements. Il y a quelques mois, le générateur d'images de Gemini avait également suscité des critiques pour avoir produit des représentations historiques aberrantes, telles que des soldats allemands nazis noirs et asiatiques, des Vikings noirs, ou encore des femmes sénatrices américaines au XIXe siècle.
Conclusion
Les débuts de AI Overviews ont été marqués par des erreurs notables et des critiques sévères. Google doit désormais redoubler d'efforts pour améliorer cette technologie et regagner la confiance des utilisateurs. La gestion de cette crise montre à quel point il est crucial pour les géants de la tech de tester rigoureusement leurs innovations avant de les déployer à grande échelle.
Aucun commentaire