Produits précipités et défaillants
En mai, Google a introduit une mise à jour très attendue incorporant l’intelligence artificielle générative dans son moteur de recherche dominant.
Désormais, les utilisateurs recherchant des informations aux États-Unis peuvent parfois voir une vue d’ensemble générée par l’IA résumant les résultats, suivie de la liste habituelle de sites web classés par pertinence.
Cependant, en quelques jours, des utilisateurs ont signalé des réponses bizarres, inexactes et même dangereuses de la nouvelle fonctionnalité de résumés IA. Par exemple, l’IA a suggéré d’utiliser de la colle pour faire adhérer le fromage à une pizza, a vanté les bienfaits cardiovasculaires de courir avec des ciseaux, et a affirmé que l’ancien président américain Barack Obama était musulman.
Bien que Google se soit précipité pour corriger ces erreurs, de nombreux experts soutiennent qu’elles sont intrinsèques à la technologie. Le PDG de Google, Sundar Pichai, a lui-même décrit ces “hallucinations” comme un “problème non résolu” et une “caractéristique inhérente” de la technologie. Admettant tacitement cet échec, Google semble avoir réduit la proportion d’utilisateurs voyant ces résumés.
Pouvoir de marché et qualité déclinante
Google a été largement critiqué pour avoir lancé une technologie clairement inapte à l’utilisation et potentiellement dangereuse pour les utilisateurs.
Mais peu se sont interrogés sur les raisons pour lesquelles le géant technologique a pu agir avec tant d’audace. La réponse est simple : Google contrôle environ 90 % du marché mondial de la recherche sur le web et fait face à peu de pression concurrentielle.
Ainsi, il peut sortir un produit peu fiable ou non sécurisé sans craindre de perdre des clients au profit de rivaux. Cette position dominante n’incite pas non plus Google à maintenir la qualité. Son moteur de recherche s’est détérioré ces dernières années, avec des résultats organiques de plus en plus envahis par des publicités et du contenu spam.
Cory Doctorow a inventé le terme “enshittification” pour décrire la pratique des entreprises technologiques consistant à fournir aux consommateurs des services utiles et abordables (ou gratuits) avant d’augmenter les prix et de réduire la qualité une fois le marché accaparé.
Concurrence et collusion entre les géants de la tech
Google n’est pas le seul monopole à avoir lancé un produit IA bâclé. Meta a imposé ses nouveaux agents IA à des millions d’utilisateurs d’Instagram et de Facebook, bien qu’ils inventent des faits et imitent les humains.
En février, le chatbot ChatGPT d’OpenAI a commencé à déverser des absurdités, mélangeant même différentes langues. Les propres ingénieurs de Microsoft ont critiqué la société pour avoir lancé un générateur d’images basé sur la technologie d’OpenAI, qui crée du contenu violent, sexualisé et politiquement biaisé.
Chaque entreprise a introduit des correctifs ciblés, mais cette approche du “coup de marteau” est insuffisante face à ce qui semble être une technologie fondamentalement peu fiable.
L’illusion de la concurrence et la collusion croissante
Les géants de la tech semblent parfois se concurrencer, mais c’est souvent une illusion. En réalité, chaque entreprise cherche à consolider sa propre sphère d’influence, entraînant une coexistence tendue mais largement statique.
Dans les rares cas de concurrence directe, comme entre Microsoft et Google dans la recherche sur le web, les parts de marché restent en grande partie inchangées. Plus inquiétant encore, l’écosystème actuel de l’IA est saturé de comportements collusifs : les géants de la tech forment de plus en plus de partenariats semblables aux accords lucratifs que Google a conclus pour maintenir sa domination sur la recherche.
Ces alliances incluent l’accord de cloud computing entre Microsoft et Meta, le partenariat récemment annoncé entre Apple et OpenAI, et les projets de Google d’intégrer ses technologies IA dans les téléphones Samsung, plusieurs de ces initiatives étant déjà examinées par les autorités antitrust.
La nécessité d’une régulation plus stricte
La rivalité entre les entreprises technologiques, en particulier la course à l’IA générative, est parfois citée comme preuve de forces concurrentielles dans l’industrie. Mais cette vision ne distingue pas la concurrence “pour le marché” de la concurrence “dans le marché”. Les géants de la tech peuvent sembler rivaliser, mais c’est souvent un mirage. Encourager une concurrence marginalement plus forte entre ces monopoles technologiques, en espérant qu’ils se concentreront davantage sur la sécurité et la fiabilité, ne suffira pas.
Une régulation contraignante, telle que la loi européenne sur l’intelligence artificielle, est un premier pas nécessaire pour tenir ces entreprises responsables. Les décideurs politiques doivent également faire preuve de plus d’imagination en utilisant les outils à leur disposition pour favoriser de véritables alternatives aux géants de la tech, et s’assurer que les utilisateurs ne servent plus de cobayes involontaires. Cela pourrait impliquer l’utilisation de la politique antitrust ou l’investissement dans des entreprises capables de défier les monopoles actuels du cloud computing et de la fabrication de puces.
En fin de compte, il est temps de cesser de traiter l’innovation comme une fin en soi, indépendamment des objectifs qu’elle atteint ou des intérêts qu’elle sert. Nous devons plutôt développer une compréhension bien plus nuancée de la manière dont les récits sur l’innovation sont façonnés et dirigés par les investisseurs, les entreprises dominantes et d’autres acteurs puissants. Ce n’est qu’alors que nous pourrons avoir une conversation significative sur le rôle de l’IA dans nos sociétés.
Que se passe-t-il en Tunisie?
Nous expliquons sur notre chaîne YouTube . Abonnez-vous!
Commentaires