« Limiter les risques d’extinction de l’humanité posés par l’intelligence artificielle devrait être une priorité mondiale, aux côtés d’autres risques de grande ampleur comme les pandémies ou la guerre nucléaire ». Publiée en 2023, cette formule a fait l’effet d’un choc, d’autant qu’elle était l’oeuvre des grands patrons de la Silicon Valley. Thibault Prévost, journaliste indépendant, spécialiste des nouvelles technologies, entreprend de la décrypter et de la mettre en perspective.

Etat des lieux

Après nous avoir annoncé un futur merveilleux, les mêmes hurlent désormais de faire attention. L’IA suscite deux tendances inverse entre catastrophistes d’un côté et utopistes de l’autre. Depuis 2022, les oligarques de l’IA jouent les Cassandre… contre eux-mêmes. L’auteur invite à calmer le jeu en soulignant que le moment que nous vivons s’est déjà produit plusieurs fois. Son ouvrage se veut une alternative à la sidération. Derrière une apparente pluralité, les deux discours autour de l’IA n’en font qu’un.

La Terre sainte du transhumanisme

Pour comprendre le curieux mélange de prophéties qui parcourt l’industrie de l’intelligence artificielle, il faut remonter aux origines du grand mouvement techno-utopique de la Silicon Valley : le transhumanisme. Incompatible avec l’angoisse belliqueuse post 11 septembre, l’idéologie de l’emballement transhumaniste entre en stase. Elle sort de son hibernation dix ans plus tard. Dans la Silicon Valley, lutter contre la mortalité  n’est plus seulement une lubie d’universitaires marginaux et de milliardaires en plein délire mégalomane. L’auteur évoque forcément Elon Musk. Le constat final c’est que les maitres de la finance et de la technologie ont décidé d’abandonner le présent à son sort.

Futuritarismes

Le techno-optimisme, c’est l’économie politique préférée des ploutocrates du numérique. Dans cette histoire, l’IA n’est que le paravent technique d’une entreprise tout à fait classique de privatisation et de captation des richesses. L’avenir des sociétés de contrôle, c’est un mélange d’abrutissement consumériste et de surveillance algorithmique. C’est un système développé par le capitalisme pour lutter contre tout ce qui pourrait le mettre en crise. Au-delà des positions de Musk ou Bezos, le techno-optimisme est la conviction religieuse partagée qui veut que le capitalisme et l’intelligence artificielle leur permettront un jour de prendre les commandes de l’histoire.

L’apocalypse selon l’IA

L’intelligence artificielle n’a pas été systématiquement cauchemardesque. Les choses ont changé mais Tyler Austin Harper, spécialiste des récits d’extinction, estime que les poussées de pessimisme collectif sont cycliques. La seule fin du monde que les membres de l’élite craignent, c’est la fin de leur monde. Techno-utopie et IApocalypse se rejoignent et se complètent ; les deux scénarios préfèrent se projeter dans un futur imaginaire plutôt que d’analyser les menaces qui pèsent sur le présent et affirment que le techno-autoritarisme est la meilleure manière de sécuriser l’avenir. Il n’y a qu’une fabrique de la peur et de la sidération, une machine à lobbying tout entière mobilisée pour éviter la régulation de l’industrie.

Du bon usage des prophéties

Pour l’auteur, ce que cherchent les grandes fortunes de la Silicon Valley, avec leurs discours apocalyptiques, c’est à reconfigurer le présent pendant que nous regardons vers un avenir improbable. En vérité ceux qui disent sauver l’humanité ne sont que des cambrioleurs de nations. La mainmise du privé est totale : les entreprises de la tech contrôlent les infrastructures, les outils de développement et les logiciels qui définissent la direction des recherches en IA. Pour neutraliser tout potentiel de critique collective de l’IA, les prophètes instillent un mélange d’anxiété, de fascination et de sidération aux journalistes. A force de se faire dire que le futur est déjà plié, le public remet son destin entre les mains des Google, Microsoft ou autre Meta. L’auteur invite à sortir de la sidération. Pour cela, il faut décrire l’IA au présent plutôt qu’au futur. La voir non plus pour ce qu’elle pourrait devenir mais pour ce qu’elle est réellement, socialement et politiquement.

Systèmes d’exploitation

Il faut lutter contre le récit spectaculaire qui nous est vendu, ce qui revient à lutter contre la privatisation du futur. Partons d’un principe  simple : que fait réellement l’IA ? Proclamer que le cerveau est un ordinateur a des conséquences sociales : cette métaphore justifie l’assujettissement des êtres considérés comme moins rationnels que la machine. L’auteur invite à refuser de parler d’IA lorsqu’il s’agit d’agents conversationnels. Il insiste pour dire qu’aucun chatbot n’atteindra jamais 100 % de fiabilité. Aujourd’hui, l’IA générative est une solution qui cherche un problème, une lubie qui ne sert à rien. C’est aussi un gouffre énergétique. L’industrie de l’IA est engagée dans plusieurs procès pour non respect du droit d’auteur. Plus gênant encore, la majorité de la population n’utilise pas d’IA mais y est assujettie. En effet, tous les jours des systèmes automatiques déterminent notre accès à certaines ressources. Quand il s’agit de playlist passe encore mais lorsqu’il s’agit d’avoir un prêt bancaire c’est tout de même bien différent. Thibault Prévost pointe aussi la question des discriminations. Le mythe de l’IA dissimule une entreprise globale de déshumanisation de l’individu, d’atomisation du collectif et de stérilisation de la vie politique par leurs réductions à des modèles statistiques.

Cet ouvrage engagé de Thibault Prévost pose les bonnes questions sur l’intelligence artificielle. Parmi ses éclairages, on ne pourra que souscrire au fait de résister à une certaine sidération face à une telle évidence.