Au fil des années, Evgeny Morozov s’est taillé une solide réputation dans le domaine de la critique techno-numérique. Ses nombreux articles et ouvrages le montrent sans détour: selon lui la technologie doit être comprise comme un outil capable du meilleur comme du pire, autrement dit comme un pharmakon. Au lieu de s’attaquer frontalement à une technologie devenant de plus en plus ubiquitaire, comme l’assument froidement les techno-critiques les plus radicaux, il défend l’idée que celle-ci nécessite avant tout être repensée à l’aune de ses usages et de ses relations avec le capitalisme (autoritaire ou non). Et qu’elle puisse même à terme s’en émanciper.

Morozov sait lire derrière les apparences. Il sait qu’aujourd’hui le «véritable évangile des géants du numérique, consacré et encensé par les Etats, consiste à innover au nom de la conservation». Derrière toute politique du fait accompli se trouve une volonté inflexible; celle de sans cesse tout changer pour que finalement rien ne change.

Morozov veut quant à lui que ça change, et vite. Il imagine donc un autre monde, façonné cette fois par des technologies habitées par une autre logique et surtout conçues et élaborées par d’autres acteurs que les entreprises gafamesques. En vérité plutôt que d’imaginer un autre monde, Morozov se retourne sur le nôtre et, plus particulièrement, sur l’histoire du développement de l’IA. Une histoire bien moins linéaire qu’on ne le croît.

Parmi ses dernières contributions, deux mettent clairement en évidence sa méthode d’investigation et sa posture critique, tout autant que l’horizon vers lequel elles pointent tour à tour.

La première est un livre tiré d’un podcast au style détonnant, Les Santiago Boys¹>Evgeny Morozov, Les Santiago boys: des ingénieurs utopistes face aux big tech et aux agences d’espionnage, Ed. Divergences, 2024.. Livre qui se lit comme un roman, riche de personnages hauts en couleurs et de contextes politique, historique et géographique qui en ont tous les attributs. Lisant l’histoire des aventures de l’ingénieur et cybernéticien Stafford Beer dans le Chili des années 1970-1973, celui d’Allende, on comprend que si elle est aussi passionnante à lire et à entendre, c’est parce que l’auteur a réussi à communiquer sa propre passion pour ces drôles d’«ingénieurs utopistes qui ont côtoyé Allende […] et qui ont osé imaginer un avenir numérique très différent de celui que nous connaissons».

La seconde est un article paru cet été dans Le Monde diplomatique²>Evgeny Morozov, «Une autre intelligence artificielle est possible», Le Monde diplomatique, août 2024.. Le style a changé. Bien que plus conventionnel, le mouvement imprimé au texte reste le même. Sans surprise, l’auteur se retourne à nouveau sur l’histoire de l’IA, cette fois en déplaçant son attention vers un nouveau personnage. Après un bref paragraphe consacré au projet CyberSinc et à son mentor Stafford Beer, Morozov nous permet en effet de rencontrer un personnage tout à fait étonnant, Warren Brodey, psychiatre étasunien «passé à la cybernétique».

A rebours de la vision commune d’une IA cherchant à reproduire une intelligence purement humaine, ceci dans le but de l’augmenter ou de pallier ses déficiences, Brodey défend l’idée «que l’intelligence, loin d’être enfermée dans nos cerveaux, naît des interactions avec notre environnement». Partant de là, l’IA ne devrait pas être un «outil d’augmentation» mais un «outil d’amélioration».

La différence est fondamentale. Car comme le rappelle Morozov, si «l’augmentation nous retire des capacités au nom de l’efficacité, […] l’amélioration nous en fait acquérir de nouvelles et enrichit nos interactions avec le monde».

Cette histoire vieille d’un demi-siècle donne à réfléchir. Pensez à ChatGPT et à tous les autres «ghost writers artificiels» et demandez-vous si en «boostant» notre intelligence ceux-ci nous permettent réellement d’acquérir de nouvelles capacités ou si au contraire ils organisent aujourd’hui notre inutilité de demain, ceci en subtilisant à chaque occasion davantage de nos capacités³>Cf. Eric Sadin, La vie spectrale, Grasset, 2023, p. 233.?

Au sortir de cette double lecture, Morozov a de toute évidence vaincu mes résistances techno-critiques. Me voilà bien malgré moi en train de me passionner pour deux utopies technologiques, celles de Beer et de Brodey. Me voilà même en train d’imaginer les contours d’une véritable innovation en matière d’IA.