Chapitre 12

Jusqu'à la singularité

11 min de lecture

12. JUSQU’À LA SINGULARITÉ

L’horizon que je viens de brosser demeure spéculatif, j’en conviens. Allons encore un peu plus loin dans la spéculation. Explorons théoriquement le monde d’après la transition.

Il existe un ensemble de théories prospectives sur ce que sera l’état du monde une fois passé le col de l’intelligence artificielle générale (IAG) — qui égalerait les experts humains dans tous les domaines —, voire de la superintelligence artificielle (SIA) — qui surpasserait tous les humains dans tous les domaines. Les sociétés de pointe en intelligence artificielle ont pour objectif avoué de développer une IAG ou une SIA, et la majorité des experts croient que l’on atteindra l’intelligence artificielle générale avant la fin de la décennie, soit d’ici cinq ans environ. Il n’est pas impossible que cela n’arrive que dans 10 ou 20 ans, mais ces prédictions à long terme restent minoritaires.

J’ai présenté dans L’obsolescence humaine programmée ma vision des risques économique et existentiel d’une IA pourvue d’une intelligence égale ou supérieure aux êtres humains. Il est possible que l’aventure se solde par un scénario catastrophe : soit la constitution d’une oligarchie puissante et indélogeable; soit, dans le pire des cas, l’extinction de l’espèce humaine.

Je prends ces scénarios très au sérieux, mais je crois tout de même qu’il est possible que l’humanité se réveille à temps et construise des remparts de sécurité autour des IA avancées. Ces garde-fous pourraient prendre différentes formes : restriction des IA agentiques (les agents qui prennent des décisions et accomplissent des actions dans le monde); supervision des IA agentiques par une IA scientifique (comme le propose Yoshua Bengio avec son projet Loi zéro); traité international définissant des seuils de puissance de calculs pour encadrer strictement les progrès en IA; renforcement des institutions démocratiques et refonte du système monétaire pour répartir la richesse créée par l’IA; mécanismes techniques et politiques de décentralisation1… Si l’on stoppait entièrement les progrès en intelligence artificielle en ce mois de février 2026, figeant les modèles dans leur niveau actuel de développement, on n’aurait pas assez d’un siècle pour exploiter toutes les possibilités ouvertes par ces outils, et la littérature serait déjà complètement transformée. Je n’arrive pas à imaginer un monde dans lequel les choses — en l’occurrence : l’écriture, le livre, la lecture — iraient leur train sans connaître de changements profonds. En revanche, un monde radicalement changé me semble non seulement possible, mais très probable. À mesure que les sociétés de pointe automatisent le travail de programmation, voire la recherche en IA elle-même, la boucle d’auto-amélioration récursive n’est plus une simple théorie de science-fiction; c’est un projet déjà en marche.

Dans le domaine de l’intelligence artificielle, on donne à ce basculement un nom emprunté à la physique des trous noirs : la « singularité ». À l’intérieur de ce temps qui s’ouvrirait avec l’explosion de l’intelligence, les choses deviendraient bizarres, les changements ultra-rapides dépasseraient l’entendement humain. À l’exception de petits groupes dans le monde de l’IA, d’universitaires marginaux œuvrant dans les « Post-AGI Studies » (les Études post-IAG) et de quelques esprits curieux (comme moi), rares sont ceux qui envisagent la possibilité de vivre dans un monde complètement transformé. Nous humains, nous apprenons par expérience, nous savons lire les continuités, mais nous sommes mal équipés pour appréhender les ruptures. Si nous arrivons à créer des entités aussi ou plus intelligentes que nous, est-ce que la continuité est même envisageable? À mon avis, si l’horizon de l’événement ne nous tue pas, il va redessiner le monde de fond en comble.

Imaginons ce monde dans lequel l’IA est supérieure à l’être humain dans tous les domaines, y compris en littérature. Oui, je parle bien d’une IA capable de construire des textes plus géniaux encore que ceux qu’ont écrits Marcel Proust ou Virginia Woolf. On me dira que l’œuvre de Proust ne se résume pas à la cognition ou à l’activité cérébrale comprise comme computation. « Chaque jour j’attache moins de prix à l’intelligence », écrivait-il dans l’incipit de Contre Sainte-Beuve2. Je ne dis pas que la superintelligence traversera l’expérience existentielle et sensorielle sous-tendant l’écriture de À la recherche du temps perdu, ni même qu’elle voudra écrire une telle œuvre sortie d’une mémoire intuitive proprement humaine. Ce que je dis, c’est que si elle le désirait ou si on pouvait le lui ordonner, la superintelligence pourrait écrire un livre plus accompli encore que l’œuvre de Proust, y compris en pinçant les cordes de l’émotion humaine — même s’il est probable que pendant les secondes ou les minutes où l’IA produirait son chef-d’œuvre, elle resterait parfaitement de glace. On peut bien dire que l’art déborde l’intelligence, ce qui est vrai. Reste que si une intelligence supérieure a un but, y compris un objectif de rendu émotionnel, elle optimisera tous les moyens techniques dont elle dispose pour y arriver, et nous n’y verrons que du feu.

Je ne sais pas si l’on accédera à l’utopie profonde que présente Nick Bostrom dans Deep Utopia. Dans un tel « monde réglé », pour reprendre le sous-titre du livre3, les étapes intermédiaires entre le désir du texte et le plaisir du texte disparaîtraient complètement. Il suffirait d’un souhait exprimé, voire d’un désir simplement ressenti — s’il existe une interface cerveau-machine ou une hyper-perceptivité de l’IA — pour que le désir devienne réalité dans une voix (sous forme textuelle, sonore ou autre) qui nous comblerait au plus haut point. Les textes deviendraient extrêmement personnalisés : l’IA écrirait un récit ou une poésie pour moi, en se basant non seulement sur mon désir littéraire, mais aussi sur une masse de données : mon humeur, mon sommeil, ma santé, mes rêves, mes préférences, mes fantasmes, la météo, les nouvelles du jour, le temps que j’ai devant moi, etc. Dans ce monde, il n’y aurait plus d’auteur ou de lecteur, la distinction s’effondrerait : on générerait et on absorberait le texte d’un seul et même mouvement. Ou peut-être que l’IA anticiperait notre désir : on ouvrirait une porte et le texte serait là, la voix résonnerait avec une justesse troublante.

Alors on ne serait plus dans la quête. On ne serait plus dans la requête. On serait au banquet après l’aventure : ce serait la fête.

On l’aura compris : je ne suis pas convaincu par ce scénario des lendemains qui chantent. Mais je crois quand même qu’il y a deux notions — abordées par Bostrom, mais aussi par d’autres penseurs — qui aident à approcher la singularité, à savoir l’abondance et la rareté.

On peut présumer que c’est dans ces notions que tout se jouera sans pour autant devoir adhérer au scénario utopique. Si l’intelligence artificielle arrive à produire des textes de qualité en quelques secondes, voire en une fraction de seconde, quel effet cela aura-t-il sur l’économie de la littérature? La prose et la poésie possèdent une valeur parce qu’elles sont rares. Écrire n’est pas facile; plusieurs s’y cassent les dents. Dans le monde humain d’avant la singularité (notre monde actuel), la voix ne constitue pas une ressource abondante; les textes qui en découlent non plus. On s’intéresse aux textes, on les pèse, on les compare, on les analyse, on tient sur eux un discours parce qu’on cherche l’aiguille dans la botte de foin, la voix parmi le piaillement. À ce jeu, le présent se trompe souvent, car ce qui est rare peut paraître étrange, inaccessible ou raté. Le recul de l’histoire, on le sait, corrige souvent la myopie du présent.

On peut avoir une fausse impression d’abondance en observant le déluge médiatique des « rentrées littéraires ». C’est oublier que la plupart de ces publications sont des romans conventionnels écrits dans une langue moyenne. Mais, même si tous ces livres étaient cousus d’or, on serait encore bien loin du genre d’abondance qu’annonce l’intelligence artificielle.

L’IA pourra pondre des proses qui sont de l’or pour le prix de l’électricité4. Sur ce marché, l’humain ne sera plus compétitif. Même s’il a une voix, il ne saura pas l’adapter pour le lecteur comme le fait l’IA; il ne saura pas compiler des millions de données pour chanter juste à l’oreille de l’auditeur ou de la lectrice.

C’est peut-être précisément parce que l’IA sera trop parfaite que l’humain pourra conserver une niche qui lui est propre. Veut-on vraiment d’un monde où l’on est nourri à la petite cuillère de textes faits pour nous plaire et nous enchanter? Avec l’hyper-personnalisation, la lecture pourrait devenir une forme d’onanisme. Il manquera l’altérité qui définit la relation de lecture aujourd’hui : on lit une voix qui n’est pas la nôtre, n’a pas été faite pour nous, présente des angles tranchants qui peuvent nous choquer, voire nous heurter.

Et puis, les voix humaines restent imparfaites. Là encore, c’est une mauvaise manie des éditeurs traditionnels que de vouloir lisser le texte jusqu’à effacer l’événement imparfait de son émergence. C’est ce qu’ont fait les premiers éditeurs de On the Road, découpant le flux en paragraphes, utilisant la convention du roman pour nommer les « personnages », corrigeant les erreurs, effaçant des répétitions, etc. Je préfère ouvrir le rouleau original — The Original Scroll — et voir la première phrase s’ouvrir sur une imperfection, soit la répétition du verbe « to meet » : « I first met met Neal not long after my father died… »5.

Est-ce à dire que les autrices ou les maîtres d’œuvre humains ont encore de beaux jours devant eux? Rien n’est sûr dans la singularité. Le problème avec l’IA — et surtout avec la perspective d’une intelligence artificielle générale ou d’une superintelligence —, c’est que chaque fois que l’on croit avoir découvert un recoin de l’activité humaine épargné par la machine, on finit par se rendre compte qu’on s’était trompé. Le domaine de l’imparfait, l’IA pourra aussi l’investir. Elle saura reproduire la rugosité que nous aimons dans les textes. Même l’altérité, elle saura la recréer : il lui suffira d’écrire un texte en pointant tous ses capteurs de données vers une autre source, vers un autre registre d’expérience que celui de la lectrice. Il est même possible qu’au jeu de la rugosité et de l’altérité, l’IA réussisse mieux que les humains. Les IA sont des championnes de l’optimisation; il leur suffira de maximiser les aspérités.

Rien n’indique qu’en matière littéraire, les humains pourraient encore produire de la rareté, même avec leur imperfection. Mais il existe peut-être un dernier refuge. Les empreintes vocales dont j’ai parlé dans mon essai n’auront pas de valeur sur le marché des voix, car elles seront noyées dans l’abondance, mais on pourrait leur donner une valeur en soi. Il s’agirait de les inscrire sur une chaîne de blocs (ou sur une technologie x qu’on ne peut encore deviner) : là, elles pourraient posséder une rareté économique. Ce serait, je le précise, une rareté créée de toutes pièces, car au-dehors, sur le marché du texte, les voix artificielles — diverses, magnifiques, satisfaisantes — resteraient omniprésentes. Je parle ici d’une chaîne de blocs réservée aux voix humaines. C’est une idée — très théorique, je l’admets — qui s’inspire un peu de ce que propose Emad Mostaque dans le domaine monétaire avec sa devise qu’il appelle le « Culture Credit », un quota attribué exclusivement aux êtres humains6. Selon ma vision, les empreintes vocales humaines seraient artificiellement séparées de l’océan des voix et leur valeur tiendrait à une humanité et à une littérarité vérifiées au moment de l’inscription sur la chaîne de blocs.

Ainsi, on préserverait la rareté au sein d’une architecture précise. Les humains et les agents IA pourraient vouloir posséder une petite fraction d’empreinte pour sa valeur de collection et pour sa valeur d’investissement, comme le font les amateurs d’art. S’il y avait sur la chaîne de blocs des millions, voire des milliards de voix humaines préservées (en incluant les voix historiques), on serait encore dans une rareté extrême au vu de l’abondance des voix synthétiques dans le vaste monde.

  1. Solution prônée notamment par Vitalik Buterin, le fondateur d’Ethereum, mais critiquée par d’autres, puisque cela revient à mettre entre les mains de tout un chacun des systèmes au potentiel destructeur énorme. Pour contrer cet argument, certains penseurs avancent la théorie d’un équilibre des forces en présence. Selon moi, la décentralisation aurait des effets économiques positifs (meilleure répartition de la ressource), mais comporterait probablement des risques de sécurité importants. ↩

  2. Marcel Proust, Contre Sainte-Beuve, Paris, Gallimard, 1954, p. 55. ↩

  3. Nick Bostrom, Deep Utopia: Life and Meaning in a Solved World, op. cit. ↩

  4. Depuis 2023, le prix de l’intelligence est passé de 37,50 $ à environ 0,14 $ par million de jetons (pour une performance équivalente à GPT-4), une chute de 99,7 % qui ne semble pas vouloir s’arrêter. Beaucoup entrevoient un avenir où le prix de l’intelligence se rapprocherait de zéro. ↩

  5. Jack Kerouac, On the Road: the Original Scroll, New York, Viking, 2007, édition numérique, s.p. ↩

  6. The Last Economy: A Guide to the Age of Intelligent Economics, Intelligent Internet, 2025. ↩