1. UNE NOUVELLE ÈRE

Nous sommes entrés dans une nouvelle ère.

L’intelligence artificielle a et aura des incidences profondes sur tous les domaines — sans aucune exception — de l’activité humaine.

Il se trouvera toujours des voix pour minimiser la révolution IA. Il y a un marché pour les Gary Marcus de ce monde, qui prennent un malin plaisir à pointer du doigt les lacunes des IA actuelles, fondées sur la technologie des modèles de langage de grande taille (LLM). Étrangement, lorsque, trois mois plus tard, l’IA réussit là où elle avait échoué, on n’entend jamais Marcus ou ses semblables se rétracter. Ils déplacent le curseur, critiquent les tests, cherchent de nouvelles déficiences. Pendant ce temps, les IA de pointe ne cessent de fracasser les records des bancs d’essai (les benchmarks). Si elles traînent encore la patte sous certains aspects (dans la planification et la logique, notamment), elles évoluent très rapidement. Même s’il s’agit d’un développement en dents de scie, la trajectoire générale reste indéniable, qui pointe vers une technologie puissante et extrêmement transformatrice. Il est possible que, dans les prochaines années, un nouveau paradigme scientifique émerge en dehors ou à côté des LLM; il est aussi possible que l’hyper passage à l’échelle (hyperscaling) suffise pour atteindre l’intelligence artificielle générale (IAG — AGI en anglais), voire la superintelligence artificielle (une intelligence en tous points supérieure à la nôtre).

Dans un essai que j’ai publié en janvier, L’obsolescence humaine programmée, j’ai parlé des risques importants que comporte le projet d’une IA qui égalerait ou surpasserait les capacités humaines. Nous assistons en ce moment à une course aux armements très risquée qui pourrait déboucher sur une concentration extrême de la richesse et du pouvoir, voire sur l’extinction de l’espèce humaine. Ces scénarios ne sont pas que des élucubrations de prophètes de l’apocalypse; ils sont jugés probables par des sommités des domaines économique et informatique comme le prix Nobel d’économie Joseph Stiglitz, le prix Nobel de physique Geoffrey Hinton et le récipiendaire du prix Turing Yoshua Bengio.

Je prends ces risques très au sérieux. Pour autant, ma prise de position pro-sûreté ne doit pas être vue comme une posture anti-IA. Nous ne vivrons plus jamais dans un monde sans IA avancées. On chercherait en vain l’interrupteur à bascule : IA / pas d’IA. Les avancées technologiques ont toujours été irréversibles, et l’intelligence artificielle ne fera pas exception. Tout ce que nous pouvons faire, c’est pousser collectivement dans le sens d’une IA sûre et citoyenne, tout en tirant toutes les conséquences de la révolution dans nos domaines respectifs. Être pro-sûreté dans le monde de l’aviation, cela revient-il à être « anti-avions »? J’ai bien l’intention de sauter dans cet aéronef supersonique qu’est l’intelligence artificielle, et en même temps, et sans contradiction, je demande que la technologie soit encadrée et sûre.