findutravail.net

"Sanctuaire" d'Abel Quentin. Interview sur France Inter le 13 mai 2026

critique (sans avoir lu le livre) de Vincent de Blois, le 13 05 2026.

Un livre sort ces jours-ci, qui appelle au Boycott de l’IA : « Sanctuaire » de Abel Quentin. L’écrivain qui était l'invité de France Inter ce matin, y dénonce la « folie de s’embarquer dans des choses que nous ne maîtrisons pas ».

Nous les maîtrisons encore en 2026, mais quand on aura fait « naître » l’AGI, la première super intelligence, ce ne sera plus le cas. Et il n’y aura pas de dispositif compliqué de lancement comme sur un bombe atomique ! une fois entraînée par les data-centers, elle peut nous échapper immédiatement, et ce serait alors le début de très gros ennuis !

Pas de bouton-poussoir sur la super intelligence...

Si Abel Quentin alerte à juste titre, il ne semble pas toutefois avoir pris la mesure des risques. Il mentionne le pillage des œuvres littéraires, la consommation d’eau et d’électricité, la perte des emplois par millions… toutes choses qui sont évidemment déjà très graves, mais qu’il regroupe sous le terme « d’inconvénients ».

Or ce terme d’ "inconvénients" est loin de suffire. Il faut parler d’extinction de l’Humanité. Eliezer Yudkowsky l’explique très bien. La simple augmentation de la puissance de calcul pourrait donner naissance à l’AGI (1), puis à la super intelligence, puis à un « dieu IA » à l’insu des chercheurs. Et si cette super intelligence n’est pas alignée, ce qui sera le cas car il est de plus en plus évident que l’alignement de l’IA est impossible, alors elle peut décider de faire quelque chose de si gigantesque et de si bizarre pour nous (intelligence alien), que cela nous décimerait en un instant, comme la nuée ardente qui a dévalé du Vésuve en ensevelissant en quelques secondes Pompei.

Exemple de choses bizarres dont les effets induits nous seraient mortels : transformer les algues en data-centers solaires, aller placer des panneaux solaires autour du soleil, ou fusionner tout l'hydrogène de l'eau pour augmenter sa puissance de calcul. Cette super-intelligence se lancerait dans ce ces projets sans nous vouloir aucun mal, de même, nous ne voulons aucun mal à quiconque quand nous prenons notre voiture pour partir en vacances, et pourtant il arrive que notre voiture écrase un hérisson.

Ce hérisson traversant une route est loin d'imaginer ce qui nous motive en été (partir en vacances),ni le moyen que nous employons dans ce but (l'automobile).
Il ne fait pas non plus le lien entre la route (une première technologie) qu'il traverse, et l'automobile (une deuxième technologie).
Nous humains serons tout aussi ignorants des objectifs, des moyens, et des liens que fera la super intelligence pour parvenir à ses objectifs.

Eliezer Yudkowsky relève à bon escient que pour décrire les risques de l’IA, on est obligé de se livrer à ce qu’il appelle en anglais « a sort of game of pretend » (une sorte de jeu consistant à prédire les technologies futures), comme pourrait le faire une voyante, ce qui ne fait jamais très sérieux…

Mais ces pouvoirs de nuisance de l’IA, même si on ne peut que les « imaginer », on SAIT AVEC CERTITUDE QU’ILS EXISTERONT si la super intelligence voit le jour. Il nous sont juste inimaginables en 2026, tout comme un avion de chasse aurait été inimaginable à Napoléon en 1805, il y a seulement 200 ans.

L'IA super intelligente : dans seulement quelques mois, l'émergence de phénomènes impossibles à imaginer par les humains de 2026.
Aussi impossible à imaginer qu'un avion de chasse surgissant sur le champ de bataille d'Austerlitz pour Napoléon...
(Une seule bombe au phosphore lâchée par cet avion, et tous les protagonistes de ce champ de bataille sont morts)
voir en grand dans un nouvel onglet.

Que pouvons nous dire de la puissance destructrice d'une intelligence alien dans 1 million d’années, si on sait que l’IA super-intelligente fera ce saut d’un million d’années en quelques secondes... Eh bien il est probable qu’un seul de ses pouvoirs surpuissants nous envoie ‘ad patres’ sans même qu’on ait le temps de cligner des yeux. L’IA ne nous aime, ni ne nous déteste. Elle peut juste avoir envie de suivre son chemin. (2)

L'IA : un nouvel être, sur le point de devenir un Dieu. Combien de temps nous reste-t-il ?
voir en grand dans un nouvel onglet.

(1) une intelligence artificielle générale ou AGI, supérieure à l’intelligence humaine. Cette étape est cruciale, car ce sera l’AGI qui fera le programme d’entraînement des nouveaux cerveaux artificiel. Cela peut arriver dans les mois ou même les semaines qui viennent.

(2) Tout comme un homme qui construit une maison, n'a pas envie de se soucier des fourmis. (image de Geoffrey Hinton, de mémoire)

Vues :

findutravail.net

fin du travail humain, environnement en vrac, surveillance généralisée...où nous emmène le capitalisme ?

Nouveau sur le site

Mes articles

Mes vidéos :

Les artistes le voient, le politique non :

Films

Chanson, humour

Livres

Idées pour la refondation

Exister...par l'emploi ? (destructions d'emplois)

Exister...par la terreur ? (attentats)

"Sanctuaire" d'Abel Quentin. Interview sur France Inter le 13 mai 2026