70% DE RISQUE D'EXTINCTION DE L'HUMANITE PAR L'IAG ? ON MARCHE SUR LA TÊTE LA OU QUOI ?
Je me souviens d'avoir parlé "risque" à Blois à JEAN-FRANCOIS CLERVOY, qui était venu participer à une discussion après la projection d'un film sur l'espace. Ma question portait sur le risque que lui-même jugerait acceptable pour aller sur Mars. JF Clervoy a volé 3 fois dans la navette spatiale, c'est donc quelqu'un qui s'est "frotté" aux risques et qui sait donc de quoi il parle.
J'ai compris dans sa réponse qu'il serait prêt à risquer autant que les astronautes d'Apollo pour aller sur Mars, soit environ 50% de risque en cas de problème. C'est un niveau extrêmement élevé, mais bon c'est le prix de la gloire. Avec la navette spatiale, le risque était bien moindre (1 à 2%), mais les vols étant beaucoup plus nombreux, il y a eu 2 accidents et 14 morts en tout dans les accidents de Challenger, puis Columbia
Le programme de la navette spatiale a été arrêté parce qu'on la trouvait que le niveau de risque (2%) était trop élevé.
Alors quel rapport avec l'Intelligence Artificielle Générale (IAG) me direz-vous ?
Cette vidéo de Wes Roth (également très informé) montre qu'une majorité de savants, TOUS TRES IMPLIQUES en Intelligence Artificielle connaissant donc TOUS TRES BIEN LEUR SUJET, évoquent des risques d'extinction de L'HUMANITE (ça fait un peu plus de monde que quelques astronautes..) SUPERIEURS A 10%, un nombre non négligeable d'entre-eux l'estimant à plus de 70% !!
On marche sur la tête là ou quoi ??? On serait des froussards à s'effrayer de 10% de risque d'EXTINCTION DE L'HUMANITE ?
Elon Musk, qui réclame un MORATOIRE ET UN HARD SWITCH, en attendant de faire de l'AGI un bien commun pour toute l'Humanité, une fois que toutes les garanties de sécurité auront été prises, a l'air d'être le seul à avoir les pieds sur terre au sujet de l'IAG : il vient de porter plainte contre OpenAI, pour tenter d'arrêter cette machine infernale ! (1)
N'est-il pas TOTALEMENT DINGUE de laisser ces options de sécurité DANS LES MAINS D'UN HOMME QUI EST PEUT-ÊTRE UN FOU ? - Sam Altman, CEO de OpenAI, ayant pour mentor un libertharien d'origine allemande à tendance néo-fasciste nommé Peter Thiel. Sam Altman dont on sait qu'il s'est construit un abri anti-atomique dans son ranch, persuadé qu'il est (ou dejà résigné ?), que la fin du monde est proche !
Laisserait-on en France, n'importe quel quidam persuadé que l'apocalypse est proche fabriquer une bombe atomique ? C'est ce que font en ce moment même Altman et Brockman et les 700 employés d'OpenAI qui les suivent ...Altman voulait d'ailleurs nommer son projet d'IAG "projet Manhattan"...
Alors que fait-on ? On attend le crash et on verra après ? Il se peut qu'il n'y ait pas "d'après" : que nos représentants consacrent deux heures pour regarder le film Terminator, et ils sauront alors ce qui nous attend si on perd le contrôle de l'IAG ! On parle d'une technologie capable de déplomber n'importe quel site de missile nucléaire ! (Q* de OpenAI a déjà déplombé l'algorythme de cryptage AES192, et aucun humain ne peut expliquer comment il l'a fait !)
Nos représentants doivent impérativement prendre très vite la mesure de cette invention(2), qui est ni plus ni moins la plus puissante des technologies inventées par l'Homme depuis l'apparition d'homo-sapiens. Ses dangers sont à la mesure de sa puissance...
(1) sa plainte déposée un 29 février, ne tente-t-elle pas de dire symboliquement à chaque terrien qu'elle les concerne tous ?
(2) Pour le gouvernement, l'IAG serait-elle comme la méorite "pleine de minerais rares de Don't Look Up" ? Selon la secrétaire d'Etat au numérique, elle pourrait faire gagner au pays "entre 250 et 430 milliards d'€ de PIB en 10 ans".