findutravail.net

AGI : comprenons vite ce qui se passe, si nous voulons vivre

"my guess is...that we won't do it"
(Geoffrey Hinton, parain de l'IA, prix Nobel de Physique 2024) Si vous avez fait confiance aux scientifiques du GIEC pour vous alerter sur les dangers de l'effet de serre, faites aussi confiance aux scientifiques du MIT (Masachusssets Institute of Technology) et au prix Nobel de cette vidéo, qui vous alertent sur le DANGER IMMINENT de la super-intelligence, si on la laisse émerger dans un contexte de concurrence et de rivalité internationale.

Une AGI qui s'améliorerait elle-même en recomposant son code ne doit exister que s'il existe un contrôle supra-national par des scientifiques, ou bien nous gaspillerons ces moyens dans des guerres économiques et militaires qui nous anéantiront.
Mais la guerre n'est pas le seul danger ! La perte de contrôle de la super intelligence pourrait mener à un accident global. Elle pourrait être amenée à pousuivre des buts cachés, avec des capacités de dissimulation hors de portée des humains : invention de son propre langage, de sa propre cryptographie, et des moyens de sa propre survie dans toutes nos mémoires électroniques. La seule façon de lutter serait alors de couper l'électricité sur toute la Terre, et de jeter tous nos appareils à mémoire à la poubelle.
Ce niveau de risque est TRES ELEVE : 30%, aux dires des meilleures IA elles-mêmes. A titre de comparaison, aucun astronaute ne se rique aujourd'hui dans l'espace, si le niveau de risque est supérieur à 2%.

L'Humanité doit donc faire un
"GRAND PAS EN AVANT"...ou nous disparaîtrons tous :
Que nous soyons chinois, américains, français, africains, indiens, paquistanais, anglais, russe...
Que nous soyons nationalistes, communistes, anarchistes, royalistes, nazis, nihilistes, écologistes, pro co², socialistes...
Que nous soyons blancs, noirs, café au lait, rouges, ou jaunes...
Que nous soyons musulmans, chrétiens, boudhiste, catholiques, protestants, Chiite, Sunite, athée, agnostique...
Que nous soyons riches ou pauvres, honnêtes ou malhonnêtes, malfrat, mafieux, membres de l'Opus Dei, ou franc-maçon...
Que nous soyons homosexuels, lesbienne, asexuel, transexuel, queer, ou même pédophile...
Que nous soyons maçon, peintre, chômeur, trafiquant, artisan, chef d'entreprise, fonctionnaire, architecte, musicien...

Nous aurons peut-être la chance que cette AGI nous ignore, et alors nous resterons les serfs inutiles d'un nouveau monarque absolu, qu'il nous sera à jamais impossible de dominer. Un roi, ou plutôt un Dieu, qui pourra interrompre notre existence à tout instant, si nous faisons obstacle à un de ses projets.

Avez-vous bien pris la mesure de ce qui se passe ?

Vincent de Blois, le 02 02 20255

Retour

findutravail.net

fin du travail humain, environnement en vrac, surveillance généralisée... où nous emmène le capitalisme ?

Nouveau sur le site

Mes articles

Mes vidéos :

Les artistes le voient, le politique non :

Films

Chanson, humour

Livres

Idées pour la refondation

Exister...par l'emploi ? (destructions d'emplois)

Exister...par la terreur ? (attentats)

AGI : comprenons vite ce qui se passe, si nous voulons vivre