Une petite expérience de pensée : imaginons un homme préhistorique disposant de l'IA. Elle lui aurait donné du jour au lendemain la roue, la machine à vapeur, le canon, la bombe...toutes sortes de choses qu'il aurait immédiatement utilisées pour s'imposer sur ses ennemis de la colline d'en face, parce qu'ils sont noirs, sales, mécréants, etc...
On entend aujourd'hui des gens comme S. Altman ou Musk s'enthousiasmer . L'IA si on les écoute, ce serait la prospérité assurée pour chaque humain sur cette Terre, mais dans un univers de concurrence ça n'arrivera pas : on va AUSSI utiliser l'IA pour tenter de s'imposer sur les autres, tout comme on a utilisé la poudre, la caravelle, la machine à vapeur, la bombe atomique....
La guerre économique, on l'observe tous les jours. On allume sa télé, et on voit les constructeurs automobiles se livrer une guerre publicitaire, chacun tentant d'imposer son nouveau SUV sur les autres, sans aucun égard pour le bien commun : l'air que nous respirons, l'énergie que nous produisons, la pollution de nos moyens de communication, ou même les revenus que nous tirons de l'activité automobile, tout cela ne compte pas pour ces constructeurs. Le "green washing" ou le "social washing" désormais intégré à la publicité ne doit pas nous tromper...
Si on laisse les IA entrer en guerre les unes contre les autres, ce qui a toutes les chances d'arriver dans l'univers concurrentiel capitaliste, où les IA seront financées soit par de grandes firmes, des oligarques, ou par la mafia, alors je ne donne pas cher de la peau de notre espèce. Comme le dit Geoffrey Hinton, ce qui va se produire, c'est exactement l'inverse de ce que prétendent Musk ou Altman : les riches deviendront infiniment plus riches, et les pauvres infiniment plus pauvres. Cette situation nous amènera au fascisme généralisé, aussi sûr que 2+2 font 4.
Et donc la question n'est pas de savoir si la gauche doit se positionner pour ou contre cette innovation technologique, mais de comprendre ce qui, chez cet homme préhistorique l'amenait à haïr la tribu de la colline d'en face.
C'est certainement la souffrance...
L'IA peut-elle nous délivrer de la souffrance ? Pas sûr, la souffrance est consubstantielle à l'esprit humain. Certains terroristes, Ben Laden, par exemple, était issu d'une famille très riche, il aurait pu simplement profiter de la vie, aller draguer les filles et faire du surf sur une plage de Californie. Sa souffrance était donc totalement une souffrance de l'esprit... (à la différence de la souffrance biologique, qui pouvait animer son homologue préhistorique)
Pour éviter que l'IA n'arrive dans les mains d'êtres souffrants (et haineux), notre seule chance est de la confier à un comité de scientifiques international, dépourvu de tout intérêt autre que d'en faire profiter l'ensemble de l'Humanité. On peut encore le faire, tant que l'humain est encore un peu supérieur à l'IA. Il nous reste selon les estimations de Geoffrey Hinton 3 ans ou un peu plus. Si nous laissons émerger la super intelligence (ASI) en dehors d'un tel comité, on est foutus.
Or le temps que nous mettons à agir pour protéger notre atmosphère de l'effet de serre, ne serait-ce qu'en mettant fin à la guerre publicitaire des SUVs, nous démontre qu'on est vraiment très mal barrés en tant qu'espèce...
Si nous mettons autant de temps à "isoler" l'IA du capitalisme, on est cuits...