findutravail.net

j'ai entendu parler de cet article par Wes Roth, qui en a parlé dans sa chronique sur l'IA. Je l'ai fait traduire par Chat GPT, mais le résultat n'étant pas très bon, j'ai pris la liberté de la modifier, et de le débarraser de quelques disgressions, pour en rendre le contenu intelligible. Lisez-le si vous voulez savoir vers quoi l'IAG nous ammène. L'original de l'article en anglais est ici

Capital, AGI et ambition humaine

L'IAG (Intelligence Artificielle Générale), en diminuant l'importance relative des facteurs de production HUMAINS, par rapport aux facteurs NON HUMAINS risque d'entamer l'envie ou la nécessité de se préoccuper des humains, une fois qu'ils seront devenus économiquement inutiles. Elle rendra aussi les pouvoirs existants plus efficaces qu'aujourd'hui; il seront aussi plus enracinés.

On entend souvent dire que "L'argent ne comptera plus après l'IAG". Une idée pour le moins saugrenue, et très probablement incorrecte ! Entrons dans le détail.

Le travail au sens économique, est l'effort mental et physique humain nécessaire pour produire quelue chose de valeur. Tandis que le capital, ce sont des éléments comme les usines, les centres de données et les logiciels – des ressources créées par les humains et utilisées pour produire des biens et des services.

L'effet économique déterminant de l'IAG, est qu'elle fera du capital un substitut de plus en plus général au travail humain. Il sera par conséquent de moins en moins nécessaire de payer des humains pour accomplir des tâches, car le capital (par exemple, des centres de données exécutant des logiciels, des robots) pourra remplacer le travail mental humain.

Essayons de déterminer ce que l'IAG remplaçant la main-d'œuvre implique :

- La capacité pour les investisseurs d'acheter des résultats dans le monde réel va AUGMENTER considérablement.

- La capacité des humaine à exercer du pouvoir dans le monde réel va DIMINUER considérablement, car :

Les États, les entreprises ou d'autres institutions n'auront plus de raison de se soucier des humains (ils ne les interesseront plus).
Il sera plus difficile pour les humains d'obtenir des résultats exceptionnels en partant de leurs ressources initiales.
Des mesures gouvernementales radicales imposant un retour à l'égalité ont peu de chance de voir le jour.

Cela met en évidence un inconvénient souvent négligé de l'IA transformative : la société pourrait devenir définitivement statique et les déséquilibres de pouvoir actuels pourraient être amplifiés et immuables.

Avec une IA suffisamment puissante, nous ne risquerions pourtant pas, en théorie, de manquer de confort matériel. Cette augmentation soudaine et prévue de la richesse pourrait donner l'occasion aux gouvernements d'instaurer le revenu universel de base. Ou bien cette nouvelle richesse miraculeuse captée par un tout petit nombre d'américains fortunés pourrait les inciter à réduire la pauvreté dans le monde.

Songez seulement qu'avec seulement 1% de leur richesse actuelle, il ne faudrait que doubler 16 fois ce montant pour fournir l'équivalent de 500 000 dollars en pouvoir d'achat à chaque personne sur cette Terre ! Or dans un tel scénario de singularité, où le temps de doublement économique ne serait QUE DE QUELQUES MOIS, ces 16 doublements leur serait pratiquement indolore ! Ça c'est la théorie; mais bien sûr, si l'IA déçoit dans ses résultats, ou si la dynamique de déploiement de l'IA en arrive à désavantager une grande partie de la population humaine (ce qui est une possibilité réelle), alors même le confort matériel pourrait devenir problématique., et il y aurait alors le risque réel de voir émerger une caste dirigeante verrouillée, aux manettes d'une société qui ne serait plus ni dynamique ni vivante.

Faut-il ainsi réduire à néant l'ambition humaine, si nous pouvons l'éviter ? Une telle société augmenterait d'ailleurs le risque de catastrophes liées à l'IA, car les vélléités du pouvoir politique de se préoccuper de préserver les humains d'un accident seraient moindres.

Quelles perspectives après la singularité ?

Supposons que le travail mental et physique humain, dans la grande majorité des tâches auxquelles les humains sont actuellement occupées, n’ait plus de valeur significative sur le marché, ces tâches pouvant être exécutées mieux, plus rapidement et pour moins cher par des IA spécialisées. Appelons cela l’IA de substitution (sous entendu au travail humain).

Il existera deux solutions "standard" au problème de chômage qui en découlera :

Adopter un revenu universel de base. En atteignant rapidement la superintelligence, et, en supposant que cette superintelligence soit alignée avec nos valeurs, nous vivrions alors dans un paradis technologique "post-rareté" où tout devient possible. L'argent continuera d'exister, sauf si un seul système d'IA prend en charge toute la planification économique. Si de nombreux acteurs continuent d'échanger, il est raisonnable de supposer qu'il subsistera des prix, même si les humains ne les voient plus ou n'interagissent plus avec eux, car même dans ce scénario de singularité, l'abondance resterait finie et devrait donc être allouée, faute de quoi nous dépasserions les limites de la Terre..

Pour se livrer à la guerre économique, seul le capital importera.

L'argent peut acheter de nombreuses choses : par exemple, du capital, tels que des usines, des centres de données. Cependant, il reste aujourd'hui difficile de transformer de l'argent brut en travail humain, et ce de manière compétitive en s'entourant des meilleurs talents. Considérons Blue Origin et SpaceX. Blue Origin a été fondée deux ans plus tôt (2000 contre 2002). L'entreprise a bénéficié d’un meilleur financement pendant la majeure partie de son histoire. elle emploie presque autant de personnes que SpaceX aujourd’hui (11 000 contre 13 000). Et pourtant, SpaceX a écrasé Blue Origin. En 2000, Jeff Bezos disposait de 4,7 milliards de dollars. Mais il est difficile de voir ce qu'il aurait pu faire pour ne pas perdre face à SpaceX, qui bien que disposant de beaucoup moins de ressources financières, avait su s'entourer de talents humains exceptionnels.Un autre exemple de prédominance du facteur humain existe, avec les frères Wright, et leurs modestes ressources issues d’un atelier de vélos, comparée à l’opération bien financée de Samuel Langley. A chaque fois, le talent humain a pu faire la différence, quel que soit le capital investi.

Et donc avant que ne survienne l'IAG, si vous voulez convertir de l'argent en résultats, le problème fondamental auquel vous devez faire face est celui de recruter les meilleurs talents. Cela pose quelques problèmes :

Il est souvent difficile d'estimer le talent de quelqu'un, sauf si vous-même vous possédez le talent que vous recherchez, vous risquez de passer à côté. Le talent est rare, et le talent certifié l'est encore plus. Et quand bien même vous réussissez à trouver quelqu'un de talent, celui-ci est parfois résistant à se vendre, simplement contre de l'argent.

Avec une IA se substituant à l'humain ces deux problèmes disparaissent !

Aujourd'hui, d'énormes sommes d'argent sont consacrées à un seul chercheur humain, lorsqu'il a effectué une percée scientifique. Les investisseurs peuvent juger de son talent, par la réception qui est faite des articles de cet homme (ou femme) dans sa communauté scientifique, sans pouvoir vérifier par eux même la réalité de ce talent.

Les choses seront très différentes pour une IA, devenue championne dans un domaine de recherche particulier. Ce chercheur artificiel effectura aussi des percées scientifiques difficiles à imaginer, vu que nous ne connaissons pas les limites de l'intelligence. On sait cependant que de très grandes surprises sont d'ores et déjà prévisibles ! Les victoire successives aux jeu d'échecs, au jeu de Go, au poker, des IA dopées au "Reenforcement learning" (= se renforçant en jouant contre elles-mêmes) ont montré qu'elles pouvaient effectuer des mouvements inimaginables pour les meilleurs joueurs humains. Ce chercheur aux résultats surhumains pourra de plus être cloné, dupliqué avec pour seule limite, la puissance de calcul et l'électricité disponible. Tout investisseur disposant de suffisamment de moyens pour acquérir cette puissance de calcul et cette électricité - pourra disposer de cette IA championne et même la multipier pour se constituer toute une équipe de chercheurs ! Quel sera alors l'utilité de trier parmi une multitude d’humains aux talents incertains et incapables de se cloner, celui qu'on jugera être le meilleur ?

L'investissement dans l'IA sera la panacée, pour qui veut avoir les meilleures garanties de résultats !

L'existence de chaque citoyen provient en grande partie de son travail. Le travail, quand on en a un, donne aux humains les moyens de subsister, mais pas seulement. Il répond aussi au besoin d'être socialisé, d'appartenir à la communauté humaine. Faute de travail, et faute de revenu, cette absence de socialisation peut avoir des conséquences terribles : ce peut être le suicide, l'attaque aux personnes, ou encore la recherche de socialisations marginales comme les sectes, ou le terrorisme. La démonétisation à grande échelle du travail humain aura donc des conséquences sociales qui s'apparentent à une révolution, ou plus exactement à une contre-révolution, en privant assez rapidement les humains de leurs moyens d'existence. C'est le travail du politique d'anticiper cela, en prévoyant dès maintenant, des mécanismes de retour d'une partie de ces nouveaux profits, ou bien la désocialisation et la raréfaction des revenus, fera sombrer l'humanité dans le chaos. Cela amène à se poser cette question :

La bienveillance de l'Etat dans ces nouvelles circonstances nous est-elle guarantie ?

Pourquoi les États se soucient-ils du bien-être humain (bien que de moins en moins) ? Avant la révolution industrielle, les Etats s'en souciaient peu, mais par la suite, les intérêts des États et des citoyens ont convergé, pour la simple raison que pour être compétitif économiquement, un État doit se développer. Il doit en particulier :

Investir dans l’éducation et la santé pour produire une main-d'œuvre qualifiée et saine.
Favoriser une classe moyenne prospère, qui stimule la demande.
Exploiter les talents (humains), quelle que soit leur origine sociale.
Favoriser un haut niveau de liberté, encourageant les décovertes en science et en technologie
Encourager les sports, les arts et les médias, pour amplifier son aura dans le monde.

Sans cette nécessité économique de faire progresser l'humain, la bienveillance des Etats pourrait s'estomper. La substitution du travail humain par l'IA au sein d'un monde qui resterait inféodé à la concurence économique et géopolitique, pourrait ne pas donner d'autres choix aux Etat que de faire cesser cet alignement, pour rester dans la course. Adam Smith écrivait que son dîner ne dépendait pas de la bienveillance du boucher, du brasseur ou du boulanger, mais de leur intérêt personnel.

Demain avec l'extension de l'IA remplaçant l'humain, les ultra-libéraux pourraient affirmer - preuves à l'appui - que la bienveillance des Etats vis-à-vis de leurs citoyens n'apporte plus rien à la production de richesses (PIB), et que seul compte désormais les intérêts bien compris (dans l'IA) des grands acteurs économiques, et des états eux-mêmes pour assurer leur défense. Il y a fort à parier que cette nouvelle version de "There Is No Alternative" n'envoie pas un centime des nouveaux profits de l'IA dans la poche du citoyen, alors même qu'ils seront décimés par le chômage. Ce serait alors une sorte de retour au servage sans travail, dominé par de nouveaux seigneurs que seront les grandes entreprises de la tech et les Etats.

Pour garantir cette bienveillance des Etats, il est donc crucial d’agir maintenant, tant que nous avons encore du pouvoir pour l’orienter et en assurer la pérennité. La démocratie reste notre meilleur atout. L’égalité de représentation, qui est au cœur des démocraties modernes, est un avantage immense, à condition toutefois, de prendre la mesure de l'inversion de souveraineté qui a eu lieu ces dernières décennies entre l'Etat et ces grandes entreprises, sous la pression du chômage, et des actions de propagande que ces firmes sont capables d'engager pour imposer le candidat de leur choix.

Disparition des trajectoires d’exception

Une grande partie du changement dans le monde provient de personnes qui, partant de rien, réalisent des trajectoires extraordinaires, leur donnant acès au pouvoir ou à l’argent. Ces individus bousculent le statu quo et évitent que le monde ne sombre dans la stagnation.

L’IA remplaçant la main-d'œuvre pourrait réduire considérablement ces opportunités de succès exceptionnels :

Dans l’entrepreneuriat :

Bien qu’actuellement, l’IA facilite l’entrepreneuriat en réduisant les barrières d’entrée et en augmentant l’efficacité des petites équipes, une IA plus avancée pourrait rendre les entrepreneurs humains obsolètes. Par exemple, les fonds de capital-risque pourraient créer directement des startups gérées par des IA sans intermédiaire humain.

Dans les sciences exactes :

L’IA progresse rapidement dans les domaines scientifiques, ce qui pourrait marquer la fin de l’ère des réalisations humaines dans ces disciplines.

Les intellectuels :

Historiquement, des penseurs comme Keynes, Hayek ou Mill ont eu une influence immense grâce à leurs idées. Cependant, une abondance d’idéologies générées par l’IA pourrait diluer l’impact des intellectuels humains, voire les rendre insignifiants.

La politique :

Bien que les humains préféreront probablement des politiciens humains, les avatars générés par l’IA et les campagnes politiques automatisées pourraient bouleverser cet équilibre.

Le succès militaire :

Avec des armées contrôlées par l’IA, les individus ambitieux auront moins de possibilités de bouleverser le statu quo militaire.

Les religions :

La montée en puissance dans les religions existantes ou la création de nouvelles religions pourraient également être affectées. En résumé, l’IA substituant l'humain risque de diminuer les opportunités pour les individus de sortir du lot et de transformer le monde. Cela entraînerait une baisse générale du pouvoir humain sur le monde réel, indépendamment des ressources financières.

Une égalité imposée est peu probable

"Le grand niveleur" est un excellent livre sur l’histoire des inégalités qui, selon l’auteur, a relativement bien résisté aux critiques. Sa conclusion est que les grandes réductions des inégalités dans le passé ont toutes été entraînées par l’un des « Quatre Cavaliers du Nivellement » : la guerre totale, la révolution violente, l’effondrement de l’État et les pandémies. Réduire les écarts de revenus s’est historiquement avéré si difficile que cela n’a quasiment jamais été réalisé par un choix politique conscient.

Imaginons maintenant que l’IA remplaçant le travail humain soit là. Le revenu universel de base est adopté, donc personne ne souffre de la faim. Cependant, une course effrénée s’engage entre les pays et les entreprises pour tirer le meilleur parti de l’IA. Tout cela est intensif en capital, ce qui signifie que chacun doit courtiser les détenteurs de capital. Les grandes entreprises d’IA exerceront un pouvoir comparable à celui des États. Dans ce contexte, la redistribution des richesses aura peu de chances de devenir une priorité politique.

Une exception pourrait survenir si un nouveau mouvement politique ou une idéologie obtenait rapidement un large soutien, boosté par un effet sans précédent de l’IA (par exemple : plus personne n’ayant d’emploi, les individus auraient tout leur temps à consacrer à la politique, ou une nouvelle méthode de coordination alimentée par l’IA pourrait voir le jour).

Ainsi, même si l’avenir est une utopie transhumaniste glorieuse, il est peu probable que les individus y entrent sur un pied d’égalité. Et en raison des arguments précédents, il est également peu probable qu’ils puissent significativement modifier leur position relative par la suite.

Envisageons aussi l’égalité entre les États. Certains États semblent prêts à bénéficier bien davantage que d’autres de l’IA. Beaucoup de mesures égalisatrices, comme l’UBI, seraient difficiles à étendre aux non-citoyens dans le cadre du système politique actuel. Cela reste vrai même pour les États-Unis, la plus grande puissance libérale et humaniste de l’histoire. Par défaut, l’ordre mondial pourrait donc ressembler (encore plus qu’aujourd’hui) à un système de castes global basé sur le lieu de naissance, avec encore moins de possibilités d’immigration (car le principal moteur de l’immigration réside dans ses bénéfices économiques massifs, qui n’existeront plus si les humains ne jouent plus un rôle économiquement significatif).

Le scénario par défaut ?

Admettons les hypothèses de départ de ce texte et l’analyse qui précède. Alors, le monde après l’IA remplaçant le travail humain ressemblera à ceci :

L’argent permettra d’obtenir des résultats concrets dans le monde réel mieux que jamais auparavant.
Le travail des individus leur offrira moins de levier que jamais.
Il deviendra impossible d’atteindre un succès exceptionnel grâce à son travail dans la plupart des domaines.
Il n’y aura pas d'égalité, ni entre les Etats, ni des citoyens entre eux.

Cela signifie que ceux qui possédaient un capital significatif au moment où l’IA replaçant le travail humain est apparue, disposeront d’un avantage permanent. Ils exerceront plus de pouvoir que les riches d’aujourd’hui — pas nécessairement sur les gens (tant que les institutions libérales restent solides), mais au moins sur les réalisations physiques et intellectuelles. Les nouveaux arrivants ne les détrôneront pas, car le capital se convertira facilement en travail surhumain dans n’importe quel domaine.

De plus, les institutions détenant le pouvoir dans ce monde n’auront plus d’intérêt à se soucier des populations pour maintenir ou accroître leur pouvoir, car tout pouvoir réel découlera de l’IA. Il pourrait cependant y avoir un verrouillage significatif des valeurs humanistes libérales à travers les institutions politiques. Il pourrait aussi y avoir une consolidation du pouvoir d’achat des individus, si chacun dispose d’un revenu universel significatif (ou similaire) et si l’économie conserve une partie orientée vers les humains.

Dans le meilleur des cas, ce monde ressemblerait à une Norvège plus inégalitaire, d’une stabilité sans précédent et beaucoup plus riche : un gigantesque réservoir de ressources indépendantes du travail humain. Certes, certains seraient plus riches que d’autres, mais tout le monde jouirait d’un excellent niveau de vie (et idéalement vivrait éternellement). Les formes réalistes d’ambition humaine se limiteraient à des jeux sociaux et politiques locaux au sein de son réseau social et de sa classe. Si vous ne possédez pas beaucoup de capital (et peut-être même dans ce cas), vous n’aurez plus aucune chance d’influencer le monde à grande échelle. Les IA seront de meilleurs poètes, artistes, philosophes — tout ; pourquoi quelqu’un se soucierait-il de ce qu’un humain fait, à moins qu’il ne le connaisse personnellement ? De même qu’à l’époque féodale, la réponse à « Pourquoi cette personne est-elle puissante ? » impliquait souvent une longue histoire familiale, à l’avenir, les individus importants le seront grâce à quelque chose qu’ils ont accompli eux-mêmes, ou que l’un de leurs proches a réalisé, AVANT l’avènement de l’IA générale (« Oh, mon oncle travaillait chez OpenAI »). Les enfants du futur vivront dans l’ombre de leurs parents, avec une mobilité sociale quasi inexistante. Cela devrait susciter un certain degré d’horreur existentielle, même en reconnaissant que les choses auraient pu être bien pires.

Dans un scénario plus sombre, des trillionnaires de l’IA posséderaient un pouvoir quasi illimité et incontrôlé, et une aristocratie permanente se formerait, ancrée dans les richesses accumulées au moment de l’émergence de l’IA se substituant au travail humain. Les écarts de pouvoir entre les classes pourraient donner des frissons aux contemporains, tout comme les hiérarchies féodales paraissent grotesques aujourd’hui. Comment réagirait-on alors ? tout comme la classe inférieure féodale acceptait largement cet ordre mondial, la future sous-classe l’acceptera aussi.

Dans le pire des cas, l’humanité s’éteindra, possiblement à cause d’une lente optimisation des pouvoirs de l’IA aux dépens de la prospérité humaine sur une longue période. Car c’est ce vers quoi les incitations au pouvoir et à l’argent tendront.

Quelle leçon en tirer ?

Si vous lisez ce texte et acceptez un poste dans une société de finance quantitative en conséquence, cela me rendra triste. Si vous comptiez entreprendre quelque chose d’ambitieux et d’impactant concernant l’IA, mais que ce texte vous pousse à accepter un poste chez Anthropic pour accumuler un capital personnel sans risque tout en aidant un peu, je ne peux pas trop vous en vouloir, mais cela me rendra quand même légèrement triste.

Il est vrai que les arguments ci-dessus augmentent les enjeux des finances personnelles à moyen terme (~2-10 ans), et cela mérite réflexion. Mais il est aussi vrai que le moment est particulièrement propice pour entreprendre quelque chose d’ambitieux. Robin Hanson appelle l’époque actuelle « le temps du rêve », en référence à un concept des mythes aborigènes : la période où l’ordre futur du monde et ses valeurs sont encore liquides, non figés dans la pierre.
(...)

Retour

findutravail.net

fin du travail humain, environnement en vrac, surveillance généralisée...où nous emmène le capitalisme ?

Nouveau sur le site

Mes articles

Mes vidéos :

Les artistes le voient, le politique non :

Films

Chanson, humour

Livres

Idées pour la refondation

Exister...par l'emploi ? (destructions d'emplois)

Exister...par la terreur ? (attentats)

Capital, AGI et ambition humaine