findutravail.net

ASI : si vous n'êtes pas nerveux, c'est que vous n'avez pas bien compris de quoi il s'agit !

Déclarations de Sam Altman (OpenAI) le 05 01 2025, traduction par Chat GPT

Sam Altman de OpenAI

"Le deuxième anniversaire de ChatGPT a eu lieu il y a un peu plus d’un mois, et nous sommes désormais passés à un nouveau paradigme de modèles capables de raisonnement complexe. Le Nouvel An pousse souvent à la réflexion, et je souhaitais partager quelques pensées personnelles sur ce chemin parcouru jusqu’à présent, ainsi que certaines leçons apprises en cours de route.

Alors que nous nous rapprochons de l’intelligence artificielle générale (AGI), il semble crucial de faire le point sur les progrès de notre entreprise. Il reste tant à comprendre, tant de choses que nous ignorons encore, et tout cela est encore si précoce. Mais nous savons bien plus qu’au moment où nous avons commencé.

Nous avons fondé OpenAI il y a presque neuf ans, convaincus que l’AGI était possible et qu’elle pourrait devenir la technologie la plus impactante de l’histoire de l’humanité. Nous voulions découvrir comment la construire et la rendre largement bénéfique ; nous étions enthousiastes à l’idée de marquer l’histoire. Nos ambitions étaient extraordinairement élevées, tout comme notre conviction que ce travail pourrait profiter à la société de manière tout aussi extraordinaire.

À l’époque, très peu de personnes s’y intéressaient, et si c’était le cas, c’était surtout parce qu’elles pensaient que nous n’avions aucune chance de réussir.

En 2022, OpenAI était un laboratoire de recherche discret, travaillant sur quelque chose temporairement appelé « Chat avec GPT-3.5 ». (Nous sommes bien meilleurs en recherche qu’en nommage, il faut le dire.) Nous avions remarqué que les développeurs aimaient vraiment interagir avec le modèle via la fonctionnalité "playground" de notre API. Nous avons pensé qu’un prototype basé sur cette expérience pourrait montrer quelque chose d’important à propos de l’avenir et nous aider à améliorer la qualité et la sécurité de nos modèles.

Finalement, nous avons heureusement décidé de l’appeler ChatGPT et l’avons lancé le 30 novembre 2022.

Nous avons toujours su, de manière abstraite, qu’un jour nous atteindrions un point de bascule déclenchant une révolution de l’IA. Mais nous ignorions quel serait ce moment. À notre grande surprise, c’est cela qui l’a été.

Le lancement de ChatGPT a initié une courbe de croissance sans précédent—dans notre entreprise, dans notre industrie, et dans le monde en général. Nous voyons enfin certains des énormes bénéfices que nous avons toujours espérés de l’IA, et nous entrevoyons combien encore reste à venir.

Cela n’a pas été facile. Le chemin a été loin d’être fluide, et les bonnes décisions n’ont pas toujours été évidentes.

Au cours des deux dernières années, nous avons dû construire une entreprise entière, presque à partir de zéro, autour de cette nouvelle technologie. Il n’existe aucune formation pour cela, sauf celle d’apprendre en faisant, et dans une catégorie technologique totalement nouvelle, personne ne peut vous dire exactement comment cela doit être fait.

Construire une entreprise à une telle vitesse, avec si peu de précédents, est un processus désordonné. C’est souvent deux pas en avant, un pas en arrière (et parfois, un pas en avant et deux pas en arrière). Les erreurs sont corrigées au fur et à mesure, mais il n’existe ni manuels ni repères lorsqu’on fait un travail original. Avancer rapidement dans des eaux inconnues est une expérience incroyable, mais aussi immensément stressante pour tous les acteurs. Conflits et malentendus ne manquent pas.

Ces années ont été les plus enrichissantes, amusantes, meilleures, intéressantes, épuisantes, stressantes et—surtout pour les deux dernières—désagréables de ma vie jusqu’à présent. Le sentiment dominant est la gratitude ; je sais qu’un jour je serai retraité, à notre ranch, à regarder pousser les plantes, un peu ennuyé, et je me rappellerai à quel point c’était génial de faire le travail dont je rêvais enfant. J’essaie de m’en souvenir chaque vendredi où sept choses tournent mal avant 13 heures.

Il y a un peu plus d’un an, un certain vendredi, la principale chose qui avait mal tourné ce jour-là était que j’ai été licencié par surprise lors d’un appel vidéo, et immédiatement après, le conseil d’administration a publié un article de blog à ce sujet. J’étais dans une chambre d’hôtel à Las Vegas. Cela ressemblait, à un degré presque impossible à décrire, à un rêve qui tourne mal.

Être licencié publiquement sans avertissement a déclenché quelques heures véritablement folles, suivies de jours tout aussi incroyables. Le « brouillard de guerre » était la partie la plus étrange. Aucun de nous n’a pu obtenir de réponses satisfaisantes sur ce qui s’était passé ou pourquoi.

L’ensemble de cet événement était, à mon avis, un grand échec de gouvernance de la part de personnes bien intentionnées, moi y compris. Avec du recul, je regrette certaines choses et j’aimerais croire que je suis devenu un leader plus réfléchi aujourd’hui qu’il y a un an. J’ai aussi appris l’importance d’un conseil d’administration aux points de vue divers et à l’expérience large pour gérer un ensemble complexe de défis. Une bonne gouvernance nécessite beaucoup de confiance et de crédibilité. J’apprécie la manière dont tant de personnes ont travaillé ensemble pour construire un système de gouvernance plus solide pour OpenAI, nous permettant de poursuivre notre mission d’assurer que l’AGI profite à toute l’humanité.

Ma principale leçon est à quel point j’ai des raisons d’être reconnaissant et combien de personnes je dois remercier : tous ceux qui travaillent chez OpenAI et qui ont choisi de consacrer leur temps et leurs efforts à la poursuite de ce rêve, les amis qui nous ont aidés à traverser les moments de crise, nos partenaires et clients qui nous ont soutenus et fait confiance pour contribuer à leur succès, et les personnes dans ma vie qui m’ont montré à quel point elles tenaient à moi.

Nous sommes tous revenus au travail de manière plus cohérente et positive, et je suis très fier de notre concentration depuis lors. Nous avons réalisé ce qui est sans doute parmi nos meilleures recherches à ce jour. Nous sommes passés d’environ 100 millions d’utilisateurs actifs hebdomadaires à plus de 300 millions. Mais surtout, nous avons continué à mettre sur le marché des technologies que les gens semblent véritablement apprécier et qui résolvent de vrais problèmes.

Il y a neuf ans, nous n’avions vraiment aucune idée de ce que nous deviendrions un jour ; même aujourd’hui, nous n’en avons qu’une vague idée. Le développement de l’IA a suivi de nombreuses bifurcations, et nous en attendons encore davantage à l’avenir.

Certaines de ces bifurcations ont été joyeuses ; d’autres ont été difficiles. C’est un plaisir de voir une succession régulière de miracles de recherche se produire, et de nombreux sceptiques devenir de fervents croyants. Nous avons également vu certains collègues se séparer et devenir des concurrents. Les équipes ont tendance à évoluer à mesure qu’elles grandissent, et OpenAI grandit très rapidement. Je pense que c’est en partie inévitable : les startups connaissent généralement beaucoup de turnover à chaque nouvelle étape majeure de leur croissance, et chez OpenAI, les chiffres augmentent par ordres de grandeur tous les quelques mois. Les deux dernières années ont été comme une décennie dans une entreprise normale. Quand une entreprise grandit et évolue si vite, les intérêts divergent naturellement. Et lorsqu’une entreprise leader dans une industrie importante est en tête, de nombreuses personnes l’attaquent pour toutes sortes de raisons, notamment lorsqu’elles essaient de rivaliser avec elle.

Notre vision ne changera pas ; nos tactiques continueront d’évoluer. Par exemple, lorsque nous avons commencé, nous n’avions aucune idée que nous devrions construire une entreprise de produits ; nous pensions que nous allions simplement faire de la grande recherche. Nous n’avions également aucune idée que nous aurions besoin d’un montant de capital aussi fou. Il y a maintenant de nouvelles choses que nous devons construire et que nous ne comprenions pas il y a quelques années, et il y aura d’autres choses à l’avenir que nous ne pouvons qu’à peine imaginer aujourd’hui.

Nous sommes fiers de notre bilan en matière de recherche et de déploiement jusqu’à présent, et nous nous engageons à continuer d’améliorer notre réflexion sur la sécurité et le partage des bénéfices. Nous continuons à croire que la meilleure façon de rendre un système d’IA sûr est de le déployer progressivement et itérativement dans le monde, en donnant à la société le temps de s’adapter et de co-évoluer avec la technologie, en tirant des enseignements de l’expérience, et en continuant à rendre la technologie plus sûre. Nous croyons à l’importance d’être des leaders mondiaux dans la recherche sur la sécurité et l’alignement, et à l’orientation de cette recherche grâce aux retours des applications dans le monde réel.

Nous sommes désormais confiants dans notre capacité à construire l’AGI telle que nous l’avons traditionnellement comprise. Nous pensons qu’en 2025, nous pourrions voir les premiers agents d’IA « rejoindre la main-d’œuvre » et transformer de manière significative la productivité des entreprises. Nous continuons à croire qu’introduire progressivement d’excellents outils dans les mains des gens conduit à des résultats formidables et largement distribués.

Nous commençons à viser au-delà de cela, vers la superintelligence dans le vrai sens du terme. Nous adorons nos produits actuels, mais nous sommes ici pour cet avenir glorieux. Avec la superintelligence, nous pouvons accomplir tout le reste. Les outils superintelligents pourraient accélérer massivement les découvertes scientifiques et l’innovation bien au-delà de ce que nous pouvons accomplir seuls, augmentant ainsi considérablement l’abondance et la prospérité.

Cela ressemble à de la science-fiction en ce moment, et cela paraît un peu fou d’en parler. Mais ça va—nous avons déjà été là auparavant, et nous sommes prêts à y retourner. Nous sommes assez confiants qu’au cours des prochaines années, tout le monde verra ce que nous voyons, et que la nécessité d’agir avec un grand soin, tout en maximisant les bénéfices et l’autonomisation, est si importante. Compte tenu des possibilités de notre travail, OpenAI ne peut pas être une entreprise normale.

Quelle chance et quel honneur de pouvoir jouer un rôle dans ce travail."

Autrement dit, on fonce dans quelque chose d'inconnu (la SUPER INTELLIGENCE), potentiellement dangereux, car IMPOSSIBLE à maîtriser, en faisant émerger par exemple des robots comme Terminator dans seulement quelques mois, et tout cela arrive de plus dans un pays au bord du fascisme, avec Elon Musk et Donald Trump qui auront la main sur ces technolgies. Et PERSONNE N'EST CONSULTÉ alors qu'il peut s'agir d'un instrument de pouvoir absolu et totalitaire ! Faut-il alors s'en remettre aux bonnes paroles et aux bonnes intentions de Sam Altman ? Certains analystes ne sont pas du même avis

Mathew Berman, le 08 01 2025

Mon commentaire à cette vidéo :

La fin du travail humain n’est-elle pas déjà en cours depuis un bon petit moment ? L’AGI/ASI ne fera que terminer le travail, ouvrant la voie à la haine et à la montée des dirigeants d’extrême droite partout dans le monde.

Rien—absolument rien—ne suggère que les grandes entreprises (générant environ 60 % du PIB) se soucieront de l’humanité une fois qu’elles disposeront de l’AGI/ASI.

Si c'était le cas, alors Coca Cola, par exemple, aurait depuis longtemps stoppé l'embouteillage dans du plastique. Or elle ne le fait pas, alors même qu'elle génère d'énormes profits grâce à ddes gains de productivité énormes (la firtme n'emploie plus que 20 000 personnes dans le monde).

C’est pourquoi l’AGI/ASI pourrait conduire à une catastrophe totale : le retour à des temps féodaux, avec pour seigneurs ces grandes entreprises et la destruction complète du biotope de notre espèce.

Réveillons-nous !

Vincent de Blois

============================================================

Traduction (par ChatGPT) :

Isn't the end of human labor already well underway? AGI/ASI will merely finish the job, paving the way for hatred and far-right leaders to rise to power all over the world.

Nothing—absolutely nothing—suggests that big corporations (responsible for 60% of the GDP) will care about humanity once they have AGI/ASI at their disposal.

Take Coca-Cola, for instance: the company clearly doesn’t care about humanity even today. If it did, it—already generating enormous profits while employing only around 20,000 workers worldwide—would immediately stop plastic bottling, wouldn’t it?

This is why AGI/ASI could lead to total catastrophe: a return to feudal times and the complete destruction of the biotope of our species. Let’s wake up!

Vincent de Blois

Retour

findutravail.net

fin du travail humain, environnement en vrac, surveillance généralisée... où nous emmène le capitalisme ?

Nouveau sur le site

Mes articles

Mes vidéos :

Les artistes le voient, le politique non :

Films

Chanson, humour

Livres

Idées pour la refondation

Exister...par l'emploi ? (destructions d'emplois)

Exister...par la terreur ? (attentats)

ASI : si vous n'êtes pas nerveux, c'est que vous n'avez pas bien compris de quoi il s'agit !