Des "effective altruistes" devenus des "princes libertariens" (parmi lesquels vous citez Elon Musk et Illia Sutskever) s'opposeraient donc à des partisans de la transparence, des "hommes honnêtes", au rang desquels vous mettez Sam Altman, Greg Brokmann, et le PDG de Microsoft, et vous-même (!)...
Pour ma part, j'y vois plutôt une bataille beaucoup plus simple entre les "pro-humains" et les "pro-machines". E. Musk a déjà fait la preuve qu'il était pro humain. Rappelons qu'il est à l'origine de la FONDATION A BUT NON LUCRATIF Open AI, et qu'il l'a dotée de statuts "pro-humains" incontestables. Il l'a aussi financée en tout d'une centaine de millions de $ pour s'opposer à la vision "pro machine" de Larry Page de Google et d'autres. Ce sont ces statuts que Sam Altman et Greg Brokmann ont trahi en créant l'association A BUT LUCRATIFqui est à l'origine de ChatGPT. C'est cet évènement qui a provoqué la rupture entre Altman et Musk.
Mais ce n'était que le début : prétextant ensuite qu'ils avaient besoin de plus de moyens, ils se sont tournés ensuite vers Microsoft ! Le reste des chercheurs d'OpenAI les a suivi dans ce coup d'état, en s'inféodant à Microsoft, probablement pour des considérations beaucoup plus prosaïques que ce que vous dites : pour ne pas perdre leur job tout simplement ! Peut-on appeler cela des pratiques d'honnêtes hommes ?
Il y a un deuxième point qui me chiffonne dans ce que vous dites :
On a l'impression que vous parlez d'une technologie comme les autres. Mais ce n'en est pas une. La super intelligence générale, si on la laisse émerger, n'offrira aucune possibilité de retour en arrière. Même en cas d'accident nucléaire, on peut tenter de réparer ou contenir l'évolution des dégâts, ce ne sera pas le cas si on laisse émerger la Super Intelligence Générale . C'est ce qu'explique très bien Roman Yampolskiy dans cette vidéo :
Il n'y a pas de technologie sans accident. Prétendre qu'il ne peut y avoir d'accident en IA est assurément faux. Il y a eu des accidents de machines à vapeur, des accidents d'avion, il y aura des accidents d'IA. La super intelligence ne sera pas du tout une technologie comme les autres. Pourquoi ? parce que le premier chercheur qui aura inventé la première machine d'IA supérieure au meilleur chercheur humain en IA, aura AUSSI inventé la DERNIERE MACHINE QUE L'HOMME AURA BESOIN D'INVENTER.
Or avec nos trois siècles et quelques de science, mettons 4, nous n'avons aucune idée de l'endroit où nous en sommes dans la connaissance. Il est plus que probable que nous ne sommes qu'au tout début des découvertes dans absolument tous les domaines. La super Intelligence, même dans l'hypothèse où elle ne causerait aucun accident, nous propulserait d'un seul coup d'un seul au stade ultime de la connaissance dans tous les domaines ! Est ce qu'on imagine bien ce que cela veut dire ? Seriez-vous bien sûr M Jorion, de reconnaître le monde, si on vous propulsait en quelques mois dans une époque bénéficiant de 20 000 ans de sciences et de technologies en plus ? (au rythme actuel de nos découvertes)
Et donc, la position de l'"honnête homme" doit être : Contrôle démocratique total et mondial sur la singularité et la super intelligence !!
Et c'est URGENT car la course à la super intelligence est manifestement lancée !! qui gagnera le Jackpot ? Musk, Altmann, Microsoft, ou les humains unis pour en prendre le contrôle ?