Une querelle personnelle de dix ans, si ce n'était de « l'hypocrisie » d'OpenAI, il n'y aurait pas de société d'IA leader au niveau mondial Anthropic

Titre original de l'article : "La querelle qui façonne l'avenir de l'IA"

Auteur de l'article original: Keach Hagey

Le journaliste Keach Hagey du Wall Street Journal a publié un long rapport d'enquête, révélant pour la première fois la querelle personnelle qui oppose depuis dix ans les fondateurs d'Anthropic et d'OpenAI à travers de longues interviews d'employés, de dirigeants et d'associés actuels et anciens. Façonner le paysage mondial de l'IA n'est pas seulement une bataille d'approches techniques, mais aussi une blessure personnelle non guérie.

Ces derniers mois, le langage interne de Dario Amodei a été bien plus intense que ses remarques publiques. Il compare le différend juridique entre Sam Altman et Elon Musk à un "Hitler vs. Staline », a qualifié de « maléfique » le don de 25 millions de dollars du président d'OpenAI Greg Brockman à un super PAC pro-Trump, et comparé OpenAI et d'autres concurrents à « des compagnies de tabac vendant des produits qu'ils savent nocifs ».

Après l'escalade de la dispute au Pentagone, il a de nouveau qualifié OpenAI de « menaçant » sur Slack, écrivant : « Ces faits suggèrent un modèle de comportement que j'ai vu trop souvent chez Sam Altman ».

En interne, Anthropic parle de cette stratégie de marque comme créant une « alternative saine » aux concurrents, et une publicité subtilement moqueuse diffusée pendant le Super Bowl cette année, ciblant l'inclusion de publicités par OpenAI dans les chatbots, est une manifestation publique de cette stratégie.

L'histoire commence en 2016 dans le salon d'une maison partagée sur Delano Street à San Francisco. Dario et sa sœur Daniela Amodei y vivaient, et le cofondateur d'OpenAI, Brockman, s'y rendait souvent en raison de son amitié avec Daniela. Un jour, Brockman, Dario et Holden Karnofsky, alors fiancé et efficace philanthrope de l'altruisme de Daniela, se sont assis ensemble pour débattre de la bonne voie pour le développement de l'IA : Brockman estimait que tous les Américains devraient être informés de ce qui se passe à l'avant-garde de l'IA, tandis que Dario et Karnofsky estimaient que les informations sensibles devraient être rapportées au gouvernement avant d'être diffusées au public. Ce désaccord deviendra plus tard le point de départ des parcours philosophiques des deux entreprises.

Impressionné par l'équipe d'OpenAI, Dario a rejoint mi-2016, restant debout tard avec Brockman pour former des agents d'IA à jouer à des jeux vidéo. Cependant, en quatre ans de collaboration, les conflits de pouvoir et d'appartenance se sont aggravés. En 2017, le principal bailleur de fonds d'OpenAI à l'époque, Musk, a exigé une liste des contributions de chaque employé et s'en est servi comme base pour les licenciements, 10% à 20% de l'équipe de 60 personnes étant licenciées une par une. Dario a vu cela comme cruel, et l'un de ceux qui ont été licenciés est devenu plus tard un cofondateur d'Anthropic.

La même année, le conseiller en éthique engagé par Dario propose à OpenAI d’agir comme entité de coordination entre les entreprises d’IA et les gouvernements. Brockman extrapole alors l'idée de « vendre AGI au Conseil de sécurité des Nations unies », ce que Dario considère comme presque une trahison, ce qui le conduit à envisager brièvement de démissionner.

En 2018, après le départ de Musk, Altman en prend la direction. Dario et lui sont parvenus à un consensus sur le fait que les employés n'avaient pas confiance dans le leadership de Brockman et de l'expert scientifique en chef Ilya Sutskever. Dario accepta de rester à la condition que les deux ne le supervisent plus, mais il découvrit rapidement qu'Altman avait simultanément promis aux deux derniers le droit de le renvoyer, créant des engagements contradictoires.

Après le lancement du développement de la série GPT, le conflit le plus intense a éclaté au sein de l'équipe de direction pour savoir qui pourrait participer au projet de modèle linguistique. Dario, alors directeur de recherche, n'a pas permis à Brockman d'intervenir. Daniela, qui a codirigé le projet avec Alec Radford, a menacé de démissionner de son poste de direction, entraînant les préférences personnelles de Radford dans la guerre des mandataires exécutifs.

Les références de Dario ont grimpé en flèche avec le succès de GPT-2 et GPT-3, mais il a estimé qu'Altman minimisait sa contribution. Lorsque Brockman est apparu dans un podcast discutant de la charte d'OpenAI, Dario était en colère de ne pas avoir été invité malgré sa plus grande contribution à la charte. De même, il a été mécontent d'apprendre que Brockman et Altman allaient rencontrer l'ancien président Obama mais l'avaient exclu.

Le conflit s'est aggravé de façon spectaculaire lors d'une réunion de confrontation dans une salle de conférence. Altman a convoqué les frères et sœurs Amodei dans la salle de réunion, les accusant d'avoir incité leurs collègues à soumettre des commentaires négatifs à son sujet au conseil d'administration. La fratrie a nié. Altman a dit que l'information venait d'un autre cadre, et Daniela a immédiatement amené ce cadre pour l'interroger, qui a affirmé ne pas en avoir connaissance.

Altman a rapidement nié avoir jamais fait une telle déclaration, ce qui a conduit à une vive dispute. Début 2020, Altman a demandé aux dirigeants de mener des examens par les pairs. Brockman a écrit un feedback fortement formulé accusant Daniela d'abus de pouvoir et d'utiliser des processus bureaucratiques pour exclure la dissidence, ce qu'Altman a préapprouvé comme « dur mais juste ». Daniela a répliqué à chaque point, en faisant grimper l'argument au point où Brockman a brièvement suggéré de revenir sur les commentaires.

À la fin de 2020, l'équipe centrée autour de Dario a décidé de partir, Daniela prenant la tête des négociations sur les questions de départ avec les avocats. Altman s'est personnellement rendu au domicile de Dario pour le persuader de rester, mais Dario a insisté pour ne rendre compte directement au conseil et a clairement indiqué qu'il ne pouvait pas travailler avec Brockman. Avant de partir, il a écrit un long mémorandum divisant l'entreprise d'IA en catégories « axées sur le marché » et « axées sur les avantages publics », estimant que le ratio idéal était de 75 % d'avantages publics et 25 % de marché. Plusieurs semaines plus tard, Dario, Daniela et près d'une dizaine d'employés quittent OpenAI pour fonder Anthropic.

Cinq ans plus tard, les deux sociétés sont valorisées plus de 300 milliards de dollars et se lancent dans une course à l'entrée en Bourse. Lors de la photo de groupe au sommet sur l'IA de février à New Delhi, le Premier ministre indien Modi a levé les mains hautes avec la présence de leaders technologiques, tandis qu'Amodei et Altman ont choisi de ne pas participer, optant maladroitement pour un coup de coude.

Article original Lien