Sans l’« hypocrisie » d’OpenAI, cette querelle privée qui a duré dix ans n’aurait pas donné naissance à Anthropic, l’entreprise d’IA la plus puissante au monde

Titre original : « La querelle qui dure depuis dix ans et qui façonne l'avenir de l'IA »

Auteur original : Keach Hagey

Keach Hagey, journaliste au Wall Street Journal, a publié un long reportage d'investigation révélant pour la première fois la querelle personnelle qui oppose depuis une dizaine d'années les fondateurs d'Anthropic et d'OpenAI, grâce à des entretiens approfondis menés auprès d'employés et de dirigeants actuels et anciens des deux entreprises. Ce qui façonne le paysage mondial de l'IA, ce n'est pas seulement une rivalité technologique, mais aussi un traumatisme personnel qui n'a pas été surmonté.

Ces derniers mois, les propos tenus en interne par Dario Amodei ont été bien plus virulents que ceux qu'il a tenus en public. Il a comparé le conflit juridique entre Sam Altman et Elon Musk à « la lutte entre Hitler et Staline », a qualifié de « malfaisante » la donation de 25 millions de dollars versée par Greg Brockman, président d’OpenAI, à un super PAC pro-Trump, et a assimilé OpenAI et ses concurrents à « des fabricants de tabac qui vendent sciemment des produits nocifs ».

Après que le conflit avec le Pentagone se soit envenimé, il a qualifié OpenAI d’« hypocrite » sur Slack, en écrivant : « Ces faits révèlent un schéma comportemental que j’observe fréquemment chez Sam Altman. »

En interne, Anthropic qualifie cette stratégie de marque de « solution saine » face à la concurrence. Lors du Super Bowl de cette année, une publicité anonyme tournant en dérision OpenAI pour avoir intégré des publicités dans des chatbots a été l'une des manifestations publiques de cette stratégie.

L'histoire commence dans le salon d'une colocation située rue Delano, à San Francisco, en 2016. Dario et sa sœur Daniela Amodei y vivaient, et Brockman, cofondateur d'OpenAI, s'y rendait souvent en raison de ses liens étroits avec Daniela. Un jour, Brockman, Dario et le fiancé de Daniela à l'époque, Holden Karnofsky, philanthrope adepte de l'altruisme efficace, se sont retrouvés autour d'une table pour débattre de la voie à suivre en matière de développement de l'IA : Brockman estimait que tous les Américains devaient être informés de ce qui se passait à la pointe de l'IA, tandis que Dario et Karnofsky soutenaient que les informations sensibles devaient d'abord être communiquées au gouvernement plutôt que diffusées au grand public. Ce désaccord a par la suite marqué un tournant décisif dans l'orientation philosophique des deux entreprises.

Impressionné par le vivier de talents d'OpenAI, Dario a rejoint l'entreprise mi-2016, passant des nuits blanches avec Brockman à entraîner des agents IA à jouer à des jeux vidéo. Cependant, après quatre ans de collaboration, les tensions liées au pouvoir et au sentiment d'appartenance se sont accentuées. En 2017, lorsque Musk, l'un des principaux investisseurs d'OpenAI, a exigé une liste détaillant les contributions de chaque employé en vue des licenciements, environ 10 à 20 % des 60 membres de l'équipe ont été licenciés les uns après les autres, ce que Dario a jugé cruel ; l'un de ces licenciés est par la suite devenu cofondateur d'Anthropic.

La même année, un conseiller en éthique engagé par Dario a suggéré qu'OpenAI joue le rôle d'entité de coordination entre les entreprises spécialisées dans l'IA et le gouvernement, ce qui a conduit Brockman à développer l'idée de « vendre l'IA générale aux puissances nucléaires du Conseil de sécurité de l'ONU ». Dario a considéré cela comme une quasi-trahison et a envisagé de démissionner.

Après le départ de Musk en 2018, Altman a pris la direction de l'entreprise. Dario et lui sont parvenus à un consensus : les employés manquaient de confiance envers la direction de Brockman et du directeur scientifique Ilya Sutskever. Dario a accepté de rester à condition que ces deux-là ne soient plus aux commandes, mais il s'est vite rendu compte qu'Altman avait parallèlement promis à ces derniers qu'ils avaient le droit de le licencier, ce qui créait une contradiction entre ces deux engagements.

Une fois le développement de la série GPT lancé, l'équipe de direction a été en proie à un conflit des plus vifs quant à savoir qui pourrait participer au projet de modèle linguistique. Dario, qui était alors directeur de recherche, n'a pas laissé Brockman s'en mêler, tandis que Daniela, qui codirigeait le projet avec Alec Radford, a menacé de démissionner de son poste. Les aspirations personnelles de Radford se sont retrouvées mêlées à la guerre de procuration au sein de la direction.

La réputation de Dario s'est renforcée grâce au succès de GPT-2 et GPT-3, mais il avait le sentiment qu'Altman minimisait ses contributions. Lorsque Brockman a évoqué la charte d'OpenAI dans un podcast, Dario s'est fâché de ne pas avoir été invité alors qu'il avait davantage contribué à sa rédaction ; il était également mécontent d'apprendre que Brockman et Altman rencontraient l'ancien président Obama sans l'inclure.

Le conflit s'est considérablement aggravé lors d'une altercation dans une salle de réunion. Altman a convoqué les frères et sœurs Amodei et les a accusés d'avoir incité des collègues à transmettre des commentaires négatifs à son sujet au conseil d'administration. Les deux ont nié. Altman a affirmé que ces informations provenaient d'un autre cadre, et Daniela a immédiatement convoqué ce dernier pour l'interroger ; celui-ci a déclaré n'être absolument pas au courant.

Altman a ensuite nié avoir tenu ces propos, ce qui a donné lieu à une vive dispute. Au début de l'année 2020, Altman a demandé aux cadres de rédiger des évaluations par les pairs les uns des autres, et Brockman a rédigé un commentaire en termes très durs accusant Daniela d'abuser de son pouvoir et d'utiliser des procédures bureaucratiques pour écarter les dissidents, qu'Altman a lu au préalable et qualifié de « sévère mais juste ». Daniela a réfuté chacun de ses arguments, ce qui a fait monter la tension au point que Brockman a proposé de revenir sur ses propos.

À la fin de l'année 2020, une équipe dirigée par Dario a décidé de quitter l'entreprise, et c'est Daniela qui a mené les négociations avec les avocats concernant leur départ. Altman s'est rendu en personne chez Dario pour le convaincre de rester, mais Dario a insisté pour ne rendre compte qu'au conseil d'administration et a clairement indiqué qu'il ne pouvait pas travailler avec Brockman. Avant de partir, il a rédigé une longue note de service dans laquelle il classait les entreprises spécialisées dans l'IA en deux catégories : celles « axées sur le marché » et celles « axées sur l'intérêt public », affirmant que le rapport idéal était de 75 % pour l'intérêt public et de 25 % pour le marché. Quelques semaines plus tard, Dario, Daniela et près d'une douzaine d'employés ont quitté OpenAI pour fonder Anthropic.

Cinq ans plus tard, ces deux entreprises sont évaluées à plus de 300 milliards de dollars et se livrent une concurrence acharnée pour entrer en bourse. À l'issue du sommet sur l'IA qui s'est tenu à New Delhi en février dernier, le Premier ministre indien Modi et les dirigeants du secteur technologique présents ont levé la main tous ensemble, tandis qu'Amodei et Altman ont choisi de ne pas se joindre à eux, se contentant de se toucher les coudes avec une certaine gêne.