Avant de quitter OpenAI, la présidente d'Anthropic avait un "conseil consultatif en peluche"

Auteur : Li Jia, Wall Street Journal

Aujourd'hui, Anthropic a fait de la "sécurité de l'IA" le label central de l'entreprise, mais peu de gens savent que la cofondatrice et présidente de cette société, Daniela Amodei, a autrefois discuté de problèmes de gestion avec son mari, Holden Karnofsky, en utilisant une collection de peluches.

Ces jouets avaient des personnalités différentes : certains étaient chargés de "réduire les réunions et de ne pas se créer de problèmes", d'autres mettaient l'accent sur les règles, les détails et l'exécution, tandis que d'autres rappelaient aux décideurs de faire preuve de compassion. Face à un problème difficile au travail, Daniela et son mari laissaient ces personnages virtuels "exprimer leurs opinions", simulant ainsi les choix que différents types de gestionnaires pourraient faire.

Cette anecdote plutôt personnelle, voire enfantine, s'est produite à l'époque où Daniela travaillait encore chez OpenAI. Pendant cette période, elle et son frère Dario Amodei commençaient également à avoir des divergences avec la direction d'OpenAI : Daniela avait des frictions avec plusieurs cadres, tandis que Dario devenait de plus en plus méfiant envers la direction de l'entreprise et l'orientation du développement de l'IA avancée.

En 2020, les deux frères et sœurs ont finalement décidé de quitter OpenAI, et cette scission, plus tard qualifiée de "divorce" par des initiés, est devenue le point de départ de la création d'Anthropic.

Le magazine The Atlantic a récemment cité le nouveau livre de Kevin Roose, "The AGI Chronicles", qui révèle cette expérience peu connue. Daniela a déclaré lors d'une interview avec Roose en 2023 que cette méthode "était très utile pour analyser différents types de personnalités".

D'un groupe de peluches formant un "conseil consultatif" à une entreprise d'IA comptant des milliers d'employés, Anthropic est passée d'une petite startup de sécurité de l'IA à un acteur majeur de l'industrie. Selon les médias, la valorisation potentielle de l'entreprise lors d'une introduction en bourse pourrait approcher les 2 000 milliards de dollars.

Comment un groupe de peluches est devenu un "conseil consultatif" ?

Ce "conseil informel" n'était pas une simple blague, mais une méthode de pensée simulant différents styles de décision.

Parmi eux, Jinji est un chat au caractère décontracté, qui tend à alléger la charge de travail d'Amodei, par exemple en sautant des réunions inutiles ; l'ours en peluche rose Maura représente un style complètement opposé - organisé, exigeant et axé sur les détails ; le panda nommé Beary Bonds est conçu pour ajouter plus de compassion et de générosité aux discussions.

Face à un même problème au travail, le couple Amodei laissait les "personnalités" représentées par les différents jouets réagir.

Le véritable effet de cette méthode ne réside pas dans les jouets, mais dans le fait de forcer le décideur à quitter temporairement sa propre position et à réexaminer le problème avec une autre personnalité.

Essentiellement, c'est une expérience de pensée à faible coût : sans véritables conseillers externes, il est possible de décomposer le même problème en différents chemins décisionnels grâce à la simulation de différents rôles.

Et cette méthode était presque inconnue au sein d'OpenAI.

Au-delà des peluches, les divergences internes chez OpenAI s'élargissent

Entre-temps, la relation entre les frères et sœurs Amodei et OpenAI évoluait également.

Daniela Amodei a rejoint OpenAI en 2018, puis a été promue à un poste de gestion au sein de l'équipe technique, où elle a eu des divergences avec plusieurs cadres, dont Greg Brockman et Mira Murati.

Elle était autrefois proche de Brockman. Brockman avait prononcé un discours lors de son mariage avec Holden Karnofsky en 2017, mais par la suite, leur relation professionnelle s'est progressivement détériorée.

Dario Amodei devenait de plus en plus préoccupé par la direction de la direction d'OpenAI et l'orientation du développement de l'IA avancée, et il devenait de plus en plus méfiant envers Sam Altman et Brockman.

Parallèlement, il a commencé à organiser discrètement des activités avec un groupe de chercheurs souhaitant accorder plus d'importance aux risques des systèmes d'IA puissants. En dehors de la structure normale de l'entreprise, ces personnes communiquaient et se réunissaient, certains collègues qualifiant ce groupe de "petit cercle de Dario".

Les conflits internes ont finalement atteint un stade inévitable.

En 2020, Dario a commencé à constituer une équipe prête à quitter OpenAI pour faire avancer la recherche sur l'IA avancée avec des idées de sécurité différentes. Daniela est devenue l'une des figures centrales de cette sortie et a été chargée de négocier avec OpenAI pendant la préparation du départ de l'équipe.

Cette scission a ensuite été qualifiée de "divorce" par des personnes informées en privé.

Un départ qui a donné naissance à un géant de l'IA

En décembre 2020, les frères et sœurs Amodei ont officiellement quitté OpenAI et ont cofondé Anthropic.

Jack Clark, Sam McCandlish, Tom Brown, Chris Olah et Jared Kaplan ont également participé à la création de l'entreprise, et Ben Mann a ensuite été reconnu comme un autre cofondateur.

Anthropic était initialement une petite institution de recherche axée sur la sécurité de l'IA. Par la suite, l'entreprise a progressivement étendu son effectif à des milliers d'employés et est devenue l'un des principaux concurrents d'OpenAI.

Daniela Amodei est maintenant présidente et présidente du conseil d'administration d'Anthropic, supervisant la plupart des domaines de la recherche, de l'ingénierie, des produits et des opérations commerciales. Holden Karnofsky, ancien membre du conseil d'administration à but non lucratif d'OpenAI, a également rejoint Anthropic.

De l'utilisation de peluches pour simuler des gestionnaires à la croissance d'un géant de l'IA comptant des milliers d'employés, cette histoire témoigne du passage d'Anthropic de ses débuts à sa maturité.