Десятилетняя личная вражда, если бы не "лицемерная" позиция OpenAI, не было бы ведущей в мире компании в области ИИ Anthropic

Оригинальный заголовок статьи: "Десятилетняя вражда, формирующая будущее ИИ"

Автор оригинальной статьи: Кич Хейдж

Репортер Кич Хейдж из The Wall Street Journal опубликовал подробный аналитический отчет, в котором впервые раскрывается десятилетняя личная вражда между основателями Anthropic и OpenAI на основе обширных интервью с нынешними и бывшими сотрудниками, руководителями и партнерами. Формирование глобального ландшафта ИИ - это не только битва технических подходов, но и незаживающая личная рана.

В последние месяцы внутренний язык Дарио Амодеи был гораздо более интенсивным, чем его публичные заявления. Он сравнил судебный спор Сэма Альтмана и Илона Маска с "Гитлером против. Конфликт со Сталиным, президент OpenAI Грег Броkmан назвал пожертвование в размере 25 миллионов долларов в поддержку супер-комитета pro-Trump «злым», и сравнил OpenAI и других конкурентов с «табачными компаниями, продающими продукцию, которую они знают вредной».

После того, как спор в Пентагоне обострился, он снова назвал OpenAI «лживой» в Slack, написав: «Эти факты указывают на модель поведения, которую я слишком часто видел у Сэма Альтмана».

Внутри компании Anthropic эту стратегию бренда называют созданием «здоровой альтернативы» конкурентам, а слегка насмешливая реклама, вышедшая в этом году во время Супер Боула и нацеленная на включение рекламы в чат-ботов OpenAI, является публичным проявлением этой стратегии.

История начинается в 2016 году в гостиной общего дома на Делано-стрит в Сан-Франциско. Там жили Дарио и его сестра Даниэла Амодей, а сооснователь OpenAI Брокман часто навещал их из-за дружбы с Даниэлой. Однажды Брокман, Дарио и тогдашний жених Даниэлы и филантроп в области эффективного альтруизма Холден Карнофски сидели вместе и спорили о правильном пути развития ИИ: Брокман считал, что всем американцам следует рассказать о том, что происходит на передовой ИИ, в то время как Дарио и Карнофски считали, что чувствительная информация должна сообщаться правительству, прежде чем быть обнародованной. Этот спор позже стал водоразделом философских путей двух компаний.

Под впечатлением от команды OpenAI, Дарио присоединился в середине 2016 года и допоздна работал с Брокманом, чтобы обучить ИИ агентов играть в видеоигры. Однако в течение четырех лет совместной работы конфликты из-за власти и принадлежности обострились. В 2017 году главный спонсор OpenAI на тот момент, Маск, потребовал список вкладов каждого сотрудника и использовал его в качестве основы для увольнений, при этом от 10% до 20% из 60 человек команды были уволены один за другим. Дарио считал это жестоким, и один из уволенных позже стал сооснователем Anthropic.

В том же году советник по этике, нанятый Дарио, предложил OpenAI выступить в качестве координационного органа между компаниями в области ИИ и правительствами. Затем Брокман развил идею о «продаже AGI Совету Безопасности ООН», которую Дарио считал почти изменой, что заставило его на время задуматься об отставке.

В 2018 году, после ухода Маска, Альтман возглавил компанию. Он и Дарио пришли к общему мнению, что сотрудники не доверяют руководству Брокмана и главного научного сотрудника Илья Суцкевера. Дарио согласился остаться при условии, что двое больше не будут контролировать его, но вскоре он обнаружил, что Альтман одновременно обещал двум последним право уволить его, создав противоречивые обязательства.

После запуска разработки серии GPT в руководстве компании разгорелся самый ожесточенный конфликт из-за того, кто может участвовать в проекте языковой модели. Дарио, тогдашний директор по исследованиям, не позволил Брокману вмешиваться. Даниэла, которая вместе с Алеком Радфором руководила проектом, пригрозила уйти с руководящей должности, втянув личные предпочтения Радфора в войну за доверенность руководства.

Достижения Дарио возросли с успехом GPT-2 и GPT-3, но он чувствовал, что Олтман принижает его вклад. Когда Брокман появился в подкасте, обсуждая устав OpenAI, Дарио был зол за то, что его не пригласили, несмотря на его больший вклад в устав. Аналогично, он был недоволен, узнав, что Брокман и Альтман собирались встретиться с бывшим президентом Обамой, но не пригласили его.

Конфликт резко обострился во время конфронтационной встречи в конференц-зале. Альтман вызвал братьев Амодей на встречу, обвинив их в том, что они подстрекали коллег подавать негативные отзывы о нем в совет директоров. Братья это отрицали. Альтман сказал, что информация поступила от другого руководителя, и Даниэла немедленно вызвала этого руководителя на допрос, который утверждал, что ничего не знает об этом.

Олтман немедленно опроверг факт такого заявления, что привело к горячему спору. В начале 2020 года Олтман попросил руководителей провести коллегиальную оценку. Брокман написал резкую рецензию, обвиняя Даниэлу в злоупотреблении властью и использовании бюрократических процедур для исключения инакомыслящих, что Олтман предварительно одобрил как «жестко, но справедливо». Даниэла опровергла каждый пункт, что привело к эскалации спора до такой степени, что Брокман на мгновение предложил отозвать свои комментарии.

К концу 2020 года команда, сосредоточенная вокруг Дарио, решила уйти, и Даниэла взяла на себя руководство переговорами об условиях ухода с адвокатами. Олтмен лично приехал к Дарио домой, чтобы убедить его остаться, но Дарио настаивал на том, чтобы подчиняться только совету директоров, и ясно дал понять, что не может работать с Брокманом. Перед уходом он написал пространное меморандум, разделив компанию по ИИ на категории «ориентированные на рынок» и «ориентированные на общественную пользу», считая, что идеальная пропорция — 75% общественной пользы и 25% рынка. Несколько недель спустя Дарио, Даниэла и почти дюжина сотрудников покинули OpenAI, чтобы основать Anthropic.

Пять лет спустя обе компании оцениваются более чем в 300 миллиардов долларов и соревнуются за выход на биржу. Во время групповой фотографии на саммите по ИИ в Нью-Дели в феврале премьер-министр Индии Моди поднял руки вверх в присутствии лидеров технологического сектора, в то время как Амодей и Олтмен предпочли не участвовать, неловко обменявшись локтями.

Ссылка на оригинальную статью