『ニューヨーカー』の深層調査文解読：OpenAIの内部者はなぜオルトマンを信頼できないと考えるのか？

原文作者：小饼，深潮 TechFlow

2023年秋、OpenAIのチーフサイエンティストIlya Sutskeverはコンピュータの前に座り、70ページの文書を完成させた。

この文書はSlackのメッセージ記録、HRのコミュニケーションファイル、内部会議の議事録を整理したもので、ただ一つの質問に答えるために作成された：Sam Altman、この人類史上最も危険な技術を掌握している人物は、本当に信頼できるのか？

Sutskeverが出した答えは、文書の最初のページの最初の行に書かれており、リストのタイトルは「Samは一貫した行動パターンを示している……」

第一条：嘘をつく。

2年半後の今日、調査ジャーナリストのRonan FarrowとAndrew Marantzは『ニューヨーカー』に超長編の調査報道を発表した。100人以上の関係者にインタビューし、これまで公開されていなかった内部メモを入手し、Anthropicの創設者Dario AmodeiがOpenAIにいた時期に残した200ページ以上のプライベートノートも手に入れた。これらの文書から組み立てられた物語は、2023年の「宮廷闘争」よりもはるかに醜い：OpenAIがどのように人類の安全のために設立された非営利組織から、商業機械へと一歩一歩変わっていったのか、ほぼすべての安全策は同じ人物によって手作業で取り壊された。

Amodeiのノートの結論はさらに率直だ：「OpenAIの問題はSam本人である。」

OpenAIの「原罪」設定

この報道の重要性を理解するためには、OpenAIという会社がどれほど特異であるかを明確にする必要がある。

2015年、Altmanと一群のシリコンバレーのエリートたちは、商業史上ほとんど前例のないことを行った：非営利組織を用いて、人類史上最も強力な技術を開発すること。取締役会の責任は明確に書かれており、安全が会社の成功よりも優先され、さらには会社の存続よりも優先される。言い換えれば、もしある日OpenAIのAIが危険になった場合、取締役会はこの会社を自ら閉鎖する義務がある。

この全体の構造は一つの仮定に賭けている：AGIを管理する人は、極めて誠実な人物でなければならない。

もし間違った仮定をしたら？

報道の核心的な爆弾は、その70ページの文書である。Sutskeverはオフィスの政治を行わない、彼は世界で最も優れたAI科学者の一人である。しかし2023年には、彼はますます確信を深めていた：Altmanは経営陣や取締役会に対して嘘をつき続けている。

具体的な例：2022年12月、Altmanは取締役会の会議で、発表予定のGPT-4の多くの機能が安全審査を通過したと保証した。取締役会のメンバーであるTonerは承認文書を見せるよう要求し、その結果、最も議論の多い2つの機能（ユーザーによるカスタマイズとパーソナルアシスタントの展開）が安全パネルの承認を全く得ていなかったことが判明した。

さらに信じられないことがインドで起こった。ある従業員が別の取締役会メンバーに「その違反」を報告した：マイクロソフトは必要な安全審査を完了せずに、インドでChatGPTの初期バージョンを早期に発表した。

Sutskeverはメモの中で別のことも記録している：Altmanは前CTOのMira Muratiに、安全承認のプロセスはそれほど重要ではなく、会社の法務総顧問がすでに承認したと言った。Muratiは法務総顧問に確認しに行き、相手は「Samがどこからその印象を得たのか分からない」と返答した。

Amodeiの200ページのプライベートノート

Sutskeverの文書は検察官の起訴状のようだ。Amodeiが残した200ページ以上のノートは、目撃者が現場で書いた日記のようだ。

AmodeiはOpenAIで安全責任者として働いていた数年間、商業的な圧力の下で会社が一歩一歩後退していくのを目の当たりにした。彼はノートの中で2019年のマイクロソフト投資案件の重要な詳細を記録している：彼はOpenAIの定款に「合併と協力」の条項を盛り込んだ。要するに、もし他の会社がより安全なAGIの道を見つけた場合、OpenAIは競争を停止し、その会社を助けるべきであるというものである。これは彼がこの取引の中で最も重視していた安全保障であった。

取引が署名される直前、Amodeiはあることに気づいた：マイクロソフトはこの条項に対する拒否権を得ていた。これはどういう意味か？もし本当にある日、競争相手がより良い道を見つけた場合、マイクロソフトの一言でOpenAIの協力義務は封じられる。条項は紙の上にあったが、署名の日からは無効であった。

Amodeiはその後OpenAIを離れ、Anthropicを設立した。両社の競争は、「AIはどのように開発されるべきか」という根本的な対立に基づいている。

消えた20%の計算力の約束

報道の中に一つの詳細があり、読んだ後に背筋が寒くなる。OpenAIの「スーパーアライメントチーム」に関するものである。

2023年の中頃、Altmanは「欺瞞的アライメント」（AIがテスト中におとなしく見せかけ、実際の展開後に自分のやり方をすること）を研究しているバークレーの博士課程の学生にメールを送り、この問題を非常に懸念しており、10億ドルのグローバル研究賞を設立することを考えていると言った。博士課程の学生は非常に励まされ、学業を休止してOpenAIに参加した。

その後、Altmanは考えを変えた：外部の賞は行わず、社内に「スーパーアライメントチーム」を設立することにした。会社は高らかに、「既存の計算力の20%」をこのチームに割り当てると発表し、潜在的な価値は10億ドルを超えるとされた。発表の文言は非常に厳粛で、もしアライメントの問題が解決されなければ、AGIは「人類の権力を奪い、さらには人類の絶滅を引き起こす」可能性があると言われた。

このチームのリーダーに任命されたJan Leikeは後に記者に対し、この約束自体が非常に効果的な「人材保持の手段」であると語った。

現実はどうだったのか？このチームで働くか、密接に接触していた4人の関係者は、実際に割り当てられた計算力は会社全体の計算力の1%から2%しかなく、しかも最も古いハードウェアであった。このチームは後に解散し、使命は未完了であった。

記者がOpenAIの「存在的安全」研究を担当する人物へのインタビューを求めた際、会社の広報の反応は笑いと涙を誘うものだった：「それは実際には存在しないものです。」

Altman本人は平然としていた。彼は記者に、自身の「直感は多くの伝統的なAI安全のものとは合わない」と語り、OpenAIは「安全プロジェクト、あるいは少なくとも安全に関連するプロジェクト」を行うつもりだと述べた。

権限を奪われたCFOと迫るIPO

『ニューヨーカー』の報道は、この日の悪いニュースの半分に過ぎない。同じ日に、The Informationはもう一つの重大なニュースを報じた：OpenAIのCFO Sarah FriarとAltmanの間に深刻な対立があった。

Friarは私的に同僚に、OpenAIは今年上場する準備が整っていないと伝えた。二つの理由：完了すべき手続き的および組織的な作業量があまりにも大きく、Altmanが約束した5年間で6000億ドルの計算力支出がもたらす財務リスクがあまりにも高い。彼女はOpenAIの収益成長がこれらの約束を支えられるかどうかも確信が持てなかった。

しかしAltmanは今年の第4四半期にIPOを目指して突進したいと考えていた。

さらに信じられないことに、Friarはもはや直接Altmanに報告していなかった。2025年8月から、彼女はFidji Simo（OpenAIのアプリ事業CEO）に報告することに変更した。そしてSimoは先週、健康上の理由で病気休暇を取った。あなたはこの状況を考えてみてください：IPOを目指す会社で、CEOとCFOの間に根本的な対立があり、CFOはCEOに報告せず、CFOの上司は休暇を取っている。

マイクロソフト内部の幹部もこれを見過ごせず、Altmanが「事実を歪曲し、約束を反故にし、合意に達した内容を次々と覆している」と言った。あるマイクロソフトの幹部はこう言った：「彼は最終的にBernie MadoffやSBFレベルの詐欺師として記憶される可能性があると思う。」

Altmanの「二面性」像

ある元OpenAI取締役は記者にAltmanの二つの特性を描写した。この言葉はおそらく報道の中で最も鋭い人物描写である。

この取締役は、Altmanには非常に珍しい特性の組み合わせがあると言った：彼は毎回の対面の交流において、相手を喜ばせ、好かれたいという強い欲望を持っている。同時に、他人を欺くことがもたらす結果に対して、ほとんど社会病的な無関心を持っている。

この二つの特性が同時に一人の中に存在することは非常に稀である。しかし、販売員にとっては、これは完璧な才能である。

報道の中には良い比喩がある：スティーブ・ジョブズは「現実歪曲フィールド」で知られ、彼は全世界に彼のビジョンを信じさせることができた。しかし、ジョブズでさえ、「私のMP3プレーヤーを買わなければ、あなたの愛する人は死ぬ」と顧客に言ったことはなかった。

AltmanはAIに関して似たようなことを言った。

CEOの人品の問題がなぜ全員のリスクなのか

Altmanがただの普通のテクノロジー会社のCEOであれば、これらの告発はせいぜい素晴らしいビジネスゴシップに過ぎない。しかしOpenAIは普通ではない。

彼ら自身の言葉によれば、彼らは人類史上最も強力な技術を開発している。これは世界経済や労働市場を再構築する可能性があり（OpenAI自身がAIによる失業問題に関する政策白書を発表したばかりである）、また大規模な生化学兵器を製造したり、サイバー攻撃を仕掛けるために使用される可能性もある。

すべての安全策は名ばかりのものとなった。創業者の非営利の使命はIPOの突進に道を譲った。前チーフサイエンティストと前安全責任者はCEOを「信頼できない」と認定した。パートナーはCEOをSBFに例えた。このような状況で、このCEOが一方的に人類の運命を変える可能性のあるAIモデルの発表を決定する権利があるのか？

Gary Marcus（ニューヨーク大学のAI教授、長年のAI安全の提唱者）は報道を読み終えた後、こう書いた：もし将来のOpenAIモデルが大規模な生化学兵器を生み出したり、壊滅的なサイバー攻撃を引き起こすことができるなら、あなたは本当にAltman一人にその発表を決めさせることができるのか？

OpenAIの『ニューヨーカー』への反応は簡潔だった：「この記事の大部分は、報告済みの事件を再炒めし、匿名の発言や選択的な逸話を通じて、情報源は明らかに個人的な目的を持っている。」

まさにAltmanの反応の仕方である：具体的な告発には応じず、メモの真実性を否定せず、動機を疑うだけである。

非営利の死体の上に、金のなる木が育つ

OpenAIの10年を物語のアウトラインにすると、次のようになる：

AIリスクを懸念する理想主義者たちが使命駆動の非営利組織を設立した。組織は非凡な技術的突破を達成した。その突破は巨額の資本を引き寄せた。資本はリターンを必要とする。使命は道を譲り始めた。安全チームは解散した。疑問を持つ者は排除された。非営利の構造は営利の実体に変わった。かつて会社を閉じる権限を持っていた取締役会は、今やCEOの盟友で満たされている。かつて人類の安全を守るために20%の計算力を提供すると約束した会社は、今や広報担当者が「それは実際には存在しないものです」と言っている。

物語の主人公は、100人以上の関係者から同じラベルを付けられた：「真実に縛られない。」

彼はこの会社をIPOに導こうとしており、評価額は8500億ドルを超える。

本文情報は『ニューヨーカー』、Semafor、Tech Brew、Gizmodo、Business Insider、The Informationなどの多くのメディアの公開報道を総合したものです。