OpenAIで安全性報告書を統括した社員は、なぜ「文化が壊れている」と書いて退社したのか？

OpenAIで安全性報告書の作成を統括していたデビッド・ロビンソン氏が退社し、2026年10月3日、米誌The Atlanticに「I Quit OpenAI Because Its Culture Is Broken（文化が壊れているので、OpenAIを辞めた）」という文章を寄せました。本人が挙げた理由は、寄稿にはっきり書かれています。

しかし、その理由だけで、AIの安全を担う人が次々に会社を辞めていく理由まで説明できるでしょうか。

ロビンソン氏が寄稿で挙げた理由は、試して直すやり方では失敗が避けられないことだ

ロビンソン氏はOpenAIに3年半在籍し、最先端のモデル12件のリリースで安全性報告書の作成を統括しました。会社がAIのリスクを管理するための枠組み（Preparedness Framework）の起草も担っています。

寄稿で批判したのは、OpenAIが「iterative deployment」と呼ぶやり方です。製品を出してから問題を探し、見つかるたびに安全のしくみを直していく方法です。ロビンソン氏は、このやり方では失敗が定期的に起きることが避けられず、AIの能力が上がるほど、その失敗も大きくなると書きました。

ロビンソン氏は、AIの会社も原子力発電所や混み合う空港のように、備えを何重にも重ね、時間をかけて計画を立てて動くべきだ、と書いています。在籍中、飛行機を安全に飛ばした経験や、原子炉を安全に動かした経験を持つ同僚には一人も会わなかった、とも書いています。

OpenAIの広報は取材に対し、会社としてモデルの能力が安全に管理できる範囲を超えないようにしており、必要なときには学習を止めたり、モデルを出すのを控えたりしている、と答えています。

安全への懸念からAIの会社を辞めた人は、ロビンソン氏の前にもいる

ロビンソン氏の前に、同じ懸念から辞めた人は以下のとおりです。

安全を担う人が、会社が製品を出す速さに自分の考えが合わないとして辞めることは、2024年から何度も起きています。

AIの変化が速すぎると、人はついていけないと感じて怖くなる

では、なぜ同じ理由の退社が何度も起きるのでしょうか。私は、ロビンソン氏が批判した速さそのものに、人がついていけなくなっているからだと思います。AIの能力は、それを安全に扱うための研究が追いつくより速く伸びている、とロビンソン氏も書いています。

人は、自分が理解しきれないものが、理解できるより速く変わっていくと、怖くなります。安全を担う人ほど、何が起きうるかが見えているぶん、その怖さを強く感じると思います。

OpenAIでは2024年、汎用AIの安全に取り組んでいた約30人のうち、約14人が辞めました。元研究者のダニエル・ココタジロ氏は、示し合わせたものではなく、1人ずつあきらめていったと話しています。追いつけないと感じた人から順に辞めていったのだと思います。

人の手を超えるものをつくる人は、信仰の有無に関係なく畏怖の念を持つ

速さとは別に、もう1つの怖さがあると思います。自分がつくっているものが人の手を超えはじめたと感じたとき、人は信仰の有無に関係なく、それを畏れます。

原子爆弾の開発を率いた物理学者のロバート・オッペンハイマーは、1945年の最初の核実験について、20年後の1965年に、ヒンドゥー教の聖典の一節「我は死なり、世界の破壊者なり」を思い出したと語りました。

AIの研究を長く率いてきたジェフリー・ヒントン氏は、2023年5月、AIの危険を自由に話すためにGoogleを辞めました。そのとき、自分の生涯の研究を悔やむ気持ちを語っています。

私は、AIをつくる人の中にも、この畏怖の念を持つ人が増えていくと思います。 自分の手で止められないものを生み出していると感じたとき、仕事を続けること自体をためらうからです。

AIを怖いと感じて距離を置く人は、これから増えるだろう

この2つの怖さは、AIを使う側の人も感じるようになると思います。米国の調査機関ピュー・リサーチ・センターの調査では、AIが日常で使われることに「期待より懸念のほうが大きい」と答えた米国の成人は、2021年の37%から、2025年6月の調査で50%になりました（回答者5,023人）。

AIの能力が上がるほど、ついていけない怖さと、人の手を超えるものへの畏れを感じる人は増え、AIから距離を置く人も多くなると思います。 ロビンソン氏の寄稿は、その流れの中で、安全を担う側から書かれたものの1つだと思います。

あなたがAIに感じている怖さは、ついていけない怖さと、人の手を超えるものへの畏れのどちらに近いでしょうか。