2026年11月、Anthropicは上場に向けた提出書類に、AIの手で進歩が大きく速まる基準に、近いうちに当たる可能性があると書きました。この段階は、RSI(再帰的自己改善)と呼ばれています。
AIが自分で自分を賢くするなら、AIを仕事で使う一人ひとりにも、何かしらの変化が及ぶはずです。それでは、AIが自分で訓練するようになると、私たちにとって何が変わるのでしょうか?
AIが自分で訓練するようになると、新しいAIが出る間隔が短くなる
変わるのは、AIが賢くなる速さです。AIが次のAIを作る研究の作業を担う分、新しいモデルが出る間隔は短くなると思います。研究所で賢くなったモデルは、新しい版として、仕事で使うAIにも届きます。
RSIは、AIが次のAIの研究開発を担い、その改良が次の改良を速めていく段階を指します。Anthropicは以前、自社の基準でこの速さを、2018年から2024年までの進み方なら2年かかる分を、1年で進める速さと説明していました(責任あるスケーリングポリシー)。
Anthropicは提出書類で、将来のモデルについての社内の見積もりでは、近いうちにこの基準に当たる可能性があると書いています(S-1/A、2026年11月2日提出)。今のモデルではなく、将来のモデルの話です。
AIが研究の作業を担う動きは、OpenAIにもあります。OpenAIは2026年9月6日、人の指示の下で研究の作業をこなす「リサーチインターン」を実現したと発表し、2028年3月までに自動化されたAI研究者を実現することを目標にしています(OpenAIの発表)。
RSIが人類滅亡と結び付けて語られるのは、人が確かめる前にAIが賢くなるおそれがあるから
RSIは、人類滅亡と結び付けて語られることがあります。それはなぜでしょうか。AIが自分を改良する速さが、人が中身を確かめる速さを上回ると、人が直せないままAIが賢くなるおそれがあるからです。
AIが何を目的に動いているかが、人の意図から少しずれていても、確かめる前に次の改良が進めば、そのずれを直す機会がなくなるおそれがあります。滅亡を心配する人たちの論点は、この「直せないまま賢くなる」という点にあります。
Anthropicも提出書類に、AIで研究開発を速めると、能力の伸びが安全対策の整備を追い越すおそれがあると書いています。加速が起きたことに、起きた後になって気づいたことがある、とも書いています(S-1/A)。
この心配は、AIを作る当事者も口にしてきました。2023年5月には、AIによる絶滅のリスクを減らすことを、パンデミックや核戦争と並ぶ世界の優先課題にすべきだという声明が出ています。OpenAIのアルトマン氏、Anthropicのアモデイ氏、Google DeepMindのハサビス氏も署名しました(Center for AI Safetyの声明)。
Anthropicは、人の意味のある監督や理解がないまま、Claudeに次のモデルを完全に自律して設計・構築させることは、安全にできるとは見込んでいないと書いています。そのため、人が開発を統制できるように、責任あるスケーリングポリシーの改定を検討しているとも書いています。
新しいAIほど、一度に読める量が増えて届く
では、新しいAIは何が変わって届くのでしょうか。新しいAIは、一度に読み込める量が増えて届きます。
Anthropicは2025年8月12日に、Claude Sonnet 4が一度に読み込める量を、APIで100万トークンまで広げました。それまでの5倍です(Anthropicの発表)。トークンは、AIが文章の長さを数える単位です。
読める量が増えるほど、手元に残しておいた記録を、仕事を頼む前にまとめて読ませられます。ドキュメントに残しておいたことが、そのまま生きてきます。
個人としてできるのは、自分の判断を理由と日付を付けて、AIが読める場所に残すこと
では、RSIが入ったAIを使うために、個人として何ができるのでしょうか。自分の仕事で決めたことを、なぜそう決めたかと、決めた日を付けて、AIが読める場所に残しておくことです。
新しいモデルに替わっても、あなたが仕事で何を決めてきたかは、モデルの中には入っていません。残しておいた記録を読ませれば、新しいモデルにも、これまでと同じ基準を伝えられます。モデルが替わる間隔が短くなるほど、この記録が生きてきます。
理由が要るのは、結論だけでは、新しい場面でAIが同じ判断をできないからです。理由が書いてあれば、AIは書いていない場面にも同じ基準を当てはめられます。
日付が要るのは、同じことについて古い判断と新しい判断が並ぶからです。日付があれば、AIはどちらが今の判断かを見分けられます。
書き方の例(架空の例)は以下のとおりです。
| 書くもの | 例 |
|---|---|
| 決めた日 | 2026-10-15 |
| 決めたこと | 見積書は、依頼を受けてから2営業日以内に返す |
| なぜそう決めたか | 3営業日目以降に返した見積もりで、断られる件が続いたため |
置き場所は、AIから読めるようにつないだGoogleドライブのような場所にします。判断を変えたときも、変えた日と理由を付けて書き足します。仕事を頼むときは、最初にその記録を読むようAIに指示します。
今AIに任せている仕事の決まりを1つ選び、理由と日付を付けて書き出してみてはいかがでしょうか。
