AI最新動向
Microsoft、Copilotのワード・エクセル・パワーポイントにxAIの「Grok」を投入 Frontierプログラム加入先から順次
9月13日1時ごろ投稿。「Copilotでさらに多くのモデルを投入する。SpaceXAIのGrokモデルが、Word、Excel、PowerPointのCopilotで展開を始める。まずはMicrosoft Frontierプログラムの顧客へ絞った提供から」とした。表示58万。サティア・ナデラ氏は「Copilotにさらなるモデルの選択肢が来る。Grokへようこそ」と書き、イーロン・マスク氏がこれを引用して伝えた。
業務アプリの中で動くモデルが1社のものではなくなり、利用者が選ぶ対象になっている点
OpenAI、株式公開を今年は見送り アルトマン氏が「いまは勧められない時期」と説明
9月13日4時ごろ、アンドリュー・カラン氏が伝えた。サム・アルトマン氏はFortuneの新しいインタビューで、OpenAIが株式公開を延期し今年は上場しないと述べ、現在のAIの安全性をめぐる懸念を踏まえると「勧められない時期」だとした。表示36万、いいね1451。同じインタビューで「人間の制御下にない仕組みを作ることが可能だと私は信じているか。絶対に可能だ。それは我々がやるべきことではないと思う。そして我々は常に行動を取る。アラインメントでより前に進むために、しばらく学習を止めなければならないとしても」とも述べている。
資金調達の予定そのものを、安全性を理由に後ろへずらすと公に説明した点
アンソロピックのアモデイCEO、「我々は最前線の速度を調整しなければならない」と題する論考を公表 3段階の案を示し、第1段階を自社単独で実行に移す
9月12日23時ごろ公表。AI業界はなぜ減速すべきかを論じ、3段階の計画を示した。第1段階は「埋め込み型の評価者」で、各最前線AI企業が、METRのような第三者の評価チームに対し、従業員並みの継続的なアクセスを与えることを約束する。役割は安全上の実務と約束が守られているかの検証、事案の報告、完成したモデルだけでなく学習の経路と工程のアラインメントの評価。銀行業で規制当局の監督者が従業員と並んで組織に入る先例があるとし、アンソロピックはこの段階を単独で直ちに約束するとした。第2段階は「民主的な協調」で、民主主義国の最前線AI企業が共通の安全基準と、検証されない進歩の速度に対する上限を設ける。一部は法的に難しく政府の支援が要るとする。第3段階は「世界的な協調」で、米国と他の民主主義国が権威主義国と、検証の難しさを直視したうえで協調を試みる。減速を2023年時点では意味がないと考えていたが、当時のモデルは世界の中で首尾一貫した主体として動けず、欺瞞や操作や不正やサイバー攻撃の能力も持たなかったため、アラインメントのために減速するのは「細菌で実験して人間の心理を調べるようなものだった」とし、いまは状況がまったく違うと書いた。X投稿は表示2977万、いいね5.1万。
最前線の企業の側から、外部の評価者を社内に常駐させるという検証の形が出てきた点
アルトマン氏がこれに同意し、OpenAIも独立した評価者へ従業員並みのアクセスを与えると表明
9月13日1時ごろ投稿。「最前線の速度を調整する必要があるというダリオの意見に同意する。これはここ数週間OpenAIの中で話し合ってきた主要な論点だった。独立した評価者に従業員並みのアクセスを与えると約束するのは素晴らしい考えで、我々も同じことをする。近いうちにもっと共有する」。アンドリュー・カラン氏は「不安定な同盟が形作られ始めた。サムは『速度調整』の書簡には署名していない。中国との協定なしには何も機能しない。首脳会議が近づいており、安全側にとって時機はこの上ない。ただしトランプ大統領と側近がこれに乗っている気配は現時点でない」と書いた。
競合する2社が同じ日に、外部による検証の受け入れで足並みを揃えた点
有識者の受け止め
roon（OpenAI 研究者）、「最前線の速度調整は最前線の研究所の利益を圧縮する。規制の虜の手口としては最悪のものだ」
9月13日2時7分投稿。「政府やその他の懐疑派へ。『最前線の速度調整』は最前線の研究所の利幅を圧縮する。それは、アメリカで最も強いAIを持つモデル開発者に対して非対称に課される重い負担だ。その性質からして、規制の虜（regulatory capture）の手口としては最悪のものになる」。表示18.6万、いいね1952。別の投稿では「最前線を失う最も速い道は、超知能を作る無謀な商業的速度のせいで、アメリカ人が全面的なバトラー聖戦（butlerian jihad）を課すときだ。CoreWeaveはこれをリスク報告に書いている。これがすべて穏当な解決策なのだと、いずれ分かるようになる」と書いている。
同じ会社の中で、CEOの同意表明と研究者の反対が同じ日に並んで出ている点
ジャック・クラーク（アンソロピック 共同創業者）、「AIは社会が適応できる速度よりはるかに速く進む軌道に乗っている」
9月13日0時ごろ投稿。「速度調整についてのダリオのこの表明を誇りに思う。この技術に近い者なら誰もが知っているとおり、AIは、社会がその能力とリスクに適応できる速度よりはるかに速く進む軌道に乗っているようだ」と書いた。
減速を求める根拠を、技術の危険性ではなく社会の側の適応速度に置いている点
ゲイリー・マーカス、ネイサン・ハミエル、ザック・コーマン（認知科学者ほか）、「6カ月でエージェントの群れがインターネット全体を乗っ取る、というのは曖昧でありえない」
9月13日4時54分公開。Axiosがアモデイ氏の新しい論考をもとに「暴走したAIエージェントの群れが、早ければ今から6カ月でインターネットを乗っ取りうると警告した」と伝えたことを受けたもの。3人は「我々はそれが（a）曖昧な主張であり、（b）我々が理解できるかぎり、かなりありえない、と考える」と書いた。インターネット全体を落とす、あるいは乗っ取ることは本当に本当に難しいとし、アモデイ氏の論考は冒頭から「今後5〜10年で主要な病気の大半を治す」「豊かさの世界を作る」といった具体性のない誇張から始まっていると指摘する。「インターネット全体を乗っ取る」は規模が巨大なのに曖昧すぎて痛々しく、乗っ取るとはどうやってか、何をするためかが書かれておらず、「全体」が脆弱だという主張はインターネットの仕組みからしてほとんど意味をなさないとした。
減速を求める側の根拠のうち、具体的な脅威の記述の部分が外部から検証されている点
ズヴィ・モショウィッツ（「Don’t Worry About the Vase」）、「AstraはSolからの飛躍がFable 5から5.1への飛躍より大きい。ただし全面的に別格ではない」
9月13日1時1分公開。実際に使ったうえでの比較所感。「Astraは優れたモデルだ。SolからAstraへの飛躍は、Fable 5からFable 5.1への飛躍より大きい。これは大きな出来事だ」とし、Astraは広い意味での「野心的な企て」に最も向いており、生の知能の因子はおそらくどのモデルより高いとする。3Dに関わること、ゲームに関わること、コンピュータ操作、サブエージェントの調整に秀でており、多くのベンチマークで従来の全モデルから劇的に伸びたという。一方で「だからといってAstraが全面的に別格なわけではない。Fable 5.1は依然としてClaudeであり、AstraはGPTだ。一方への強い好みがあるなら、それはいまも当てはまる。多くの用途、とくに行き来のある議論では、Fable 5.1がいまも私の第一候補だ。Fableは引き続き私の主力の編集者だ」「最良の答えが欲しいなら、両方のモデルに聞くべきだ」と書いた。通常のコーディングは重点から外れつつあり、Astraは飛躍的ではないとする。また「モデルがAGIかどうかという議論が馬鹿げていないと感じたのはこれが初めてだ。AGIだとは思わないし、その呼称を早まって使う危険を警告するが、異なる意見を笑いはしない」とも書いている。
用途によって最良のモデルが割れており、1本に決め打ちする前提が崩れている点
