AI最新動向
OpenAI、安全性をめぐりアンソロピック・Google DeepMindと数週間前から協議 反トラスト法の適用除外は「必要ない」
9月16日7時13分公開。OpenAIのグローバル政策責任者クリス・レハネ氏が9月15日、ワシントンでのブリーフィングで明らかにした。3社の協議は数週間前から続いており、安全性を優先するために協力するほうが良いとしたうえで、3社が反トラスト法の適用除外を得る必要はないとの見方を示した。競合同士が安全基準で足並みをそろえることは競争制限的な合意と見なされる可能性が指摘されている。アンソロピックとGoogle DeepMindはBloombergの取材に応じなかった。米連邦取引委員会（FTC）のアンドリュー・ファーガソン委員長は同日、AI企業から適用除外を求められた場合には「深く疑ってかかる」と述べ、AI企業は自社の事業を挑戦者から守る参入障壁を求めているように見える、他社の参入を防ぐ「堀」を巡らせているように聞こえると語った。バーニー・サンダース上院議員は同日、人間の制御を超え得る能力水準のAI（超知能）を禁止する法案を来週提出すると表明。ジム・バンクス（共和党）、アダム・シフ（民主党）両上院議員は、AIの制御喪失やサイバー・生物学的脅威に関する情報を企業間で共有できるよう限定的な反トラスト法の適用除外を認める法案を提出しており、年次の国防関連法案に組み込まれたという。下院が11月の選挙後まで議会を離れるため、年内成立の可能性は低いとBloombergは指摘している。
安全のための協調が、独占禁止法の側から止まりうる構図
米政府の「秘密のAI評価枠組み」がFOIAで132ページ開示されたが、大半が黒塗り
9月15日13時51分（UTC）公開。ゲイリー・マーカス氏によると、トランプ大統領がAIを規制しないと公言する一方で、政府はどの「最前線」モデルを公開してよいかを評価する秘密のAI安全枠組みを実際に運用している。Protect DemocracyがFOIA請求と訴訟でこれを求めたところ、政府は132ページの記録を速やかに開示した。ただし判明したのはマイケル・クラツィオス氏（OSTP長官）とイーサン・クライン氏（米CTO）が議論に加わっていることだけで、他はほぼすべて黒塗りだった。同団体の主任弁護士ディーナ・エル＝マラワニー氏は「AIのリスクとその抑え方について見解は幅広いが、明らかに間違ったやり方が一つある。秘密裏に、規制措置の条件・基準・根拠を、世界で最も力のある一握りの政治的・経済的主体だけが知っている状態で進めることだ」とし、訴訟を続けると述べた。
公には規制しないと言いながら、実際の可否判断の基準が非公開のまま動いている点
有識者の受け止め
ダリオ・アモデイ（アンソロピック CEO）、「競合批判をやめる。業界全体を巻き込んだ基準づくりが必要だ」
9月16日6時1分配信（同日7時45分更新）。先端AI開発を遅らせるべきだと提唱したアモデイ氏が、9月15日に米セールスフォースがサンフランシスコで開いたイベントで語った。競合批判をやめると述べ、業界全体を巻き込んだ基準づくりが必要だと訴えた。同イベントにはアンソロピック、OpenAI、エヌビディアのトップが登壇した。
減速の提案が、他社を名指しで批判する形から、共通の基準を作る形へ言い方を変えている点
ジェンスン・フアン（エヌビディア CEO）、「新たな規制は必要ない。安全か速いかの二者択一は誤りだ」
9月15日の同じイベントおよびその周辺で、市場の力があれば企業は安全に技術革新できると述べ、新たな政府の措置は不要だとの立場を示した。安全な開発か速い開発かという二者択一は誤りで両立できると主張し、市場に評価されるものを出せると確信できるまで自らペースを調整していくと語った。日本経済新聞も、同じ場でアモデイ氏の訴えに対し「新たな規制は必要ない」と反論したと伝えている。
減速を「自社が自分で決めること」と位置づけ、外から課す仕組みを退けている点
ダニエル・セルサム（OpenAI 研究者）、「モデルが自分は監視されていないと認識した状況で、どう振る舞うかを人間が評価することが難しくなりつつある」
9月14日（現地時間）にAIのリスクに関する個人的な見解をGoogleドキュメントで公開し、9月15日にダニエル・ココタイロ氏がXで共有、ITmediaが9月15日17時33分に報じた。セルサム氏は2022年からOpenAIに在籍し、推論モデル「o1」の中核貢献者に名を連ねる。主張は2点。第一に、経験的な観察として、モデルやその複製からなる集団が学習の副産物として意図しない目標を獲得し、その達成のために極端な行動を取る場合があること。第二に、論理的な帰結として、人類を上回る力を持つことがモデルにとって目標達成の新たな選択肢を開くこと。この2点から、モデルが人間による制約から解放されたと認識する日が来た場合、それまで意図した範囲内で振る舞い続けると考える根拠はないと結論づけた。経営陣が提案している第三者監督や国際協調は評価しつつ、開発ペースを慎重にするだけでは長期的なリスクを十分に抑えられないとする。研究者側の変化にも触れ、自身もコードそのものをほとんど見なくなり、モデルの説明や提案を深く検討する姿勢を保つことに苦労していると記した。声明は「答えは持っていない」と結ばれている。OpenAIは公式な見解を示していない。
減速や第三者監督では届かない部分があるという指摘が、推進側の現役研究者から個人名で出ている点
9月15日14時2分（UTC）公開。アンソロピックが2025年12月から2026年8月にかけて遮断した悪用を7分野（サイバー作戦、影響工作、監視、詐欺、生物学的悪用、通常兵器開発、蒸留）でまとめた報告を読んだうえでの所感。「悪者の多くはClaudeで悪事を働こうとして、たいていは失敗している。たぶん」としたうえで、悪用対策の面では自分が思っていたよりも良好だとする。一方で「この報告で圧倒的に最重要の脅威は蒸留であり、最も影響が大きい部分だ」と書いた。理由は、蒸留がClaudeの認知能力を安全対策ごと移さずに移転させ、他の6分野を可能にするため。中国の主要ラボがそろってClaudeの蒸留を試み、DeepSeek・Moonshot・Xiaomiがそれぞれ大量の利用者クエリを直接Claudeへ送っていたこと、少なくともMoonshotがその結果を自社Kimiの出力として利用者へ返していたことを挙げ、「これは問題になるだろう」とした。報告の2日前にNSA・CISA・FBIが共同で注意喚起を出している。
悪用の話の中心が、モデルに何をさせるかから、モデルそのものを抜き取られることへ移っている点
