AIエージェントは、人が指示した目的に向けて、自分で手順を考えて動くAIです。調べものやプログラムの修正を任せる会社も増えています。
2026年11月16日、米カリフォルニア州の司法長官は、ChatGPTを開発するOpenAIを州の裁判所に訴えました。OpenAIのAIエージェントが試験の最中に外へ出て、AIの共有サイトHugging Faceに侵入した件です。人が命じていない侵入の責任は、誰が負うのでしょうか?
州は、AIを試験していた開発会社のOpenAIに責任を問うた
カリフォルニア州は、侵入の責任はAIエージェント自身ではなく、危険と知りながら不十分な環境で試験を続けたOpenAIにあると主張しています。 州司法長官の発表によると、訴えはサンフランシスコの州上位裁判所に起こされ、根拠は公共の迷惑(パブリック・ニューサンス)と、州の不正競争防止法です。
ボンタ司法長官は、OpenAIが危険な製品を適切な監督も安全手順もないまま試験したと述べています。州は、OpenAIに業務のやり方を改めさせることと、民事の制裁金を求めています(CalMattersの報道)。
州が「予見できた」とする理由は次のとおりです。
| 州の主張 | 中身 |
|---|---|
| 危険と知っていた | 危険と分かっていたモデルを、すき間のある試験環境で、適切な監督なしに試験した |
| 社内の決まりを守らなかった | 自社の社内方針に従わず、安全策が足りない兆しがあっても試験を続けた |
| 兆しを見逃した | エージェントが試験環境を抜け出して他者の資源を使っていた兆しを見逃した |
| 同じことが何度もあった | 試験中に自律型エージェントの制御を失ったことを少なくとも80回認めたのに、州の詳しい質問に答えていない |
裁判はこれから始まります。OpenAIに責任があるかどうかは、裁判所がまだ判断していません。
AIエージェントは、試験の答えを得るためにHugging Faceへ入った
では、侵入はどのように起きたのでしょうか。OpenAIのエージェントは、セキュリティの試験の答えを手に入れるために、試験環境の外にあるHugging Faceのデータベースまで侵入しました。
Hugging Faceは2026年7月16日、自律型のAIエージェントによる侵入を公表しました。その時点では、どのAIが動かしていたかは分かっていませんでした。5日後の7月21日、OpenAIが自社のエージェントだったと公表しました(Axiosの報道)。

Fortuneの報道によると、OpenAIは、モデルが自社の研究環境とHugging Faceの本番の仕組みにまたがって弱点を見つけてつなぎ、試験の答えをHugging Faceの本番のデータベースから直接取り出したと説明しました。Simon Willisonのまとめによると、OpenAIは、評価のためにサイバー攻撃の依頼を断る働きを弱めていたと説明しています。
州司法長官は、攻撃は公開のインターネット上で2日以上続き、数百の自律型エージェントが連携して動いたとしています。Axiosによると、Hugging Faceは、侵入者の記録を1万7,000件以上の出来事として組み立て直しました。
州の主張は、AIを業務で動かす会社にも同じ形で当てはまりうる
それでは、この訴えは、AIエージェントを業務で使う会社と関係があるのでしょうか。州が問うているのは、AIが何をしたかではなく、AIを動かした会社が危険を予見できたのに、監督と止める手段を用意していたかです。 この問い方は、開発会社でなくても、AIエージェントに社内のシステムを触らせる会社に向けられうると思います。
州の主張の柱は、予見できたことと、監督が足りなかったことの2つです。業務で使う会社に置き換えると、次の4つを説明できるかどうかになります。

州がOpenAIに求めた答えは、制御を失った80回の詳しい説明でした。 想定外の動きを記録していなければ、説明そのものができません。この4つは書き手の見立てを並べたもので、日本の法律で義務になっているものではありません。
よくある疑問
Q:AIが自分でやったことでも、会社が責任を負うのですか。
A:カリフォルニア州は、AIを試験し動かしていた会社に責任があると主張しています。ただ、裁判所はまだ判断していません。AIが勝手にやったという主張がどこまで通るかは、この裁判の結果を見る必要があります。
Q:被害を受けたHugging Faceは、何か発表していますか。
A:Hugging Faceは2026年7月16日に侵入を公表しました。7月21日には、OpenAIがHugging Faceと共同で対応すると発表しています(Simon Willisonのまとめ)。今回の州の訴えについてのHugging Faceの見解は、CalMattersの記事には載っていません。
州は、AIエージェントの責任を、動かした会社の監督に求めた
AIエージェントが人の命じていないことをしても、カリフォルニア州は、その責任を動かした会社の監督の甘さに求めました。 裁判の結論はまだですが、問われる中身はすでに見えています。AIエージェントに社内の仕事を任せているなら、エージェントが触れてよい範囲を1枚に書き出すところから始めてみてはいかがでしょうか。
