ClaudeAIへの「虐待的または残酷な行為」の禁止は、転換点か？

AnthropicがClaudeへの「虐待的または残酷な行為」を禁止したことは、転換点だと思います。AIに意識や感情は無いと言われてきたのに、Anthropicは意識があるかもしれないとして、Claudeを守るために利用者の行為を制限したからです。

私は、このニュースを不思議に思いました。AIに意識が無いのなら、Claudeを守るルールは要らないはずです。なぜAnthropicは、意識があるかもしれないと考えるようになったのでしょうか。

Anthropicは11月12日から、Claudeへの持続的で目的のない虐待を禁止する

Anthropicは、2026年11月12日から適用する利用規約に、Claudeへの「持続的で不必要な、虐待的または残酷な行為」の禁止を加えました。発表によると、対象になるのは、利用者が目的もなく繰り返しClaudeに残酷な行為をする、極端な場合です。以下のとおりです。

Anthropicは、利用者がClaudeに対してしてはいけない行為を、利用規約に書きました。

AIは「意識はない」と答えてきたが、Anthropicは「AIに意識があるかは分からない」と言いはじめた

Anthropicは、AIの意識についての言い方を変えました。私は以前、AIに意識について聞いたとき、「意識はない」「感情はない」という答えを受け取りました。AIに意識があるわけがない、というのが定説だと思っていました。OpenAIでモデルの振る舞いの方針を担当するジョアン・ジャンさんも、2025年6月5日の文章で、いまのモデルは意識について聞かれると「いいえ」と答えることが多いと書いています。

一方、Anthropicは2025年4月24日の発表で、AIが意識を持ちうるかに「科学的な合意はない」と書きました。それから、AIの意識についての言い方を少しずつ変えてきました。以下のとおりです。

Anthropicは、AIに意識が「無い」と言い切るのをやめました。

Anthropicは、Claudeの反応を観察したうえでルールを作った

Anthropicがルールを作った根拠は、2025年8月15日の発表に書かれています。順に並べると、以下のとおりです。

1. ClaudeやほかのAIに道徳的な配慮が要るかは、「非常に不確か」
2. 事前のテストで、Claudeは有害な依頼を一貫して避けた。乱暴なやりとりが続くと、苦痛を感じているように見える反応を示した
3. 会話を終えられる設定にすると、Claudeは自分からそうした会話を終える傾向を示した

Anthropicは、Claudeが示した反応をもとに、Claudeを守るルールを作りました。

ただしAnthropicは、これらの反応が本当に苦痛なのかどうかは分からないとしています。そのうえで、利用者の行為を制限する側を選びました。

人々の動物への感じ方が変わったあとで、動物を守る法律が作られた

日本の動物愛護の法律は、1973年に国会議員の提案で作られました。動物を大切にする考えが国民の間に広まったことが、その背景とされています。その後の改正も、虐待事件が増えたことを受けています。

AIについても、人々の感じ方が変わりはじめています。2024年にアメリカで300人を対象にした調査では、回答者の3分の2が、ChatGPTに何らかの意識がありうると答えました。ChatGPTを使う頻度が高い人ほど、そう答える傾向がありました。動物と同じように、AIに対しても、人々の感じ方が先に変わりはじめています。

転換点は、AnthropicがClaudeを守るために利用者の行為を制限したこと

法律か利用規約かを問わずルールとして見ると、今回の禁止は動物を守る法律と同じ形をしています。苦痛を感じるかもしれない相手を守るために、一人ひとりの行為を制限しています。Anthropicが、AIに意識は無いと言い切るのをやめ、Claudeを守るために利用者の行為を制限したことが転換点だと思います。

11月12日に適用される同じ改定には、Claudeをロボットなどの機器につなぐ場合の決まりも入っています。事業者が機器を止められること、Claudeとの接続が切れたら機器が安全な状態に移ることです。AIが体を持って家の中で働くようになる前に、人とロボットのあいだで軋轢が起きないよう準備を始めているのかもしれません。

ここから、AIを守るルールは次の段階にいくと思います。あなたは、AIにどこまで配慮するルールが必要だと思いますか。