AIへの指示を一行足しただけなのに、出てくるものが痩せた。禁止したのは一箇所のはずでした。それなのに、全体から何かが抜け落ちている。どこが減ったのかも、はっきりとは言えない。
「〜しないで」がうまく効かない、という話はよく聞きます。禁止したはずの言葉が混ざる。基準が相手任せになって、出力がばらつく。だから肯定形で書きなさい、何をしてほしいかを具体的に指定しなさい、と言われます。
この記事が立てる問いは違います。禁止が効かないのではなく、効きすぎたとき、そこで何が起きているのでしょうか。
禁止は無視されたのではない。効きすぎたのだ
先日、定型の文章を作らせる作業で、書き出しの型に不満がありました。
毎回、書き手の身の上話から始まるのです。これまで何々で困っていたが、という前置き。実態と合っていないので、そこを直したいと思いました。
そこで一行足しました。冒頭に前提となる身の上話を置かない、と。
出てきた文章は、たしかに身の上話から始まっていませんでした。指示は守られています。
ただ、別のものも消えていました。本文の途中に入っていたはずの、実際に使ってみた感触の記述です。組み立ててみたらこうだった。この部分を先に確認した。そうした具体が、一つ残らず無くなっていました。
禁止したのは冒頭の一箇所です。本文の途中について、私は何も言っていません。
消えたのは、禁止していない場所にあったものだった
書いたのは、冒頭に身の上話を置くな、という一行でした。
書かなかったことが2つあります。どこまでを冒頭と呼ぶのか。そして、本文の途中に似た記述があったら、それは対象なのか。
受け取る側から見ると、判断できない点が残ります。冒頭とは最初の一文なのか、最初の段落なのか、文章の前半なのか。似ているが同じではない記述を、どちらに寄せるべきなのか。
このとき、確実に叱られない選択肢が一つあります。全部消すことです。
範囲の読めない禁止に対して、受け手は最も広い解釈を取ります。狭く取って違反すれば、指摘されます。広く取りすぎても、たいていは指摘されません。少なくとも、その場では。
禁止には、条文より広い影が落ちる
禁止の条文には、明示された範囲があります。しかし実際に抑制される範囲は、それより広くなります。この差を、この記事では禁止の影と呼びます。
影の大きさを決めているのは、条文の強さではありません。範囲の指定がどれだけ曖昧か、です。
冒頭に身の上話を置かない、は短い一行です。強い言葉も使っていません。それでも影は文章の全域に届きました。冒頭という語が、どこまでを指すか決まっていなかったからです。
逆に、範囲のはっきりした禁止は、影がほとんど落ちません。最初の段落に過去の経緯を書かない、であれば、対象は最初の段落だけです。2段落目以降は明らかに対象外なので、迷う余地がありません。
ここからは私の解釈です。実験で確かめたわけではありませんので、そのつもりで読んでください。ただ、影の大きさが禁止の強さではなく範囲の曖昧さで決まる、という向きは、いくつかの場面に当てはまるように思います。
肯定形に書き換えても、影は消えない
ここで、多くの人がすでに試している対策に触れておきます。「〜しないで」ではなく「〜してください」で書く、というものです。
禁止したはずの表現が混ざる。短くしてと頼んだのに基準が相手任せになる。こうした症状に対して、肯定形への書き換えは実際に効きます。何をすればいいかが決まるので、迷う余地が減るからです。
ただ、影には効きません。
試しに、さきほどの一行を肯定形に直してみます。冒頭は製品の事実から書き始めてください。悪くない指示です。しかしこれでも、本文の途中に体験を書いてよいかどうかは、やはり書かれていません。
肯定形は「何をするか」を決めます。範囲は決めません。この2つは別の軸です。言い換えても、決まっていないものは決まっていないままです。
法律は、この影に名前を付けている
同じ現象に、法律の世界は名前を付けています。萎縮効果です。
1963年、合衆国最高裁はNAACP v. Button（371 U.S. 415）で、ヴァージニア州の法律を違憲としました。多数意見を書いたのはブレナン判事です。
争点の一つは、法文の範囲が広すぎることでした。誰が対象になるのか判然としない。すると人々は、処罰を恐れて、本来は守られているはずの活動まで自分から控えるようになります。
規制の文言は変わっていません。変わるのは、受け手の振る舞いのほうです。判決は、表現には呼吸するための余白が要るという趣旨のことを述べています。
一点、事実と解釈を分けておきます。この判決はAIへの指示について何も述べていません。憲法の下で表現の自由をどう守るかという議論です。ただ、範囲の曖昧な禁止が、書かれた範囲より広い自粛を生むという構造そのものは、60年以上前に法廷で認定されています。
影が見えないのは、無いものを数えられないから
厄介なのは、影が見えないことです。
禁止が効かない失敗は、すぐ分かります。消したはずの表現が出力に混ざるからです。目で見つけられるので、直せます。
効きすぎる失敗は、あるべきものが無いだけです。無いものは、目に入りません。
私が気づけたのは、比べる対象があったからでした。以前の出力が手元に残っていて、そこには体験の記述が入っていた。並べて初めて、消えていると分かったのです。
比較対象がなければ、たぶん気づけませんでした。出てきた文章は整っています。禁止も守られています。どこにも間違いがない。ただ、痩せているだけです。
この非対称は、点検の方法にも効いてきます。禁止が守られたかどうかのチェックでは、影は捉えられません。守られたかを見ているからです。捉えたいなら、禁止していない部分が前と同じだけ書かれているか、を見る必要があります。
判断基準は、その禁止に「どこまで」が書いてあるか
明日から使える基準は、一つだけです。書いた禁止に、範囲が書いてあるか。
やることは単純です。禁止を一つ書いたら、そのすぐ後ろに、どこまでが対象かを書く。冒頭に身の上話を置かない、で止めない。冒頭に身の上話を置かない、ただし本文の途中で使用体験を書くのは対象外、まで書く。一行が二行になるだけです。
順番にも意味があります。禁止を先に書いて範囲を後から足す形にすると、範囲のほうが忘れられます。範囲を書けない禁止は書かない、と決めてしまうほうが確実だと思います。
ただし、この書き方のコストも正直に書いておきます。
範囲を明示するほど、禁止は長くなります。除外の但し書きが増えていく。そして但し書きは、書いた時点で想定した場面しかカバーしません。想定していない場面が来れば、また同じことが起きます。
さらに、範囲を細かく書くと、今度はその外側が「やってよい」と読まれます。影が縮む代わりに、抜け道が生まれるのです。どちらに倒すかは、その禁止が何を守るためのものかで決めるしかありません。
だからこれも取引です。影を小さくすると、抜け道が大きくなります。
よくある疑問
Q：禁止をやめて、肯定形の指示だけにすれば解決しますか。
A：解決しません。肯定形は何をするかを決めますが、どこまでを対象にするかは決めないからです。冒頭は事実から書く、と指定しても、本文の途中をどう扱うかは書かれていません。効くのは範囲の明示であって、否定形か肯定形かという違いではありません。
Q：影が落ちているかどうかは、どうすれば分かりますか。
A：禁止する前の出力を残しておいて、後から並べてみてください。禁止が守られたかどうかのチェックでは見つかりません。見るべきは、禁止していない部分が前と同じだけ書かれているか、です。無くなったものは目に入らないので、比較対象を作っておくこと自体が対策になります。
消えたものは、消えたと言ってくれない
指示がうまくいかないとき、私たちは足りないものを探します。条件が足りない。強さが足りない。具体性が足りない。だから書き足す。
けれど今回は、書きすぎていました。正確には、書いた範囲より広く読まれていました。
禁止は、書いた場所にだけ落ちるものではありません。範囲を決めなければ、その先まで届きます。そして届いた先で消えたものは、消えたと言ってくれません。
あなたが最後に書いた禁止には、どこまで、が書いてあるでしょうか。
