AIエージェントに自己改善をさせるのに要るのは、指示書に足す3行だけです。
しかし、もらった指摘を片端から決まりにしていくと、読まれない決まりばかりが増えていきます。
どこで数を止めるのか、出てきた決まりをどこへ書かせるのか。貼る文から順に並べます。
この3行を、エージェントの指示書に貼る
最初にやることは、文を貼ることだけです。指示書の末尾に「仕事が終わったら、その回に私からもらった指摘を並べる。同じ方向を指すものが2つ以上あったら、再発防止を1つ出す。採るかどうかは私が答える」と書き足します。
これで、仕事が1つ終わるたびに、エージェントが自分の外した回数を数えて、次の回の決まりを1つ出すようになります。文面を考えるのはエージェントで、私が答えるのは採るか採らないかだけです。
減るのは、私が同じことを言い直す回数です。指摘の件数そのものは、あまり変わりません。
同じ方向の指摘を何回したかを、エージェントに数えさせる
3行を貼ったら、次は数え方を決めます。指摘が6件あっても、方向が1つなら、直すところは1か所です。
私はAIエージェントに任せた仕事で、同じ方向の注意を3回言い直したことがあります。1回目は言い方を変え、2回目は例を足し、3回目は結論から書きました。相手は毎回、言われたところだけを直しました。やり直しは4回になりました。
件数で数えていると、この3回は別々の指摘に見えますが、方向で数えれば1つにまとまります。エージェントに数えさせるのは、方向のほうです。
Self-Refineという研究（Madaanら、2023年、NeurIPS）は、自分の出力に自分でフィードバックを付けて直させると、評価した全タスクで成績が平均およそ20ポイント上がったと報告しています。
出てきた再発防止は、指示書のファイルに書かせる
数え方が決まったら、書く場所を決めます。会話の中で決めた直し方は、次にエージェントを動かしたときには残っていません。
書かせる先は、いま使っている指示書そのものです。私は、該当する章の下に2行で書かせています。原因を1行、直す場所を1行です。
2行にしているのは、長く書かせると次の回に読み飛ばされるからです。
1回しか言っていないことは、決まりにしない
書く場所が決まると、今度は書きすぎが起きます。1回しか出ていない指摘まで決まりにすると、読まれない決まりが増えていきます。
線は2回です。同じ方向が2回以上出たものだけを決まりにして、1回で済んだものは、その場で直して終わりにします。
増やさない基準を先に持っておく方が、あとで削るより軽く済みます。
やらなくていいこと。自分でコードを書き換えさせる
逆に、やらなくていいことを1つ書いておきます。自己改善で検索して出てくるのは、人の手を入れずにエージェントが自分のコードを書き換えたり、数百回の実験を自動で回したりする形です。
研究や開発の現場では成果が出ていますが、個人が仕事で使うぶんには要りません。こちらが指摘を返している以上、材料はもう手元にあるからです。
まずは3行だけ足して、1週間だけ回してみてはいかがでしょうか。同じことを2回言わされた回が何回あったかを、来週の同じ曜日に数えてみてください。
