AIエージェントの回答が遅いときに確認するものは、5つです。指示書の長さ、作業に入るたびの読み直し、外部への問い合わせ、出す前の点検の段数、画面の操作です。
しかし、この5つは、指示書を書いた本人には見えていません。私は自分の指示書について「どこで時間がかかっているのか」をAIに聞くまで、5つのうち2つが何のことか分かりませんでした。
やることは4つです。先にAIの外側の原因を除く。AIに要素を挙げさせる。要素ごとに、止めたら何が失われるかを聞く。やり直しのたびに繰り返している手順から止める。
先に、混雑、通信、キャッシュ、会話の長さの4つを除く
指示書を疑う前に、AIの外側にある4つの原因を除きます。サーバーの混雑、通信の不安定、ブラウザのキャッシュ、会話が長くなっていることの4つです。
この4つは、検索で上位に出る記事が全部書いています。そして4つとも、指示書を1行も変えずに確かめられます。新しい会話を開いて、短い質問を1つだけ投げます。その短い質問が数秒で返ってくるなら、外側の4つは白です。
短い質問は数秒で返ってきたのに、いつもの作業を頼むと何分も待つ。そのときは、指示書の側に原因があります。
指示書に足した1行が、AIには往復1回になる
指示書に手順を1行足すたびに、AIが1回の返答の中でやることが1つ増えます。
たとえば「作業に入る前に、指示書の該当する節を読み直す」という1行です。書いた側には1行です。AIの側では、ファイルを探し、その節を読み、それから作業に入ります。往復が1回増えます。「出す前に、別のAIに読ませて確かめる」という1行なら、別のAIを呼び、返事を待ち、その返事を読む。これも往復です。
私の指示書は144,067字ありました。出す前の点検の項目が30、その点検を別のAIに2段で委譲する手順があり、ドキュメントを1つ作るたびに画面の操作が5往復以上入っていました。記事を1本作ると、画面の操作だけで最低6回です。1行ずつは小さくても、返答1回の中に何十往復も積み重なっていました。Anthropicの公式ドキュメントには、AIが読む量と書く量が少ないほど返答は速い、と書かれています。読み直しの手順は、その読む量を作業のたびに積み増していました。
AIに、時間を食っている要素を挙げさせる
往復の数は書いた本人には見えないので、AIに数えさせます。
AIに貼る文はこれです。「この指示書に従って1回返答するまでに、あなたが何を何回やっているかを、時間のかかる順に挙げてください。」
私が聞いたときは、5つ返ってきました。指示書の長さ、作業に入るたびの読み直し、外部への問い合わせ、点検の段数、画面の操作です。このうち「起動時と作業の入口の確認作業」は、私には何のことか分かりませんでした。自分で書いた指示書に、自分で足した手順です。それでも、AIがその1行を実行するときに何をしているかは、書いた時点では想像していませんでした。分からない項目は、消す前に、それが何かを普通の言葉で説明させます。
要素ごとに、止めたら何が失われるかをAIに聞く
要素が出そろったら、1つずつ「これを止めると、何が失われるか」を聞きます。
私の場合、答えは4通りに分かれました。画面の操作を止めると、失われるのはドキュメントを開いたときの見た目だけでした。2分の待ちを止めると、何も失われませんでした。前の記事の直しを書きはじめに数える作業を止めると、数える時期が公開のあとに動くだけでした。外部を読みに行く工程と点検を止めると、記事の中身が失われます。
「何も失われない」と返ったものから止めます。止める前に、何が変わって何が変わらないかまで言わせます。私は「画面の操作をやめる」と言われたとき、ドキュメントそのものが無くなるのだと思って、決められませんでした。変わるのは開いたときの見た目だけで、コメントも差分も同じだと示されて、決まりました。
やり直しのたびに繰り返している手順から止める
止める順は、やり直しのたびに繰り返す手順からです。1回で済む手順は後です。
起動時の確認は、1回の作業で1回だけです。ドキュメントを出すたびの画面操作や、出すたびの2分の待ち、出すたびの点検の委譲は、ドキュメントの数だけ入ります。記事を1本作ると、ドキュメントは6つで、やり直しが入ると10を超えます。同じ1行でも、待ち時間への効き方が6倍から10倍違います。
私がその日に止めた3つは、全部「出すたびにやる」側でした。画面の操作、2分の待ち、前の記事の直しを数える作業です。止めた日から、ドキュメント1つあたりの画面操作が0になりました。効き目が待ち時間で何分になるかは、次の記事で測ります。
記事の中身を守る手順は残す。減らした分を別の文書へ移さない
遅くても残す手順があります。外部を読みに行く工程と、出す前の点検です。
私の指示書で待ち時間を作っている5つのうち、外部を読みに行く工程と点検の2つは残しました。記事の中身を守っているのはそこだからです。待ち時間より、間違ったものが出てくるほうが高くつきます。遅さを理由にここを削ると、速く出てくる間違いが増えます。
減らした分を別の文書へ移す案は、採りませんでした。移した文書は更新し忘れます。私は前に一度、指示書と別の文書が反対のことを言ったまま、しばらく気づきませんでした。減らすなら、消します。
よくある疑問
Q：手順を並列にすれば速くなりますか。
A：読み取りだけの手順なら並列にできます。ただし、並列は手順の数を減らしません。抱えた数だけ、1本の返答は遅くなります。先に手順を減らしてから、残った読み取りを並列にする順です。
Q：指示書を短くすれば済みますか。
A：長さと複雑さは別です。短い指示書でも、1行が往復を呼ぶ手順なら遅くなります。数えるのは、返答1回に入る往復の数です。字数はそのあとです。
AIエージェントが遅いと感じたら、まず上の1文をAIに貼って、何を何回やっているかを挙げさせてみてはいかがでしょうか。
