日次で動かしたいAIエージェントが30件あります。1時間に1件では足りない、と最初は考える方もいるのではないでしょうか。
出てくる答えは、だいたい2つです。パソコンをもう1台買うか、アカウントをもう1つ増やすか。私も最初は、その2つのどちらかで足りると思っていました。
先に書くと、順番が逆でした。買う前に測るものがあって、測ってから買うと、必要な台数が減ります。
「1時間1件」は、反復の間隔であって置ける本数ではない
私が最初に間違えたのは、数え方でした。
定期実行の最低間隔は1時間です。ただしこれは、1つのタスクを何分おきに繰り返せるかの下限であって、置けるタスクの数の上限ではありません。開始する分をずらせば、同じ時間帯に複数を並べられます。9時00分、9時05分、9時10分と置けば、1時間の中に何本も入ります。
私が「1時間1件でも足りない」と言ったとき、頭の中では1日24件で頭打ちだと計算していました。実際には時間の枠が余っていて、定期実行の件数そのものに上限があるという記載も、公式の説明には見当たりません。
数える対象も混ざっていました。すでに動かしているものには、週次や月次のタスクもあります。それを混ぜて数えると、1週間168時間のうち9枠しか埋まっていないように見えます。数えるべきだったのは日次で動かす分だけで、それだけで30件あります。
詰まっていた場所は、時間の枠ではありませんでした。ここを取り違えると、次の一手が全部ずれます。
パソコンを増やして増えるのは同時に動く数であって、上限ではない
次に出てきたのが、パソコンを5台に増やす案です。
パソコンを増やす案は効きますが、効く先が限られています。ブラウザを使うタスクは、1台の中では順番待ちになります。台数を増やせばその順番待ちが解けるので、増えるのは同時に動かせる数です。
アカウントを増やすと、使える上限そのものが増えます。1席には1席分の枠しかないので、席を足せば枠が足されます。
同じ「増やす」という言葉で並んでいますが、2つは別の問題を解いています。パソコンは待ち時間に効き、アカウントは上限に効きます。パソコンを5台に増やしても、上限は1ミリも増えません。
順番待ちだけなら、台数を増やさずに解く手もあります。毎時1本だけ起動して、その1本の中で当日分を順に流す形です。私はこの形を捨てました。1本が全部を抱えるので、その1本が落ちた日は、当日分が丸ごと止まります。
1本に数十万字を毎回読み込ませていれば、10本でも上限に届く
では、上限を使い切っているのは何でしょうか。
本数ではなく、1本あたりの重さでした。重さというのは、その1本が毎回読み込んでいる文字数のことです。私のAIエージェントの中にも、数十万字の文字起こしを毎回全文読み込ませているものがありました。この形だと、10本でも上限に届きます。読み込ませる量を絞れば、同じ席のまま本数を増やせます。
順番は、ここで決まります。1本あたりの消費を削るのはタダで、台数もアカウントも、削ったあとのほうが少なくて済みます。5台買ってから削れば、3台が余ります。
測るものは2つです。1本が毎回読み込んでいる文字数と、そのうち実際に判断へ使われている部分です。全文を渡していて、使われているのが末尾の1割なら、残りの9割は上限を減らすためだけに払っています。
従量課金へ移せば安くなるはずが、見積もりは1席110ドルの10倍から30倍だった
私はここで一度、大きく外しました。
上限のない方法として、APIの従量課金へ移す案があります。1,000名規模の会社の予算なら誤差だ、という理屈が付いてきます。私はこの案を外しました。1,000名の会社の予算の話をしているわけではありませんし、そもそも安くなかったからです。
Maxは1席で110ドルです。日次30本を回した場合のAPIの費用は、概算で月1,500ドルから4,000ドルになりました。倍率にすると10倍から30倍です。この見積もりは概算なので幅がありますが、幅の下のほうを取っても10倍です。
単価が安いか高いかではなく、いま払っている額の何倍になるかで並べると、選ぶ側の判断が動きます。
プランを上げる案も、同じ場所で消えました。Maxが最上位なので、それより上に払う先はなく、上限を金額で外す道はそこで終わっています。
全文を読ませることが仕事の中身なら、削る手は使えない
ここまで書いた順番には、効かない場合があります。
数十万字を読み込ませていることが、無駄だとは限りません。全文を通して読ませること自体が、その仕事の中身であることがあります。要約を先に作れば消費は下がりますが、そのとき出てくる成果は、全文を読ませたものとは別のものになります。削った時点で、作っているものが変わります。
その場合に残るのは2つで、席を増やすか、単価の高いAPIへ移すかです。どちらもお金がかかります。安くて無制限という選択肢は、探せば見つかるものではありません。サブスクは単価が安いかわりに1席分の上限があり、APIは上限がないかわりに単価が10倍から30倍になります。
席を増やす側にも、確かめきれていない点が残っています。利用規約には、アカウントのログイン情報を他人と共有しないこと、そしてAPIキー以外の手段で自動的にサービスへアクセスしないことが書かれています。ここには、提供元が明示的に認めている手段は除く、という但し書きが付いています。ただし、1人が複数の有料席を持って自分だけで動かす形について、認めるとも認めないとも書かれた箇所は見当たりません。だから、規約違反だとも問題ないとも書けません。席を増やす前に、ご自身で規約の該当箇所を読んでみてください。
台数を決める前に、1本が何を読んでいるかを数える
順番だけ、もう一度並べておきます。
最初に、1本が毎回読み込んでいる量を数えて、その中で判断に使われていない部分を外します。そのうえで残った本数と、同時に動かしたい数を見比べて、席を足すのか、パソコンを足すのかを決めます。パソコンは待ち時間に効き、アカウントは上限に効くので、どちらが足りていないかで選べます。
私の場合、この順番に並べ直したところ、「パソコン5台のほうがコスパが良い」という結論は半分だけ正しいと分かりました。コストの比較としては正しく、上限の話としては効いていませんでした。コスパで比べる前に、1本を軽くするほうが先だったということです。
あなたが動かしているAIエージェントは、1本あたり何字を読み込んでいるでしょうか。台数を決めるのは、その数を出したあとでも遅くありません。
