AIエージェント開発は、まるで風来のシレンだ

AIエージェント開発は、風来のシレンによく似ています。AIエージェントとは、目標を渡すと、自分で手順を立て、ツールを使って作業を進めるAIのことです。

ただ、AIは使えば使うほど賢くなる、と思う方もいるのではないでしょうか。

目次

AIエージェントは、人が書き残していないことを別のスレッドで覚えていない

風来のシレンでは、ダンジョンを出たり、冒険の途中で倒れたりすると、レベルが1に戻ります。倒れたときは、持っていた道具も基本的になくなります。

AIエージェントも、メモリーやスキルに書かれていないことは、別のスレッドでは覚えていません。AIエージェントは、使っても賢くなりません。

書き残した手順と、作る人が失敗から学んだことは、次の会話でも使える

では、次の会話に何が残るのでしょうか。風来のシレンでは、倉庫に預けた道具は次の冒険でも使えます。どの罠が危ないか、どの敵に何が効くかも、倒れても遊ぶ人の頭に残ります。

AIエージェントでは、スキルとメモリーが倉庫にあたります。スキルは、手順や決まりを書いたファイルの集まりで、Claudeは依頼の内容が合ったときにそれを読み込みます(Claudeのドキュメント「Skills overview」)。AIエージェントが前より上手に動くようになったときは、書き残した手順と、その手順を書いた人の経験が増えています。

作業に失敗したら、AIエージェントを作る人がその原因をスキルに書き足します。次の会話のAIエージェントは、その手順を読んでから動きます。風来のシレンで、倒れて覚えたことを次の冒険で使うのと同じです。

1つの会話で続けられる作業の量には、上限がある

冒険の途中にも、似ているところがあります。風来のシレンの満腹度は一定のターンごとに減り、0になると、動くたびにHPが減っていきます。

AIエージェントでは、コンテキストウィンドウが満腹度にあたります。Anthropicの説明では、コンテキストウィンドウは、AIが返事を作るときに参照できる文章の全体を指します。会話が長くなると上限に近づき、前のやりとりを要約して詰める処理が必要になります(Anthropicのドキュメント「Context windows」)。AIエージェントにも、1つの会話で続けられる作業の量に上限があります。

初めてつないだツールは、動かすまで何が返ってくるか分からない

風来のシレンには、拾った時点では名前が分からない「未識別」の道具があります。使ってみるか、店の値段から見当をつけて、正体を知ります。

AIエージェントに初めてつないだツールやサービスも、どんな画面を返すか、どこで止まるかは、動かすまで分かりません。一度動かして分かったことは、スキルに書いておくと、次の会話でも使えます。

AIが読む文章には、人に見えない指示が隠れていることがある

風来のシレンの罠は、普段は見えず、上に乗ると発動します。

AIエージェントでは、プロンプトインジェクションが罠にあたります。Anthropicは、AIが読む文章の中に隠された指示を危険として挙げています。例は、白い文字で書かれて人には見えないのに、AIは読んでしまうメールの指示です(Anthropicの研究記事、2025年11月24日)。AIエージェントが読むメールやウェブページには、人の目に見えない指示が入っていることがあります。

同じ指示を出しても、返ってくる文章は毎回少しずつ違う

風来のシレンのダンジョンは、入るたびに構造が変わります。

AIエージェントに同じ指示を出しても、返ってくる文章は毎回少しずつ違います。Anthropicも、出力をそろえるための方法を案内するページを出しています(Anthropicのドキュメント「Increase output consistency」)。AIエージェントの出力も、風来のシレンのダンジョンと同じく、毎回少しずつ変わります。

AIエージェントでは、土台のモデルが入れ替わる

風来のシレンのルールは、遊んでいる途中で変わりません。AIエージェントは、土台のモデルが入れ替わります。Anthropicは古いモデルを定期的に廃止していて、たとえば claude-3-7-sonnet-20250219 は2025年10月28日に非推奨になり、2026年2月19日に使えなくなりました(Anthropicのドキュメント「Model deprecations」)。

モデルが入れ替わると、スキルに書いた手順は、前のモデルに合わせて書いたものになります。

よくある疑問

Q:AIエージェントは、使っているうちに自分で覚えていかないのですか。

A:会話の中で教えたことは、その会話の中では使えます。次の会話に残すには、メモリーかスキルに書いておく必要があります。

まとめ:AIエージェント開発では、書き残したものが次の会話でも使える

風来のシレンとAIエージェント開発の対応は、以下のとおりです。

比べる点風来のシレンAIエージェント開発
始まり方ダンジョンを出るか倒れると、レベル1に戻る書き残していないことは、次の会話で覚えていない
次に残るもの倉庫に預けた道具スキルとメモリーに書いた手順
人に残るもの遊ぶ人が覚えた罠や敵の知識作る人が失敗から学んだこと
減っていくもの満腹度コンテキストウィンドウ
正体が分からないもの未識別の道具初めてつないだツール
見えない危険罠文章に隠された指示
毎回変わるものダンジョンの構造返ってくる文章
ルール変わらないモデルが入れ替わる

AIエージェント開発では、書き残した手順と、作る人が失敗から学んだことが、次の会話でも使えます。AIエージェントが作業に失敗したら、その原因をスキルかメモリーに書き足してみてはいかがでしょうか。

  • URLをコピーしました!
  • URLをコピーしました!
目次