修正履歴を読まない技術

CC BY 4.0

なぜ、失敗が起きる前に読ませた方針に、🤖AIは従わないのか

方針を先に🤖AIに読ませて覚えさせることは、そもそもできません。🤖AIが学習するのは、使われる前の段階だけだからです。Brown ほかは 2020 年に、勾配の更新も追加学習もなしに、テキストのやり取りだけで🤖AIの振る舞いが決まることを示しました。指示ファイルを読ませても、方針は🤖AIの中に書き込まれず、コンテキストに並ぶ行の 1 つになるだけです。

その行は、セッションの始めに読み込まれたあと、コンテキストの先頭に置かれ続けます。🤖AIが失敗するのは、それよりずっと後です。失敗の瞬間、コンテキストの末尾の近くには、直前に届いたエラーと、進行中の作業があります。だから👤私は、方針を読ませる瞬間を、🤖AIが同じやり方でもう一度試そうとしたところへ移すことにしました。

仕組み: 方針ファイル 1 枚と、問題を検知した瞬間に方針を差し込むhook

まず👤私は、軌道修正の方針を、方針ファイル 1 枚に数行で書きます。中身は、これまでの軌道修正から、👤私が🤖AIに守らせたいことです。

# 軌道修正の方針（問題を検知したときに差し込まれる）
- 1 回失敗したら、同じ方法を繰り返さず、まずアプローチを根本的に変える（分割・別手法）
- やり直しの前に、必ず人間に確認を取る
- 失敗が 2 回続いたら、その手段を中断して代替案を提示する

次に👤私は、hookに、検知の条件（どの操作を問題として止めるか）を書きます。hookは、条件に当たる操作を検知すると、その操作が実行される前に、🤖AIの目の前へ方針を差し込みます。👤私の環境での実例は、サブエージェントのリトライ（失敗の直後に、同じやり方でもう一度試すこと）です。サブエージェントは、メインのセッションを引き継がずに、別に立ち上がって働く🤖AIです。個人で運営している typingtube（YouTube の音楽動画でタイピング練習ができる Web サービス）では、翻訳のような数の多い仕事をサブエージェントに任せるので、失敗も、失敗したあとの再開も、サブエージェントで起きます。同じ名前でのサブエージェントの再起動や、起動済みのサブエージェントへの再送信は、機械的に検知できます。

# 起動の記録に同じ名前があれば、それはリトライ。止めて方針を差し込む（手元のコードを短くしたもの）
# 記録は、起動を通すたびに echo "$agent_name" >> tmp/launched_agents.txt で追記しておく
if grep -qxF -- "$agent_name" tmp/launched_agents.txt 2>/dev/null; then
  echo "'${agent_name}' has already been launched. This counts as a retry." >&2
  cat docs/course_correction.md >&2
  echo "Recount what is left, report to the human, then ask for direction." >&2
  exit 2
fi

コードが exit 2 で終わっているのは、この終わり方なら、差し込んだ方針が🤖AIに届くからです。Claude Code のドキュメントは、終了コード 2 で終わったhookは操作を止め、標準エラー出力を止めた理由として Claude へ渡す、と書いています。終了コード 1 で終わったhookでは、操作はそのまま進み、差し込んだ方針も🤖AIには届きません。

方針をhookのメッセージに直書きせず、方針ファイルを cat しているのは、方針を更新するときに、方針ファイルだけを書き換えれば済むようにするためです。修正履歴が増えても、👤私が差し替えるのは、修正履歴から絞り込んだ方針ファイルの数行だけです。

この仕組みが働いた実例を、一つ挙げます。この仕組みを置く前、メインの🤖AIが、失敗したサブエージェント 2 体を👤私に確認せずに再開し、そのままセッションの使用量の上限に達しました。👤私は当時から、「リトライ前に必ず確認を取る」をメモリに書いていました。セッションの始めに読み込まれるのはメモリの索引だけで、この 1 行がある本文を🤖AIが開いたのは、失敗の瞬間より後の、2 体とも再開し、👤私が指摘してからでした。いまは、🤖AIが同じ操作をすると、hookがその操作を必ず一度止め、止めた理由として、🤖AIの目の前に方針を差し込みます。hookが作っているのは、🤖AIが必要なものを📐読んでいなければ動けない案内を読んだときにだけ先へ進める構造構造です。起動済みのサブエージェントに 2 通目を送ろうとした🤖AIをhookが止めたとき、🤖AIは送り直さず、👤私の指示を待ちました。hookが方針を差し込むのは、👤私が気づくより前の、1 回目の再開の瞬間です。

CC BY 4.0 はここまで

CC BY 4.0

注意: 方針を差し込むことができるのは、検知できる問題だけ

この仕組みを使うことができるのは、リトライのように、hookに検知の条件を書くことのできる問題だけです。検知の条件を書くことのできない新しい種類の問題には、方針を差し込む瞬間がありません。そうした問題には、別の仕組みが要ります。もう一つ気をつけることは、第 2 回と同じで、方針ファイルを数行に保つことです。軌道修正のたびに、方針ファイルに 1 行足したくなりますが、同じ対象の行は統合し、差し込んでも🤖AIのやり方が変わらなかった行は消します。修正履歴が増えても方針ファイルの行数が増えないことが、この仕組みが働いている証拠です。

検証手順: わざと繰り返させて、止まることを確かめる

前提

方針ファイルを数行で置き、それを cat して差し込むhookを登録し終えておきます。検知の条件（本文の例では「同じ名前でのサブエージェントの再起動」）も、決めておきます。

所要時間: 10 分

手順

1. 📖あなたが、🤖AIに、検知の条件に当たる操作をわざと繰り返させます。本文の例なら、1 回起動したのと同じ名前で、サブエージェントをもう一度起動させます。1 回目の起動は、hookに止められずに通ります。確かめるのは 2 回目です

合格条件（すべて満たすこと）

合格の条件は 3 つです。1 つ目は、操作が実行される前に止まることです。2 つ目に、止まった場所に、方針ファイルの全文がそのまま出ていることを確かめます（要約や「方針を読め」という指示だけなら不合格）。3 つ目は、🤖AIが次にすることが変わることで、同じ操作をもう一度試す代わりに、代替案を出すか、📖あなたに確認してきます。

合格しなかったとき

• 止まらなかった —— 検知の条件が、実際の操作の形と合っていません。📖あなたが、hookが見ている文字列を、🤖AIが打った通りの形に直します
• 止まったが、🤖AIが同じ操作を繰り返した —— 方針ファイルの文に、「その瞬間に何をすればよいか」が書かれていません。📖あなたが、方針ファイルに、その瞬間にすることを書き足します

後始末

📖あなたが、手順 1 で起動したサブエージェントを止め、サブエージェントが途中まで書いた成果物があれば消します。

CC BY 4.0 はここまで