キルスイッチ

キルスイッチって何？

高速道路で自動運転車が故障したら、欲しいのは賢いハンドルではなく、踏めるブレーキです。キルスイッチ（Kill Switch）は、エージェントに付けるその「ブレーキ」。暴走し始めたら、ワンタッチ（または自動）で即座に止めます。

なぜエージェントに必要なのか

エージェントは「やりすぎる」
自動でタスクを回すエージェントは、ファイルを誤って消したり、注文を二重にしたり、一斉送信してしまうかもしれません。走り終わってからでは遅い。
エラーは「拡大」する
エージェントの動作は連鎖します。小さなミスが雪だるま式に膨らむことも。止めるのが早いほど損失は小さい。
人による最後の砦が必要
どんな監視も漏れます。手動で「即停止」できるボタンが最も確実な保険です。

どう設計するか

権限を分ける
「停止」と「実行」を分離し、暴走したエージェントが自分のキルスイッチを切れないようにします。
複数のトリガー
人が手動で止める方法と、ルールによる自動停止（予算超過、連続失敗など）の両方を用意します。
復旧できるように
停止後は安全にロールバックし、原因を検証できることが大切。後始末を残さない。

サーキットブレーカーとの関係

キルスイッチは「人の手による最後の手段」、サーキットブレーカーは「自動の保護」。通常は併用し、まず自動で止め、どうしても駄目なときキルスイッチで完全停止します。

まとめ：キルスイッチは、エージェントが暴走したときに踏む「命綱のブレーキ」です。