AIに作業を頼むと、画面に「このコマンドを実行していいですか?」と出てきます。英語まじりの命令が並んでいて、何をしようとしているのかは読めない。ですが、押さなければ作業は止まったままです。
コードが読めない私は、AIに仕事を任せ始めたころ、この確認の多さに何度も手が止まりました。省きたくても、何を承認しているのかが分からない。誤動作も怖い。そこで、便利な使い方を増やすより先に、危ない操作の手前でAIを止める仕組みを作りました。その半年分の記録をまとめたのが、Zennで出した本『AI を事業に組み込むために作った「止める仕組み」』です。自分で書いた本です。
この記事では、仕組みを作ったきっかけ、記録を数え直して分かったこと、本で分かることを紹介します。はじめの2章は無料で読めます。
確認が多すぎて省きたい。でも、何を承認しているのか分からなかった
私はエンジニアではありません。コードは読めず、書けず、英語も読めません。AIを使い始めたのは2026年の1月で、最初に任せたのはRobloxのゲーム制作でした。
AIに実作業を任せると、ファイルを書き換えるときやコマンドを実行するときに確認が来ます。当時は、その確認があまりにも多かった。作業のたびに手が止まるので、なんとかして省きたいと思いました。
ところが、省こうにも、何を承認しているのかが分かりません。画面に出る命令を読める人なら、その場で判断できます。私は、自分が何に「はい」と言っているのかさえ分かりませんでした。分からないものは、省いてよいかどうかも決められません。
そして何より怖かったのが、AIの誤動作です。中身の分からない「はい」を重ねていけば、いつかは取り返しのつかない操作まで通してしまうかもしれない。同じころ、AIエージェントのOpenClawをめぐる話題も目にしました。AIの暴走や、意図しないファイルの削除を防ぐには、自分の目で確かめるだけでは足りない。そう考えて、確認を省くより先に、AIの操作を見張る仕組みから作り始めました。AIを使い始めてからの道のりは、AIセルフトレーナーを作った記事にも書いています。
AIは自由に走らせて、止める役はAIの外に置く
AIの中に「これはしてはいけない」というルールを書き込み、AI自身に守ってもらうやり方もあります。ただ、走る役と止める役を1つのAIに同居させると、どちらかを選ぶ場面で、AIが走るほうを選ぶかもしれない。私はそれが怖かった。
そこで、AIはできるだけ自由に動かし、止める役はAIの外に置くことにしました。
最初は、別のAI（Antigravity）がClaude Codeに指示を出し、できたものを監査してから実行させる形でした。任せてみると、ある程度までは進めてくれるので楽でした。苦労したのは、途中で方向が自分の意図とずれてきたときの直し方と、作ったルールの継続性です。
違和感にはすぐに気付きました、Antigravityが私のプロンプトを解釈し綺麗に修正してからClaude Codeに渡しているはずなのに渡さずに途中からAntigravityでそのまま作業まで完了させていた。これでは全く機能してません。そして一番タチが悪いのは最初だけうまく機能することです。
問題と修正をくり返すうちに、半年で形はずいぶん変わりました。
今の形は、Claude Codeが命令を動かす手前で、プログラムに可否を判定させるものです。土台は、私が文章で決めたルール、そのルールと機械的に照合するプログラム、パソコンの基本ソフト（OS）による施錠の3つ。判定の結果は、通ったものも止まったものも、1件ずつ記録に残ります。判定をプログラムに任せたことで、私が自分で判断する場面は、公開や送信のような戻せない操作に絞れるようになりました。どの操作を止め、どれを任せるかの決め方は、AIの動きをどこまで絞るかの記事にまとめました。
半年分の記録を数え直して見えた、止める仕組みの本当の役目
本を書くにあたって、2026年4月30日から10月5日までの判定の記録6,844件を、すべて数え直しました。試験で流した分を除いて数えると、実際の作業の中で仕組みが命令を止めたのは75件。中身まで見て危ない種類の操作だったのは、そのうち5件だけで、その5件も私が頼んだまっとうな作業でした。ほかの多くは、命令に含まれていた単語に仕組みが反応して止めたものです。
AIが自分の判断で危ない操作に手を出し、仕組みがそれを食い止めた。そんな場面は、記録をたどった範囲では1件も見つかっていません。
正直に言うと、思っていたほど危ない動きはありませんでした。それでも、仕組みが要らなかったとは考えていません。セキュリティは、めったに起きないことに備える保険です。起きない期間が長いのは、保険が無駄だったという意味ではないと考えています。
それに、数え直して分かったいちばん大きな役目は、仕組み自身の穴を見つけたことでした。ある時期には、命令の83%が判定を素通りしていました（いまは直っています）。記録を取り、数え、その数字を疑ってかかったからこそ、こうした穴に気付いて直せました。止めるだけでなく、どこで何が起きたかを後から追える、だから戻せる。それが、この仕組みのいちばんの強みだと感じています。
本にしたのは、自分の環境に合わせた対策を重ねてほしいから
この本は全ての人に有効とは限りません。単なる非エンジニアの自己満足と取られるのかもしれない。
それでも書くと決めたのは、伝えたいことがあったからです。広く配られているセキュリティの対策は、攻撃する側も知っています。知られている対策は、それを前提に破り方を考えられてしまう。だから、一般的な対策に加えて、自分の環境に合わせた独自の対策も重ねておくことが大事だと、私は考えています。
書いてみると、これまで自分で色々と試してきたことを、一度整理する機会にもなりました。
この本で分かること
本は「はじめに」と第1〜10章、付録、「おわりに」の13のまとまりで、約5万字です。章の中身を短く並べます。
- 仕組みの全体像: 人の決めごと、判定のプログラム、OSの施錠という3つの層の考え方
- 判定のプログラムの作り方: 何を先に照らし合わせるかという、順番の考え方
- 施錠: 作業するAIが、見張りの仕組みそのものを書き換えられないようにする方法
- 実行の直前で止める仕掛け: 自分のコマンドで自分が止まる、という落とし穴も含めて
- 外へ漏らさないための備え
- 事件簿: 仕組み自身に見つかった穴と、直した後の形
- 学びの積み上げ方: 失敗・判断・うまくいったやり方を記録して、次に活かす方法
- 事業での使い方: 公開のボタンは人が押すなど、人が持ち続けるものと手放したもの
- 自分で作るなら: 1日で作れる最小の形と、育てていく順番
- 付録: 自分の環境を点検するリスト
ルールの細部は、本にも載せていません。抜け道を探す人に、手がかりを与えてしまうからです。
こんな人に読んでほしい
向いているのは、次のような人です。
- Claude CodeのようなAIエージェントに、日々の仕事や副業の作業を任せている、またはこれから任せたい人
- AIに任せてみたいのに、何が起こるか読めなくて二の足を踏んでいる人
- エンジニアではないけれど、自分の環境は自分で守りたい人
一方で、「これを入れれば安全」という完成品を探している人には向きません。この本が扱うのは、自分の仕組みがどこまでなら止められ、どこから先は止められないのか、その境目の見つけ方です。そのまま写せるコード集でもありません。コードが出てくるのは第10章の一部だけで、そこを飛ばしても全体の話はつながります。
まずは無料の2章から読める
「はじめに」と第1章は、Zennで無料で読めます。
- はじめに: 何をAIに任せているか、この本の数字、書くことと書かないこと
- 第1章 なぜ「止める仕組み」が要ったのか: 走る役と止める役を分けた理由。「全力疾走しながら足首を掴む」という言葉の意味
続きは、本のページから購入できます。価格は1,200円です（2026年10月26日時点）。
まとめ
AIに仕事を任せるなら、便利さを増やすのと同じくらい、どこで止めるかを先に決めておく。止める仕組みは、何も起きない日のための備えであり、仕組み自身の穴を見つける道具にもなります。
私のやり方がそのまま正解だとは思っていません。ただ、コードが読めなくても、止める役をAIの外に置き、その記録を見返すことはできます。まずは無料の2章を読みながら、自分のAIが危ない動作の前で止まるかを確かめてみてはいかがでしょうか？
参考文献
- AI-Work-Canvas『AI を事業に組み込むために作った「止める仕組み」』（Zenn） https://zenn.dev/aiworkcanvas/books/ai-guardrails-audit-log （2026年10月26日確認）
