AIに作業を任せると、何かするたびに「実行していいですか?」と聞かれます。全部に目を通していると、手が止まる。かといって全部任せるのは怖い。
AIの動きをどこまで絞るかは、量ではなく「あとで戻せるか」で決めると迷いません。 戻せない操作だけを固く閉めて、それ以外は、問題なく通った記録が積み上がったものから開けていく。
そして、そう割り切れるのは、止める仕組みと記録する仕組みがあるからだと私は考えています。この記事では、私が自分のAIの仕組みで試してきた絞り方をまとめます。
AIに任せる範囲は「全部確認」か「全部おまかせ」になりやすい
AIに任せる範囲を決めるとき、多くの人は両極のどちらかに寄ります。
- 全部確認: AIが何かするたびに、内容を見てから許可する
- 全部おまかせ: 確認を切って、AIの判断にまかせる
全部確認は安全そうに見えますが、確認の回数が増えるほど、1回ごとの確認はだんだん浅くなります。
全部おまかせは楽ですが、一度の誤りが取り返しのつかない形で出るリスクがある。
どちらも「どれだけ絞るか」という量の話で考えているから、両極に寄ってしまうのだと思います。
先に閉めるのは「戻せない操作」だけでいい
量ではなく、操作の種類で分けます。基準は「あとで戻せるか」です。
戻せない操作の代表は、次の4つです。
- 送信: メール・チャット・外部のサービスへの投稿
- 公開: ブログやWebページを人の目に出す
- 削除: ファイルやデータを消す
- 支払い: お金が動く操作
この4つは、間違えたら取り消せません。ここだけは絶対、毎回人が確かめるべきです。逆に、下書きを作る、要約を作り直す、ファイルを読むといった操作は、間違えてもやり直せる。ここまで毎回止めると、確認のほうが仕事になってしまいます。
私の仕組みでも、外部への送信、公開、削除、本番への反映は、AIだけでは進められないようにしています。このブログの記事も、下書きまではAIが作り、公開のボタンは私が押しています。
開けるのは「実績」で決める
戻せる操作でも、最初から全部を開けるわけではありません。開けるかどうかは、実績で決めます。
私の仕組みでは、AIの操作をひとつずつ判定して、その結果を記録に残しています。そのうえで、30日以内に10回以上問題なく通った操作を候補として一覧に出し、私が中身を確かめてから「判定を省く」側に移すようにしています。候補を出すところまでは自動、開けるかどうかを決めるのは人。
ここで大事なのが記録です。何回通ったか、いつ止まったかが残っていなければ、開けていいものが分かりません。記録がない状態で開けるのは、勘で蛇口をひねるのと同じです。
絞りすぎると、かえって危なくなる
止める仕組みは、強ければいいというわけでもありません。
この記事を書くまでの数日の作業でも、私の仕組みは無害な操作を2回止めました。1回は、「token」という単語を含むだけの検索。もう1回は、Webページを取ってくる命令と、別の命令の結果を組み合わせた書き方です。どちらも中身に危険はなく、書き方を変えて進めました。
この程度なら回り道で済みます。ただ、誤って止まる回数が増えると、人もAIも「止まらない書き方」を探し始めます。確認の画面が多すぎると、中身を読まずに許可を押す癖もつく。絞りすぎは、抜け道と承認疲れを育てて、結局は危ない側に倒れると考えています。
だから、止めたものも記録に残し、誤って止めたものは見直す。閉めるほうも、記録で調整していきます。
身近な道具にも「蛇口」はある
この考え方は、自分で仕組みを作らなくても、普段使う道具の中に見つかります。
たとえばPLAUDの次の大型アップデートで入るPlaud Agentは、SlackやNotionに投稿したり送信したりする前に、確認を求める作りになっています。一方で、要約の作り直しは、クレジットも使わずに気軽にやり直せる操作として扱われている。外に出るものに確認を置く。この記事の分け方と同じ考え方です。くわしくはPLAUDの10月アップデートの記事に書きました。
使っているAIの道具が、どこで確認を求めてくるかを一度見てみると、その道具が「何を戻せない操作と見ているか」が分かります。
止める仕組みと記録する仕組みがあるから、自動化を回せる
私がAIに作業を任せられるようになったのは、AIを信じたからではありません、むしろ逆です。
最悪の操作は止まる、何が起きたかは後から追える。この2つを先に揃えたから、安心して自動化を回せるようになりました。
企業でAIを導入する際には特に重要な要素ではないでしょうか？
止める仕組みだけでは、怖くて開けられない。記録する仕組みだけでは、起きたことを後から知るだけになる。2つがそろって初めて、「ここまでは開けていい」を根拠をもって決められます。
最初から今の形だったわけではありません。仕組みに何度も抜けが見つかり、作り直してきました。その道のりはAIセルフトレーナーを作った記事に書いています。
まとめ
AIの動きは、量ではなく「あとで戻せるか」で絞ります。送信・公開・削除・支払いの4つは閉めておき、それ以外は、問題なく通った記録が積み上がったものから開けていく。絞りすぎたと感じたら、それも記録を見て緩める。
人とAIの分担をこうして決めていくのが、AIセルフトレーナーでいう5つ目の段階、「任せ方を決める」です。まずは、自分が使っている道具の「戻せない操作」がどこにあるかから、確かめてみてはいかがでしょうか？
参考文献
- Plaud「会議のメモがそのまま完成した資料に」 https://jp.plaud.ai/blogs/news/plaud-intelligence-artifacts-connectors （2026年10月9日確認）
