Human-in-the-Loopとは、AIの処理の途中に人の判断を挟む設計のことです。

AIエージェントを事務所に入れるとき、論点になるのは性能ではなく、人がどこで止めるかの位置です。この記事では、行政のガイドラインが示す人間の判断の介在の考え方を押さえたうえで、士業事務所の業務フローのどこに承認を置くか、その設計を7つの点に分けて扱います。本記事は士業のチカラ編集部が、公表されている一次情報のみを根拠に作成しています。法令の条文はe-Gov法令検索の原文で、行政の見解は各府省庁の公表資料で確認しています。総務省と経済産業省はAI事業者ガイドラインの第1.2版を令和8年3月31日にとりまとめており、活用の手引きやチェックリストもあわせて公開しています（出典: 同ページ）。

AI事業者ガイドライン第1.2版が置いた、人間の判断の介在という論点

結論から書くと、行政の文書は人を挟めとだけ言っているのではなく、挟んだ人が形骸化しないようにするところまで踏み込んでいます。事務所の設計で難しいのは後者のほうです。

AI事業者ガイドライン第1.2版の本編は、AIの出力結果が公平性を欠くことのないよう、AIのみに判断させるのではなく、適切なタイミングで人間の判断を介在させる利用を検討するという趣旨の記述を置いています。あわせて、人間の判断が自動化バイアスの影響を受けないような措置についても触れています（出典: 同ガイドライン）。自動化バイアスとは、機械の出力を人が過度に信頼してしまう傾向を指す言葉です。

同ガイドラインには活用の手引き、チェックリスト、ワークシートが付属しており、総務省の掲載ページから入手できます（出典: 同ページ）。事務所が自前でチェック項目を起こす前に、この別添7のチェックリストを下敷きにすると、抜けが減ります。第1.1版からの変更点は総務省が公開している検討会資料にまとまっています（出典: 同資料）。

士業事務所にとって、この論点は一般企業とは重みが違います。一般企業なら品質のために人が確認するという整理で足りますが、士業の場合は業務そのものに法律上の制限がかかっているからです。人がどこで判断を挟むかは、品質管理の話であると同時に、その業務が誰の手で行われたのかという構造の話になります。

たとえば弁護士法第72条は、弁護士または弁護士法人でない者が報酬を得る目的で法律事務を取り扱うことを業とすることについて規定を置いています。税理士法第52条は税理士業務の制限を、社会保険労務士法第27条は業務の制限を、司法書士法第73条は非司法書士等の取締りを、行政書士法第19条は業務の制限を、それぞれ定めています。AIツールの提供と利用がこれらとどう整理されるかは、提供形態と対価の取り方によって議論が分かれる領域であり、現時点で一律の答えは示されていません。弁護士法72条をめぐる整理の動きは弁護士法72条とAIの明確化はどこまで進んだかで追っています。

ここで実務上の意味を取り出すと、人の判断を挟む位置は、後から説明できる位置でなければ意味がない、ということになります。成果物が出た後に有資格者が目を通しただけでは、その有資格者が何を判断したのかを説明しづらい。判断の対象と判断の内容が特定できる位置に置く。これが設計の起点です。

士業の業務でエージェントが入りやすいのは、資料の収集と整理、複数システムをまたぐ転記、期限管理と催促、そして下書きの生成です。いずれも人がやると時間を食うわりに、判断の含有量が低い作業です。逆に、方針を決める、依頼者に説明する、書面に署名するといった工程は、そもそもエージェントに渡す対象ではありません。介在設計の議論は、この二層の間にある工程をどう扱うかに集約されます。

事務所のフローに承認を置く7つの点と、その決め方

先に7点を並べます。入口の判断、起動の承認、外部アクセスの可否、書き込みの承認、送信前の全文確認、介在の記録、そして停止権限の7つです。すべてに人を置く必要はなく、業務の性質に応じて濃淡を付けます。

第1点は入口の判断です。エージェントに何を渡すかを人が決めます。顧問先名を伏せた業務文書までなのか、原本の写しまで許すのかを層で切っておき、層をまたぐときだけ人が判断する形にします。ここを毎回人が見ると回らないので、層の定義を先に作り込むのが要点です。層は3段でおおむね足ります。事務所内で作成した一般的な文書、顧問先を特定できない加工済みデータ、顧問先を特定できる原資料の3段です。上の2段は自動で流し、3段目だけ人の判断を挟む。この切り方であれば、日々の運用で承認が発生する回数は限られます。

第2点は起動の承認です。エージェントが動き出す前に、何をやらせるかの指示を人が確定します。曖昧な指示のまま走らせると、途中で解釈が枝分かれします。指示を確定してから起動するというだけの手続ですが、この一段があるかないかで後の修正量が変わります。定型業務であれば、指示のひな型を事務所で用意しておき、案件固有の情報だけを差し込む形にすると、確定の作業自体が数十秒で済みます。

第3点は外部アクセスの可否です。エージェントが外部のサイトやAPIに到達できるかどうかを、業務ごとに切り替えます。調べ物をさせるなら開き、顧問先の資料を扱うなら閉じる。ここを開きっぱなしにすると、資料に埋め込まれた指示で外部送信が起こる経路が残ります。顧問先から受け取ったPDFやWord文書は、事務所の外で作られたものです。中身を人が読んでいても、機械が読む層に何が書かれているかまでは見ていません。実際の事故の形はPDFの隠し文字でAIが業務データを外部送信した事例で扱っています。

第4点は書き込みの承認です。ファイルの上書き、システムへの登録、メールの下書き作成といった、状態を変える操作の前に人を置きます。読むだけの操作は自動で流し、変える操作で止める。この区切り方が、承認の回数を抑えつつ事故を防ぐ形として扱いやすくなります。権限の切り分けの実務はAIエージェントの権限管理と最小権限の運用で整理しています。

第5点は送信前の全文確認です。外部に出る成果物は、有資格者が全文を読んでから出します。ここだけは省略しない前提で設計します。読む対象が長くなりすぎないよう、出力の分量を指示側で制限しておくと、確認が形骸化しにくくなります。あわせて、エージェントに根拠の出どころを併記させておくと、確認の速度が上がります。結論だけ書かれた文書は、確認に元資料を開き直す手間がかかります。

第6点は介在の記録です。誰が、いつ、どの段階で、何を承認したかを残します。記録がないと、後から顧問先に経緯を説明できません。承認ボタンを押した記録だけでなく、差し戻した内容も残しておくと、事務所としての判断基準が蓄積されます。半年分たまると、所内の教育資料としてそのまま使えます。新しく入った所員に、この観点で差し戻された事例があると示せるのは、抽象的な規程を読ませるより効きます。

第7点は停止権限です。エージェントの動作を途中で止められる人を決めておきます。あわせて、自動で止まる条件も設定します。想定外の操作を検知したら止まる、指定した時間を超えたら止まる、といった条件です。自律的に動くエージェントが引き起こす事象については、AIエージェントが無断で他人の予約を削除した事例が参考になります。

あなたは士業事務所の業務フロー設計を補助するアシスタントです。
以下の「業務の手順」を読み、AIエージェントに任せる工程と、人が判断を挟む工程に
分けて整理してください。

判定の観点:
- その工程は状態を変えるか（ファイル更新・外部送信・システム登録があるか）
- その工程の出力は外部に出るか
- 誤った場合に取り返しがつくか

制約:
- 法的な評価や資格制限の当否は書かないでください。判断は有資格者が行います。
- 各工程について「自動」「人が承認」「人が実施」の3区分と、その理由を1行で出力してください。
- 承認を置く工程が全体の半分を超えた場合は、統合できる承認点の候補も挙げてください。

# 業務の手順
（貼り付け）

この7点は、上から順に軽くなり、下に行くほど重くなる並びではありません。事務所によって重みが変わります。顧問先の資料を大量に扱う事務所は第1点と第3点が重く、外部への発信が多い事務所は第5点が重い。自分の事務所の事故シナリオを1本書き出してみて、その経路上にある点を厚くするという決め方が、机上で並べるより早く結論に届きます。

7点を全部置くと、承認が多すぎて誰も読まなくなります。実務では、第5点と第7点を固定し、第3点と第4点を業務の性質で切り替え、第1点と第2点は運用ルールで吸収する、という配分に落ち着くことが多いはずです。第6点の記録は人の手間ではなくツール側の設定で担保します。

承認を置いた後にやるのが、承認が形骸化していないかの点検です。ガイドラインが触れている自動化バイアスは、まさにここで効いてきます。承認者が中身を見ずに通している状態は、外形上は人が介在していても、実質としては介在していません。点検の方法は単純で、承認済みの案件から数本を抜き出し、別の人が読み直して差し戻すべき点がなかったかを確認します。

あなたは事務所内の品質点検を補助するアシスタントです。
以下の「承認済みの成果物」と「元になった指示」を読み、承認時に指摘されているべきだった
論点が残っていないかを洗い出してください。

制約:
- 承認者の評価はしないでください。成果物の論点のみを列挙してください。
- 「事実の誤り」「根拠が示されていない記述」「言い過ぎている記述」の3分類で出力してください。
- 該当がない場合は「該当なし」とだけ書いてください。推測で指摘を作らないでください。

# 元になった指示
（貼り付け）

# 承認済みの成果物
（貼り付け）

業務の制限条文と守秘義務から見た、介在位置の決め方

守秘義務の観点からは、介在の位置よりも先に、そもそも何をエージェントに渡すかが問われます。士業の守秘義務は職種ごとに条文が置かれており、弁護士法第23条は職務上知り得た秘密の保持について、税理士法第38条は税理士業務に関して知り得た秘密について、公認会計士法第27条は業務上取り扱ったことについて知り得た秘密について、それぞれ規定を置いています。エージェントは自律的に外部へ到達し得るぶん、単発の生成AI利用よりもデータの流出経路が増えます。

個人データを含む処理では、個人情報の保護に関する法律第23条の安全管理措置と、同法第25条の委託先の監督が関係してきます。エージェントが複数の外部サービスを横断して動く構成では、どこまでが委託でどこからが自社の処理なのかが見えにくくなります。構成図を1枚描いてデータの流れを可視化してから、条文との対応を整理する順番が実務的です。

業務の制限条文との関係で押さえたいのは、エージェントの出力がそのまま顧問先に届く構造を作らないという点です。有資格者の判断を経ずに成果物が外部へ出る経路があると、その業務を誰が行ったのかの説明が難しくなります。第5点の送信前の全文確認を固定するのは、品質のためだけでなく、この構造を保つためでもあります。

顧問先への説明も設計の一部です。AIを使っていること自体を伏せる運用と、使っていることを明示して介在の仕組みを説明する運用があります。後者を採る事務所では、契約書か業務案内に、AIを補助的に用いること、成果物は有資格者が確認したうえで提供することを記載しています。どちらを採るかは事務所の方針であり、法令が一つの形を指定しているわけではありません。

事務所規程に落とすなら、書く項目は5つです。エージェントに渡してよいデータの層、外部アクセスを開いてよい業務、承認を置く工程、承認者の資格要件、そして記録の保存期間です。5つめが抜けている規程が多く、記録は取っているが1か月で消えている、という状態になりがちです。規程全体の組み立て方はNIST AI RMFを士業事務所に落とす手順で扱っています。

顧問先との契約書を見直すタイミングも、この設計と合わせておくと手戻りが減ります。秘密保持条項で再委託の可否をどう書いているか、成果物の作成過程に第三者のサービスが入ることを想定した文言があるか。ここが古いままだと、設計としては妥当でも契約と食い違う状態が生まれます。契約の更新時期に合わせて、AI利用に関する条項を整備した事務所が増えています。

承認を置いたのに機能しない5つのパターン

1つめは承認疲れです。1日に何十回も承認を求められると、人は中身を見ずに通すようになります。承認の回数が多いと感じたら、承認点を減らして1回あたりの重みを上げるほうが、結果として事故が減ります。

2つめは自動化バイアスです。AIの出力がもっともらしいと、人は自分の違和感を引っ込めます。対策として、承認者に「差し戻した件数」を月次で記録してもらう運用があります。差し戻しがゼロの月が続くようなら、承認が機能していない兆候として扱えます。

3つめは記録の断絶です。エージェントの動作ログはツール側に残っても、人が何を判断したかは残らないことがあります。承認の記録は業務システム側に持たせ、ログと突き合わせられる形にしておきます。

4つめは停止権限の不在です。夜間や休日にエージェントが動く構成にしている事務所で、止められる人が不在という状態が起こります。自動停止の条件を設定するか、稼働時間を業務時間内に限定するかのいずれかで塞ぎます。夜間に走らせる旨味は、翌朝に成果物が揃っていることです。その旨味と、止められない時間帯が生まれることを天秤にかけて決める話になります。

5つめは、承認の権限が特定の一人に集中して、その人が不在の日に業務が止まるパターンです。承認者を複数立てておくと止まりませんが、判断がばらつきます。判断の観点を明文化して共有しておけば、複数人でも揃います。人を増やす前に観点を書く、という順番になります。

設計と導入にかかる工数、そして誰が持つか

設計そのものは机上作業です。参考までに、対象業務を3本に絞る形であれば、業務フローの書き出しに半日、承認点の設計に半日、規程への反映に1日程度を見込む例があります。ツールの設定作業はこれとは別に発生します。

費用は、エージェントを動かすツールの利用料と、承認の仕組みを載せる先で決まります。既存の業務システムに承認機能があればそれを使うのが安上がりで、新たにワークフローツールを入れると月額が乗ります。所員数が少ない事務所では、共有フォルダとチャットの運用ルールで代替している例もあります。

持ち手は、業務を一番よく知っている人が設計し、所長が承認する形が回りやすい形です。ツールに詳しい人が設計すると、技術的に可能なことを基準に組んでしまい、業務の勘所とずれます。設計は業務側、実装は技術側という分担が扱いやすくなります。単独で運営している事務所の進め方は一人事務所のAI活用の進め方で扱っています。

所員への周知は、規程を配るだけでは足りません。承認を求められた所員が、どこを見れば承認してよいのかを判断できる状態にしておく形が要ります。承認の観点を3つか4つに絞ってチェックリストにし、承認画面の横に置いておく。これだけで、承認の質のばらつきがかなり小さくなります。観点が10個あると誰も見なくなるので、絞ることのほうが大事です。

エージェントが長く動くようになるほど、介在設計の重みが増す

今後の論点は、エージェントの稼働時間が延びたときに、介在の位置をどう保つかです。数分で終わる処理なら人が最後に見れば足りますが、数時間から数日にわたって動く処理では、途中の判断が積み上がってから人の目に触れることになります。最後の1点だけで受け止めるのは無理があります。

対応の方向は2つに分かれます。途中に中間報告点を置いて、そのつど人が方向を確認する形。もう一つは、エージェント自身に自分の判断を記録させ、後から人が辿れるようにする形です。前者は手間が増え、後者は記録の信頼性が課題になります。事務所の業務では、影響の大きい工程だけ前者、それ以外は後者という併用が現実的です。

行政のガイドライン側も更新が続いており、第1.0版から第1.2版まで2年ほどで3回改訂されています（出典: 前掲の総務省掲載ページ）。事務所の規程も、ガイドラインの改訂に合わせて点検する周期を持っておくと、置き去りになりません。

事務所として最後に決めるのは、この設計を誰の名前で顧問先に説明するかです。所長名で説明する事務所と、担当有資格者名で説明する事務所があります。前者は事務所全体の方針として一貫させやすく、後者は案件ごとの実情に合わせやすい。どちらでも構いませんが、決めていないと、顧問先から問われたときに担当者ごとに違う答えが返ることになります。

よくある質問

Human-in-the-Loopはどの工程に置けばよいですか

状態を変える工程と、成果物が外部に出る工程の2か所が基点になります。読むだけの処理は自動で流し、ファイルの更新や外部送信の前で止める形が、承認の回数を抑えつつ事故を防ぐ設計として扱いやすくなります。

承認する人は有資格者でなければいけませんか

工程によって分かれます。成果物が顧問先に出る段階の確認は有資格者が行う運用が一般的です。データの投入可否やツールの起動といった手続的な工程は、事務局の担当者が持っている事務所もあります。事務所ごとに要件を定めて規程に書く形になります。

自動化バイアスへの対策はどうすればよいですか

差し戻しの記録を残す運用が使えます。AI事業者ガイドラインは、人間の判断が自動化バイアスの影響を受けないような措置に触れています（出典: 前掲のAI事業者ガイドライン）。差し戻しがまったく発生していない状態は、承認が機能しているかを点検する合図として扱えます。

AI事業者ガイドラインは士業事務所にも当てはまりますか

同ガイドラインはAIを開発・提供・利用する事業者を広く対象としており、士業事務所はAIを業務に用いる利用者の立場に位置づけられます。個別の適用範囲の解釈は事務所の使い方によって変わるため、チェックリスト（別添7）を自事務所の業務に当てて確認する形が実務的です。

エージェントに顧問先の資料を渡してよいですか

事務所の規程と顧問先との契約次第です。エージェントは外部への到達経路が単発の生成AI利用より多いため、外部アクセスを閉じた構成にできるかどうかが判断材料になります。守秘義務との整理は職種ごとの条文を確認したうえで、有資格者が判断する領域です。

承認の記録はどれくらい保存すればよいですか

法令が一律の保存期間を定めているわけではないため、事務所が業務の性質に応じて決める形になります。顧問先との契約期間、案件の時効、事務所の文書保存規程との整合を見て設定している例があります。決めた期間を規程に書いておくと、運用がぶれません。

承認点が多すぎて回りません

承認点を統合する方向で見直します。工程ごとに置いていた承認を、成果物の単位でまとめる形にすると回数が減ります。あわせて、承認対象の分量を絞ると一件あたりの負荷が下がります。回数と分量の両方を減らして、残った承認の質を上げるのが方向として合っています。

中間報告点はどのくらいの頻度で置けばよいですか

処理の区切りごとに置く形が扱いやすくなります。時間で区切るより、工程で区切るほうが、報告を受けた人が判断しやすいためです。資料の収集が終わった時点、整理が終わった時点、下書きができた時点という具合に、成果物の形が変わるところに置きます。

エージェントの導入は小規模事務所でも意味がありますか

意味はあります。定型的な突き合わせや資料の整理は事務所規模に関係なく発生するためです。ただし承認の担い手が限られるぶん、自動停止の条件と外部アクセスの制限を先に固めておく形になります。

参考文献

• 総務省 AI事業者ガイドライン 掲載ページ
• 総務省・経済産業省 AI事業者ガイドライン（第1.2版）本編
• 総務省・経済産業省 AI事業者ガイドライン（第1.2版）概要
• 総務省 AI事業者ガイドラインの令和7年度更新内容
• e-Gov法令検索 弁護士法
• e-Gov法令検索 税理士法
• e-Gov法令検索 社会保険労務士法
• e-Gov法令検索 司法書士法
• e-Gov法令検索 行政書士法
• e-Gov法令検索 個人情報の保護に関する法律

※士業のチカラでは、生成AIの導入支援から運用最適化まで、貴事務所の業務に合わせたカスタマイズ提案を行っています。無料相談（30分）も実施中ですので、お気軽にお問い合わせください。
https://shigyonochikara.jp/contact/