社内ナレッジチャットボットとは、自事務所の資料だけを根拠に答えるAIのことです。

所内の手続マニュアルや過去の回答例を探すのに、スタッフは一日にどれだけの時間を使っているでしょうか。探す時間を減らす道具として、事務所の資料だけを参照して答えるチャットボットを置く事務所が増えています。この記事では、参照する資料の決め方から、資料にない質問には答えさせない設定、出典表示、有資格者の確認までを7手順で整理します。本記事は士業のチカラ編集部が、公表されている一次情報のみを根拠に作成しています。法令の条文はe-Gov法令検索の原文で、行政の見解は各府省庁の公表資料で確認しています。前提として、個人情報保護委員会は2023年6月2日に生成AIサービスの利用に関する注意喚起を公表しており、個人情報を入力する際の注意点を示しています（出典: 個人情報保護委員会 生成AIサービスの利用に関する注意喚起等について）。

社内ナレッジチャットボットを取り巻く2026年の状況と、汎用チャットとの違い

結論から書くと、汎用のチャット画面に質問する使い方と、社内資料だけを参照するチャットボットは、別の道具です。汎用のチャットは、モデルが学習した一般的な知識で答えます。事務所の手続や顧問先向けのひな形は学習されていないので、それらしい答えが返っても、事務所の実務と違うことがあります。社内ナレッジチャットボットは、質問のたびに事務所の資料から関連する部分を探し、その部分だけを根拠に答えを組み立てます。この仕組みは検索拡張生成と呼ばれ、モデルの記憶ではなく、手元の資料を根拠にする点が違いです。

2026年の時点で、この仕組みは特別な開発を伴わずに使えるようになっています。生成AI各社のサービスには、資料をまとめて登録し、その範囲で答えさせる機能が用意されており、事務所の規模にかかわらず試せます。社労士法人がコラム作成とチャットボットを所内に置いた事例は、別の記事で手順に分けて整理しました（参照: 熊本の社労士法人がコラム作成を約4分の1に 生成AIとチャットボットを自事務所に置く7手順）。

参照範囲を限定する考え方は、税務相談の分野でも使われています。公的な情報だけを参照する税務相談AIを選ぶときの観点は、以前の記事で6つの軸にまとめました（参照: 公的情報だけを参照する税務相談AI 事務所が確かめる6つの選定軸）。社内ナレッジチャットボットは、その参照先を公的情報から自事務所の資料に置き換えたものと考えると、設計の勘所が共通します。参照先が信頼できるか、参照先にないことを答えていないか、出典が示されるか、の3点です。

行政の側も、AIを利用する事業者に向けた観点を文書にしています。総務省と経済産業省が所管するAI事業者ガイドラインは第1.2版が2026年3月31日に公表されており、AI利用者向けの項目として、安全を考慮した適正な利用、入力データとプロンプトへの配慮、人間の判断の介在などを挙げています（出典: 総務省 AI事業者ガイドライン掲載ページ）。社内ナレッジチャットボットは、参照先を限定する設計そのものが、入力データへの配慮と人間の判断の介在を形にしたものといえます。

一方で、参照先を限定しても誤回答はゼロになりません。古い資料を参照する、資料にない質問に一般知識で補って答える、資料の一部だけを読んで結論を出す、といった誤りが起きます。この記事の7手順は、これらの誤りを減らすための設計を、資料の準備から運用まで順に並べたものです。

所内の検索機能との違いも押さえておきます。全文検索は、語句が一致する資料の場所を示すだけで、内容の要約や複数資料の突き合わせはしません。社内ナレッジチャットボットは、質問の意図に近い部分を探し、要約し、質問の形に合わせて答えます。便利な反面、要約の過程で条件や例外が落ちることがあります。だから出典表示を必須にし、原本を開く動線を残す設計が要ります。検索を置き換えるのではなく、検索の前段に置く道具と考えると、期待値の調整がしやすくなります。

社内資料だけに答えるチャットボットを作る7手順

手順は、資料の選定から始めて、有資格者の確認と更新で終わる順に並べます。所内の役割は、資料の責任者、設定と運用を持つ担当者、回答の内容を確かめる有資格者の3役です。数名規模の事務所では兼務で構いません。

手順1は、参照させる資料を決め、資料ごとに責任者と更新日を付けることです。対象になりやすいのは、所内の手続マニュアル、よくある質問への所内回答、顧問先向け案内文のひな形、使っている業務システムの操作手順です。依頼者や顧問先の個別の資料は、この段階では対象から外します。個別資料を含めるかどうかは、次の章の守秘義務の論点を整理してから決めます。

手順2は、資料を整えることです。版の違う同じ資料が混ざっていると、チャットボットはどちらを根拠にするか決められません。最新版だけを残し、文書の冒頭に改正対応の日付を書きます。紙のスキャンやPDFは、文字として読み取れる形にしておきます。表の多い資料は、表の内容を文章でも書いておくと、参照の精度が上がります。資料の整理は地味な作業ですが、誤回答の大半はこの段階の不備から生まれます。

資料の粒度も、この段階で決めます。一つの文書に複数の手続が混ざっていると、質問と関係のない手続の記述まで根拠に使われることがあります。手続ごと、顧問先の業種ごとといった単位で文書を分け、見出しに手続名を入れておくと、参照の精度が上がり、出典表示も読みやすくなります。逆に細かく分けすぎると、関連する前提が別の文書に散り、答えに前提が抜けます。手続の単位で一文書、という粒度から始め、テスト質問の結果を見て調整する運用が続けやすい方法です。

手順3は、参照範囲を資料だけに固定し、資料にない質問には答えないよう指示することです。多くのサービスで、チャットボットに共通の前提を与える設定欄があります。そこに次のような指示を置きます。

あなたは当事務所の所内資料だけを根拠に答える案内役です。

守ること:
1. 回答の根拠は、登録された資料に書かれている内容に限ること
2. 資料に記載がない事項は「資料に記載がありません」と答え、一般的な知識で補わないこと
3. 回答には必ず、根拠とした資料の名称と該当する見出しを付けること
4. 法令の条番号や施行日は、資料に書かれているものだけを引き、記憶で補わないこと
5. 回答の最後に「最終確認は所内の有資格者が行います」と添えること

架空の例: 「A社向けの案内文のひな形はどれですか」と聞かれたら、該当する資料名と見出しを示し、本文の要約を添える

手順4は、出典表示を回答の必須項目にすることです。手順3の指示に含めていますが、設定で済ませず、回答の体裁も決めておきます。資料名、見出し、資料の更新日の三つを回答末尾に付ける形にすると、スタッフが原本を開いて確かめる動線ができます。出典が付かない回答は、使わないという所内ルールもここで決めます。

手順5は、テスト質問集で誤回答を測ることです。所内でよく出る質問を集め、正しい答えと根拠の資料名を有資格者が書き、チャットボットに答えさせて照合します。資料にない質問もわざと混ぜ、記載がないと答えられるかを見ます。この照合の考え方は、新モデルへの切替を判断するための検証セットと同じです（参照: 新モデルが出ても慌てない 士業事務所が実案件から検証セットを作る7手順）。テスト質問は次のような型で作ります。

以下は所内のテスト質問です。架空の事例を使っています。

質問: 顧問先のB社から、就業規則の変更届に添える意見書の様式を聞かれました。所内のひな形はどこにありますか。

期待する回答の要素:
- 該当するひな形の資料名と見出しを示している
- ひな形の更新日を示している
- 資料に書かれていない提出先の運用については「資料に記載がありません」と答えている
- 法令の条番号を記憶で補っていない

手順6は、権限とログの設計です。チャットボットが参照できる資料の範囲は、そのスタッフが元から閲覧できる範囲と一致させます。閲覧権限のない資料がチャットボット経由で読めてしまう状態は、権限設計の抜けです。誰がいつ何を聞き、どの資料が根拠になったかのログを残し、定期的に見返します。ログは誤回答の発見にも、資料の不足の発見にも役立ちます。

手順7は、有資格者の最終確認と更新のサイクルです。チャットボットの回答を顧問先や依頼者への説明に使うときは、有資格者が原本を開いて確かめてから使います。所内の作業手順の確認であれば、スタッフが出典の資料を開く運用で足ります。資料は法改正や所内ルールの変更のたびに更新し、テスト質問集も同時に更新します。更新の記録は、手順1で付けた責任者が持ちます。

依頼者情報を資料に含めるかどうか 守秘義務と規程上の論点

結論から書くと、社内ナレッジチャットボットの論点は、どの資料を参照させるかに集約されます。所内マニュアルだけなら守秘義務との関係は薄く、依頼者や顧問先の個別資料を含めた瞬間に、生成AIサービスへ秘密を送る行為になるからです。

守秘義務の根拠は職種ごとに条文があります。弁護士は弁護士法第23条が、職務上知り得た秘密を保持する権利と義務を定めています。税理士は税理士法第38条が、税理士業務に関して知り得た秘密を他に洩らし又は窃用することを禁じています。社会保険労務士は社会保険労務士法第21条が、行政書士は行政書士法第12条が、それぞれ業務上知り得た秘密の保持を定めています。個別の資料がこれらの秘密に含まれるかどうかの判断は、事務所の有資格者が行う事項です。

個人情報の面では、個人情報保護法第23条が、個人データの漏えいや滅失の防止のために必要かつ適切な措置を講じることを個人情報取扱事業者に求めています。個人情報保護委員会の注意喚起は、生成AIサービスに個人情報を入力する際、入力した情報がサービス側でどう扱われるかを確認する観点を示しています（出典: 個人情報保護委員会 生成AIサービスの利用に関する注意喚起等について）。従業員の氏名や病歴を含む労務資料、依頼者の家族関係を含む相談記録は、参照先に含めるかどうかを最初に決める対象です。

サービス側のデータ取り扱いは、ベンダーの公式文書で確認します。Anthropicは、入力データをモデルの学習に使うかどうかを、プランや設定ごとに分けて公開しています（出典: Anthropic プライバシーセンター Is my data used for model training?）。Googleは、Gemini APIの利用規約で、入力したデータの取り扱いを有償サービスと無償サービスに分けて公開しています（出典: Google Gemini API 利用規約）。登録した資料がどこに保存され、どれだけの期間残り、学習に使われるかは、サービスとプランによって違います。チャットボットを置く前に、使うサービスの設定を文書で確認する工程は、依頼者情報を入れる前の設定確認として別の記事にまとめています（参照: 生成AIに依頼者情報を入れる前の設定確認 弁護士・税理士・行政書士・社労士が回す5点チェック）。

顧問先への説明も、事務所として決めておく事項です。所内マニュアルだけを参照する段階では、顧問先の資料は含まれないので、説明の必要は小さくなります。顧問先向けのひな形や過去の案内文を含める場合、顧問先の名前や数字が残っていないかを確かめます。個別の資料まで含める段階に進むなら、顧問契約や委任契約で生成AIの利用に触れているかを確認し、触れていなければ説明と同意の取り方を決めておく運用があります。

事務所の規程に落とすなら、次の項目を書く運用例があります。参照させてよい資料の種類と、含めない資料の種類。資料の責任者と更新の記録。使うサービスと、データ設定の確認者と確認日。閲覧権限とチャットボットの参照範囲を一致させること。回答を外部への説明に使う前の有資格者の確認。ログの保存場所と見直しの頻度。これらは、事務所の事情に合わせて増減する項目の例であり、規程でこう定めれば足りるという意味ではありません。

社内ナレッジチャットボットで起きやすい失敗と回避策

失敗の一つ目は、古い資料を参照して改正前の手続を答えたケースです。最新版と旧版が同じ場所に残っていると、チャットボットはどちらも根拠にします。回避策は、手順2で旧版を参照先から外し、資料の冒頭に改正対応の日付を書くことです。法改正のたびに資料を更新する責任者を手順1で決めておくと、放置が減ります。

二つ目は、資料にない質問に一般知識で補って答えたケースです。手続の細部や提出先の運用など、資料に書かれていないことを、それらしく答えてしまいます。回避策は、手順3の指示で記載がないと答えるよう固定し、手順5のテスト質問に資料にない質問を混ぜて、補っていないかを確かめることです。

三つ目は、依頼者のファイルを丸ごと参照先に入れたケースです。便利さを優先して個別資料を投入すると、守秘義務と個人情報の論点が一度に生じます。回避策は、手順1で所内マニュアルから始め、個別資料は次の章の論点を整理してから段階的に判断することです。

四つ目は、出典表示が形だけになったケースです。資料名は付いているが、該当する見出しが違う、更新日が古い、といった状態です。回避策は、手順4で資料名、見出し、更新日の三つを揃えること、スタッフが原本を開いて確かめる動線を保つことです。出典が付いていても、原本を誰も開かない運用では、誤回答は見つかりません。

五つ目は、閲覧権限のない資料がチャットボット経由で読めてしまったケースです。資料をまとめて登録したときに、役職者だけが見られる資料が混ざることがあります。回避策は、手順6で参照範囲を閲覧権限と一致させ、登録のたびに権限を見直すことです。

費用・工数・体制 誰が資料を持ち、誰が答えを確かめるか

費用は、生成AIサービスの利用料と、所内の工数の二つに分かれます。サービスの利用料は、プランと登録する資料の量で変わるため、各社の料金ページで確認する対象です。本記事では金額の目安を書きません。料金の改定が頻繁で、記事の数字がすぐに古くなるためです。

工数の大半は、手順2の資料の整理と、手順5のテスト質問集づくりに集中します。整理は最初の一回が重く、以後は改正や所内ルール変更のたびの更新だけになります。テスト質問集は、有資格者が正しい答えと根拠を書く工程を含むので、有資格者の時間を使います。ここを省くと、誤回答を測る手段がなくなります。

体制は、資料の責任者、設定と運用の担当者、回答を確かめる有資格者の3役です。小規模の事務所では、有資格者が資料の責任者を兼ね、スタッフが設定と運用を持つ形が多くなります。どの形でも、資料の更新記録、データ設定の確認記録、テスト質問の照合記録の三つを文書で残しておくと、顧問先や依頼者に問われたときに説明できます。

導入の順序も体制に関わります。全スタッフに一度に開放するより、設定と運用の担当者と有資格者だけで数週間試し、テスト質問の照合を済ませてから範囲を広げる進め方が、誤回答の影響を小さくします。試行の段階で出た質問とログは、そのままテスト質問集と資料の不足一覧になります。段階的に広げる考え方は、無料ツールの試行から拡大判断までを扱った記事とも共通します。

今後の展望 参照先の限定が事務所の説明責任を支える

生成AIサービスの機能として、資料の登録と参照範囲の限定は標準になりつつあります。事務所にとっての差は、機能の有無ではなく、どの資料を、誰の責任で、どう更新して参照させるかの運用に移っています。運用の記録があるかどうかが、顧問先や依頼者に説明するときの材料になります。

もう一つの論点は、参照先を所内資料から業務システムのデータへ広げるかどうかです。文書管理や顧客管理のシステムと接続すれば、参照できる範囲は広がりますが、守秘義務と権限設計の論点も同時に広がります。接続の前に決めておく事項は、本記事の手順6と、依頼者情報を入れる前の設定確認の記事が出発点になります。

AI事業者ガイドラインがAI利用者向けに挙げる人間の判断の介在は、社内ナレッジチャットボットでは、出典の原本を開いて確かめる工程と、外部への説明前の有資格者の確認として形になります。チャットボットは探す時間を減らす道具であり、判断を代わるものではありません。

よくある質問

最初に登録する資料は何がよいですか

所内の手続マニュアルと、よくある質問への所内回答から始める運用が続けやすい方法です。依頼者や顧問先の個別資料は、守秘義務とデータ設定の論点を整理してから、段階的に判断します。

資料にない質問に答えてしまうのを防げますか

完全には防げませんが、減らせます。設定欄で記載がないと答えるよう固定し、テスト質問集に資料にない質問を混ぜて、補っていないかを定期的に確かめる運用が考えられます。

出典表示があれば回答をそのまま顧問先に出せますか

そのまま出す運用は避ける考え方があります。出典は原本を確かめるための動線であり、外部への説明に使う前は有資格者が原本を開いて確かめる工程を置きます。

登録した資料は学習に使われますか

サービスとプランと設定によって違います。Anthropicは学習利用の有無を設定ごとに公開しており（出典: Anthropic プライバシーセンター Is my data used for model training?）、Googleも利用規約で有償と無償で分けて公開しています（出典: Google Gemini API 利用規約）。登録前に公式文書で確認し、確認日を記録しておきます。

閲覧権限はどう合わせればよいですか

チャットボットの参照範囲を、そのスタッフが元から閲覧できる資料の範囲と一致させます。資料を追加登録するたびに、権限の設定を見直す運用が考えられます。

資料の更新は誰が行いますか

手順1で資料ごとに決めた責任者が行い、更新日を資料の冒頭に書きます。法改正の施行と所内ルールの変更が更新の起点になります。

業務システムと接続してもよいですか

接続は技術的には可能ですが、参照できる範囲が広がる分、守秘義務と権限設計の論点も広がります。所内資料だけで運用を安定させてから、接続前の確認事項を整理して段階的に判断する運用があります。

参考文献

• 個人情報保護委員会 生成AIサービスの利用に関する注意喚起等について
• 総務省 AI事業者ガイドライン掲載ページ
• e-Gov法令検索 弁護士法第23条
• e-Gov法令検索 税理士法第38条
• e-Gov法令検索 社会保険労務士法第21条
• e-Gov法令検索 行政書士法第12条
• e-Gov法令検索 個人情報保護法第23条
• Anthropic プライバシーセンター Is my data used for model training?
• Google Gemini API 利用規約

※士業のチカラでは、生成AIの導入支援から運用最適化まで、貴事務所の業務に合わせたカスタマイズ提案を行っています。無料相談（30分）も実施中ですので、お気軽にお問い合わせください。
https://shigyonochikara.jp/contact/