生成AI注意喚起とは、個人情報保護委員会が示したAI利用時の確認事項のことです。

顧問先から届いた決算資料を、要約させるために生成AIへそのまま貼り付けた。担当者に悪気はなく、締切が近かっただけです。この種の出来事が起きたあとに読み返されるのが、個人情報保護委員会の生成AIに関する注意喚起です。この記事では、その注意喚起に並ぶ確認の観点を、事務所の入力ルールという形に翻訳する手順を示します。本記事は士業のチカラ編集部が、公表されている一次情報のみを根拠に作成しています。法令の条文はe-Gov法令検索の原文で、行政の見解は各府省庁の公表資料で確認しています。この注意喚起が公表されたのは2023年6月2日で、本文は個人情報保護委員会の公表ページで読めます。

個人情報保護委員会の生成AI注意喚起は何を示した文書か

この文書は、生成AIの利用を止めるためのものではありません。個人情報を含む入力をする前に、何を確認するかという観点を示したものです。分量は多くありません。短いからこそ、読んだ側が自分の業務に置き換える作業が残ります。

構成は三本立てです。個人情報取扱事業者向け、行政機関等向け、一般の利用者向けに分かれています。あわせて同じ日に、OpenAIに対する注意喚起も行われました。掲載場所は個人情報保護委員会の注意喚起等の一覧です。

士業事務所は、顧問先や依頼者の情報を日常の業務で取り扱います。所員が何人であっても、個人情報取扱事業者として事業者向けの部分を自分のこととして読む位置にあります。ここを一般の利用者向けの部分だけで済ませると、読み落としが出ます。事務所の朝礼で共有されるのが利用者向けの二行だけ、という状態は珍しくありません。

事業者向けの柱は二つです。一つは、個人情報を含むプロンプトを入力するとき、その入力が利用目的の達成に必要な範囲内かを十分に確認すること。もう一つは、生成AIサービスが入力された個人情報を機械学習に利用する場合の取扱いに留意することです。原文は注意喚起の本体PDFにあります。

一般の利用者向けの柱も二つです。生成AIの回答が正確とは限らないこと。入力した内容が学習に利用され得ることを理解して使うこと。この二点は、事務所では職員教育の中身そのものになります。回答の正確性を前提にしない、という一文は、士業の書面作成では工程の設計に直結します。

行政の文書は、業種ごとの作業手順までは書きません。利用目的の達成に必要な範囲内か、という問いも、そのままでは机の上で使えません。顧問先の資料を前にした担当者が、貼るか貼らないかをその場で判断できる形に直す。この翻訳作業が事務所側に残っている、というのがこの文書の読みどころです。

注意喚起は差し替えではなく積み上げで公開されます。生成AI以外の注意喚起も同じ一覧に並びます。法令やガイドラインの改定は個人情報保護委員会の法令・ガイドライン等のページに集まります。事務所の定点観測先は、この二つを押さえておけば足ります。

注意喚起の柱を事務所の入力ルールに翻訳する5つの観点

翻訳の要は、利用目的という言葉を受任業務という言葉に置き換えることです。個人情報保護法の枠組みでは、事業者が自分で特定した利用目的が判断の物差しになります。士業事務所の利用目的は、顧問契約や個別に受任した業務の範囲とほぼ重なります。そこで机の上の問いは、この情報をAIに渡すことが受任業務の遂行に要るかどうか、という形になります。以下の五つは、その問いを分解したものです。

観点1 利用目的を受任業務に置き換えて読む

注意喚起が事業者に挙げている確認は、入力が利用目的の達成に必要な範囲内かという点です。事務所ではこれを三つの問いに割ります。一つ目は、いま行おうとしている作業がそもそも受任した業務かどうか。二つ目は、その作業を進めるためにこの情報の項目が要るかどうか。三つ目は、要らない項目を落としても作業が成立するかどうか。この三問に答えられない状態で貼り付けが起きているとき、事故は起きやすくなります。

便利かどうかは物差しになりません。要約させると速い、という理由は利用目的の説明にはなりません。逆に、受任業務のために要る項目であれば、それを扱うこと自体は通常業務の延長にあります。線を引く位置は、便利さではなく業務との距離です。この一段だけでも事務所内で言語化しておくと、担当者の判断がぶれにくくなります。

観点2 貼る前に項目を落とす

観点1の三つ目の問いを、作業として形にしたものが項目の減量です。試算表の増減分析に、個人別の氏名や口座番号は要りません。就業規則の条文チェックに、従業員の生年月日は要りません。契約書のリスク洗い出しに、相手方の担当者名は要りません。要らない項目を落としてから貼る。これが最も工数が軽く、効きも大きい手当てです。

落とし方は三通りに整理できます。削除する、置換する、丸める、の三つです。氏名は甲や乙に置換し、会社名はA社に置換します。金額は範囲値に丸めます。住所は都道府県までに丸めます。マイナンバーや口座番号は、業務上そのものを扱う場面を除いて削除します。この作業を担当者の勘に任せず、業務類型ごとの雛形として持っておくと再現性が出ます。関連する線引きの考え方は顧客情報を生成AIに入力するリスクと対策でも整理しています。

観点3 学習に使われるかを設定と契約の両方で確認する

注意喚起のもう一つの柱が、入力された個人情報が機械学習に利用される場合の取扱いです。ここは事務所側の設定と、事業者との契約の二段で見ます。設定だけを見て安心すると、無料版と法人契約が混在したときに読み違えます。

一次情報は各社の公式ドキュメントにあります。OpenAIは入力データがモデル改善にどう使われるかの説明を公開しており、プライバシーポリシーも別に置いています。Anthropicは商用利用規約で商用利用時の取扱いを定めています。読むべきはプラン別・契約別の記載であって、一般論の記事ではありません。設定画面の操作手順はChatGPTを学習させない設定の考え方にまとめています。

確認したら、確認日と確認した版を記録に残します。各社のポリシーは改定されます。半年前に確認したから大丈夫、という状態を作らないための記録です。

観点4 出力を疑う工程を有資格者の側に置く

一般の利用者向けの柱にある、回答が正確とは限らないという指摘は、事務所では工程の話になります。下書きをAIが作り、内容の確認と最終判断は有資格者が行う。この順序を崩さない設計にします。条番号、金額、固有名詞、期限の四つは、原典との突き合わせを人が行う対象として固定しておくと迷いません。

条番号の扱いは特に注意が要ります。生成AIは実在しない条番号をそれらしく出力します。e-Gov法令検索の原文で開いて確認するまでは、下書きの中の番号は仮置きとして扱う。この運用を守るだけで、書面に載る事故はかなり減ります。詳しくは生成AIのハルシネーション対策で扱っています。

観点5 誰がいつ何を入力したかを残す

野良利用が残っていると、観点1から4は機能しません。誰がどのアカウントで何を入力したかが追えないからです。事務所で使うツールとアカウントを決め、個人契約での業務利用は棚卸しの対象にします。記録は完璧でなくても構いません。案件と用途の粒度で残っていれば、後から経路をたどれます。

入力前の五ステップと確認工程

ここまでを担当者の手順に落とすと、次の五段になります。第一段、その作業が受任業務のどこに当たるかを一行で書く。第二段、作業に要る項目を列挙する。第三段、列挙に載らなかった項目を削除・置換・丸めのいずれかで処理する。第四段、処理後の情報だけを入力し、出力を受け取る。第五段、条番号と数値と固有名詞を原典で突き合わせ、有資格者が最終判断を行う。第五段を飛ばした成果物は、事務所の外に出さない扱いにします。

第一段から第三段までは、生成AI自身に補助させることもできます。以下は、入力前の棚卸しをAIに手伝わせるプロンプト例です。実在の顧問先を想起させないよう、架空のA社と甲を使っています。

あなたは士業事務所の情報管理担当です。
これから処理する資料について、生成AIに入力してよい項目を選別してください。

# 前提
- 依頼者は A社（架空）、担当者は 甲（架空）とする
- 目的: A社の月次試算表から、前月比で増減の大きい勘定科目を抽出する

# 手順
1. 目的の達成に要る項目だけを列挙する
2. 目的の達成に不要な項目（氏名・住所・生年月日・口座番号・個人別の給与額など）を列挙する
3. 2 の項目について、削除 / 甲・乙などへの置換 / 範囲値への丸め のどれを使うかを項目ごとに選ぶ
4. 選別後に残る情報だけで目的が達成できるかを判定し、できない場合は理由を書く

出力は箇条書きのみ。判断に迷った項目は必ず「要確認」と明記すること。

出力側の一次チェックも定型化できます。次のプロンプトは、有資格者が確認に入る前の下準備として使うものです。書き換えを禁止し、抜き出しと判定だけをさせるのがポイントです。

以下の下書きは生成AIが作成したものです。有資格者が確認する前の一次チェックを行ってください。

# 下書き
{ここに下書きを貼る}

# チェック項目
1. 条番号と法令名を一覧にする（原典照合は人が行うので、番号の抜き出しのみ）
2. 金額・件数・日付を抜き出し、根拠が下書き内に書かれているかを判定する
3. 固有名詞（会社名・人名・地名）を抜き出し、入力資料に存在したかを判定する
4. 断定的な表現を抽出する

出力形式は、項目 / 抜き出した内容 / 確認の要否 の箇条書き。
本文の書き換えは行わないこと。確認が必要な箇所は必ず理由を添えること。

この五段は、事務所の規程に一節として書き込めます。規程の作り方そのものは士業事務所のAI利用規程テンプレートで扱っています。

守秘義務と個人情報保護法が二重に重なる士業の特殊事情

士業事務所が一般企業の入力ルールをそのまま持ち込むと足りない部分が出ます。理由は、守るべき対象が二重になっているからです。個人情報保護法の義務に加えて、資格法の秘密保持義務が重なります。

個人情報保護法の側では、三つの条文が入力の場面に関わります。個人情報の保護に関する法律第20条は適正な取得を定め、偽りその他不正の手段による取得を禁じるとともに、要配慮個人情報の取得に本人の同意を求める旨を置いています。同法第23条は安全管理措置の規定で、取り扱う個人データの漏えい、滅失、毀損の防止その他の安全管理のために必要かつ適切な措置を講ずる旨を定めています。同法第27条は第三者提供の制限で、あらかじめ本人の同意を得ないで個人データを第三者に提供してはならない旨と、その例外を並べています。

第27条には委託の定めがあります。同条第五項は、利用目的の達成に必要な範囲内で個人データの取扱いの全部または一部を委託することに伴って提供される場合、提供先を第三者としない旨を置いています。生成AIサービスの利用がこの委託の枠に収まるかどうかは、契約内容とサービスの仕様によって変わる論点です。当編集部として一律の当てはめは示せません。事務所側でできるのは、委託として整理するのか、そもそも個人データを渡さない設計にするのかを、業務類型ごとに決めておくことです。

資格法の側は職種ごとに条文が分かれます。弁護士法第23条は、弁護士または弁護士であった者が職務上知り得た秘密を保持する権利を有し義務を負う旨を定めています。税理士法第38条は、正当な理由なく税理士業務に関して知り得た秘密を他に洩らし、または窃用することを禁じています。公認会計士法第27条と社会保険労務士法第21条にも、同じ趣旨の秘密を守る義務が置かれています。八士業の条文を横に並べた整理は士業の生成AIと守秘義務にあります。

二重構造がもたらす実務上の差は明確です。個人情報保護法が対象にするのは個人情報ですが、資格法の秘密はそこに限られません。法人の財務状況、係争の見通し、事業承継の検討状況といった、個人を特定しない情報も秘密に含まれ得ます。つまり、氏名や住所を落として匿名化したから安心、という発想は士業事務所では成り立ちません。個人情報の観点で減量した資料が、依然として秘密そのものである場合があります。

そしてもう一つ、同意で片付かない領域があります。顧問先の資料には、顧問先の従業員、取引先、相手方といった第三者の個人情報が混ざります。給与計算の資料には従業員の情報が、契約書には相手方の担当者の情報が入っています。事務所が顧問先から同意を得たとしても、それは顧問先自身の判断にすぎません。第三者の個人情報については、顧問先がどの利用目的で取得し、どの枠組みで事務所に渡しているかという前段が先にあります。事務所からAI事業者へさらに渡すとき、この前段を飛ばした説明は成立しにくくなります。

規程に落とすときは、同意書の文言を厚くするより、渡さない設計を増やすほうが運用は軽くなります。第三者の情報が混ざる資料は入力対象から外す、構造だけを抜き出して入力する、といった運用を採る事務所があります。顧問先への説明の組み立て方は顧問先へのAI活用説明資料の作り方で扱っています。

同意を取ったつもりで残る論点 3つの失敗と手当て

一つ目は、顧問契約書に加えた包括的な一文を万能札として扱ってしまう失敗です。AI利用に同意する旨の一文を入れたので、以後は資料をそのまま入力してよい、という運用が生まれます。しかし前節のとおり、資料に混ざる第三者の情報はその一文の射程外に残ります。手当ては、同意の文言を業務類型ごとに分け、第三者の情報を含む資料の扱いを別項目で書き分けることです。

二つ目は、無料版と法人契約の混在です。事務所として法人プランを契約していても、担当者が自席の私用アカウントで下書きを作っていれば、契約上の取扱いは私用アカウント側の規定に従います。監査や事故調査の場面で、どちらで入力したかを説明できません。手当ては、業務で使うアカウントの一覧を作り、月に一度、利用実態と突き合わせることです。棚卸しは長い会議になりません。名簿と実際のログイン記録を並べるだけで足ります。

三つ目は、確認の鮮度切れです。導入時に各社のポリシーを読み込み、その後は放置される。ポリシーは改定されるので、記録された結論だけが古いまま残ります。手当ては、確認日と版を記録し、四半期に一度だけ差分を見る運用にすることです。全文を読み直す必要はありません。更新履歴の有無を確認し、あった箇所だけを開けば済みます。入力経路そのものの洗い出しは生成AIの情報漏えいはどこで起きるかで整理しています。

入力ルールを運用に乗せる工数と体制の見積もり

ここからは編集部が置いた想定であり、出典のある数字ではありません。所員が五人前後、顧問先を数十件抱える事務所を前提に、工数の感覚を書きます。

初期構築は三つの作業に分かれます。業務類型の棚卸しに半日、類型ごとの入力可否と減量ルールの作成に半日、記録様式と周知資料の作成に半日。合わせて一日半から二日というのが、無理のない見込みです。ここで欲張って完成度の高い規程を作ろうとすると着手が遅れます。走らせながら直す前提で、粗い版を先に出すほうが定着します。

運用に入ってからの負荷は軽くなります。月に一度のアカウント棚卸しが一時間弱、四半期に一度のポリシー差分確認が半日弱です。加えて、新しい業務類型が出たときに可否を判定する作業が随時発生します。判定は事務局長や情報管理の担当者が一次で行い、判断がつかないものだけを有資格者に上げる形にすると滞りません。

体制で決めておくのは二点です。入力可否の一次判定を誰が持つか。出力の最終確認を誰が行うか。前者は事務局側でも回せますが、後者は有資格者から動かせません。この線を最初に引いておくと、繁忙期に工程が飛ぶ事故を防げます。

制度改正の動きと事務所がいまつかむ論点

個人情報保護法については制度改正の議論が続いており、課徴金制度の導入や、統計情報等の作成のみを目的とする場合の同意要件の扱いなどが論じられていると報じられています。ただし当編集部では、改正法の成立や条文を一次情報で確認できていません。この点は要確認の扱いとし、条番号や施行日は本記事では書きません。確定した内容は個人情報保護委員会の法令・ガイドライン等のページに掲載されます。

行政の側では、AIの利用に関する指針が個人情報の分野以外でも整備されています。総務省と経済産業省が公表しているAI事業者ガイドラインは、AIを開発する側、提供する側、利用する側に分けて留意事項を並べた文書です。事務所は利用する側として読む立場になります。これらは法的拘束力を持つ規制ではなく、随時更新される指針という位置づけです。

改正や指針の更新を待つ必要はありません。今回の翻訳作業で決めた五つの観点は、制度が動いても骨格が変わりにくい部分です。受任業務との距離で線を引くこと、渡す前に落とすこと、契約と設定を両方見ること、出力を疑う工程を有資格者側に置くこと、経路を記録すること。この五つを先に回しておけば、制度側の変更は運用の微調整で吸収できます。

よくある質問

個人情報保護委員会の注意喚起は、生成AIの利用を禁止したものですか

いいえ、禁止ではなく、入力前の確認の観点を示した文書です。事業者向けには、個人情報を含むプロンプトの入力が利用目的の達成に必要な範囲内かを十分に確認すること、入力された個人情報が機械学習に利用される場合の取扱いに留意することが挙げられています（個人情報保護委員会の公表ページ）。利用の可否そのものを一律に決める文書ではありません。

顧問先の同意があれば、届いた資料をそのまま入力してよいですか

同意の射程を確認するところから始まります。顧問先の資料には、従業員や取引先など第三者の個人情報が混ざります。顧問先から得た同意は顧問先自身の判断であって、第三者の情報については、顧問先がどの利用目的で取得し、どの枠組みで事務所に渡しているかという前段が先にあります。同意の文言を厚くするより、第三者の情報を含む資料を入力対象から外す設計のほうが運用は安定します。

仮名化すれば、個人情報保護法の関係で気にしなくてよくなりますか

一律にそうとは言えません。加工の程度や復元の可能性によって整理が変わる論点で、公表資料から一律の結論は読み取れません。加えて士業の場合、資格法の秘密は個人情報に限られないため、氏名を伏せても秘密であり続ける情報が残ります。仮名化は入力量を減らす手段として使い、それだけで判断を終えない設計にしておくほうが実務は安全側に寄ります。

法人向けプランを契約していれば、入力は学習に使われませんか

プランと契約ごとの規定を読むところから始まります。OpenAIは入力データの利用に関する説明を、Anthropicは商用利用規約を公開しており、記載はプランや契約形態で異なります。各社のポリシーは改定されるため、確認した日付と版を記録に残し、四半期に一度だけ差分を見る運用にしておくと鮮度を保てます。

事務所の入力ルールは、どこから作り始めればよいですか

業務類型の一覧から作ります。記帳代行、給与計算、契約書レビュー、申請書作成といった単位で並べ、それぞれに入力可否と減量ルールを付けていく順序です。全業務を一度に整理せず、頻度の高い上位の類型から着手すると早く回り始めます。雛形は士業事務所のAI利用規程テンプレートを参照してください。

注意喚起の内容が変わったかは、どう確認しますか

個人情報保護委員会の注意喚起等の一覧を定期的に見る方法が簡単です。注意喚起は差し替えではなく積み上げで公開されるため、一覧の新着を追えば足ります。法令やガイドラインの改定は法令・ガイドライン等のページ側に載ります。事務所ではこの二つを定点観測先に登録しておく運用が現実的です。

生成AIの出力に条番号が出てきたら、どう扱えばよいですか

原典で突き合わせるまで仮置きとして扱う運用が安全側です。生成AIは実在しない条番号をそれらしく出力するため、e-Gov法令検索などの原文で開いて確認する工程を、有資格者側の作業として固定しておきます。条番号、金額、固有名詞、期限の四つを突き合わせの対象に決めておくと、確認漏れが起きにくくなります。

参考文献

• 個人情報保護委員会 生成AIサービスの利用に関する注意喚起等について
• 個人情報保護委員会 注意喚起等の一覧
• 個人情報保護委員会 法令・ガイドライン等
• e-Gov法令検索 個人情報の保護に関する法律
• e-Gov法令検索 弁護士法
• e-Gov法令検索 税理士法
• e-Gov法令検索 公認会計士法
• e-Gov法令検索 社会保険労務士法
• 総務省 AI事業者ガイドライン
• OpenAI How your data is used to improve model performance
• Anthropic Commercial Terms of Service

※士業のチカラでは、生成AIの導入支援から運用最適化まで、貴事務所の業務に合わせたカスタマイズ提案を行っています。無料相談（30分）も実施中ですので、お気軽にお問い合わせください。
https://shigyonochikara.jp/contact/