NIST AI RMFとは、AIのリスク管理を4機能で整理した枠組みのことです。

事務所の生成AI利用規程を書こうとして、何から書けばよいか分からず止まった経験はないでしょうか。ゼロから項目を考えると、思いついた順に禁止事項が並ぶだけの文書になりがちです。本記事では、NISTのAI Risk Management Frameworkが示す4つの機能を骨格として借り、士業事務所の規模で回るガバナンス体制に落とす手順を整理します。本記事は士業のチカラ編集部が、公表されている一次情報のみを根拠に作成しています。法令の条文はe-Gov法令検索の原文で、行政の見解は各府省庁の公表資料で確認しています。

なぜ海外の枠組みを士業事務所が借りるのか

結論から書くと、規程の抜け漏れを自力で防ぐより、既にある構造を借りたほうが早く、そして漏れにくいからです。

NISTのAI RMF Coreの解説によると、このフレームワークは govern、map、measure、manage の4機能で構成され、各機能はカテゴリとサブカテゴリに分解されています。同解説は、これらのアクションはチェックリストを構成するものではなく、順序が定まった一連の手順でもない、と注記しています。事務所の規模に合わせて取捨選択してよい、という前提で設計されている点が、中小規模の事務所にとって扱いやすいところです。

同解説はまた、フレームワークの利用者が自らのリソースと能力に基づいて、管理に最も適した形でこれらの機能を適用してよい、と述べています。すべてのサブカテゴリを実装する組織もあれば、一部を選ぶ組織もある、という書き方です。10人に満たない事務所が大企業と同じ体制を組む必要はない、という読み方ができます。この点は根拠として押さえておきたいところです。

日本側の枠組みと並べて見ることもできます。総務省と経済産業省はAI事業者ガイドラインを公表しており、AI開発者、AI提供者、AI利用者の3主体を対象に、基本理念と指針、そして実践のアプローチを示しています。士業事務所は多くの場面でAI利用者の立場に立つので、こちらも合わせて読むと、国内の文脈に沿った整理ができます。日本の制度側の動きはAI新法の士業事務所への影響でも扱っています。

もう1点、前掲のAI RMF Coreのページには、AI RMF 1.0 は更新中で改訂版が進行中である旨の表示が出ています。枠組み自体が動く前提なので、事務所の規程に条文のように引き写すのではなく、章立ての骨格として使う姿勢が合います。

4機能を事務所の言葉に置き換える

前掲のAI RMF Coreの解説に沿って、4機能を事務所の作業に翻訳します。

govern は、リスク管理の文化と体制を組む機能です。同解説は、この機能がリスク管理の文化を育て実装し、リスクを予見・特定・管理するプロセスや文書、組織の枠組みを示すものだと説明しています。そして govern は他の3機能に横断的に浸透する機能だとされています。事務所でいえば、誰が決めるか、何を文書に残すか、どの頻度で見直すかを決める作業がこの層に入ります。

map は、リスクを枠づける文脈を確立する機能です。同解説は、map を完了した時点で、利用者はAIシステムの影響について十分な文脈的知識を持ち、設計・開発・導入を進めるかどうかの最初の判断ができる状態になるとしています。事務所でいえば、どの業務にAIを使うのか、その業務にどんな誤りが起こり得るのかを洗い出す作業です。

measure は、AIリスクと影響を分析・評価・監視する機能です。同解説は、定量的、定性的、または混合の手法を用いるとし、AIシステムは導入前に、そして稼働中も定期的にテストされるべきものだと述べています。事務所でいえば、AIの出力の誤り率を実際に数えてみる作業がここに入ります。

manage は、洗い出して測ったリスクに資源を割り当てる機能です。同解説は、リスク対応にはインシデントや事象への対応、復旧、そして周知の計画が含まれるとしています。事務所でいえば、AIが誤った出力を書面に混ぜてしまったときに誰が何をするかを決める作業です。

この4つを並べると、多くの事務所の規程が govern と manage の一部だけで止まっていることが見えてきます。禁止事項を並べて終わる規程は、map と measure が抜けた状態です。何に使うのかを定義せず、誤り率も測らないまま、禁止だけを書いている構造になります。

順序についても、前掲のAI RMF Coreの解説に記載があります。ガバナンス構造が整っていることを前提に、機能はAIのライフサイクル全体を通じて価値があると判断される任意の順序で実行してよいとし、統合の仕方によらずプロセスは反復的で、機能間の相互参照が必要になるとしています。事務所に置き換えると、規程を1度書いて完成にするのではなく、運用してみて分かったことを規程へ戻す往復が前提だ、という読み方になります。

もうひとつ、同解説は、AI RMFの実務的な行動指針として NIST AI RMF Playbook が用意されていることも案内しています。こちらも任意の資料で、組織が自らの文脈に合わせて提案内容を取捨選択できる位置づけです。事務所の規程を書く段階で細目に詰まったら、こちらを参照する形になります。

士業事務所で回す6手順

第1手順は、AIの棚卸しです。前掲のAI RMF Coreの表には、govern のサブカテゴリとして、AIシステムを棚卸しする仕組みが整備され、組織のリスク優先度に応じて資源が配分されていること、という項目が挙げられています。事務所でいえば、誰がどのサービスを使っているかの一覧を作る作業です。ここが埋まらないと、以降の手順が空回りします。

第2手順は、法令と規制の把握です。同じ表には、AIに関する法的および規制上の要求事項が理解され、管理され、文書化されていること、というサブカテゴリが置かれています。士業事務所の場合、ここに守秘義務が入ります。税理士であれば税理士法第38条に、正当な理由がなくて税理士業務に関して知り得た秘密を他に洩らし、又は窃用してはならない、と定めがあります。弁護士については弁護士法第23条に、職務上知り得た秘密を保持する権利を有し、義務を負う、と規定されています。この条文を規程の冒頭に置き、以降の運用ルールがそこから導かれる構造にすると、担当者に趣旨が伝わります。

第3手順は、役割の明文化です。前掲の表は、AIリスクのマッピング、測定、管理に関する役割、責任、コミュニケーションの経路が文書化され、組織全体の個人とチームにとって明確であること、というサブカテゴリを示しています。事務所の規模では、判断者を1人決めるだけでも機能します。根拠は、判断が滞る原因の多くが権限の所在の不明確さにあるためです。

第4手順は、人による監督工程の設計です。前掲の表の map の項目には、人による監督のプロセスが govern 機能の組織方針に従って定義され、評価され、文書化されること、という記載があります。士業事務所では、有資格者が最終確認する工程をどこに置くかが、この項目に対応します。権限の絞り方はAIエージェントの権限管理で工程化しています。

第5手順は、誤りを数えることです。感覚で「精度が悪い」と言い合う段階から抜けるには、実際に数えるしかありません。前掲の表の measure の項目には、リスクを継続的に特定・追跡するためのアプローチ、人員、文書が整備されていること、という記載があります。事務所でできる範囲としては、月に一度、AIが下書きした書面を無作為に抜き出し、修正が入った箇所を分類する程度で十分に見えてきます。

第6手順は、止め方を決めることです。前掲の表の manage の項目には、意図した用途と一致しない性能や結果を示すAIシステムを差し替え、切り離し、または停止するための仕組みが整備され、責任が割り当てられ理解されていること、という記載があります。導入の手順ばかり作って、止める手順を作らない事務所は多いところです。

棚卸しの作業は、次のプロンプトで下書きを作れます。

あなたは士業事務所のリスク管理の補助です。
以下の情報から、AI利用の棚卸し表の下書きを作ってください。

入力:
- 事務所の業務一覧: {列挙}
- 現在使っているAIサービス: {列挙}
- 契約形態（事務所契約/個人アカウント/不明）: {列挙}

出力（サービスごとに箇条書き。表は使わない）:
1. 用途
2. 投入されうる情報の種類
3. 契約形態と学習利用の条件（不明なら「要確認」）
4. 出力を誰が確認しているか
5. 停止したい場合の手順が存在するか
判断や法的評価は書かず、事実の整理と「要確認」の抽出にとどめてください。

誤りを数える工程は、分類の軸を先に決めておくと集計が続きます。

あなたは士業事務所の品質管理の補助です。
AIが下書きした書面と、有資格者が修正した後の書面を比較し、
修正箇所を以下の軸で分類してください。

分類軸:
A 事実の誤り（条番号・日付・金額・固有名詞）
B 表現の調整（言い回し・敬語・事務所の書式）
C 構成の変更（順序・章立て）
D 記載漏れ（元資料にあるのに書かれていない）

出力:
- 修正箇所ごとに分類記号と該当箇所
- 分類ごとの件数
- Aに分類された箇所について、どの工程で検知できたかの推定
評価や助言は書かず、分類と集計にとどめてください。

外部サービスへの依存をどう規程に書くか

判断の起点は、事務所が使うAIサービスがすべて第三者の提供物だという事実です。自前で作っていない以上、リスクの相当部分は外部に握られています。

前掲のAI RMF Coreの表には、govern のカテゴリとして、第三者のソフトウェアやデータ、その他のサプライチェーンに起因するAIのリスクと便益に対処する方針および手続が整備されていること、が挙げられています。サブカテゴリでは、第三者の知的財産権その他の権利の侵害リスクを含む、第三者に関連するAIリスクに対処する方針および手続が整備されていること、そして高リスクと判断された第三者のデータやAIシステムの障害・インシデントに対処する緊急時プロセスが整備されていること、が示されています。

士業事務所の規程に落とすと、3つの項目になります。ひとつ目は、使うサービスの学習利用とデータ保持の条件を公式ドキュメントで確認し、確認日とともに保存すること。ふたつ目は、そのサービスが停止したときに業務が止まらない代替手段を決めておくこと。みっつ目は、サービス側の約款改定を追う担当と頻度を決めることです。

守秘義務の観点では、契約形態による差が最も効きます。同じサービスでも、無料枠と法人契約でデータの扱いに関する記載が異なる例があるためです。この確認の進め方は生成AIの法人プランと学習利用の比較に整理しています。

もうひとつ、規程が機能するための前提条件があります。所内のアカウントが事務所管理に寄っていることです。個人アカウントでの業務利用が残っていると、棚卸しも追跡も成立しません。この論点は事務所のシャドーAI対策で扱っています。順序としては、アカウント整理を先に済ませ、そのうえで規程を書くほうが手戻りが少なくなります。

最後に、顧問先や依頼者への説明です。前掲のAI RMF Coreの表には、AIシステムを開発または導入したチームの外部からのフィードバックを収集し、考慮し、優先順位を付け、統合する方針および実務が整備されていること、というサブカテゴリが置かれています。事務所に置き換えると、顧問先から寄せられた懸念を誰が受け、どこに反映するかを決めておく作業になります。

体制構築でつまずいた3つの場面

ひとつ目は、フレームワークを全部やろうとする場面です。前掲のAI RMF Coreの解説は、カテゴリとサブカテゴリの中から選択する組織もあれば、すべてを適用する能力を持つ組織もある、と明記しています。中小規模の事務所が全項目を埋めようとすると、着手前に力尽きます。棚卸しと役割の明文化から始めて、あとは運用しながら足す進め方が現実的です。

ふたつ目は、規程を作って終わりにする場面です。前掲の表には、リスク管理プロセスとその結果の継続的な監視と定期的なレビューが計画され、定期レビューの頻度の決定を含めて組織の役割と責任が明確に定義されていること、というサブカテゴリがあります。頻度を書かない規程は、実質的にレビューされません。年1回でも構わないので、日付を決めて書き込んでおく形が効きます。

みっつ目は、測る工程を飛ばす場面です。誤り率を数えないままAIは信用できないと結論づけると、使える業務まで止まります。逆に、数えないまま精度は問題ないと判断すると、事故が起きるまで気付きません。前掲のAI RMF Coreの解説が measure を独立した機能として置いているのは、この工程が抜けやすいからだと読めます。

費用と工数を見積もる 10人規模の事務所の場合

以下は実測値ではなく、工程から逆算した参考値です。根拠となる費用は、依頼先や導入するツールによって変わります。

最も時間を食うのは棚卸しです。誰が何を使っているかは、聞き取りをしないと出てきません。ここは1回で終わらせようとせず、初回で概況を掴み、数週間後にもう一度確認する形のほうが精度が上がります。個人アカウントの利用は、初回の聞き取りでは出てこないことがあるためです。責める場ではないと先に伝えておくと、2回目の精度が上がります。

規程の起案は、骨格を借りているぶん短く済みます。4機能を章立てにして、6手順で洗い出した内容を流し込むと、事務所の規模なら数日で草案までは届きます。外部の専門家にレビューを依頼する場合も、草案がある状態で相談すると論点が絞れます。

継続的にかかる工数は、レビューの定例と、誤りの分類集計です。前者は年1回から2回、後者は月次で1時間程度を見込む形が回りやすいところです。根拠として、集計の対象を無作為抽出に絞れば件数が抑えられるためです。

改訂版が出る前提で骨格だけ借りる

前掲のAI RMF Coreのページには、AI RMF 1.0 が更新中である旨の表示が出ています。事務所の規程を作る側としては、改訂で細目が変わることを前提に設計しておく必要があります。

具体的には、規程本体には4機能の骨格と、事務所固有の判断基準だけを書く。サブカテゴリの細目や、具体的なツール名、確認手順は運用マニュアル側に置く。この二層構成にしておくと、枠組みが改訂されてもマニュアルの差し替えで済みます。

論点になるのは、国内の枠組みとの対応づけです。前掲のAI事業者ガイドラインも版が更新されており、総務省の掲載ページで最新版が案内されています。海外の枠組みと国内のガイドラインを両方見る場合、事務所側で対応表を作ると管理が二重になります。骨格はどちらか一方に寄せ、もう一方は参照先として置く形が扱いやすいところです。国の計画側の動きはAI基本計画の第II期を士業事務所の計画に落とすで追っています。

よくある質問

NIST AI RMF は士業事務所も従う必要がありますか

任意の枠組みとして設計されています。前掲のAI RMF Coreの解説は、利用者が自らのリソースと能力に基づいて機能を適用してよいとし、カテゴリの中から選択する組織もあると述べています。日本の士業事務所に適用義務を課すものではなく、規程の骨格を借りる材料として使う位置づけになります。

4機能のどれから着手すればよいですか

govern の一部を整えたうえで map から入る流れが示されています。前掲のAI RMF Coreの解説は、govern の成果を整えたあと、ほとんどの利用者は map から始めて measure または manage へ進むだろう、と述べています。事務所の実務では、棚卸しと役割の明文化を先に済ませる形が対応します。

小規模事務所でも measure まで必要ですか

必要かどうかは事務所の判断ですが、飛ばすと精度の議論が感覚論に留まります。前掲のAI RMF Coreの解説は、AIシステムは導入前と稼働中に定期的にテストされるべきものだとしています。月に数件の抜き取り検査でも、修正箇所の傾向は見えてきます。

AI事業者ガイドラインとNIST AI RMFのどちらを使えばよいですか

どちらか一方を骨格に選び、もう一方を参照先に置く形が管理しやすくなります。前掲のAI事業者ガイドラインは、AI開発者、AI提供者、AI利用者の3主体を対象に基本理念と指針を示しており、国内の文脈に沿っています。海外案件や外資系顧問先が多い事務所であれば、NIST側を骨格に置く選択もあります。

規程に何を書き、マニュアルに何を書き分けますか

規程には4機能の骨格と事務所固有の判断基準を、マニュアルには具体的なツール名と操作手順を置く分け方が扱いやすい形です。枠組みもツールも改訂されるため、変わりやすいものを下層に置くと、上層の改訂頻度を下げられます。

第三者サービスの障害に備える手順はどこまで書きますか

前掲のAI RMF Coreの表は、高リスクと判断された第三者のデータやAIシステムの障害・インシデントに対処する緊急時プロセスの整備を挙げています。事務所の規模では、代替手段の候補と、切り替えの判断者を書いておく程度から始める形が現実的です。

参考文献

• NIST AI Risk Management Framework
• NIST AI RMF Core（AI RMF Section 5）
• NIST AI RMF Playbook
• 総務省 AI事業者ガイドライン 掲載ページ
• e-Gov法令検索 税理士法
• e-Gov法令検索 弁護士法

※士業のチカラでは、生成AIの導入支援から運用最適化まで、貴事務所の業務に合わせたカスタマイズ提案を行っています。無料相談（30分）も実施中ですので、お気軽にお問い合わせください。
https://shigyonochikara.jp/contact/