AIの誤りが顧問先に届いた後訂正と説明を組む7工程

訂正フローとは、誤りが分かってから顧問先に伝え直すまでの手順のことです。

生成AIが出力した数字や条番号の誤りが、顧問先に渡った資料に載っていた。この事態が起きたときに何をどの順で動かすかを、事務所として決めているでしょうか。本記事は士業のチカラ編集部が、公表されている一次情報のみを根拠に作成しています。法令の条文はe-Gov法令検索の原文で、行政の見解は各府省庁の公表資料で確認しています。総務省と経済産業省のAI事業者ガイドラインは、AIを利用する事業者に対して人間による監督や責任の所在の明確化といった論点を示しており、事後対応の設計もその延長線上にあります。

誤りは止めるだけでなく、届いた後の道筋も要る

生成AIの出力に誤りが混じることへの対策は、ここ数年で入口側が整ってきました。原典に戻る、条番号をその都度開く、二重で確認する。こうした工程は多くの事務所が持っています。士業のチカラでも生成AIの条番号と施行日は疑うダブルチェック7工程で扱いました。

一方で、すり抜けた後の道筋を書いた事務所は多くありません。関門はどこかで漏れます。漏れた前提で、発見から訂正、説明、記録までを決めておくかどうかが、事故の大きさを分けます。

参考になるのは、政府側が採っている構図です。デジタル庁の生成AI調達・利活用ガイドラインの概要資料は、提供者および利用者がリスクケースが生じた場合に各府省のAI統括責任者へ報告し、提供者が必要な対応を実施すること、アドバイザリーボードが報告を受けて必要に応じ再発防止策等を検討することを示しています（出典: デジタル庁ガイドライン2.0版について（概要））。誰に報告し、誰が対応し、どこに知見を戻すか。この3点が決まっていることが要点です。

士業事務所に置き換えると、報告先は所内の責任者、対応は担当者と有資格者、知見の戻し先はチェック工程になります。規模が小さい事務所では役割が重なりますが、重なっていること自体は問題になりません。決めていないことが問題になります。

顧問契約の性質からも、事後対応は業務の一部として位置づけられます。民法第644条は、受任者が委任の本旨に従い善良な管理者の注意をもって委任事務を処理する義務を負うと定めています。また民法第645条は、受任者が委任者の請求があるときはいつでも委任事務の処理の状況を報告し、委任が終了した後は遅滞なくその経過および結果を報告することを定めています。士業の顧問業務の多くは民法第656条の準委任として整理されることが多い契約類型であり、これらの規定が参照される場面があります。個別の事案でどう扱われるかは契約内容と事実関係によって変わるため、一般化はできません。

発見から記録までを7工程に分ける

以下は、誤りが見つかった時点から動かす7工程です。判断と説明は有資格者が担い、AIは事実の洗い出しと下書きに限って使います。

第1工程は、事実の確定です。どの資料の、どの箇所が、どう誤っていたか。誤った出力を生んだプロンプトと、その出力を使った資料のバージョンを特定します。ここで推測を混ぜないことが後の全工程を左右します。原典を開いて、正しい記載を先に確定させます。

第2工程は、影響範囲の把握です。同じ出力を使い回した資料が他にないか、同じプロンプトを別の顧問先で使っていないかを確認します。テンプレート化されたプロンプトほど横に広がります。この確認は、プロンプトの利用履歴が残っているかどうかで所要時間が変わります。履歴が残っていない事務所は、この工程で初めてその不足に気づきます。

ここで一つ実務的な補足をしておきます。影響範囲の確認は、資料の側からたどる方法と、プロンプトの側からたどる方法の2つがあります。資料からたどると確実ですが、量が多い事務所では時間がかかります。プロンプトからたどると速い代わりに、履歴が残っていない期間は追えません。両方を併用し、プロンプト側で当たりを付けてから資料側で確認する順序が、現実的な落としどころになります。

第3工程は、所内報告です。誰に上げるかを事前に決めておきます。担当者が単独で顧問先に連絡してしまうと、説明の内容が事務所として統一されません。報告の様式は簡素で構いません。発見日時、対象資料、誤りの内容、暫定の影響範囲の4項目があれば動けます。

第4工程は、顧問先への一次連絡です。全容が固まる前でも、誤りがあった事実と、確認中である旨を先に伝える判断が要る場面があります。連絡が遅れるほど、顧問先が誤った情報のまま動いてしまう時間が延びます。一次連絡の文面は、事実と現在の状況、次の連絡の目安に絞ります。

第5工程は、正式な訂正の提示です。何が誤りで、正しくは何か、その根拠はどこかを、原典のリンクや条文とともに示します。生成AIを使ったことに起因する誤りであれば、その旨を伏せない選択を採る事務所もあります。伏せると、後から分かったときに信頼の毀損が大きくなるためです。

正式な訂正を伝えるときの構成にも型があります。何が誤っていたか、正しくは何か、その根拠はどこか、影響がどこまで及ぶか、今後どう防ぐか。この5つを順に並べると、受け取る側が判断に必要な情報を一度で受け取れます。順序を入れ替えて再発防止から書き始めると、肝心の訂正内容が読み飛ばされることがあります。

第6工程は、原因の切り分けと再発防止です。プロンプトの設計に問題があったのか、確認工程が飛ばされたのか、そもそも確認工程が存在しなかったのか。3つは対策が違います。1つ目はプロンプトの修正、2つ目は運用の見直し、3つ目は工程の新設です。

第7工程は、記録です。ここまでの経過を、事案ごとにA4で1枚にまとめて残します。次に同種の事案が起きたときの参照先になり、事務所としての対応の一貫性を支えます。

影響範囲の洗い出しには、次のプロンプトが使えます。

あなたは事務所内の調査を手伝うアシスタントです。
以下は、誤りが見つかった出力と、その出力を使った可能性のある資料の一覧です。
次の3つに仕分けて箇条書きにしてください。
(1) 同じ誤った記述が含まれている可能性が高いもの
(2) 同種の論点を扱っているが、記述の一致は確認できないもの
(3) 関連が薄いと考えられるもの
判定の根拠になった語句を必ず引用してください。
推測で結論を書かず、判断できないものは「判断不能」と明記してください。

誤った出力:
（ここに貼り付ける）

資料一覧:
（ここに貼り付ける）

顧問先への連絡文の下書きには、次のプロンプトが使えます。

以下の事実関係をもとに、顧問先への連絡文の下書きを作ってください。
条件:
- 事実、現在の状況、次の連絡の目安の3点だけを書く
- 原因の推測、責任の所在に関する評価、法的な当てはめは書かない
- 謝罪の言葉は1文にとどめる
- 敬体で、400字以内

事実関係:
（ここに貼り付ける）

下書きは有資格者が読み直してから送ります。この工程を外すと、AIが補った推測が事実として顧問先に伝わる事故が起きます。

訂正の場面で守秘義務と記録がぶつかる論点

事後対応では、記録を残すことと守秘義務を守ることが同時に要求されます。両立させるには、記録に何を書き、どこに置くかを先に決めておく必要があります。

まず、記録の置き場所です。誤りの経過を所内の共有フォルダに置く場合、その資料には顧問先名と業務内容が入ります。事務所内であっても、案件に関与していない職員が閲覧できる状態にするかどうかは、事務所として決めておく論点です。閲覧範囲を絞ったうえで、責任者が全体を見られる形が扱いやすくなります。

次に、調査のために生成AIを使う場合の入力範囲です。影響範囲の洗い出しをAIに任せると、資料の中身をそのまま入力することになります。入力先のサービスがデータを学習に利用するかどうか、保存期間はどれくらいかを確認せずに進めると、誤りの調査が別の事故を生みます。デジタル庁の概要資料も、生成AIシステムへの入力結果や出力結果が必要に応じシステム側に提供されることの理解を、利用前に押さえる項目として挙げています（出典: デジタル庁ガイドライン2.0版について（概要））。

個人データが関わる事態では、別の枠組みも視野に入ります。個人情報の保護に関する法律第26条は、その取り扱う個人データの漏えい、滅失、毀損その他の個人データの安全の確保に係る事態であって個人の権利利益を害するおそれが大きいものとして規則で定めるものが生じたときの報告等について定めています。AIの出力誤りそのものと、個人データの漏えい等は別の事象ですが、誤った出力の調査過程で外部サービスへデータを送っていた場合には、どちらの話なのかを整理する必要が出ます。

顧問契約の文言も、この機会に見ておく価値があります。生成AIの利用に関する条項を置いている事務所は、誤りが生じた場合の対応手順まで書いているかを確認します。置いていない事務所は、まず利用の有無をどう伝えるかから決めます。士業のチカラでは、AI契約書レビューの結果を顧問先にどう説明するかで、説明と責任範囲の設計を扱いました。あわせて、AI事業者ガイドライン第1.2版を事務所規程へ落とす手順も規程づくりの参照先になります。

対応を誤る3つのパターン

ひとつ目は、担当者が独断で処理してしまうパターンです。顧問先との関係を壊したくない気持ちから、小さく収めようとして所内に上げない。結果として、同じ誤りが他の資料に残ったままになります。回避策は、報告の基準を数値ではなく事象で定めることです。誤りが顧問先に渡った資料に載っていたら報告、という単純な基準にします。

ふたつ目は、原因の説明を先に立ててしまうパターンです。事実関係が固まる前に、AIのせいだと言ってしまう、あるいは担当者の確認漏れだと決めつける。どちらも後から覆ると、二次的な問題になります。一次連絡では事実と状況に絞ります。

みっつ目は、記録を残さないパターンです。その場で収まったので書かない。半年後に同種の事案が起きたときに、前回どう対応したかが誰にも分かりません。事務所としての一貫性は記録の上にしか成り立ちません。

準備にかかる工数と体制

事前に用意するものは3つです。報告の様式、一次連絡の文面のひな形、記録の様式。いずれもA4で1枚に収まる分量で足ります。作成には、事務所で半日ほどの打ち合わせと、その後の文面調整を見ておくと形になります（出典: 士業のチカラ編集部による業務設計の想定であり、公表された調査に基づく数値ではありません）。

用意した様式は、平時に一度だけ使ってみる価値があります。実際に起きていない架空の事案を1つ置いて、報告から記録までを通してみると、様式の項目が足りているかどうかがすぐ分かります。事故が起きてから様式の不備に気づくと、対応そのものが遅れます。

体制については、報告を受ける人を1人決めることが起点になります。デジタル庁のガイドラインが各府省にAI統括責任者を置く形を採っているのと同じ発想です（出典: デジタル庁ガイドライン2.0版について（概要））。小規模な事務所では所長が兼ねる形でも動きます。名前が決まっていることが、報告をためらわせない条件になります。

事後対応の設計が事務所の信頼を左右する時期に入っている

生成AIの利用が広がるほど、誤りが出ること自体は珍しくなくなります。差がつくのは、出た後にどう動いたかです。訂正が速く、説明が明快で、再発防止まで示せる事務所は、AIを使っていることをむしろ強みとして語れます。

もう一つ見ておきたいのは、事後対応の設計が顧問先への提案材料にもなる点です。顧問先の企業も生成AIを使い始めており、誤った出力が取引先や顧客に届く事態は同じように起こり得ます。事務所が自分たちのために作った報告と訂正の型は、そのまま顧問先の社内ルールを組み立てるときの下敷きになります。自分の事務所で回していない仕組みを顧問先に勧めるのは難しいので、まず自分たちで運用してみることが、結果的に提案の説得力になります。

論点として残るのは2つです。ひとつは、AIを使ったことを顧問先にどこまで開示するかの水準が、業界としてまだ定まっていないことです。もうひとつは、事務所間で対応の質にばらつきが出たときに、依頼者側がそれを比較する材料を持ちにくいことです。前者は各事務所の方針として先に決められます。後者は、記録と説明の積み重ねが時間をかけて答えになります。

よくある質問

誤りが軽微な場合も顧問先に伝えるべきでしょうか

事務所ごとの判断になります。判断の材料としては、その誤りが顧問先の行動に影響するかどうかが分かりやすい基準です。数値や日付、条番号のように顧問先が何かを決める材料になったものは、影響が及ぶ範囲が広くなります。伝えるかどうかを都度考えるのではなく、事象の類型ごとに事前に決めておくと迷いません。

AIを使ったことは顧問先に開示したほうがよいですか

開示の水準は事務所ごとに決める領域です。伏せた場合、後から分かったときの説明が難しくなるという実務上の理由から、使っている旨を平時から伝えておく事務所があります。平時に伝えていれば、誤りが出たときの説明も、道具の話ではなく確認工程の話として進められます。

顧問契約に何を書いておけばよいですか

決まった型はありません。実務上、生成AIの利用の有無、入力する情報の範囲、誤りが判明した場合の連絡の流れの3点を書いている例があります。民法第645条は受任者の報告について定めており、契約でどこまで具体化するかは当事者の取決めに委ねられる部分です。

調査に生成AIを使ってもよいのでしょうか

使う場合は、入力先の仕様を先に確認する前提になります。誤りの調査は資料の中身を扱う作業であり、入力範囲が広くなりがちです。学習利用の有無と保存期間を確認し、範囲を限定したうえで使う運用が現実的です。確認できないサービスは、この場面では使わない選択もあります。

記録はどれくらいの期間残せばよいですか

法令上一律の定めがある領域ではないため、事務所として決める必要があります。判断の材料としては、同種の事案が起きたときに参照できる期間と、顧問契約の期間が挙がります。少なくとも、再発防止策の効果を検証できるだけの期間は残す考え方があります。

再発防止として最初に手を付けるべきことは何ですか

多くの場合、プロンプトの履歴と出力の保存です。何を入力して何が返ったかが残っていないと、原因の切り分けができません。履歴が残る運用にしたうえで、確認工程をどこに置くかを決める順序が進めやすくなります。

参考文献

※士業のチカラでは、生成AIの導入支援から運用最適化まで、貴事務所の業務に合わせたカスタマイズ提案を行っています。無料相談（30分）も実施中ですので、お気軽にお問い合わせください。
https://shigyonochikara.jp/contact/

本記事の作成体制について

本記事は士業のチカラ編集部が、公表されている一次情報のみを根拠に作成しています。法令の条文はe-Gov法令検索の原文で、行政の見解は各府省庁の公表資料で、それぞれ確認したうえで記載しています。引用元は本文中および参考文献にすべて明示しています。

本記事には特定の資格者による監修は入っていません。個別の事案について法令の当てはめや手続の可否を判断する必要がある場合は、当該分野の有資格者にご相談ください。本記事は一般的な情報提供を目的としたものであり、個別具体的な法律判断・税務判断・労務判断を提供するものではありません。

記載内容に誤りを見つけられた場合は、お問い合わせよりご指摘ください。確認のうえ速やかに訂正し、訂正履歴を記事内に残します。編集方針の詳細は運営者情報をご覧ください。