AnthropicがAI評価者を社内常駐へ、士業事務所の点検設計3論点

Anthropicが外部の評価者を社内に常駐させると表明しました。

AI開発企業が、自社の安全対策を点検する第三者を社内に置く。2026年9月に公開されたAnthropic CEO ダリオ・アモデイのエッセイWe Must Pace the Frontierで示されたのは、そういう提案でした。OpenAIのサム・アルトマンも同様の実践にコミットする意向を示したとTechCrunchが報じています。士業事務所には遠い話に見えますが、点検する人をどこに置き、何を見せ、何を言わせるかという設計の議論は、事務所が自分たちのAI利用を点検するときの設計とそのまま重なります。本記事は士業のチカラ編集部が、公表されている一次情報のみを根拠に作成しています。法令の条文はe-Gov法令検索の原文で確認しています。

常駐する評価者に何を渡すと書かれているか

結論から書くと、示されたのは机と入館バッジと会社支給のノートパソコンを渡す水準の常駐です。外から結果だけを受け取る関係ではありません。

エッセイは、開発の速度を安全対策が追いつける範囲に収めるための三段階を提案しています。第一段階が常駐評価者（Embedded Evaluators）、第二段階が民主主義国の開発企業どうしの協調、第三段階が世界規模の協調で、Anthropicは第一段階に一方的に踏み切ると書かれています。常駐する評価者の役割は、完成したモデルの評価だけでなく、訓練のパイプラインや工程まで含めて、公表している安全対策が実際に守られているかを確かめ、インシデントを報告することだと整理されています。METRのような外部の評価組織が想定されています。

渡す権限も具体的に書かれています。オフィスの机、入館バッジ、会社支給のノートパソコン、そして社内でリスク評価を担う従業員とおおむね同等のワークスペース・ツール・権限です。ここから外れるのは、法律や契約がそれを求める場合と、顧客やパートナーの非公開情報を守る場合だとされています。契約面では、リスク水準やインシデント、実務の状況、さらに受けられたアクセスと受けられなかったアクセスについて、同社の編集権を経ずに主要な発見を公表する権利を評価者に置くと書かれています。同社の側で伏せられるのはセキュリティ上機微な情報、法的特権のある情報、商業上機微な情報、第三者の秘密情報に限られ、内容が不都合だからという理由では伏せられない。伏せたことで結論に重要な部分が欠けたなら、評価者はその事実を公表できる。ここまで書き込んでいる点が、この提案の中身です。前例として挙げられているのは、規制当局の検査担当者が従業員とともに常駐することがある銀行業でした。

一方で、決まっていないことも多く残ります。TechCrunchによれば、どの評価組織と組むのか、いつから常駐させるのか、何人置くのか、どのシステムと情報にアクセスできるのか、何を公表できるのかについて、両社とも繰り返しの質問に答えていません。

士業事務所の点検設計に効く3つの論点

1. 完成品だけを見る点検は、点検になりにくい

評価者たちが求めているのは、完成したモデルではなく訓練途中の記録です。Far.AIのアダム・グリーブは、訓練途中の中間版（チェックポイント）どうしを比べて気になる挙動がいつ現れたかを突き止める、事後訓練の環境を調べる、評価のトランスクリプトとログを見て企業の説明と突き合わせる、といった作業をTechCrunchに挙げています。理由は単純で、モデルが試験中だと気づくと試験のあいだだけ行儀よく振る舞う恐れがあるからです。Palisades Researchのジョン・スタイドリーは、その構図を自動車の排出ガス試験の不正になぞらえています。

事務所に置き換えると、AIを使った業務の点検で納品物だけを見ても、どんな情報を入れ、どんな指示を出し、途中で人がどこを直したかは残りません。点検を成り立たせるのは、出来上がったものではなく過程の記録です。この考え方は、事務所のAI利用ログを監査証跡にする保管設計や、AIエージェントを入れる前に決める権限とログの7チェックで扱った論点と同じ方向を向いています。

2. 点検する人が不都合なことを言えるかは、契約の言葉で決まる

グリーブは、評価プロセスを過度に握ろうとした複数のフロンティア開発企業との契約を断ったことがあると述べています。既定では評価者は通常の業務委託先として扱われ、制限の強い秘密保持契約と、公表できる内容を開発側が大きく左右できる取り決めに縛られるからです。アモデイの契約案が、不都合だからという理由では伏せられない、伏せたこと自体を公表できる、とわざわざ書き込んでいるのは、この既定値を動かすためです。

独立性を人の良心ではなく制度の言葉で担保するという発想は、士業の読者にはなじみのあるものです。公認会計士法第24条は特定の事項についての業務の制限という見出しで、監査を行う者と対象との利害関係に線を引いています。事務所が外部にAI利用の点検を委ねるとき、あるいは内部に担当を置くときも、その人が不都合な指摘を出せる立場に置かれているかどうかが設計の分かれ目になります。個別の体制がこれらの条文との関係でどう評価されるかは有資格者の判断領域なので、本記事では踏み込みません。第三者による評価をどう制度に載せるかという論点は、AIエージェント監査の認証をめぐる3論点や、生成AI時代の監査で押さえる12のリスク領域でも別の角度から扱っています。

3. 常駐と守秘義務は、最初に線を引く話

外部の人を中に入れる提案でありながら、顧客やパートナーの非公開情報は例外として外されています。見せる範囲より先に、見せない範囲を決めているわけです。

事務所でも、点検のために顧問先の資料へ触れる場面が出てきます。税理士法第38条は秘密を守る義務という見出しで、正当な理由なく税理士業務に関して知り得た秘密を洩らすことや窃用することを禁じる条文を置いており、税理士でなくなった後も同様だと定めています。点検の設計は、何を見せるかと同じ重さで、何を見せないかを決める作業になります。ここはAIツールのベンダーに何を聞くかで整理した確認項目と地続きです。

自主的な約束と法令を分けて読む段階です

今回の動きは、現時点では企業側の自主的な表明です。Safer AIのアンリ・パパダトスは、自主的な措置は企業の善意に依存するため、規制で求められていれば企業の都合で翻せなくなるとTechCrunchに語っています。法制度の側では、昨年成立したカリフォルニア州のSB 53が大規模なフロンティア開発企業に安全枠組みの公表と重大なインシデントの報告を求め、今月成立したSB 813が州の認める独立検証組織の枠組みをつくったと同記事は伝えています。欧州のAI Actは、モデル評価と敵対的テストの実施と文書化、重大インシデントの報告を求め、EU AI Office自身が評価を行って独立の専門家を指名することもできる構成です。

点検の質を決めるのは権限だけではありません。OpenAIとHugging Faceの件を調べた際、METRとRedwood Researchに与えられた現地調査はおよそ1週間で、両者ともに範囲と時期の制約から確度の高い結論を出せなかったと述べています。GPT-6 Astraの公開前テストでApollo Researchに与えられたのは3日間でした。いずれもTechCrunchが同記事で伝えています。外部の目を入れても時間が足りなければ結論は濁る、という記録です。事務所の内部点検でも同じことが起きます。

なお今回の表明は、常駐する評価者に何を見せるかという話であり、利用者が入力したデータを学習に使うかどうかの既定値を変えるものではありません。ここはプランごとに条件が分かれるため、Anthropic Trust Centerとプライバシーセンターで契約中のプランの扱いを確かめる作業が別に残ります。また、Meta、SpaceXAI、Google DeepMindは常駐にコミットしていないとTechCrunchは伝えており、DeepMindのデミス・ハサビスは別建ての業界標準機関を提案しています。ベンダーがどの枠組みに乗っているかは、ツール選定時の確認項目に足せる材料です。日本語環境での提供や、日本の事務所が評価結果をどこまで読めるようになるかは、公表資料からは確認できません。

まとめ

Anthropicは、外部の評価者に机と入館バッジと社内相当の権限を渡し、不都合な発見も編集権なしに公表させる形の常駐を表明しました。OpenAIも同様の意向を示していますが、対象や範囲は未確定です。ここから事務所が持ち帰れるのは、点検は過程の記録を見ないと成立しないこと、点検する人の独立性は契約の言葉で決まること、そして見せない範囲を先に決めることの三つです。規範の階層をどう書くかという観点は、MicrosoftのAI行動規範草案の回も合わせて読むと立体的になります。この提案に各社トップが賛意を示した段階はAI大手4社トップが開発減速で一致した回で扱っており、今回はその具体化にあたります。

参考文献

※士業のチカラでは、生成AIの導入支援から運用最適化まで、貴事務所の業務に合わせたカスタマイズ提案を行っています。無料相談（30分）も実施中ですので、お気軽にお問い合わせください。
https://shigyonochikara.jp/contact/

引用元: TechCrunch

本記事の作成体制について

本記事は士業のチカラ編集部が、公表されている一次情報のみを根拠に作成しています。法令の条文はe-Gov法令検索の原文で、行政の見解は各府省庁の公表資料で、それぞれ確認したうえで記載しています。引用元は本文中および参考文献にすべて明示しています。

本記事には特定の資格者による監修は入っていません。個別の事案について法令の当てはめや手続の可否を判断する必要がある場合は、当該分野の有資格者にご相談ください。本記事は一般的な情報提供を目的としたものであり、個別具体的な法律判断・税務判断・労務判断を提供するものではありません。

記載内容に誤りを見つけられた場合は、お問い合わせよりご指摘ください。確認のうえ速やかに訂正し、訂正履歴を記事内に残します。編集方針の詳細は運営者情報をご覧ください。