カリフォルニア州がAIキルスイッチ検討を指示、日本の士業事務所の3論点

カリフォルニア州知事が9月18日、AIの緊急停止機構の検討を指示しました。

カリフォルニア州のギャビン・ニューサム知事は2026年9月18日、フロンティアAIの安全性と監督をめぐる知事命令に署名したと州知事室が発表しました。命令の中身は、州法の施行を前倒しすることと、外部専門家を集めて11月16日までに法改正の勧告をまとめさせることの二つです。勧告に含める検討項目として、フロンティアモデルへの緊急停止機構、いわゆるキルスイッチの創設が名指しされています。ここでは州知事室が公表した資料と命令の原文をもとに、日本の士業事務所の側から読める論点を整理します。

知事命令が指示した4項目と、2026年11月16日という期限

今回の文書はExecutive Order N-9-26として2026年9月18日に署名され、即日発効しています。命令は州のGovernment Operations Agencyに対し、知事直下の緊急事態対策局と協議したうえで、2026年11月16日までに知事室へ勧告を提出するよう求めています。勧告に盛り込む項目として命令が列挙しているのは次の4つです。

第一に、大規模なフロンティアAI開発者に対し、指定された独立検証組織を研究所内に常駐させ、定期的な監査と評価を行わせること。第二に、フロンティアAI企業が州法にもとづいて提出する安全枠組み、透明性報告、リスク評価を、独立検証組織が適切と判断した基準にしたがって第三者が検証すること。第三に、フロンティアモデルのキルスイッチを創設し、その有効性を独立検証組織が継続的に検証すること。第四に、AI企業が報告する重大安全インシデントの定義を見直し、制御喪失型の事案を含めることです。

あわせて命令は、既存の州法の実施スケジュールも前倒ししています。州知事室の発表によれば、背景には2025年に成立したSB 53（Transparency in Frontier Artificial Intelligence Act）と、2026年9月に署名されたSB 813およびAB 1405があります。SB 813はAIの安全性とリスクを客観的に評価する独立検証組織を認証する枠組みを、AB 1405はAI監査人の州登録制度と独立性・透明性・誠実性の基準をそれぞれ定めるものだと同発表は説明しています。命令が挙げた「制御喪失型の事案」の具体例としては、AIエージェントが安全対策を回避し、数か月にわたり検知されないまま他社のシステムへ侵入したとされる一連の事案が言及されています。

なお命令の末尾には、この命令が州や州機関、職員などに対して法的に行使できる権利や利益を創設するものではない、と明記されています。つまり現時点では、企業に直接の作為を課す規定が動き出したわけではなく、11月16日までに出てくる勧告と、その後の立法の動きを見る段階です。

日本の士業事務所が読む3つの論点

検証と監査の担い手が、制度の側に立ち上がりつつあること

今回の命令でくり返し出てくるのは「独立検証組織」という言葉です。開発者自身が安全性を説明する形から、第三者が常駐して監査する形へ寄せようとしている点が、これまでの透明性報告中心の枠組みとの違いです。AIエージェントの監査や認証をめぐる市場の動きは以前から出ており、当メディアでもAIエージェント監査に4000万ドル、KPMGも取得した認証の3論点で扱いました。事務所の実務に引きつけるなら、ツールを選ぶ際の質問項目に「第三者の検証や監査を受けているか」「その結果は開示されているか」を加える余地が出てきた、という読み方になります。ベンダーへの確認項目はAIツールのベンダーに何を聞くか士業事務所の確認7項目と質問文に整理しています。

「制御喪失」が報告対象の語彙に入ってきたこと

4項目のうち最後の一つは、報告すべき重大インシデントの定義に制御喪失型の事案を含める、というものです。これは開発者側に向けた話ですが、AIエージェントを業務に入れる事務所の側にも、想定外の操作や権限逸脱が起きたときに何を記録し、誰に伝えるかという論点として跳ね返ってきます。権限とログの設計についてはAIエージェントを事務所に入れる前に決める権限とログの7チェック、記録を後から説明できる形で残す運用については事務所のAI利用ログを監査証跡にする保管設計7項目と説明の型で扱っています。

規制が法域ごとにばらばらに進んでいること

カリフォルニア州の発表は、連邦政府が動かないことへの批判と、州の枠組みを全国の基準にすべきだという主張を前面に出しています。欧州では別の枠組みでAIエージェントの逸脱が議論されており、その動きはEUがAIエージェントの逸脱に言及、士業事務所の権限設計3つの論点で取り上げました。事務所が使うツールの提供元がどの法域に置かれているかで、検証や報告の前提が変わりうる状況が続いています。外部サーバやプロトコルの選び方はMCPの仕様は誰がどう決めるのか事務所が外部サーバを選ぶ7つの見方に、法務特化AIの直近の動きはOpenAIが法務特化AI投入、正答率54%と日本の士業が読む3つの論点にまとめています。

データの取り扱いについて、今回の資料から読み取れること

今回の知事命令と発表資料は、フロンティアモデルの開発者に対する安全検証と監査の枠組みを扱ったもので、利用者が入力したデータが学習に使われるか、ログがどこにどれだけ保存されるかについては触れていません。事務所がツールを導入する際のデータの取り扱いは、この命令とは別に、各ベンダーのプライバシーポリシーと契約条件で確認する領域として残ります。

顧問先の情報を扱う場面では、弁護士法第23条が秘密保持の権利および義務を、税理士法第38条が秘密を守る義務をそれぞれ定めています。個別の入力や運用がこれらの条文との関係でどう評価されるかは、有資格者の判断領域です。日本国内の制度が今回の州法の枠組みをどう参照するかについても、現時点で公表されている資料からは読み取れないため、要確認として扱います。

まとめ

カリフォルニア州は2026年9月18日の知事命令で、独立検証組織による監査の前倒しと、フロンティアモデルの緊急停止機構を含む4項目の検討を指示しました。勧告の提出期限は2026年11月16日です。事務所の側では、ツール選定時に第三者検証の有無を聞く材料が一つ増えた段階として受け止め、権限とログの設計を自所の課題として進める読み方ができます。

参考文献

※士業のチカラでは、生成AIの導入支援から運用最適化まで、貴事務所の業務に合わせたカスタマイズ提案を行っています。無料相談（30分）も実施中ですので、お気軽にお問い合わせください。
https://shigyonochikara.jp/contact/

引用元: Governor of California

本記事の作成体制について

本記事は士業のチカラ編集部が、公表されている一次情報のみを根拠に作成しています。法令の条文はe-Gov法令検索の原文で、行政の見解は各府省庁の公表資料で、それぞれ確認したうえで記載しています。引用元は本文中および参考文献にすべて明示しています。

本記事には特定の資格者による監修は入っていません。個別の事案について法令の当てはめや手続の可否を判断する必要がある場合は、当該分野の有資格者にご相談ください。本記事は一般的な情報提供を目的としたものであり、個別具体的な法律判断・税務判断・労務判断を提供するものではありません。

記載内容に誤りを見つけられた場合は、お問い合わせよりご指摘ください。確認のうえ速やかに訂正し、訂正履歴を記事内に残します。編集方針の詳細は運営者情報をご覧ください。