AIの文脈圧縮で利用者ルールの83%が消失、士業の情報管理への警鐘

AIが会話を圧縮すると、利用者が課したルールの83%が失われると分かりました。

長い会話を続けると、生成AIは過去のやり取りを要約して容量を空けます。この「コンパクション」と呼ばれる処理で、利用者が途中で出した「承認なしに送信しないで」といった指示の大半が消えていることを、ペンシルベニア州立大学の研究チームが計測しました。エージェント機能を使う事務所ほど影響が大きい話です。本記事は士業のチカラ編集部が、公表されている一次情報のみを根拠に作成しています。

消えるのは「セッション制約」から

研究が明らかにしたのは、失われる情報に偏りがあるという点です。The Decoderが2026年8月18日に伝えたところによると、研究チームが「セッション制約」と呼ぶ種類の指示が最初に落ちます。これは「変更する前に私に確認してください」「返信で私の名前を使わないでください」のように、そのセッションのあいだだけAIの振る舞いを縛るルールで、タスクそのものでも恒久的なシステム指示でもないため、圧縮の対象から真っ先に外れます。

圧縮の仕組みは、目的と現在の状態と次の手順というタスクの連続性を守るように作られています。そのため利用者が付け足した副次的な条件は捨てられていきます。「承認なしにメールを送らないでください」と伝えていても、圧縮のあとにはその前提が残っていない可能性がある、ということです。研究チームはこれを品質の問題であると同時にセキュリティの問題だと位置づけており、権限のないツール呼び出し、伏せていた情報の開示、利用者が明示的に求めた確認手順の省略といった形で表面化しうると説明しています。

圧縮前でも6割前後、圧縮後はさらに低下

数値も公表されています。ペンシルベニア州立大学の研究チームの論文と、それを紹介したThe Decoderの記事によると、評価スイート「COMPINT」で測ったところ、投入したセッション制約のうち圧縮を生き延びたのは平均17パーセントでした。つまり83パーセントが失われている計算になります。多くの圧縮設定は、圧縮しない場合よりもかえって成績が悪く、一部の場面でGPT-5.4-miniが基準を上回ったと報告されています。

注意したいのは、圧縮しなければ安心というわけでもない点です。同じ研究では、制約を含む完全な文脈をそのまま渡した場合のルール順守率が59から71パーセントの範囲にとどまっています。圧縮を意識したプロンプトを工夫しても、利用者の制約を守らせることに特化した書き方ですら保持率は40パーセント未満だったとされています。

対処として研究チームが示したのは、圧縮を行う仕組みの外側に小さなモデルを一つ足す方法です。Qwen3.5-9Bをベースにした抽出モジュールが利用者の入力を読んでセッション制約を検出し、別のリストにためておき、要約が作られるときにそのリストを付け足します。この方式で保持率は9割を超え、エージェントの作業履歴で95.6パーセント、長期の調査タスクで95.1パーセント、複数ターンの対話で90.3パーセントに達したと報告されています。評価スイートと抽出モジュールはGitHubで公開されています。

士業×AI視点として押さえておきたいこと

士業事務所の実務に引き寄せると、この研究は「一度伝えた前提が生き続けるとは限らない」という警告として読めます。守秘義務に関わる場面では、「この固有名詞は出さないでください」「顧問先名は伏せてください」といった指示を会話の途中で与えることがありますが、会話が長くなるほどその前提が保持されない可能性がある、というのが今回の計測結果です。とりわけメール送信やファイル操作を伴うエージェント機能では、確認を求めるルールが落ちた状態で処理が進む余地が残ります。

現時点で判断材料になるのは、長い会話を続けるより案件ごとに新しいチャットを立て、譲れない条件は都度冒頭で書き直す運用に切り替えている事務所が出てきている、という段階の話です。また、利用するツールが文脈をどのように圧縮しているかは、ベンダーの公表資料からは詳細まで確認できないことが多く、この点は要確認として残ります。

まとめ

ペンシルベニア州立大学の研究は、AIが文脈を圧縮する際に利用者が課したルールの83パーセントが失われることを計測し、9割超を保持できる小さな追加モジュールを提案しました。長い会話ほど前提が消えるという性質は、守秘義務を扱う士業事務所にとって導入設計の前提条件になりそうです。

参考文献

※士業のチカラでは、生成AIの導入支援から運用最適化まで、貴事務所の業務に合わせたカスタマイズ提案を行っています。無料相談（30分）も実施中ですので、お気軽にお問い合わせください。
https://shigyonochikara.jp/contact/

引用元: The Decoder

本記事の作成体制について

本記事は士業のチカラ編集部が、公表されている一次情報のみを根拠に作成しています。法令の条文はe-Gov法令検索の原文で、行政の見解は各府省庁の公表資料で、それぞれ確認したうえで記載しています。引用元は本文中および参考文献にすべて明示しています。

本記事には特定の資格者による監修は入っていません。個別の事案について法令の当てはめや手続の可否を判断する必要がある場合は、当該分野の有資格者にご相談ください。本記事は一般的な情報提供を目的としたものであり、個別具体的な法律判断・税務判断・労務判断を提供するものではありません。

記載内容に誤りを見つけられた場合は、お問い合わせよりご指摘ください。確認のうえ速やかに訂正し、訂正履歴を記事内に残します。編集方針の詳細は運営者情報をご覧ください。