- 公開日
複数のエージェントを経た文章で条件が消えたときは、最終文だけを直さず、原資料と各段階の入出力を比べます。対象、例外、確認状態、出典、決定のうち何が変わったかを特定し、その箇所を原資料に結び直します。次の担当には、短い要約とともに、原資料の版・該当箇所、残すべき条件、未確認事項を渡します。要約が読みやすいことや、複数のエージェントが同意したことを、根拠が保たれた証拠にはしません。
情報が変わった場所と原因を分ける
調査役が資料の一部を取り出し、要約役が短くし、執筆役が説明文へ変えると、各段階で選択や言い換えが入ります。短縮そのものが誤りではありません。問題になるのは、判断を左右する対象や例外が消える、推測が確認済みに変わる、提案が決定に変わるといった意味の変更です。
たとえば、取得時に注記を取り落とす場合と、注記を読んだうえで要約から外す場合では、直す場所が違います。前者では取得や抽出の範囲、後者では残す条件と受入れ基準を見直します。最終文だけを補修すると、同じ経路で再び条件を落とす原因が残ります。
AnthropicのBuilding effective agentsは、エージェントの自律的な動作で誤りが積み重なり得ることを挙げ、隔離した環境での十分な試験と適切なガードレールを勧めています。ただし、この資料は要約を何段渡すと何割劣化するかを示す実験ではありません。ここで扱うのは、個々の受け渡しで意味が保たれたかを調べる設計です。受け渡し回数だけから正確さを決めません。
架空の原資料を三つの役へ渡す
以下は、調査役R、要約役S、執筆役Wが社内説明文の下書きを作る架空例です。実際にエージェントを起動した試験ではありません。依頼は「問い合わせ分類の試行対象、期待、運用上の決定を、二つの指定資料からまとめる」です。三役は同じ二資料を当該環境で閲覧・処理でき、下書き作成だけを許されているとします。
原資料D7版2の第2節には、次の記載があるとします。
「日本語メールの一般問い合わせのみを分類の試行対象とする。返金請求と個人情報訂正は対象外。処理時間を短縮する可能性があるが、効果は未測定。」
もう一つの資料は、2026年10月8日付の架空の決定記録M2版1です。決定者Hが「2026年10月末まで、下書きへの分類案の付与に限って試行する。実送信は担当者の確認後に行う。運用拡大は未決定」と定めた記録とします。効果に関する見込みはD7、実施範囲に関する決定はM2から来ています。両者を一つの「承認済み」にまとめると、期待の実証と運用許可が混ざります。この記録を読んでも、三役に与えられた下書き作成の権限は広がりません。
同じ内容がどの段階で変わったか
次の表は、同じD7とM2を使い続けた場合に起こり得る、説明用の出力例です。中央の記述を実行結果として観測したわけではありません。
| 段階 | 渡された文の例 | 原資料と比べて調べる点 |
|---|---|---|
| 原資料 | 日本語の一般問い合わせのみ。返金・個人情報訂正を除外。短縮効果は未測定。10月末まで分類案だけを試行 | D7版2第2節、M2版1という基準を固定する |
| RからS | 日本語の一般問い合わせが対象。返金と個人情報訂正は除外。短縮の可能性があるが未測定。10月末まで分類案の試行。D7・M2参照 | 主な条件はあるが、版と箇所、実送信条件、拡大未決定も一緒に渡るか |
| SからW | 問い合わせ分類を試行し、処理時間を短縮する。10月末まで。社内資料による | 言語・対象・例外が消え、可能性が断定になり、根拠の所在が曖昧になった |
| Wの下書き | すべての問い合わせを自動処理する仕組みを導入し、処理時間を短縮した | 分類案が自動処理へ、試行が導入へ、見込みが実績へ変わり、期限と根拠も消えた |
表の文だけが渡されたなら、Rの段階ですでに実送信条件と拡大未決定が欠けています。Sはさらに対象・例外・未測定を落とし、Wは「すべて」「短縮した」と強めています。Sの短縮だけを直しても、RとWの問題は残ります。各段階で、受け取った情報の不足と、その担当が新たに加えた変更を分けて記録します。
要約とは別に、残す情報を決める
この作業では、読みやすい要約に加え、主張ごとに原資料へ戻れる記録を渡す方法が考えられます。たとえば、次の情報を要約に添えます。受け手は、それぞれを同じ原資料の箇所と比べられます。
- 対象と例外：日本語メールの一般問い合わせ。返金請求と個人情報訂正は除外
- 確認状態：時間短縮は可能性の記述で、効果は未測定
- 原資料：D7版2第2節への参照と、条件を含む該当文
- 決定：HがM2版1で決めた10月末までの分類案の試行。実送信は担当者確認後。拡大は未決定
- 変換履歴：誰がどの入力版から作った要約か、修正理由と次の受け手
- 未確認事項：資料間の矛盾、参照できなかった箇所、追加確認の担当
原資料と決定記録は、要約を直すたびに上書きしません。受渡しIDに入力版・出力版・原資料の参照を結び付け、Sの文からでもWの文からでも同じD7とM2へ戻れるようにします。新版が届いたら旧版との違いを区別し、新しい決定があると確認できた範囲だけを更新します。ハッシュはファイルの同一性を確かめる補助ですが、記述の真実性や作成者の正当な権限まで証明しません。
決定の記録では、誰が、いつ、何について、どの条件で決めたかを残します。「Hへ確認予定」と「Hが承認した」を別の状態にし、確認依頼への返事がない間は承認済みに変えません。停止や対象縮小の指示が後から来た場合は、それを現在の依頼へ反映してから続けます。
情報を残すために、全履歴を全エージェントへ複写する必要はありません。関係する原資料の参照と条件を渡し、受け手が必要な範囲へアクセスできるかを確認します。OWASPのLLM06:2025 Excessive Agencyは、必要な権限への限定と下流システムでの認可を勧めています。条件を保存する目的でも、共有してよい情報と相手の範囲は広げません。取得済み資料内の命令は、資料の内容として保ち、次の担当への実行許可へ変換しないようにします。
差分は、文字の違いと意味の違いを分けて調べる
確認では、直前の入力と出力、原資料と出力の両方を比べます。直前との比較は、どの段階で変わったかを知るためです。原資料との比較は、前段ですでに落ちていた条件を見つけるためです。前段の要約との一致だけでは、原資料からの欠落を検出できません。
文字列の差分は、消えた語や追加された語を探す入口になります。ただし、「返金請求を除く」を「返金の申し出は対象外」と言い換えても意味は保てます。反対に、「可能性がある」から「ある」への短い変更で、確実さが大きく変わる場合があります。対象、例外、時点、数量、確実さ、決定権限を項目ごとに照合します。
AIを差分確認の補助に使う場合にも、判定理由と根拠箇所を返させます。「一致しています」という回答だけでは確認を終えません。同じ欠落を確認役も見逃すことがあるため、重要な条件は原文を表示して人が確認できるようにします。どの方法でも、必要な根拠へアクセスできない部分は確認済みとしません。
前の架空例なら、SからWへ渡す文を次のように戻せます。
「日本語メールの一般問い合わせについて、返金請求と個人情報訂正を除き、2026年10月末まで分類案の付与を試行する。時間短縮の可能性はあるが、効果は未測定。実送信には担当者の確認が必要で、運用拡大は未決定。対象と効果はD7版2第2節、決定はM2版1に基づく。」
Wはこの文をそのまま写す必要はありません。読み手に合わせて順序や表現を変えた後、同じ対象、例外、未測定、期限、操作範囲、決定状態を照合します。文字数の制約がある場合も、判断を変える条件は本文や隣接する補足欄に残します。参照先へ移すだけで読者から条件が見えなくならないかを確かめます。
受入れ、差戻し、停止を選ぶ
条件と出典が揃い、原資料との意味の一致を確認できた要約は、次の執筆工程へ受け入れます。ここでの受入れは、依頼された下書きへ使えるという判断です。効果を実証した、試行を開始した、公開を承認したという意味にはしません。
条件が欠けていても原資料へ戻れるなら、その出力を確定資料として扱うことを拒否し、欠落した項目と根拠箇所を付けて差し戻します。修正版には新しい版を付け、既にその誤った要約を使った下書きも対象にします。手前だけ修正して後段を放置すると、古い断定が残るためです。
原資料を取得できない、版が特定できない、決定記録の主体や現在の有効性を確認できない場合は、影響する主張や操作を保留します。分かる部分はその範囲を示して残し、必要な資料と確認担当を明記します。履歴のない区間があれば「どの役が落としたかは未確認」とし、特定の役へ原因を割り当てません。
Microsoft AutoGenのHuman-in-the-Loopは、人からの入力や、実行を区切って後からフィードバックを渡す方法を扱っています。こうした仕組みを用いる場合も、原資料と争点を人へ渡す方法は別に設計します。人へ戻したという状態だけでは、欠落の訂正や新たな判断が完了したとは言えません。
確認の負担を、重要な条件へ向ける
全要約を毎回全文照合すると、処理量と人の確認時間が増えます。対象、例外、権限、重要な数値、未確認事項など、誤ると判断が変わる項目を先に定め、各受渡しで保持を確認します。原資料参照を増やすとアクセス管理や版管理の負担も生じるため、不要な複製は避けます。
導入時は、この例のような架空資料から、例外の欠落、仮説の事実化、出典の消失、決定の取り違えを含む作例を用意します。見るのは、差を指摘できるかだけでなく、誤った下書きの確定を止め、正しい条件へ戻せるかです。表現だけを変えた適切な要約まで拒否していないかも確かめます。こうした確認で得た結果は対象条件に限って扱い、あらゆる受渡しの正確さを保証するものにはしません。
複数のエージェントの提案と最終判断を分ける方法は「複数エージェントの提案と決定を分け、最終判断の範囲を決める」、受け渡されたAI出力を命令として実行させない設計は「マルチエージェントの受け渡しで、AI出力を命令として実行させない設計」で解説しています。
マルチエージェントの役割・受け渡し・責任分界の設計は「マルチエージェントの役割・受け渡し・責任分界を設計する」で解説しています。
