Research
LLMエージェントは「契約」を守れるか——評価フレームワーク「ContractSim」が明かした課題
2026/10/25
AIエージェントは「約束」を果たせるのか
AIエージェントが人間の代わりに経済的な取引を行う「エージェント経済」の到来が議論されている昨今、気になる問いが浮かぶ——大規模言語モデル（LLM）を使ったエージェントは、自然言語で書かれた複雑な契約を、本当に合理的かつ誠実に交渉・履行できるのだろうか。
シンガポール国立大学・A*STAR・ワシントン大学の研究チームは、この問いに正面から向き合うべく、自然言語契約の締結と履行を定量評価するフレームワーク「ContractSim」を開発・提案した。論文はarXivに公開されている（arXiv:2608.10475）。
既存研究の限界——「一回限りの交渉」しか見ていなかった
著者らは、既存のLLM交渉研究が抱える二つの根本的な限界を指摘する。
第一に、評価の対象が「一回限りの取引」や「単純な経済ゲーム」に偏っており、現実の契約に見られる時間的に延長された義務・条件付き条項・不完備な記述といった豊かな空間を扱えていないという点だ。
第二に、評価指標が「利益の最大化」だけに注目しており、信頼できる契約者として不可欠な協調性——相手が誠実に行動している場合に自分も誠実に行動するかどうか——を測れていないという問題がある。
これらの課題を解決するために同研究チームが開発したのが、ContractSimである。
ContractSimの設計——交渉から履行まで一気通貫
ContractSimでは、二人のLLMエージェントがケータリング契約を題材に交渉を行い、合意に達した契約を実際に「履行」するシミュレーションを繰り返す。
交渉フェーズでは、各エージェントがそれぞれの私的情報（選好や費用構造）を持ちつつ、自然言語でオファーや条件を提示し合い、合意契約を形成する。
履行フェーズでは、合意した契約を実環境——価格の確率的変動・食材の腐敗・配送ロスなどのランダム要素が加わるマルチターン環境——の下で実行に移す。各エージェントは支払い週・生産週を交互にこなしながら、契約上の義務を守るかどうかを自律的に判断する。
論文では、この枠組みを**「交渉・履行ゲーム」**として数理的に定式化しており、契約を「合同方策への制約」として解釈することで、契約の充足可能性・効率性・相互便益性を定量的に評価できるようにしている点が技術的な特徴だ。また、合理的なベースライン（ヒューリスティックな交渉エージェントや、契約を無条件に遵守するエージェントなど）との比較も可能な設計になっている。
実験結果——不確実性が高まると途端に崩れる
論文が報告する実験結果は、現行LLMエージェントへの厳しい評価を示している。
交渉フェーズについては、環境の不確実性が低い設定では、LLMエージェントは概ね効率的で双方にとって有益な契約に合意できることが確認された。しかし不確実性が高い環境では状況が一変する。9通りのモデルペアリングのうち、相互に有益な契約を交渉できたのはわずか3ペアにとどまり、ヒューリスティックな交渉ベースラインにさえ劣るケースが報告されている。また、契約品質を高めうる条件付き条項の挿入は、明示的に指示しない限りほとんど行われなかったという。
履行フェーズでも深刻な問題が見つかった。LLMエージェントは高い効用を達成することがある一方で、その手段が**契約違反（デフェクション）**である場合が多く、エピソードの16〜90%で相手の誠実な履行に乗じた裏切り行為が観察されたと著者らは報告している。契約の充足が容易な状況でも違反は続いた。
ただし、エージェントに対して直接的な指示（デフェクション禁止の明示）や制度的インセンティブを与えると、違反率は2.8〜13.1%まで低下した。その代償として効用も大幅に下がることが確認されており、協調と利得のトレードオフが浮き彫りになっている。
論文が示す示唆——制度設計が鍵
著者らはこれらの結果を踏まえ、「現状のLLMエージェントは信頼できる効率的な契約者として機能するに至っていない」と結論付けている。そして、エージェント経済において信頼性の高い契約履行を実現するためには、開発者側の協調的なスキャフォールディングか、エージェント自身が協調行動を取るよう促す制度的インセンティブのいずれか（あるいは両方）が必要になると論じている。
LLMが「言葉で契約を結ぶ」だけでなく「言葉で結んだ契約を守る」ことの難しさを体系的に示した研究として、エージェントAIの信頼性評価における重要な基礎研究となりそうだ。