AI
SNSの陰謀論を「社会的文脈」で検出するエージェント型AIフレームワーク、F1スコアを0.535から0.730に改善
2026/09/28
SNSの陰謀論はテキストだけでは判断できない
イスラエル・ベングリオン大学のLior BitonとOren Tsurは、ソーシャルメディア上の陰謀論的言説を検出するエージェント型AIフレームワークを提案する論文を発表した。著者らによれば、陰謀論的な言説は明示的な主張や一定の語彙的マーカーとして現れるわけではなく、同じ表面的なテキストが「真の信念の表明」「正当な懸念」「批判」「風刺」「嘲笑」など、まったく異なる発話意図を持ちうると指摘している。
論文では、このような検出の難しさを「発話の遂行力（illocutionary force）の推論」という観点から整理している。単にテキストが陰謀論的な内容を含むかどうかではなく、発話者がその内容を本当に信じ、支持しているかどうかを判定することが本質的な課題だという。
ヘブライ語ツイートという難易度の高い実験設定
研究チームは、2018年末から2023年前半にかけて投稿されたヘブライ語ツイートの80〜90%をカバーするとされる独自データセットを利用した。この期間はイスラエルで5回の総選挙が実施され、新型コロナウイルスのパンデミックとワクチン接種キャンペーンが展開されるなど、陰謀論が生まれやすい社会的緊張が続いた時期と重なると著者らは説明している。
ヘブライ語はアラビア語と並んで形態論的に複雑な低リソース言語であり、テキスト単体での自動検出が特に難しいとされる点も本研究が取り組む意義として挙げられている。
エージェントが「必要なときだけ」社会的文脈を取得する
提案されたフレームワークの核心は、エージェントが判定に必要と判断したときだけ外部ツールを呼び出す点にある。利用可能なツールには以下が含まれる。
- 著者のプロフィール情報の取得（自己紹介文や属性情報）
- 著者の過去投稿のサンプリング（発言傾向や常用トピックの確認）
- ソーシャルサークルの照会（フォロー・フォロワー関係のエゴネットワーク）
- 投稿のタイムスタンプや周辺ニュースサイクルの参照
著者らは、利用可能なすべてのコンテキストを入力に一括追加する「プリロード型」の手法では、ノイズが増えて性能が低下する可能性があると述べており、エージェントが推論ステップごとに必要な根拠だけを問い合わせる設計がトークン効率の観点からも有利だと主張している。
具体例：嵐をPfizerの陰謀と結びつけたツイートの判定
論文には印象的な事例が示されている。あるツイートは「あの嵐はPfizerの世界征服計画の一部だ。New World Orderが始まる」という強烈な陰謀論的表現を含んでいたが、正解ラベルは「非陰謀論」だった。テキスト単体で判定したモデルはこれを陰謀論と誤分類した一方、エージェント型フレームワークはいくつかの文脈を取得することで正確に「風刺・嘲笑」と判定したという。
取得された文脈として、著者のプロフィールには「おしゃべりが好き・戯言を言うのが趣味」と記されていたこと、直前の投稿には「外の天気どう？」「嵐に備えてパジャマを買った」といった実際の嵐への言及があったこと、さらにエゴネットワーク内でも同日に嵐「Carmel」が話題になっていたことが挙げられている。これらの情報を組み合わせることで、エージェントはこのツイートがイスラエルのTwitter上では珍しくない「政治的皮肉」の一形態と解釈したと論文では説明されている。
「ソクラテス式」二エージェント討論の実験も
フレームワークの拡張として、著者らは一方のエージェントがもう一方の推論を問いただす「ソクラテス式」二エージェント討論（agents-debate）の手法も実験した。上述の嵐ツイートの事例では、討論エージェントも正解を導き出しており、外部コンテキストを取得しなくても「嵐と製薬企業の世界征服計画を結びつけることの不合理さがパロディを示す」と推論できたと報告されている。
評価結果：F1スコアが0.535から0.730へ
手動でアノテーションされた敵対的データセットを用いた評価では、テキスト単体のLLMベースラインのF1スコアが0.535だったのに対し、提案するエージェント型フレームワークは0.730を達成したと著者らは報告している。また、エージェントと同じ文脈情報にアクセスできる非エージェント型モデル（プリロード型）と比較しても、エージェント型が有意に優れていたとされており、単に情報量を増やすだけでなく適応的な推論と選択的なツール使用が重要だとする著者らの主張を裏付ける結果となっている。
コンテキストを考慮したすべてのワークフローが、テキスト単体分類を一貫して上回ったことも確認されたという。
陰謀論検出は「社会的解釈タスク」である
著者らはこれらの知見をもとに、陰謀論の検出を純粋なテキスト分類タスクではなく社会に埋め込まれた解釈タスクとして捉え直すべきだと主張している。効果的な分類にはコンテキストへのアクセスだけでなく、個別ケースに応じてエージェントが必要な証拠だけを動的に収集する適応的な推論が不可欠だという結論を、本論文は提示している。
なお、本論文はarXiv（arXiv:2609.30250）に投稿されたものであり、査読状況は現時点では確認できない。