GTRフレームワーク：異種グラフと階層検索に基づくクロステーブルQ&Aの新しいアプローチ

1.はじめに

今日の情報爆発では、大量の知識がウェブページ、ウィキペディア、リレーショナルデータベースなどのテーブルの形で保存されている。しかし、従来のQ&Aシステムでは、複数のテーブルにまたがる複雑なクエリを処理するのに苦労することが多く、人工知能の分野では大きな課題となっている。この課題に対処するため、研究者たちは GTR (Graph-Table-RAG) フレームワークこのフレームワークは、表データを異種グラフに整理し、革新的な検索・推論技術を取り入れることで、より効率的なクロステーブルQ&Aを可能にする。本稿では、GTRフレームワークの中核となるアプローチを詳細に分解し、その主要なヒント設計を示す。

2.MUTLITABLEQA：最初のクロステーブルQ&Aベンチマークデータセット

クロス集計による質疑応答モデルの有効性を評価するために、研究者たちは以下のようなモデルを構築した。 MUTLITABLEQAこれは、実世界のフォームとユーザークエリから構築された初のクロステーブルQ&Aベンチマークデータセットである。データセット構築の主な手順は以下の通りです：

2.1 データセットの構築方法

• 表ソースHybridQA、SQA、Tabfact、WikiTablesなど、実世界の人間がラベル付けしたデータセットから生の単一テーブルデータを収集し、単純化しすぎたテーブルをフィルタリングして、20,000のテーブルを作成。
• テーブルの内訳マルチテーブルデータとして、収集されたテーブルを60,000のサブテーブルに行/列分割する。具体的な方法は以下の通り：
  • ライン分割テーブルのエントリーを、行の次元に沿って、元のテーブルと同じテーブルスキーマとメタデータを保持したまま、複数の不連続なサブセットに分割する。
  • カラム分割最初のカラム（通常は主キーまたは主要属性）を保持し、残りのエントリをカラム次元に沿って複数の不連続なサブセットに分割する。

  
  図1: マルチテーブルデータセットの直接構築とMUTLITABLEQA構築プロセスを示すMUTLITABLEQAデータセット構築フローチャート。

• お問い合わせポートフォリオクエリ検索の複雑性を高めるために、研究者は既存の単純なクエリを組み合わせて、多段階の推論を必要とする複雑なクエリを生成する。具体的なステップは以下の通り：
  • クエリの重複排除とフィルタリング一般的な言語や文脈を考慮したヒューリスティック（非活性化単語比率分析、最小クエリ長閾値、類似性に基づく冗長性検出など）を用いて、曖昧で文脈的に反復するクエリをフィルタリングする。
  • クエリのマージ同じ1つのテーブルからの複雑なクエリや連続したクエリの場合は、連結語（"AND"、"さらに"、"［前のクエリ］に基づいて "など）を使って1つの拡張クエリにまとめます。")を使用して単一の拡張クエリに結合します。
  • クエリの非文脈化明瞭性と自己完結性を高めるため、曖昧な指示代名詞や談話標示を明示的な言及に置き換える脱文脈化アプローチが用いられている。
• タスクタイプの定義::
  • テーブルベースの事実検証（TFV）ユーザーから提供されたステートメントが表データによってサポートされているかどうかを判断する。
  • シングルホップTQA問題の答えは1つのテーブルのセルだけから得る必要があるが、正しいセルを見つけるためには複数のテーブルにまたがって推論する必要がある。
  • マルチホップTQA質問に対する回答は、複数の表の複数のセルから複雑な推論を必要とする。

  
  図2：MUTLITABLEQAデータセットの3つの異なるタスクタイプの例。

3.GTRフレームワーク：クロステーブルQ&Aへの革新的アプローチ

GTRフレームワークは、クロステーブルQ&Aにおける中核的な課題に、以下のような方法で対処するように設計されている：

3.1 表から図への構成

GTRの核となる考え方は、表データを異種ハイパーグラフに変換することで、テーブル間の関係情報と意味情報をより適切に捉えることである。

• テーブルの線形化表の構造情報と意味内容を保持したまま、表を線形シーケンスに変換する。例えば、テーブルの見出しと列見出しをシーケンスに結合し、テーブルの構造的な位置を識別するために特別なマーカーを使用します。

  s = [ [Table], ⊕( [Caption], C ), ⊕( [Header], h_k ) ]
  

  ここで、↪Sm_2295 はシーケンスの連結を表し、h_k はk番目の列見出しを表す。

• 複数の特徴抽出線形化された各シーケンスについて3つの固有ベクトルを計算する：
  • 意味的特徴 (x^(sem))フォームの意味内容を捉えるシーケンスエンコーダを使って生成される。
  • 構造的特徴 (x^(struct))トークン数、語彙タグ頻度、句読点数などの主要なフォーマット特徴を抽出するためにspaCyを使用します。
  • 発見的特徴 (x^(heur))例えば、TF-IDFベクトルを使って単語袋表現を生成する。
• ハイパーグラフィック・コンストラクション（数学）多重クラスタリングアルゴリズムにより類似した特徴を持つテーブルをクラスタリングし、各クラスタをハイパーページとして定義することにより、異種ハイパーグラフを構築する。
  図3：表からグラフへの構築プロセスを示すGTRフレームワークの概要。

3.2 粗視化多重化探索

• 代表採点ノード間およびノードとクエリの類似度を比較するために、ノード間の代表スコアを定義します。
• クエリーとクラスタの割り当てクエリを埋め込んだ後、各ノードとの間の代表スコアが計算され、各特徴タイプについて最も関連性の高いクラスタが選択される。
• 典型的なノードの選択各クラスタを最もよく表す少数のノードが選択され、最終的に多重化された最良のクラスタは、すべての特徴タイプの連結集合となる。

3.3 細粒度サブグラフ検索

• ローカル・サブグラフの構築粗視化された検索結果に基づいて、密に接続された局所部分グラフが構築され、意味的特徴を用いてノード間の類似度行列が計算される。
• 反復的パーソナライズド・ページランク候補ノードの類似度行列を計算し、行の正規化を実行して転送行列を取得します。パーソナライズされたPageRankベクトルが繰り返し計算され、ノードがランク付けされ、最終的にトップランクのノードが最終的な検索テーブルノードとして選択されます。

3.4 フィギュア知覚の手がかり

下流のLLMが検索されたテーブルを効果的に解釈し、推論を行えるようにするため、GTRはグラフを考慮したヒンティングアプローチを採用している。以下はGTRフレームワークで使用されるヒントの詳細設計である：

3.4.1 図情報の挿入

• ノード・インデックスと関係埋め込み: LLM が異なるテーブルソースを認識できるように、検索されたテーブルノードに番号を付けてヒントに埋め込む。同時に、ノード間の類似関係を構造化された JSON フォーマットでヒントに埋め込み、異なるフォーム間の意味的類似性やその他の関係を記述する。

  ## Retrieved Tables:
  <table1>Table 1: ...</table1>
  <table2>Table 2: ...</table2>
  ...
  ## Graph-Related Information:
  {
      "source_node": "Table 1",
  "target_node": "Table 2",
  "relationship": {
  "type": "similarity",
  "score": 0.674
  }
  }
  

3.4.2 階層的な長鎖思考（CoT）の生成

• 関連するフォームを特定するLLMに、提供されたフォームのセットから、クエリに最も関連するフォームを特定するよう促します。

  1. Identify the most relevant tables from the provided table set <V_final^*>.
  

• クエリとテーブルの関係を明確にするプロンプトLLM クエリと選択されたフォームの関連性を説明し、なぜそれがクエリに答えるために重要なのかを説明する。

  2. Elucidate the connection between the query and the selected tables.
  

• 詳細な推論プロセスヒントLLMは、各行と列のエントリを詳細に調べ、クエリに最も関連する情報を抽出し、最終的な答えに到達するためにステップバイステップで推論します。

  3. Conduct a detailed examination of each row and column entry to extract the information most pertinent to the query.
  

• 最終回答出力ヒント LLMは、推論過程と最終的な答えについて、別々に、次のように説明します。 <reasoning> 歌で応える </reasoning>そして<answer> 歌で応える </answer> ラベルは包装されている。

  # Now Output Your response below:
  <reasoning>
  [Detailed reasoning steps]
  </reasoning>
  <answer>
  [Final answer]
  </answer>
  

3.4.3 出力例

以下は、GTRフレームワークが生成する出力例である：

<reasoning>
1. The query asks for the release date of a game called "Mario Kart Advance".
2. From Table 1, we can find that "Mario Kart Advance" is listed under the "Game Title" column.
3. The corresponding entry in the "Release Date" column is "December 16, 2011".
4. Therefore, the release date of "Mario Kart Advance" is December 16, 2011.
</reasoning>
<answer>
December 16, 2011
</answer>

4.実験結果

MUTLITABLEQAデータセットを用いた実験結果から、GTRは検索と下流の生成・推論の両方において優れた性能を発揮することが示された。従来のテーブル検索手法と比較すると、GTRは精度と想起の両方で大幅な改善を示している。例えば、TFVタスクにおいて、GTRのリコール@50は以下のように向上した。 9.4%マルチホップTQAタスクでは、リコール@10は次のように向上した。 8.2%.

以下は、MUTLITABLEQAデータセットにおける、GTRと他のベースライン手法との主な実験結果である：

5.結論

GTRフレームワークは、表データを異種グラフに整理し、革新的な多重化検索やグラフを意識したヒンティング手法と組み合わせることで、複雑なクロステーブルクエリを処理する力を発揮する。この新しいアプローチは、クロステーブルクエリの分野に新しいアイデアと可能性をもたらす。

6.今後の見通し

研究者らは、MUTLITABLEQAデータセットをさらに拡張し、クロステーブルQ&Aモデルの性能をさらに向上させるため、より高度なグラフ・ニューラル・ネットワーク（GNN）とLLM最適化技術を探求する予定である。さらに、GTRフレームワークを知識グラフ推論やクロスモーダルQ&Aなどの他の領域にも適用する予定である。

論文アドレス：https://arxiv.org/pdf/2504.01346