コンテンツにスキップ

Recursive Language Models解説:長文コンテキスト問題を「外部環境」で解く発想

対象 / ポイント

長文コンテキスト問題を、RAGや単純な窓拡張以外の視点で理解したい人向けです。 RLMが長文を外部環境へ置き、コードで探索・分割・再帰処理する発想を可視化します。

テキスト版の要点

2025年12月31日にarXivへ投稿され、2026年1月28日にv2へ改訂された論文 Recursive Language Models は、長文コンテキスト問題を「窓を広げる」方向だけでなく、 「窓の外に置いた情報をモデルが操作する」方向から捉え直します。1

  • RLMは、長いプロンプトをモデルのコンテキスト窓へ直接入れず、外部環境の変数として扱う。
  • モデルはコードを書いて外部環境を調べ、必要な断片をsub-LLMへ再帰的に渡す。
  • 論文は、RLMが長文入力タスクで既存の長文スキャフォールドを上回る結果を報告している。

直接全画面で確認する場合は RLMインタラクティブ解説を開く を使用してください。

まとめ

RLMは、RAGや要約の単純な置き換えというより、LLMが長い情報を扱うときの「作業メモリの置き場所」を変える提案です。 長文をモデルへ押し込むのではなく、外部環境に置いて、モデルがコードで探索・分割・再帰処理する。

この発想は、今後のエージェント設計、長文文書処理、研究支援ツールの実装に影響し得る論点です。

関連記事


  1. Alex L. Zhang, Tim Kraska, Omar Khattab, Recursive Language Models, arXiv:2512.24601.