AIエンジン・技術
コンテキストウィンドウとは?Context Window
結論
コンテキストウィンドウとは、AI(LLM)が一度に読み込んで考慮できる情報量の上限のこと。トークン数で表され、質問文・会話履歴・検索で取得した資料などをすべて合わせてこの枠内に収める必要がある。
人間でいえば「一度に机の上に広げておける資料の量」にあたる。近年のモデルは非常に長い文章を扱えるようになっているが、枠が大きくても、長い資料の途中にある情報は見落とされやすいといった傾向も指摘されている。
AI検索では、複数のページから取得した情報をこの枠に詰め込んで回答を生成するため、1ページあたりに割り当てられる分量は限られることが多い。要点が本文の奥深くに埋もれているページより、見出しと結論が明確で、どこを切り取っても意味が通る構成のページのほうが、回答の材料として使われやすいと考えられる。