AIが一度に覚えていられる情報量の上限。会話の履歴や渡した資料はすべてこの「作業机の広さ」の中に収まっている必要がある。
長く会話していると、AIが最初のほうの指示を忘れたように振る舞うことがあります。これはコンテキストウィンドウ(文脈の窓)から古い情報があふれたため。AIの記憶力ではなく「机の広さ」の問題です。
対策はシンプルで、①大事な前提は要所で言い直す、②長い作業は区切って新しい会話で始める、③資料は必要な部分だけ渡す、の3つ。最近のモデルは窓がかなり広くなりましたが、「無限ではない」と知っているだけでAIとの付き合い方が変わります。
用語を覚えるより、ストーリーで体感するほうが早い。