フレーム問題とは？

AIが行動するとき「何を考慮し、何を無視してよいか」を判断できないという古典的難問。現実世界の情報は無限にあり、すべてを検討していたらAIは一歩も動けなくなる。

洞窟からバッテリーを運び出すロボットの寓話が有名です。爆弾が載っていることに気づかず運ぶ1号機、「動かすと何が起きるか」を全部計算しようとして固まる2号機、「関係ないことを無視しよう」として何が関係ないかの計算で固まる3号機——考慮すべき範囲（フレーム）を切れないと、知能は現実で機能しないのです。

人間はこれを常識で無意識にこなしています。LLMは大量のテキストから「人間の常識の統計的な影」を学び、この問題をかなり上手に回避しているように見えますが、原理的に解決したのかは今も議論が続きます。AIの限界を考えるときの、最も味わい深い補助線のひとつです。