ガードレールとは？

AIが危険・不適切な出力をしないよう設ける安全装置の総称。有害な回答の拒否、個人情報の遮断、業務外の話題の制限など、モデルの外側に張る「柵」を指す。

AI自身の訓練（アライメント）が「性格を良くする」教育なら、ガードレールは「それでも道を外れないように張る柵」です。入力と出力を検査し、爆発物の作り方は拒否する、個人情報が混ざったら遮断する、自社サービスと無関係な話題には乗らない——といったルールをモデルの外側に実装します。

企業がAIチャットを公開するとき、この設計が甘いと「家電量販店のボットに小説を書かせる」ような悪用や、思わぬ炎上事故につながります。プロンプトインジェクション対策とも表裏一体。AIを「作る・導入する」側に回った瞬間に必須となる、実務の安全工学です。