しくみ・技術しすてむぷろんぷとSystem Prompt
システムプロンプトとは？
DEFINITION — ひとことで言うと
AIサービスの提供者が、ユーザーには見えない場所であらかじめAIに与えている指示のこと。AIの口調・役割・禁止事項はここで決まっている。
チャットAIが丁寧語で話すのも、危険な質問を断るのも、多くはシステムプロンプトで「そういうキャラでいてください」と指示されているからです。ユーザーの入力より優先される「楽屋での申し合わせ」だと思うとわかりやすいでしょう。
自分でAIアプリやカスタムAIを作るときは、このシステムプロンプトの書き方が品質の8割を決めます。役割・目的・口調・やってはいけないこと・迷ったときの振る舞いを具体的に書く——新人に渡す業務マニュアルと同じ要領です。逆にこれを外部から乗っ取ろうとする攻撃がプロンプトインジェクションです。
SECRET — 隠しコンテンツ
楽屋で、台本を書け。
システムプロンプトを設計してAI窓口を開店。ジェイルブレイカーが来店しても守れる？
システムプロンプトのよくある質問
Q.システムプロンプトは見られますか？
A.
通常は非公開ですが、Anthropicのように公開している企業もあります。外部から抜き取ろうとする攻撃も存在し、防御側の設計テーマのひとつです。
Q.自分で書くときのコツは？
A.
役割・目的・口調・禁止事項・迷ったときの振る舞いを具体的に書くことです。新人に渡す業務マニュアルと同じ要領で、当ページの扉のゲームで設計を体験できます。
用語を覚えるより、ストーリーで体感するほうが早い。