Jev（ジェブ）とは？

「文章を書かない」とはどういうこと？

これまで、プログラムの中でAIに判断させたいときは回り道が必要でした。LLMに「この問い合わせは苦情か質問か、JSON形式で答えて」と頼み、返ってきた文章を機械で読み取って使う——という手順です。LLMは言葉を一語ずつ生成する仕組みなので、判断そのものは一瞬で決まっていても、それを文章の形にして吐き出す時間と料金がかかります。しかも、指定した形式から外れた答えが返ってくる事故も起こりえました。

Jevは、この回り道をまるごと省きます。アプリの状態と型付きの質問を一度に受け取り、型付きの答えを返す。文章を経由しないので一語ずつ生成する必要がなく、速度と料金の桁が変わる、というのが同社の説明です。これまで「JSONで返してね」とお願いして祈っていた部分が、仕組みとして保証される——ここが実務でいちばん大きい変化だと押さえておくとよさそうです。

「ハルシネーションしない」って本当？

この点は正確に理解しておく価値があります。Jevについて「ハルシネーションを起こさない」と紹介されることがありますが、意味するのは「決められた選択肢や型から外れた出力は出てこない」ということです。選択肢を3つ与えたら、その3つ以外の答えは返りません。一方で、3つの中から誤ったものを選んでしまうことはあります。つまり出力の形は壊れませんが、判断が当たる保証があるわけではありません。

だからこそ確からしさの数値が重要になります。同社はこの数値を実際の正答率に合わせる訓練方法を採ったと説明しており、「確信度90%と答えたもののうち、おおむね90%が正しい」状態を目指す考え方です。運用の勧め方も、自信が高いものは自動で処理し、下がってきたら確認を挟み、低いものは人に回す、という段階分け。「嘘をつかない」ではなく「決められた枠から外れない」と読むのが正確で、判断を任せきりにしない設計は今までどおり必要です。

自分の仕事にはどう関係する？

直接触るのは開発者ですが、影響が出るのは普通の利用者の側です。サービスの裏側には「AIに判断させている場所」が無数にあります。問い合わせをどの担当に回すか、投稿を人の目で確認すべきか、入力された文章が危ないものでないか——こうした判断が速く安くなると、これまで採算が合わずに人手でやっていた確認作業に、AIを挟む余地が出てきます。

考え方として面白いのは「速い思考」と「遅い思考」の使い分けです。じっくり考えるべき相談はLLMに、一瞬で決まる判断は判断専用のモデルに——という切り分けは、人間の仕事の任せ方とも重なります。全部を高性能なAIに投げるのではなく、仕事の性質で相手を選ぶ。この発想は、当サイトの体験ゲーム「速い脳・遅い脳」で実際に手を動かしながら掴めます。

Jev（ジェブ）のよくある質問