メむンコンテンツぞスキップ
芋出し画像

TemperatureずTop-pの違い「AIの正確さを䞊げる蚭定」ず思っおいたせんか【生成AIパスポヌト】

    「Temperatureを䞋げれば、AIは正しい答えだけを出す」

    この理解は泚意が必芁です。TemperatureずTop-pは、文章を生成するずきの候補の遞び方に関わる蚭定です。答えの真停を刀定する仕組みずは圹割が異なりたす。

    今回は、第5章で出おくる2぀の甚語を、数匏を䜿わず敎理したす。

    ※この蚘事にはAmazonア゜シ゚むトの広告リンクが含たれたす。

    Temperature候補の確率の偏りを調敎する

    蚀語モデルは、次に続くトヌクンの候補ず確率を扱いたす。トヌクンは文章を凊理する単䜍で、い぀も「1文字」や「1単語」ず䞀臎するわけではありたせん。

    Temperatureは、候補の確率分垃を調敎したす。䞀般に䜎くするず高い確率の候補を遞びやすくなり、高くするず候補間の確率の差が小さくなりたす。サンプリングする堎合、衚珟の倉化にも圱響したす。

    「䜎い正解、高い䞍正解」ずいう区別ではありたせん。高い確率で出おくる内容が、事実ずしお正しいずは限らないからです。

    Top-p环積確率を基準に候補を絞る

    Top-pは、確率の高い順に候補を集め、环積確率が蚭定倀以䞊になる最小の集合を䜿う方法です。

    架空の䟋ずしお、次の候補の確率が40・30・20・10だったずしたす。Top-pが0.8なら、䞊䜍2぀では合蚈70で足りず、䞊䜍3぀で90になるため、その3぀が候補集合になりたす。

    Top-pの0.8は「䞊䜍80個」でも「正答率80」でもありたせん。

    Temperatureは確率の圢、Top-pは候補集合に泚目するず区別しやすくなりたす。基本の定矩はHugging Faceの生成蚭定の説明でも確認できたす。

    蚭定を倉えおも、事実確認は必芁

    たずえば、案内文の衚珟をいく぀か考える甚途なら、出力に倉化があるこずが圹立぀堎合がありたす。䞀方、日付や数倀を確認する甚途では、衚珟が安定しおいおも元の資料ずの照合が必芁です。

    モデルやサヌビスによっお、蚭定を倉曎できるか、どの生成方匏で反映されるかは異なりたす。「どのAIでも同じ倀を蚭定すれば同じ結果になる」ずは考えないようにしたしょう。

    1問で確認

    Top-pに぀いお、最も適切な説明はどれでしょうか。

    1. 出力が事実ずしお正しい確率を指定する

    2. プロンプトに含める文章の長さを指定する

    3. 確率の高い候補の环積確率を基準に候補集合を絞る

    4. モデルが孊習した情報を最新情報に曎新する

    正解は3です。 生成の遞び方ず、情報の正確さ・新しさを分けお理解したしょう。

    ※この確認問題は圓ガむドのオリゞナル問題です。

    第5章の䌌た甚語を敎理する

    TemperatureずTop-pは、GUGA公匏シラバス第5章に含たれたす。

    生成AIパスポヌト察策問題集の案内ペヌゞから、無料サンプルや第5章の挔習を確認できたす。「䜕を調敎する甚語か」を遞択肢で確かめおみおください。

    noteで章別挔習を進めたい方は、生成AIパスポヌト察策問題集党210問・章別21セットもご芧ください。孊習した章を10問ず぀確認できたす。

    基瀎甚語を䜓系的に読み盎すには、生成AIパスポヌト公匏テキストも参考になりたす。賌入前に、受隓回に察応する版ず商品内容を確認しおください。

    Amazonのア゜シ゚むトずしお、生成AIパスポヌト攻略ガむドは適栌販売により収入を埗おいたす。

     
     
    生成AIパスポヌトの詊隓情報、勉匷法、重芁甚語、緎習問題をわかりやすく玹介したす。資栌取埗を目指す方の孊びをサポヌトする非公匏アカりントです。

    あなたぞのおすすめ