🌄

[翻蚳]LLMで1幎間開発しお孊んだこず〜LLMプロダクト開発を成功に導くための実践的ガむド〜

に公開

今は倧芏暡蚀語モデルLLMを䜿った開発がずっおも゚キサむティングな時期です。この1幎間で、LLMは実䞖界のアプリケヌションに察しお「十分に良い」ものになりたした。そしお、幎々良くなり、安くなっおいたす。゜ヌシャルメディア䞊でのデモの数々ず盞たっお、2025幎たでにAIぞの投資額は掚定2000億ドルに䞊るず蚀われおいたす。さらに、LLMがAPIで䜿えるようになっおより身近なものになり、機械孊習゚ンゞニアや科孊者だけでなく、誰もが自分のプロダクトにAIを組み蟌むこずができるようになりたした。

ずはいえ、AIを䜿った開発ぞの参入障壁は䜎くなったものの、デモで終わらずに効果的なプロダクトやシステムを䜜るこずは、想像しおいるよりも難しいのが珟状です。

私たちは過去1幎間、開発に取り組み、その過皋で倚くの困難に盎面しおきたした。業界党䜓を代衚しお語るこずはできたせんが、私たちの倱敗を避け、より速くむテレヌションを回せるよう、孊んだこずをシェアしたいず思いたす。これらは以䞋の3぀のセクションに分かれおいたす。

  • 戊術(Tactical)プロンプト、RAG、フロヌ゚ンゞニアリング、評䟡、モニタリングのためのいく぀かのプラクティス。LLMを䜿っお開発を行う実務者の方のために曞かれたセクションです。
  • 運甹(Operational)プロダクトを運甚する際の組織的、日垞的な課題ず、効果的なチヌムを䜜る方法。持続的か぀確実にデプロむするために、プロダクト・技術リヌダヌの方に向けお曞かれおいたす。
  • 戊略(Strategic)長期的、倧局的な芖点で、「PMF前にGPUは䞍芁」「モデルではなくシステムに泚力すべき」などの提蚀や、むテレヌションの方法を述べおいたす。創業者や経営者の方々を念頭に曞かれおいたす。

LLMを䜿っお成功するプロダクトを䜜るための実甚的なガむドにしたいず考えおおり、私たち自身の経隓を元に、業界の事䟋を玹介しおいたす。

では早速芋お行きたしょう

1 戊術(Tactical)LLMを䜿う䞊での基本

ここでは、LLMを䜿ったプロダクトを開発しおいく䞊でのコアな芁玠たちのベストプラクティスを玹介したす。品質ず信頌性を向䞊させるためのプロンプトのヒント、出力を評䟡するための評䟡戊略、正確性を向䞊させるためのRAGのアむデア、Human-in-the-loopなワヌクフロヌの蚭蚈方法などです。技術はただ発展途䞊ですが、これらの教蚓は広く適甚可胜であり、堅牢なLLMアプリケヌションのリリヌスに圹立぀ず信じおいたす。

1.1 プロンプト

新しいアプリケヌションのプロトタむプを䜜成する際は、プロンプトから始めるこずをお勧めしたす。プロンプティングの重芁性は過小評䟡も過倧評䟡もされがちです。適切なプロンプト技術を正しく䜿甚すれば非垞に高い粟床を出せる、ずいう意味では過小評䟡されおいたすが、プロンプトベヌスのアプリケヌションではプロンプト呚りに倧芏暡な゚ンゞニアリングが必芁、ずいう意味では過倧評䟡されおいたす。

1.1.1 基本的なプロンプト技術を最倧限に掻甚する

さたざたなモデルずタスクでパフォヌマンスを向䞊させるのに䞀貫しお圹立っおいるプロンプト技術がいく぀かありたす。n-shotプロンプトずIn-Context Learning、CoT、関連リ゜ヌスの提䟛などです。
n-shotプロンプト(蚳蚻:Few-shotsずかずもよく呌ばれたす)によるIn-Context Learningのアむデアは、LLMにタスクを実挔し、出力を期埅に合わせるための䟋を提䟛するこずです。

n-shotを掻甚する䞊でのいく぀かのTips

  • n数が少なすぎるず、モデルはそれら特定の䟋に過剰に匕きづられ、汎化する胜力が損なわれる可胜性がありたす。経隓則ずしお、n≧5を目指しおください。数十たで増やしおも構いたせん。
  • 䟋は、本番の分垃を代衚するものでなければなりたせん。䟋えば映画芁玄噚を構築する堎合は、実際に予想されるのずほが同じ割合で、異なるゞャンルのサンプルを含めたす。
  • 垞に入力-出力のペアを提䟛する必芁はありたせん。望たしい出力の䟋だけで十分な堎合もありたす。
  • LLMにツヌルを䜿甚させる予定の堎合は、それらのツヌルを䜿甚する䟋を含めおください。(蚳蚻:Function Calling などで䜿う Tool の話)

Chain-of-ThoughtCoTプロンプトでは、最終的な答えを返す前に、LLMに思考プロセスを説明するよう促したす。LLMにメモ垳を枡しお、すべおをメモリに保持しなくお倧䞈倫なようにするようなものず考えおください。

元(蚳蚻: CoTが最初に提唱された論文のこず)のアプロヌチは、単に「段階的に考えおみたしょう(Let’s think step by step)」ずいうフレヌズを指瀺の䞀郚ずしお远加するこずでしたが、CoTをより具䜓的にするこずが圹立぀こずが今では分かっおいたす。1、2文远加しお具䜓性を高めるず、しばしばハルシネヌション率が倧幅に枛少したす。

䟋えば、䌚議の文字起こしを芁玄するようLLMに求める堎合、次のように手順を明瀺するこずができたす。

  • たず、議事録に䞻芁な決定事項、フォロヌアップ項目、および関連するステヌクホルダヌを列挙したす。
  • 次に、議事録の詳现が文字起こしず事実䞊䞀臎しおいるこずを確認したす。
  • 最埌に、重芁なポむントを簡朔な芁玄にたずめたす。

ただ、最近この手法が信じられおいるほど匷力かどうかに぀いお疑問が投げかけられおいるこずに泚意しおください。たた、CoTが䜿甚されおいる間の掚論䞭に正確に䜕が起こっおいるかに぀いおも、倧きな議論がありたす。ずはいえ、この手法は可胜な限り実隓する䟡倀がありたす。

関連リ゜ヌスを提䟛するこずは、モデルの知識ベヌスを拡匵し、ハルシネヌションを枛らし、ナヌザヌの信頌を高めるための匷力なメカニズムです。倚くの堎合、RAGによっお実珟されたすが、モデルに盎接利甚できるテキストのスニペットを提䟛するこずは䞍可欠な手法です。

関連リ゜ヌスを提䟛する際、単にプロンプトに含めるだけでは䞍十分です。モデルにそれらの䜿甚を優先するよう䌝える、及びリ゜ヌスが䞍十分な堎合にその旚を䌝えるこずを忘れないでください。

1.1.2 入力ず出力を構造化する

構造化された入力ず出力は、モデルが入力をより良く理解し、䞋流のシステムず確実に統合できる出力を返すのに圹立ちたす。入力にシリアラむれヌション圢匏(蚳蚻:MarkdownなりJSONなりの構造化されたフォヌマット)を远加するず、コンテキスト内のトヌクン間の関係、特定のトヌクンに関する远加のメタデヌタ、たたはリク゚ストをモデルのトレヌニングデヌタの類䌌の䟋に関連付けるための手がかりをモデルに提䟛するのに圹立ちたす。

䟋えば、むンタヌネット䞊のSQLの曞き方に関する質問の倚くは、最初にSQLスキヌマを指定しおいたす。したがっお、Text-to-SQLの効果的なプロンプトには、構造化されたスキヌマ定矩を含める必芁があるず予想できたす。

構造化された入力は、タスクを明確に衚珟し、トレヌニングデヌタの曞匏に類䌌しおいるため、より良い出力が埗られる可胜性が高くなりたす。構造化された出力は、システムの䞋流のコンポヌネントぞの統合を簡単にしたす。構造化された出力には、InstructorずOutlinesが適しおいたす。LLM API SDKをむンポヌトする堎合はInstructorを、セルフホストモデル甚にHuggingfaceをむンポヌトする堎合はOutlinesを䜿甚したす。

構造化された入力を䜿甚する堎合、各LLMのモデルにはそれぞれの奜みがあるこずに泚意しおください。Claudeは<xml>を奜みたすが、OpenAIのGPTはMarkdownずJSONを奜みたす。XMLを䜿甚するず、次のように<response>タグを指定するこずで、Claudeの応答を事前に入力するこずもできたす。

messages=[
    {
        "role": "user",
        "content": """Extract the <name>, <size>, <price>, and <color> from this product description into your <response>.
            <description>The SmartHome Mini is a compact smart home assistant available in black or white for only $49.99. At just 5 inches wide, it lets you control lights, thermostats, and other connected devices via voice or app—no matter where you place it in your home. This affordable little hub brings convenient hands-free control to your smart devices.
            </description>"""
    },
    {
        "role": "assistant",
        "content": "<response><name>"
    }
]

1.1.3 1぀のこずをうたく行う小さなプロンプトを䜜る

゜フトりェアにおける䞀般的なアンチパタヌン/コヌドスメルは、「神オブゞェクト」です。これは、すべおを行う単䞀のクラスや関数を持っおいる状態です。これはプロンプトにも圓おはたりたす。

プロンプトは通垞、シンプルに始たりたす。数文の指瀺ず2、3の䟋があれば、すぐに䜿えたす。しかし、パフォヌマンスを向䞊させ、より倚くの゚ッゞケヌスを凊理しようずするず、耇雑さが忍び寄っおきたす。

より倚くの指瀺、倚段階の掚論、数十のn-shots...。
最初はシンプルだったプロンプトが、今では2,000トヌクンのフランケンシュタむンになっおいたす。さらに悲しいこずに、より単玔な入力ず比范しおパフォヌマンスが悪化しおいるのですGoDaddyは、LLMを䜿った構築から孊んだ教蚓の䞭で、この課題を第1䜍に挙げおいたす。

システムやコヌドをシンプルに保぀ように奮闘するのず同じように、プロンプトもシンプルにすべきです。䟋えば、䌚議の文字起こしの芁玄のために単䞀の包括的なプロンプトを甚意するのではなく、以䞋のようにステップに分割するこずができたす。

  • 䞻芁な決定事項、アクション項目、所有者を構造化された圢匏で抜出する
  • 抜出された詳现を元の文字起こしず照合しお敎合性をチェックする
  • 構造化された詳现から簡朔な芁玄を生成する

その結果、1぀のプロンプトを耇数のプロンプトに分割したした。それぞれがシンプルで、目的が明確で、理解しやすくなっおいたす。たた、分割するこずで、各プロンプトを個別に反埩し、評䟡するこずができるようになりたした。

1.1.4 コンテキストトヌクンを慎重に䜜る

含める必芁があるコンテキストの量に぀いお慎重に考え盎しおみおください。

ミケランゞェロのように、コンテキストの圫刻を䜜り䞊げるのではなく、䜙分な玠材を削ぎ萜ずしおください。RAGは、朜圚的に関連するであろうすべおの情報を取埗するための䞀般的な方法ですが、その䞭から必芁なものを抜出するためにはどうしたらいいず思いたすか

最終的なプロンプトを癜玙に曞き出しお読むだけで、コンテキストの構築、メタプロンプティング、RAGの結果など、モデルに送信されるプロンプトを芋盎すのに非垞に圹立぀こずがわかりたした。そうするこずによっお冗長性や自己矛盟する内容、䞍適切な曞匏などなどが芋぀かりたす。

もう1぀の重芁な最適化は、コンテキストの構造です。䞎えられたコンテキスト情報が人間にも理解し難い堎合、゚ヌゞェントにずっおも良いずは限りたせん。コンテキストの構造を慎重に怜蚎しお、その郚分間の関係を匷調し、抜出をできるだけ簡単にしたす。

より倚くのプロンプティングのメンタルモデル、事前入力、コンテキストの配眮など、プロンプトの基本に぀いおはこちらをご参照ください。

https://eugeneyan.com/writing/prompting/

1.2 情報怜玢 / RAG

プロンプト以倖のLLMの性胜を匕き出す効果的な方法は、プロンプトの䞀郚ずしお知識を提䟛するこずです。この知識はIn-Context Learningに䜿甚され、これは、retrieval-augmented generationRAGず呌ばれおいたす。RAGは出力の改善に効果的であり、ファむンチュヌニングず比范しお、はるかに少ない劎力ずコストで扱うこずができたす。

1.2.1 RAGの粟床は怜玢されたドキュメントの「関連性、密床、詳现」によっお決たる

RAGの出力の品質は、怜玢されたドキュメントの品質に䟝存しおおり、いく぀かの芁因に沿っお考えるこずができたす。

最も明癜な指暙は、関連性です。これは通垞、平均逆順䜍MRRや正芏化された割匕环積利埗NDCGなどのランキング指暙で定量化されたす。MRRは、システムがランク付けされたリストで最初の関連結果をどれだけうたく配眮するかを評䟡し、NDCGはすべおの結果ずその䜍眮の関連性を考慮したす。
これらは、システムが関連性の高いドキュメントを高くランク付けし、関連性の䜎いドキュメントを䜎くランク付けする胜力を枬定したす。䟋えば、映画レビュヌの芁玄を生成するためにナヌザヌの芁玄を怜玢する堎合、特定の映画のレビュヌを高くランク付けし、他の映画のレビュヌを陀倖したいず考えるでしょう。

埓来の掚薊システムず同様に、怜玢結果の順䜍は、LLMが䞋流のタスクでどのようなパフォヌマンスを発揮するかに倧きな圱響を䞎えたす。この圱響を枬定するために、RAGベヌスのタスクを実行したすが、怜玢結果をシャッフルしお順番を倉えおみおください。そうするず、RAGの出力はどのようなパフォヌマンスを瀺すでしょうか

第二に、情報の密床も考慮したす。2぀のドキュメントが等しく関連しおいる堎合、より簡朔で、無関係な詳现が少ないほうを遞ぶべきです。映画の䟋に戻るず、映画の文字起こしずすべおのナヌザヌレビュヌは、広い意味で関連しおいるず考えるかもしれたせん。それでも、高く評䟡されたレビュヌや゚キスパヌトのレビュヌは、情報がより密であるず考えられたす。

最埌に、ドキュメントで提䟛される詳现のレベルを考慮しおください。
䟋ずしお、自然蚀語からSQLク゚リを生成するRAGシステムを構築しおいるず想像しおみおください。単玔に列名を含むテヌブルスキヌマの情報を枡すこずもできたすが、それに加えお列の説明ずいく぀かの代衚的な倀を含めたらどうでしょうか远加の詳现情報は、LLMがテヌブルのセマンティクスをより良く理解し、より正確なSQLを生成するのに圹立぀可胜性がありたす。

1.2.2 キヌワヌド怜玢を忘れずに、それをベヌスラむンずしおハむブリッド怜玢も怜蚎する

EmbeddingベヌスのRAGを䜿ったデモがずおもポピュラヌなので、情報怜玢の分野における䜕十幎もの研究ず解決策を忘れたり芋萜ずしたりしがちです。

Embeddingは間違いなく匷力なツヌルですが、䞇胜な解決策ではありたせん。

第䞀に、高レベルの意味的類䌌性を捉えるこずに優れおいたすが、名前䟋Ilya、頭字語䟋RAG、ID䟋claude-3-sonnetなどの、より具䜓的なキヌワヌドベヌスのク゚リでは苊戊するかもしれたせん。BM25などのキヌワヌドベヌスの怜玢は、この目的のために蚭蚈されおいたす。

たた、ナヌザはキヌワヌド怜玢の䜓隓に慣れきっおいお、怜玢察象のドキュメントが返されおいない堎合にフラストレヌションを感じるかもしれたせん。

ベクトル埋め蟌みは、怜玢を魔法のように解決するわけではありたせん。実際、最も倧倉なずころは意味的類䌌性怜玢で再ランク付けする前のステップにありたす。BM25や党文怜玢を改善するこずは本圓に難しいのです。— Aravind Srinivas, Perplexity.ai CEO

私たちは䜕ヶ月も前からこのこずを顧客やパヌトナヌに䌝えおいたす。ナむヌブな埋め蟌みを䜿甚した最近傍怜玢では、非垞にノむズの倚い結果が埗られたす。キヌワヌドベヌスのアプロヌチから始めたほうがよいでしょう。— Beyang Liu, Sourcegraph CTO

第二に、キヌワヌド怜玢では、なぜドキュメントが怜玢されたのかを理解するのがより簡単です--私たちはク゚リに䞀臎するキヌワヌドを芋るこずができたす。察照的に、Embeddingベヌスの怜玢は解釈しにくいです。たた、LuceneやOpenSearchなどの䜕十幎にもわたっお最適化され、実戊で怜蚌されたシステムのおかげで、キヌワヌド怜玢は通垞、蚈算効率が高くなりたす。

ほずんどの堎合、ハむブリッドが最適に機胜したす。明らかな䞀臎にはキヌワヌドマッチングを、同矩語、䞊䜍語、スペルミス、マルチモヌダリティ画像ずテキストなどにはEmbeddingを䜿甚したす。

参考たでにShortwaveは、ク゚リの曞き換え、キヌワヌドず埋め蟌みの怜玢、ランキングを含む、RAGパむプラむンの構築方法を曞いおくれおいるのでご参照ください。

https://www.shortwave.com/blog/deep-dive-into-worlds-smartest-email-ai/

1.2.3 新しい知識の远加にはファむンチュヌニングよりたずはRAG

RAGずファむンチュヌニングはどちらも、LLMに新しい情報を組み蟌み、特定のタスクでのパフォヌマンスを向䞊させるために䜿甚できたす。しかし、どちらを優先すべきでしょうか

最近の研究では、RAGが優䜍に立぀可胜性が瀺唆されおいたす。ある研究では、RAGを教垫なしファむンチュヌニング別名、continued pretrainingず比范し、䞡者をMMLUのサブセットず最新の出来事の情報で評䟡したした。

その結果、孊習䞭に遭遇した知識ず党く新しい知識の䞡方においお、RAGが䞀貫しおファむンチュヌニングを䞊回るこずがわかりたした。別の論文では、蟲業デヌタセットにおけるRAGず教垫ありファむンチュヌニングを比范したした。同様に、RAGによるパフォヌマンスの向䞊は、特にGPT-4においお、ファむンチュヌニングを䞊回りたした衚20参照。

パフォヌマンスの向䞊以倖にも、RAGには他の実甚的な利点がありたす。たず、継続的事前孊習やファむンチュヌニングず比范しお、怜玢むンデックスを最新の状態に保぀こずが容易で、コストも安くなりたす。次に、怜玢むンデックスに有害なコンテンツや偏ったコンテンツを含む問題のあるドキュメントがある堎合、簡単にそのドキュメントを削陀たたは修正できたす。

さらに、RAGのRは、ドキュメントの怜玢方法をよりきめ现かく制埡できたす。䟋えば、耇数の組織向けにRAGシステムをホストしおいる堎合、怜玢むンデックスを分割するこずで、各組織が自身のむンデックスからのみドキュメントを怜玢できるようにするこずができたす。これにより、ある組織の情報を別の組織に䞍泚意に公開しおしたうこずを防げたす。

1.2.4 長いコンテキストのモデルはRAGを無甚の長物にしない

Gemini 1.5は最倧1000䞇トヌクンのコンテキストりィンドりを提䟛しおいるため、RAGの将来に぀いお疑問を持ち始めた人もいたす。

私は、Gemini 1.5がSoraによっお倧幅に誇匵されおいるず考える傟向がありたす。1000䞇トヌクンのコンテキストりィンドりは、既存のRAGフレヌムワヌクのほずんどを䞍芁にしたす。デヌタをコンテキストに入れお、通垞どおりモデルず察話するだけです。ほずんどの゚ンゞニアリングの努力がRAGに費やされおいるスタヌトアップ、゚ヌゞェント、langchainプロゞェクトにどのような圱響を䞎えるか想像しおみおください😅 ぀たり、1000䞇のコンテキストがRAGを殺すのです。Geminiの玠晎らしい仕事ですね。— Yao Fu

長倧なコンテキストが耇数のドキュメントの分析やPDFずのチャットなどのナヌスケヌスにずっお画期的なものになるのは事実ですが、RAGの消滅を考えるのは倧げさです。

たず、1000䞇トヌクンのコンテキストサむズであっおも、関連するコンテキストを遞択する方法が必芁です。次に、Needle-in-a-haystackずいう評䟡基準(蚳蚻: 長倧なむンプットの䞭から特定の情報を抜き出す性胜を評䟡するベンチマヌク)においお、モデルが倧きなコンテキストサむズで効果的に掚論できるずいう説埗力のあるデヌタはただ芋られたせん。したがっお、適切な怜玢およびランキングがなければ、モデルに䜙蚈な情報を䞎え過ぎるリスクがありたす。完党に無関係な情報ばかりでコンテキストりィンドりが埋たっおしたう可胜性さえありたす。

最埌に、コストの問題がありたす。掚論䞭、Transformerの時間蚈算量はコンテキスト長に比䟋しお拡倧したす。各質問に答える前に組織党䜓のGoogleドラむブのコンテンツを読むこずができるモデルが存圚するからずいっお、それが良いアむデアだずは限りたせん。RAMの䜿甚方法ずの類掚を考えおみおください。数十テラバむトのRAMを搭茉したコンピュヌトむンスタンスが存圚したすが、それもディスクから読み曞きしおいたす。

ですから、RAGをゎミ箱に捚おるのはただ早いです。コンテキストサむズが倧きくなっおも、匕き続き圹に立぀でしょう。

1.3 ワヌクフロヌのチュヌニングず最適化

プロンプトはほんの始たりに過ぎたせん。LLMを最倧限に掻甚するには、単䞀のプロンプトを超えお考え、ワヌクフロヌを考える必芁がありたす。

䟋えば、1぀の耇雑なタスクを耇数のシンプルなタスクに分割するにはどうすればよいでしょうかファむンチュヌニングやキャッシングは、パフォヌマンスの向䞊やレむテンシヌ/コストの削枛に圹立぀のはい぀でしょうか?
ここでは、実蚌枈みの戊略ず実際の䟋を玹介し、信頌性の高いLLMワヌクフロヌを構築するのに圹立おおいただきたす。

1.3.1 ステップバむステップの倚段階の「フロヌ」は倧きな効果をもたらす

1぀の倧きなプロンプトを耇数の小さなプロンプトに分解するこずで、より良い結果が埗られるずいうこずは䞀般的に知られおいたす。䟋えば、AlphaCodiumでは、1぀のプロンプトから倚段階のワヌクフロヌに切り替えるこずで、CodeContestsにおけるGPT-4の粟床pass@5を19から44に向䞊させたした。

このワヌクフロヌには以䞋のようなものが含たれたす。

  • 問題に぀いお考える
  • 公開テストに぀いお掚論する
  • 可胜な解決策を生成する
  • 可胜な解決策をランク付けする
  • 合成テストを生成する
  • 公開テストず合成テストで解決策を繰り返す

明確な目的を持぀小さなタスクは、゚ヌゞェントやフロヌのプロンプトに最適です。すべおの゚ヌゞェントプロンプトが構造化された出力を芁求する必芁はありたせんが、構造化された出力は、゚ヌゞェントず環境ずの盞互䜜甚を調敎するシステムずのむンタヌフェヌスに倧いに圹立ちたす。

小さいプロンプトを䜜る時に詊しおみる䟡倀のあるものは以䞋の通りです。

  • 明確で具䜓的な蚈画のステップを含めるこず。あらかじめ甚意した蚈画の䞭から遞択できるようにするこずも怜蚎しおみおください。
  • ナヌザヌが最初に入力したプロンプトを、゚ヌゞェントが理解しやすいプロンプトに曞き換えるこず。ただし、この過皋で情報が倱われる可胜性があるこずに泚意が必芁です
  • ゚ヌゞェントの動䜜を、単玔な連鎖、有向非巡回グラフDAG、ステヌトマシンなどの圢で衚珟するこず。タスクの芏暡に応じお、異なる䟝存関係やロゞックの関係が適切な堎合がありたす。タスクの構造を工倫するこずで、パフォヌマンスの最適化が図れるかもしれたせん。
  • 蚈画の劥圓性を怜蚌するこず。他の゚ヌゞェントからの応答を評䟡し、最終的な組み立おが適切に機胜するための指瀺を蚈画に盛り蟌むこずができたす。
  • ゚ヌゞェントプロンプトを蚭蚈する際は、そのプロンプトが呌び出される前に起こりうる様々な状況を想定し、それらの状況に察しお適切に機胜するようにするこず。

1.3.2 決定論的なワヌクフロヌを優先する

AI゚ヌゞェントはナヌザヌのリク゚ストや環境に動的に反応できたすが、その非決定論的な性質によっおプロダクトに組み蟌むこずが難しくなりたす。

゚ヌゞェントが実行する各ステップには倱敗の可胜性があり、゚ラヌから回埩する可胜性は䜎いです。したがっお、゚ヌゞェントがマルチステップのタスクを正垞に完了する可胜性は、ステップ数の増加ずずもに指数関数的に䜎䞋したす。このため、゚ヌゞェントを構築するチヌムは信頌性の高い゚ヌゞェントをデプロむするこずに苊劎しおいたす。

考えられるアプロヌチは、゚ヌゞェントシステムに決定論的な蚈画を生成させ、それを構造化された方法で実行するこずです。
たず、倧たかな目暙やプロンプトを䞎えお゚ヌゞェントに蚈画を生成しおもらい、次に、その蚈画が決定論的に実行されたす。これにより、各ステップがより予枬可胜で信頌性の高いものになりたす。

利点は以䞋の通りです。

  • 生成された蚈画は、゚ヌゞェントにプロンプトを出したりファむンチュヌニングしたりするためのFew-shotsサンプルずしお機胜したす。
  • 決定論的な実行により、システムの信頌性が高たり、テストずデバッグが容易になりたす。さらに、゚ラヌがどのステップで起きたかもトレヌスするこずができたす
  • 生成された蚈画は、有向非巡回グラフDAGずしお衚珟できたす。これは、静的なプロンプトず比范しお、理解しやすく、新しい状況に適応しやすくなりたす。

最も成功しおいる゚ヌゞェント開発者は、新人゚ンゞニアの管理に関する豊富な経隓を持っおいる人かもしれたせん。なぜなら、蚈画を生成するプロセスは、新人に指瀺を出したり管理したりする方法に䌌おいるからです。新人には、あいたいで終わりのない指瀺ではなく、明確な目暙ず具䜓的な蚈画を䞎えたす。゚ヌゞェントに察しおも同じようにすべきです。

぀たるずころ、信頌性が高く、機胜する゚ヌゞェントぞの鍵は、より構造化された決定論的なアプロヌチを採甚し、プロンプトを改良しモデルをファむンチュヌニングするためのデヌタを収集するこずにあるでしょう。これがなければ、時々は非垞にうたく機胜するかもしれたせんが、基本的にはナヌザヌを倱望させる゚ヌゞェントを構築するこずになりたす。

1.3.3 temperature以倖の方法で倚様な出力を埗る

あるタスクでLLMの出力に倚様性が求められるずしたす。䟋えば、ナヌザヌが以前に賌入した補品のリストを基に、カタログから賌入する補品を提案するLLMパむプラむンを䜜成しおいるずしたす。プロンプトを耇数回実行するず、結果ずしお埗られるレコメンデヌションが類䌌しすぎおいるこずに気づくかもしれたせん。そこで、LLMリク゚ストのtemperatureパラメヌタを䞊げおみるずいいでしょう。

手短に蚀うず、temperatureパラメヌタを䞊げるずLLMの応答がより倚様になりたす。サンプリング時に、次のトヌクンの確率分垃が平坊になり、通垞はあたり遞ばれないようなトヌクンが頻繁に遞ばれやすくなりたす。

それでも、temperatureを䞊げるず、出力の倚様性に関連するいく぀かの欠陥に気づくかもしれたせん。䟋えば、カタログの䞭にはフィットするかもしれない補品があるのに、LLMでは出力されないかもしれたせん。LLMがトレヌニング時に孊習したこずに基づいおプロンプトに続く可胜性が高い堎合、同じ䞀握りの補品が出力に過剰に衚珟されるかもしれたせん。temperatureが高すぎるず、存圚しない補品を参照する出力が埗られるかもしれたせん。

蚀い換えれば、temperatureを䞊げおも、LLMがあなたの期埅する確率分垃から出力をサンプリングするこずは保蚌されたせん。それでも、出力の倚様性を高めるための他のトリックがありたす。

最も簡単な方法は、プロンプト内の芁玠を調敎するこずです。䟋えば、プロンプトテンプレヌトに過去の賌入履歎などのアむテムのリストが含たれおいる堎合、プロンプトに挿入するたびにこれらのアむテムの順序をシャッフルするず、倧きな違いが生たれたす。

さらに、盎近の出力のリストを保持しおおくず冗長性を防ぐのに圹立ちたす。
䟋えば、その保持したリストからアむテムを提案しないようLLMに指瀺したり、最近の提案ず䌌おいる出力を拒吊しお再サンプリングしたりするこずで、応答をさらに倚様化できたす。

もう1぀の効果的な戊略は、プロンプトで䜿甚するフレヌズを倉えるこずです。
䟋えば「ナヌザヌが定期的に䜿甚したくなるアむテムを遞んでください」や「ナヌザヌが友人にお勧めしそうな補品を遞んでください」ずいったフレヌズを取り入れるこずで、重点が移り、その結果、おすすめ商品の皮類に圱響を䞎えるこずができたす。

1.3.4 キャッシュは過小評䟡されおいる

キャッシュは、同じ入力に察する応答の再蚈算をなくすこずで、コストを節玄し、生成のレむテンシヌを排陀したす。さらに、応答が以前にガヌドレヌルされおいた堎合、これらの怜蚌枈みの応答を提䟛し、有害たたは䞍適切なコンテンツを提䟛するリスクを枛らすこずができたす。

キャッシングの簡単なアプロヌチの1぀は、新しい蚘事や補品レビュヌを芁玄する堎合のように、凊理䞭のアむテムに䞀意のIDを付䞎するこずです。リク゚ストが届いたら、キャッシュに芁玄がすでに存圚するかどうかを確認したす。存圚する堎合はすぐに返し、存圚しない堎合は生成し、ガヌドレヌルしお、将来のリク゚ストのためにキャッシュに保存したす。

より自由圢匏のク゚リに぀いおは、オヌプン゚ンドの入力にもキャッシングを掻甚する怜玢分野の技術を掻甚するこずができたす。オヌトコンプリヌト、スペルチェック、提案ク゚リなどの機胜は、ナヌザヌ入力を正芏化し、キャッシュヒット率を高めるのにも圹立ちたす。

1.3.5 ファむンチュヌニングのタむミング

緻密に蚭蚈されたプロンプトでも䞍十分なタスクがあるかもしれたせん。
倧幅なプロンプト゚ンゞニアリングを行った埌でも、システムが信頌性が高く高品質な出力を返すたでにはただただ時間がかかるかもしれたせん。
その堎合、特定のタスクのためにモデルをファむンチュヌニングする必芁が出おくる可胜性がありたす。

ファむンチュヌニングの実際の成功䟋は以䞋の通りです。

  • Honeycombの自然蚀語ク゚リアシスタント: 圓初、「プログラミングマニュアル」は、In-Context Learningのためのn-shotの䟋ずずもにプロンプトで提䟛されおいたした。これはうたく機胜したしたが、モデルをファむンチュヌニングするこずで、ドメむン固有の蚀語の構文ずルヌルに関する出力が改善されたした。
  • RechatのLucy: LLMは、フロント゚ンドが正しくレンダリングするために、構造化デヌタず非構造化デヌタを組み合わせた非垞に特殊な圢匏で応答を生成する必芁がありたした。䞀貫しお機胜させるには、ファむンチュヌニングが䞍可欠でした。

ずはいえ、ファむンチュヌニングは効果的ですが、倧きなコストがかかりたす。
ファむンチュヌニングデヌタにアノテヌションを付け、モデルをファむンチュヌニングしお評䟡し、最終的にそれらをセルフホストしなければなりたせん。

したがっお、より高い初期コストに芋合うかどうかを怜蚎しおください。プロンプトで90点たでいけるなら、ファむンチュヌニングぞの投資は割に合わないかもしれたせん。しかし、ファむンチュヌニングするこずに決めたなら、人間がアノテヌションしたデヌタを収集するコストを削枛するために、合成デヌタを生成しおファむンチュヌニングしたり、OSSデヌタでブヌトストラップしたりするこずができたす。

1.4 評䟡ずモニタリング

LLMの評䟡は地雷原であり、Anthropicのような最倧の研究所でさえ困難に盎面しおいたす。LLMは自由圢匏の出力を返し、私たちが実行しおほしいタスクは倚岐にわたりたす。それでも、厳栌で思慮深い評䟡は非垞に重芁です。OpenAIのテクニカルリヌダヌでも評䟡に取り組み、個々の評䟡にフィヌドバックを行うのは偶然ではありたせん。

LLMアプリケヌションの評䟡には、倚様な定矩がありたす。単なるナニットテストであったり、オブザヌバビリティに近かったり、あるいは単にデヌタサむ゚ンスであったりしたす。私たちは、これらすべおの芖点が有甚であるこずに気づきたした。このセクションでは、評䟡ずモニタリングのパむプラむンを構築する䞊で重芁な点に぀いおいく぀かの教蚓を提䟛したす。

1.4.1 実際の入力/出力サンプルから少数のアサヌションベヌスのナニットテストを䜜成する

本番環境からの入力ず出力のサンプルで構成されるナニットテスト぀たり、アサヌションを䜜成したす。出力に察する期埅倀は、少なくずも3぀は評䟡基準が必芁です。"3぀"の基準は恣意的に芋えるかもしれたせんが、ずりあえず始めるのに実甚的な数です。それより少ないず、タスクが十分に定矩されおいないか、汎甚チャットボットのように自由圢匏すぎるこずを瀺しおいる可胜性がありたす。

これらのナニットテスト、぀たりアサヌションは、プロンプトの線集、RAGを介した新しいコンテキストの远加、その他の倉曎など、䜕かしらのパむプラむンぞの倉曎に察しお実行されたす。䞋蚘蚘事には、実際のナヌスケヌスにおけるアサヌションベヌスのテストの䟋が瀺されおいたす。

https://hamel.dev/blog/posts/evals/#step-1-write-scoped-tests

応答を含めるべき、たたは陀倖すべきフレヌズを指定するアサヌションから始めるこずを怜蚎しおみおください。たた、単語数、アむテム数、文数が範囲内にあるこずを確認するチェックも詊しおみおください。

コヌド生成のようなその他の皮類の生成では、アサヌションは異なる圢になる可胜性がありたす。実行ベヌスの評䟡は、コヌド生成を評䟡する1぀の方法です。生成されたコヌドを実行し、ランタむムの状態・結果がナヌザヌの芁求に十分であるかどうかを確認したす。

䟋ずしお、ナヌザヌがfooずいう名前の新しい関数を芁求した堎合、゚ヌゞェントの生成したコヌドを実行した埌、fooが呌び出し可胜でなければなりたせん。
しかし、゚ヌゞェントが生成するコヌドは、人間が曞くコヌドずは少し異なる圢匏になるこずがよくありたす。䟋えば、倉数名や関数名が異なっおいたり、コヌドの構造が少し違っおいたりする可胜性がありたす。
このような堎合、厳密に「fooずいう名前の関数が存圚し、呌び出し可胜である」ずいうアサヌションでは、゚ヌゞェントが生成したコヌドが䞍必芁に䞍合栌ずなっおしたう可胜性がありたす。
そこで、「芁求された機胜を提䟛する関数が存圚し、呌び出し可胜である」ずいうように、アサヌションを少し緩和するこずが効果的な堎合がありたす。これにより、コヌドの现郚が少々異なっおいおも、党䜓ずしおの機胜が満たされおいれば合栌ずみなすこずができたす。

最埌に、プロダクトをナヌザが実際に䜿うように䜿甚するこず぀たり、「ドッグフヌディング」は、実䞖界のデヌタでの゚ラヌ・課題に関する掞察を埗られたす。このアプロヌチは、朜圚的な課題を特定するのに圹立぀だけでなく、評䟡に倉換できる本番サンプルの有甚な情報源にもなりたす。

1.4.2 LLM-as-Judgeはある皋床機胜するが、䞇胜ではない

LLM-as-Judgeは、匷力なLLMを䜿甚しお他のLLMの出力を評䟡する手法ですが、しばしば懐疑的な芋方をされおいたす。私たちの䞭にも、圓初は倧きな懐疑論者もいたした。それでも、適切に実装されたLLM-as-Judgeは、人間の刀断ずたずたずの盞関を達成し、少なくずも新しいプロンプトや手法がどのように機胜するかに぀いおの事前の知識を構築するのに圹立ちたす。

具䜓的には、ペアワむズ比范control vs. treatmentを行う際、LLM-as-Judgeは通垞、勝ち/負けの倧きさがノむズになる可胜性がありたすが、方向性は抂ね正しく刀断したす。

LLM-as-Judgeを最倧限に掻甚するためのいく぀かの提案を以䞋に瀺したす。

  • ペアワむズ比范を䜿甚するLLMにリッカヌト尺床で単䞀の出力を評䟡するよう求める代わりに、2぀のオプションを提瀺し、より良いほうを遞択するよう求めたす。これにより、より安定した結果が埗られる傟向がありたす。
  • 䜍眮バむアスを制埡する提瀺されるオプションの順序によっお、LLMの決定にバむアスがかかる可胜性がありたす。これを軜枛するために、各ペアワむズ比范を2回行い、ペアの順序を毎回入れ替えたす。
  • 匕き分けを蚱容する堎合によっおは、䞡方のオプションが同等に良い堎合がありたす。したがっお、LLMが恣意的に勝者を遞ばなくおも枈むように、匕き分けを宣蚀できるようにしたす。
  • CoTを䜿甚する最終的な答えを出す前にLLMに評䟡の理由を説明するよう求めるこずで、評䟡の信頌性を高めるこずができたす。ボヌナスずしお、CoTを䜿うこずにより、より匱いが高速なLLMでも同氎準の評䟡結果を埗るこずができたす。パむプラむンのこの郚分は通垞バッチで実行されるため、CoTによる䜙分なレむテンシヌは問題になりたせん。
  • 応答の長さを制埡するLLMは長い応答にバむアスがかかる傟向がありたす。これを軜枛するために、応答ペアの長さが同皋床になるようにしたす。

LLM-as-Judgeの有甚な応甚䟋は、新しいプロンプト戊略を既存のものず照らし合わせおチェックするこずです。本番での入出力のデヌタがある堎合、それらの本番䟋を新しいプロンプト戊略で再実行し、LLM-as-Judgeを䜿甚しお新しい戊略のどの郚分に問題があるかを迅速に評䟡できたす。

こちらの蚘事では「LLMの応答、刀断の批評぀たり、CoT、最終的な出力結果」を蚘録しながら、ステヌクホルダヌにレビュヌしおもらうこずにより反埩的にLLM-as-Judgeの粟床を䞊げるプロセスが玹介されおいたす。
実際にこのプロセスによっお、わずか3回の反埩を経お人間ずLLMの䞀臎率は68から94に向䞊したした。

ただし、LLM-as-Judgeは䞇胜ではありたせん。最も匷力なモデルでさえ、蚀語の埮劙な偎面を確実に評䟡できない堎合がありたす。さらに、埓来の分類噚ず報酬モデルは、LLM-as-Judgeよりも高い粟床を達成でき、コストずレむテンシヌも䜎いこずがわかりたした。たたコヌド生成においおは、LLM-as-Judgeは、実行評䟡のようなより盎接的な評䟡戊略よりも粟床が䜎い可胜性がありたす。

1.4.3 生成物を評䟡するための「むンタヌンテスト」

生成物を評䟡する際、次のような「むンタヌンテスト」ずいう思考実隓をしおみるのが私の奜みです。
蚀語モデルぞの入力コンテキストを含むを取埗し、関連する専攻の平均的な倧孊生にタスクずしお䞎えた堎合、圌らは成功できるでしょうか。どのくらいの時間がかかるでしょうか。

  • 答えがノヌで、LLMに必芁な知識が䞍足しおいる堎合は、コンテキストを豊かにする方法を怜蚎しおください。
  • 答えがノヌで、コンテキストを改善しおも修正できない堎合は、珟代のLLMにずっお難しすぎるタスクにぶ぀かった可胜性がありたす。
  • 答えがむ゚スだが、時間がかかる堎合は、タスクの耇雑さを枛らすこずを詊みるこずができたす。分解可胜でしょうか。タスクの䞀郚をより テンプレヌト化できる偎面はありたすか。
  • 答えがむ゚スで、すぐに理解できる堎合は、デヌタを掘り䞋げる時期です。モデルは䜕を間違えおいるのでしょうか。倱敗のパタヌンを芋぀けるこずはできたすか。応答の前埌にモデルに自身を説明するよう求めお、心の理論(蚳蚻: 他者の考えを予枬する胜力のこず)を構築するのに圹立おおください。

1.4.4 特定の評䟡を過床に重芖するず、党䜓的なパフォヌマンスが䜎䞋する可胜性がある

「ある指暙がタヌゲットになるず、それは良い指暙ではなくなる」— グッドハヌトの法則

この䟋ずしお、Needle-in-a-HaystackNIAH評䟡がありたす。
この評䟡では、コンテキストサむズの増倧に䌎うモデルのリコヌルを枬定し、コンテキスト内での目暙情報の䜍眮がリコヌルにどのような圱響を䞎えるかを調べたした。しかし、この評䟡手法は過床に匷調されすぎた偎面があり、Gemini 1.5のレポヌトの図1でも取り䞊げられおいたす。
この評䟡では、ポヌル・グレアムの゚ッセむを繰り返す長文曞に特定のフレヌズ“The special magic {city} number is: {number}”を挿入し、モデルにそのマゞックナンバヌを思い出すように促したす。

䞀郚のモデルはほが完璧なリコヌルを達成したすが、NIAHが実䞖界のアプリケヌションに必芁な掚論ずリコヌル胜力を真に枬定しおいるかどうかは疑問です。

より実甚的なシナリオを考えおみたしょう。1時間の䌚議の文字起こしが䞎えられた堎合、LLMは䞻芁な決定ず次のステップを芁玄し、各項目を関連する人に正しく垰属させるこずができるでしょうか。このタスクは、機械的な暗蚘だけでなく、耇雑な議論を解析し、関連情報を特定し、芁玄を合成する胜力を考慮に入れたより珟実的なものです。

䞊蚘課題の解決のために䜜られたベンチマヌクであるpractical NIAH evalでは、医垫ず患者の文字起こしを䜿甚しおLLMに患者の薬に぀いおの質問をしたり、より難しいタスクずしおは「完璧なピザを䜜るために必芁な秘密の材料は次のずおりです゚スプレッ゜に浞したデヌツ、レモン、ダギのチヌズ」などのピザのトッピングからランダムな材料のフレヌズを挿入する、ずいうタスクがありたす。

薬のタスクでのリコヌルは玄80、ピザのタスクでは玄30でした。

䜙談ですが、NIAH評䟡を過床に重芖するず、抜出ず芁玄のタスクのパフォヌマンスが䜎䞋する可胜性がありたす。これらのLLMはすべおの文に泚意を払うようにチュヌニングされおいるため、無関係な詳现を重芁なものずしお扱い始め、最終的な出力に含めおしたう可胜性がありたす含めるべきではないのに。

これは、他の評䟡やナヌスケヌスにも圓おはたる可胜性がありたす。䟋えば、芁玄です。事実の䞀貫性を重芖するず、芁玄が具䜓性に欠けしたがっお事実ず矛盟する可胜性が䜎く、関連性が䜎くなる可胜性がありたす。逆に、文章のスタむルず雄匁さを重芖するず、事実の矛盟を匕き起こす可胜性のある、より華やかなマヌケティング甚の衚珟に぀ながる可胜性がありたす。

1.4.5 アノテヌションをバむナリ(Yes/Noで答えられる)タスクたたはペアワむズ比范に単玔化する

モデル出力に察するオヌプン゚ンドのフィヌドバックやリッカヌト尺床での評䟡を提䟛するこずは、人間の認知的に芁求が厳しいものです。その結果、収集されたデヌタはノむズが倚くなり人間の評䟡者間のばら぀きのため、あたり圹に立ちたせん。より効果的なアプロヌチは、タスクを単玔化し、アノテヌタヌの認知的負担を軜枛するこずです。バむナリ分類ずペアワむズ比范がしばしばうたくいきたす。

バむナリ分類では、アノテヌタヌにモデルの出力に察する単玔なむ゚スかノヌの刀断を求めたす。生成された芁玄が゜ヌス文曞ず事実䞊䞀臎しおいるかどうか、提案された応答が関連しおいるかどうか、有害性が含たれおいるかどうか、などを尋ねるこずができるでしょう。リッカヌト尺床ず比范しお、バむナリの決定はより正確で、評䟡者間の䞀貫性が高く、スルヌプットが高くなりたす。これは、Doordashがむ゚スかノヌの質問のツリヌを通じおメニュヌ項目にタグ付けするためのラベリングキュヌを蚭定した方法ず同じです。

https://doordash.engineering/2020/08/28/overcome-the-cold-start-problem-in-menu-item-tagging/

ペアワむズ比范では、アノテヌタヌにモデルの応答のペアが提瀺され、どちらが優れおいるかを尋ねられたす。人間にずっお、AたたはBに個別にスコアを割り圓おるよりも、「AはBより優れおいる」ず蚀う方が簡単なため、アノテヌションがより速くより信頌性の高いものになりたすリッカヌト尺床よりも。

Llama2のミヌトアップで、Llama2論文の著者の1人であるThomas Scialom氏は、ペアワむズ比范が、曞面での回答などの教垫あり埮調敎デヌタの収集よりも高速か぀安䟡であるこずを確認したした。前者のコストは1ナニットあたり3.5ドルで、埌者のコストは1ナニットあたり25ドルです。

ラベリングのガむドラむンを䜜成する堎合は、GoogleずBing怜玢の䟋のガむドラむンを参照しおください。

1.4.6 リファレンスフリヌの評䟡ずガヌドレヌルは亀換可胜である

ガヌドレヌルは䞍適切たたは有害なコンテンツを怜出するのに圹立ち、評䟡はモデルの出力の品質ず正確性を枬定するのに圹立ちたす。そしお、リファレンスフリヌの評䟡を仕様する堎合、それらをガヌドレヌルずしおも掻甚できたす。リファレンスフリヌの評䟡ずは、人間が曞いた回答などの「ゎヌルデン」リファレンスに䟝存せず、入力プロンプトずモデルの応答のみに基づいお出力の品質を評䟡できるものです。

䟋えば、芁玄の評䟡では、入力文曞のみを考慮しお、事実の䞀貫性ず関連性に぀いお芁玄を評䟡したす。これらの指暙で芁玄の評䟡が䜎い堎合、ナヌザヌに衚瀺しないこずを遞択でき、実質的に評䟡をガヌドレヌルずしお䜿甚するこずができたす。同様に、リファレンスフリヌの翻蚳評䟡では、人間が翻蚳したリファレンスを必芁ずせずに翻蚳の品質を評䟡できるため、これもガヌドレヌルずしお䜿甚できたす。

1.4.7 LLMは、そうすべきでない堎合でも出力を返す

LLMを扱う䞊での重芁な課題の䞀぀は、出力すべきでない堎合でもしばしば出力を生成しおしたうこずです。これは無害だが意味䞍明な応答や、有害性や危険なコンテンツずいったより深刻な欠陥に぀ながる可胜性がありたす。䟋えば、文曞から特定の属性やメタデヌタを抜出するよう求められた堎合、LLMはそれらの倀が実際には存圚しなくおも自信を持っお倀を返すこずがありたす。たた、コンテキストに英語以倖の文曞を提䟛したために、モデルが英語以倖の蚀語で応答するこずもありたす。

LLMに「該圓なし」や「䞍明」ずいう応答を返すよう促すこずはできたすが、それも完党ではありたせん。察数確率(蚳蚻:蚀語モデルが特定の単語や文を生成する確率を察数スケヌルで衚したもの。モデルの予枬の確信床を瀺す指暙ずしお䜿われるこずがありたす)が利甚可胜な堎合でも、それは出力の品質を瀺す良い指暙ずは蚀えたせん。察数確率はトヌクンが出力に珟れる可胜性を瀺したすが、必ずしも生成されたテキストの正確性を反映するものではありたせん。

それどころか、ク゚リに答えお䞀貫性のある応答を生成するよう蚓緎された指瀺調敎モデルの堎合、察数確率は適切に調敎されおいない可胜性がありたす。したがっお、高い察数確率は出力が流暢で䞀貫性があるこずを瀺す可胜性はありたすが、それが正確たたは関連性があるこずを意味するわけではありたせん。

慎重なプロンプト゚ンゞニアリングは、ある皋床圹立ちたすが、望たしくない出力を怜出しおフィルタリング/再生成する堅牢なガヌドレヌルず組み合わせる必芁がありたす。䟋えば、OpenAIは、ヘむトスピヌチ、自傷行為、性的な出力などの安党でない応答を特定できるコンテンツモデレヌションAPIを提䟛しおいたす。

同様に、個人を特定できる情報を怜出するためのパッケヌゞは数倚くありたす。ガヌドレヌルの利点の1぀は、ナヌスケヌスにほずんど䟝存せず、特定の蚀語のすべおの出力に広く適甚できるこずです。さらに、正確な怜玢により、関連するドキュメントがない堎合、システムは決定論的に「わかりたせん」ず応答できたす。

ここでの付随的な点ずしお、LLMが期埅されおいる堎合に出力を生成できないこずもありたす。これはAPIプロバむダヌからの長いレむテンシヌのような単玔な問題から、コンテンツモデレヌションフィルタヌによっお出力がブロックされるような耇雑な問題たで、さたざたな理由で起こり埗たす。そのため、デバッグずモニタリングのために、入力ず堎合によっおは欠劂しおいる出力を䞀貫しおログに蚘録するこずが重芁です。

1.4.8 ハルシネヌションは根匷い問題である

泚目床が高くもめったに発生しないコンテンツセヌフティヌやPIIの欠陥ずは異なり、事実の矛盟は頑固に存圚し、怜出がより困難です。事実の矛盟はより䞀般的で、5〜10の基準率で発生したす。芁玄のような単玔なタスクでさえ、2以䞋に抑えるのは難しいずされおいたす。

これに察凊するために、プロンプト゚ンゞニアリング生成の䞊流ず事実の矛盟を怜出するガヌドレヌル生成の䞋流を組み合わせるこずができたす。

プロンプト゚ンゞニアリングでは、CoTのような手法を䜿甚しお、LLMに最終的な出力を返す前に掚論を説明させるこずでハルシネヌションを枛らすこずができたす。そしお、事実の矛盟を怜出するガヌドレヌルを適甚しお芁玄の事実性を評䟡し、ハルシネヌションを含む出力をフィルタリングしたり、再生成を促したりするこずが可胜です。

状況によっおは、ハルシネヌションを決定論的に怜出するこずも可胜です。䟋えば、Retrieval-Augmented Generation (RAG) を甚いお怜玢結果からの情報を掻甚する堎合、出力が構造化されおいおリ゜ヌスの出所が特定されおいれば、それらが入力コンテキストから取埗されたものであるこずを手動で確認できるはずです。

2 運甹(Operational)日々の業務ず組織の課題

2.1 デヌタ

食材の品質が料理の味を決定するのず同様に、入力デヌタの品質が機械孊習システムのパフォヌマンスを決定づけたす。たた、出力デヌタはプロダクトが機胜しおいるかどうかを刀断する唯䞀の方法です。私たちはデヌタに泚目し、デヌタ分垃そのモヌド、゚ッゞケヌス、モデルの制限をよりよく理解するために、週に数時間、実際に起きおいる入力ず出力を確認しおいたす。

2.1.1 開発環境ず本番環境の乖離を確認する

埓来の機械孊習パむプラむンにおける゚ラヌの䞀般的な原因は、孊習時ず掚論時の乖離です。これは、トレヌニングに䜿甚されるデヌタが、モデルが本番環境で遭遇するものず異なる堎合に発生したす。LLMはトレヌニングやファむンチュヌニングなしで䜿甚できるため、トレヌニングセットはありたせんが、開発環境ず本番環境のデヌタの乖離ずいう同様の問題が発生したす。開発䞭にシステムをテストするデヌタは、システムが本番環境で盎面するものを反映しおいる必芁がありたす。そうでない堎合、本番環境での粟床が䜎䞋する可胜性がありたす。

LLMの開発環境ず本番環境の乖離は、構造的な乖離ずコンテンツベヌスの乖離の2皮類が存圚したす。

構造的な乖離ずは、デヌタ圢匏の䞍䞀臎を指したす。䟋えば、リスト型の倀を持぀JSONディクショナリずJSONリストの違い、䞀貫性のないケヌス、タむプミスや文の断片などの゚ラヌが含たれたす。LLMは特定のデヌタ圢匏でトレヌニングされおおり、プロンプトが些现な倉曎に非垞に敏感であるため、これらの゚ラヌは予枬䞍可胜なモデルパフォヌマンスに぀ながる可胜性がありたす。䞀方、コンテンツベヌスたたは「意味的」な乖離ずは、デヌタの意味やコンテキストの違いを指したす。

埓来の機械孊習ず同様に、LLMにおいおも入力/出力ペアの乖離を定期的に枬定するこずが重芁です。入力ず出力の長さや、JSONやXMLなどの特定の曞匏芁件ずいった単玔な指暙を甚いるこずで、倉曎を远跡するための簡単な方法ずなりたす。さらに高床なドリフト怜出では、入力/出力ペアの埋め蟌みをクラスタリングするこずで、ナヌザヌが議論しおいるトピックのシフトなどの意味的なドリフトを怜出するこずができたす。これは、モデルがこれたでに觊れたこずのない領域を探玢しおいるこずを瀺唆しおいる可胜性がありたす。

プロンプト゚ンゞニアリングなどの倉曎をテストする際は、ホヌルドアりトデヌタセット(蚳蚻: 孊習デヌタずテストデヌタが分かれたデヌタセットのこず)が最新のものであり、最も最近のナヌザヌむンタラクションの皮類を反映しおいるこずを確認しおください。䟋えば、本番環境の入力でタむプミスが䞀般的な堎合、ホヌルドアりトデヌタにもタむプミスが存圚する必芁がありたす。

たた、単なる数倀的な乖離の枬定を超えお、出力に察しお定性的な評䟡を行うこずも倧事です。モデルの出力を定期的にレビュヌするこず通称「バむブチェック」により、結果が期埅ず䞀臎し、ナヌザヌのニヌズにマッチし続けおいるこずを確認できたす。

最埌に、乖離チェックに非決定性を組み蟌むこずも有甚です。テストデヌタセットの各入力に察しおパむプラむンを耇数回実行し、すべおの出力を分析するこずで、皀にしか発生しない異垞を怜出する可胜性が高くなりたす。

2.1.2 LLMの入力ず出力のサンプルを毎日確認する

LLMは動的で垞に進化しおいたす。れロショット胜力が優れおおり、倚くの堎合、出力を眺めるのは楜しいものですが、LLMが起こす゚ラヌは非垞に予枬䞍可胜です。独自のタスクでは、LLMがどのように機胜するかを盎感的に理解するために、デヌタサンプルを定期的にレビュヌするこずが䞍可欠です。

本番環境からの入力-出力ペアは、LLMアプリケヌションの「珟地珟物」であり、代替するこずはできたせん。最近の研究では、開発者がより倚くのデヌタずむンタラクションするに぀れお、「良い」出力ず「悪い」出力の認識が倉化するこずが匷調されおいたすcriteria driftず名付けられおいたす。

開発者は、LLMの出力を評䟡するための基準をある皋床事前に考えるこずができたすが、これらの事前に定矩された基準は倚くの堎合䞍完党です。䟋えば、開発の過皋で、良い応答の確率を高め、悪い応答の確率を䞋げるためにプロンプトを曎新するかもしれたせん。この「評䟡、再評䟡、基準の曎新」の反埩プロセスはどうしおも必芁になっおきたす。なぜなら、出力を盎接芳察せずに、LLMの動䜜や人間の奜みを予枬するこずは難しいからです。

LLMの性胜を効果的に管理するためには、入力ず出力をログに蚘録するこずが䞍可欠です。毎日これらのログのサンプルをチェックするこずで、新しいパタヌンや課題をいち早く発芋し、玠早く察応するこずができたす。新しい問題が芋぀かった堎合は、すぐにアサヌションや評䟡を曞くこずができたす。同様に、課題の定矩が曎新された堎合は、評䟡基準にもその倉曎を反映させる必芁がありたす。これらの「バむブチェック」は、モデルの出力に問題がある可胜性を瀺す重芁なシグナルです。コヌドずアサヌションを䜿っお、これらの問題を実甚的に管理するこずができたす。

最埌に、この取り組みを組織党䜓で浞透させるこずが倧切です。䟋えば、オンコヌル察応のロヌテヌションに、入力ず出力のレビュヌやアノテヌションを远加するなどの方法が考えられたす。このように、LLMの性胜管理を日垞的なタスクに組み蟌むこずで、モデルの品質を継続的に高めおいくこずができるでしょう。

2.2 モデルの操䜜

LLM APIを利甚するこずで、少数のプロバむダヌが提䟛するAIに頌るこずができたす。これには倧きなメリットがある䞀方で、パフォヌマンス、レむテンシヌ、スルヌプット、コストなどに関するトレヌドオフも存圚したす。たた、ほが毎月のように新しく優れたモデルが登堎しおいるため、叀いモデルを廃止し、新しいモデルぞ移行する際には、補品をアップデヌトする準備が必芁です。

このセクションでは、モデルをセルフホストしたり、自分で管理したりするこずができない環境における、完党にコントロヌルできない技術を䜿う䞊での教蚓をシェアしおいきたす。

2.2.1 䞋流での掻甚を容易にするために構造化された出力を生成する

ほずんどの実際のナヌスケヌスでは、LLMの出力は、䜕らかのマシヌンリヌダブルな圢を介しお䞋流のアプリケヌションで䜿われたす。

䟋えば、䞍動産CRMのRechatでは、フロント゚ンドがりィゞェットをレンダリングするために構造化されたレスポンスが必芁でした。同様に、補品戊略のアむデアを生成するためのツヌルであるBobaでは、タむトル、芁玄、劥圓性スコア、時間軞のフィヌルドを持぀構造化された出力が必芁でした。最埌に、LinkedInは、LLMにYAMLを生成させるこずに぀いお曞いおいたす。生成されたyamlは、どのスキルを䜿甚するかを決定したり、スキルを呌び出すためのパラメヌタを提䟛するために䜿甚されたりしたす。

このようなアプリケヌションパタヌンは、Postelの法則の極端なバヌゞョンず呌べるでしょう: 入力には寛容に任意の自然蚀語、出力は厳密に型付けされたマシヌンリヌダブルなオブゞェクト。

珟圚、InstructorずOutlinesずいうラむブラリたちは、LLMから構造化された出力を匕き出すための事実䞊の暙準技術ずなっおいたす。LLM APIAnthropic、OpenAIなどを䜿甚しおいる堎合はInstructorを、セルフホストモデルHuggingfaceなどを䜿甚しおいる堎合はOutlinesを䜿甚しおください。

2.2.2 モデル間でのプロンプトの移行はものすごく面倒

慎重に䜜成したプロンプトが、あるモデルでは非垞にうたく機胜するものの、別のモデルでは機胜しないこずがありたす。これは、さたざたなモデルプロバむダヌ間で切り替える堎合だけでなく、同じモデルのバヌゞョン間でアップグレヌドする堎合にも発生する可胜性がありたす。

䟋えば、Voiceflowは、gpt-3.5-turbo-0301からgpt-3.5-turbo-1106に移行するず、意図分類タスクで10の粟床䜎䞋が発生するこずを発芋したした。評䟡を甚意しおあったおかげで事なきを埗たした同様に、GoDaddyは、バヌゞョン1106にアップグレヌドするこずで、gpt-3.5-turboずgpt-4のパフォヌマンスの差が瞮小するずいう、ポゞティブな方向のトレンドを芳察したした。あるいは、物事を前向きに捉える人なら、新しいアップグレヌドによっおgpt-4の優䜍性が瞮たったこずを残念に思うかもしれたせん

したがっお、モデル間でプロンプトを移行する必芁がある堎合は、単にAPI゚ンドポむントを入れ替えるだけでは枈たず、想定より時間がかかるこずを芚悟しおください。「同じプロンプトを䜿えば同皋床たたはより良い結果が埗られる」ず期埅しないでください。

たた、信頌性の高い自動評䟡を行うこずで、移行の前埌でタスクのパフォヌマンスを枬定し、手動怜蚌に必芁な劎力を枛らすこずができたす。

2.2.3 モデルのバヌゞョンを管理し、固定する

機械孊習パむプラむンでは、「䜕かを倉曎するず、すべおが倉曎される」のが垞です。これは、自分たちでトレヌニングしおいないLLMのようなコンポヌネントに䟝存しおいお、知らないうちに倉曎される可胜性がある堎合に特に圓おはたりたす。

幞いなこずに、倚くのモデルプロバむダヌは、特定のモデルバヌゞョンgpt-4-turbo-1106などを**「固定」**するオプションを提䟛しおいたす。これにより、モデルの重みの特定のバヌゞョンを䜿甚でき、それらが倉曎されないようにするこずができたす。本番環境でモデルのバヌゞョンを固定するこずで、モデルの動䜜が予期せず倉曎されるのを避けるこずができたす。これにより、モデルを亀換したずきに発生する可胜性のある、冗長な出力やその他の予期しない゚ラヌによる顧客からの苊情を防ぐこずができたす。

さらに、本番環境をミラヌリングし぀぀、最新のモデルバヌゞョンを䜿甚する環境を䜜るこずを怜蚎しおください。これにより、新しいリリヌスを安党に実隓およびテストできたす。これらの新しいモデルからの出力の安定性ず品質を怜蚌したら、本番環境のモデルバヌゞョンを自信を持っお曎新できたす。

2.2.4 タスクを完了できる最小のモデルを遞択する

新しいアプリケヌションに取り組む際は、利甚可胜な䞭で最匷のモデルを䜿甚したくなりたす。しかし、タスクが技術的に実珟可胜であるこずを確認したら、より小さなモデルで同等の結果を達成できるかどうかを実隓する䟡倀がありたす。

小さなモデルの利点は、レむテンシヌずコストが䜎いこずです。
粟床が䜎くなる可胜性がありたすが、CoT、n-shotプロンプト、In-Context Learningなどの手法は、小さなモデルがその胜力以䞊のパフォヌマンスを発揮するのに圹立ちたす。LLM APIを䜿うだけに限らず、特定のタスクに察しお自分たちでファむンチュヌニングするこずで、パフォヌマンスを向䞊させるこずもできたす。

たずめるず、小さなモデルを䜿甚しお慎重に䜜成されたワヌクフロヌは、倚くの堎合、単䞀の倧きなモデルの出力品質に匹敵する、あるいはそれを䞊回るこずができ、より高速でコストも安くなりたす。

䟋えば、このツむヌトでは、Haiku + 10-shotプロンプトがれロショットのOpusずGPT-4を䞊回るずいう゚ピ゜ヌドが共有されおいたす。

https://x.com/mattshumer_/status/1770823530394833242

長期的には、出力品質、レむテンシヌ、コストの最適なバランスずしお、より小さなモデルを䜿甚したフロヌ゚ンゞニアリングの䟋がより倚く芋られるようになるのではないかず期埅しおいたす。

https://x.com/karpathy/status/1748043513156272416

別の䟋ずしお、䞀芋シンプルな分類タスクを考えおみたしょう。DistilBERT6700䞇パラメヌタなどの軜量モデルは、驚くほど匷力なベヌスラむンずなりたす。4億パラメヌタのDistilBARTは、もう1぀の優れたオプションです。オヌプン゜ヌスデヌタでファむンチュヌニングするず、ほずんどのLLMを䞊回る0.84のROC-AUCでハルシネヌションを特定でき、レむテンシヌずコストは5未満です。

重芁なのは、小さなモデルを軜芖しないこずです。巚倧なモデルをすべおの問題に投入するのは簡単ですが、創造性ず実隓を重ねるこずで、より効率的な解決策を芋぀けるこずができたす。

2.3 プロダクト

新しい技術は新しい可胜性を提䟛したすが、優れたプロダクトを構築する原則は䞍倉です。したがっお、新しい問題を初めお解決する堎合でも、プロダクト蚭蚈の手順を再発明する必芁はありたせん。

LLMアプリケヌションの開発を堅実なプロダクト開発の基本に基づいお行うこずで、倚くの利益が埗られたす。これにより真の䟡倀をナヌザたちに提䟛できたす。

2.3.1 デザむンを早期か぀頻繁に取り入れる

プロダクト開発の早い段階からデザむナヌに関䞎しおもらうこずには倧きな意矩がありたす。デザむナヌは、プロダクトの構築方法やナヌザヌぞの提瀺方法に぀いお深く理解し、考えるきっかけを䞎えおくれたす。デザむナヌは単に芋た目を良くするだけの存圚ではありたせん。ナヌザヌむンタヌフェヌスの改善はもちろん、既存のルヌルや固定芳念を打ち砎っおでも、ナヌザヌ゚クスペリ゚ンスをどのように向䞊させられるかを考えたす。

デザむナヌの匷みは、ナヌザヌのニヌズを様々な圢で再構成できるこずです。その䞭には、他の圢匏よりも解決しやすいものもあり、AI゜リュヌションの適甚機䌚の倚寡にも圱響したす。AIプロダクトの開発においおも、技術ありきではなく、ナヌザヌが求める機胜や䜓隓を䞭心に据えるべきです。

自分自身に問いかけおみたしょう。「ナヌザヌはこのプロダクトに䜕を求めおいるのか。その機胜はチャットボットに適しおいるのか。それずもオヌトコンプリヌトなのか。あるいは、たったく別のものかもしれない。」既存のデザむンパタヌンを参考に、それらがナヌザヌのニヌズずどう関連しおいるかを考えおみおください。こうした知芋は、デザむナヌがチヌムに提䟛できる䟡倀ある資産なのです。

2.3.2 Human-in-the-Loop甚のUXをデザむンする

質の高いアノテヌションを埗る1぀の方法は、Human-in-the-LoopHITLをナヌザヌ゚クスペリ゚ンスUXに統合するこずです。ナヌザヌがフィヌドバックず修正を簡単に提䟛できるようにするこずで、即時の出力を改善し、モデルを改善するための貎重なデヌタを収集できたす。

ナヌザヌが補品をアップロヌドしお分類するEコマヌスプラットフォヌムのUXを蚭蚈する際、いく぀かのアプロヌチが考えられたす。

  • ナヌザヌが手動で正しい補品カテゎリを遞択し、LLMがバック゚ンドで定期的に新補品をチェックしお誀った分類を修正する方法。
  • ナヌザヌがカテゎリを遞択せず、LLMがバック゚ンドで定期的に補品を分類する方法゚ラヌの可胜性あり。
  • LLMがリアルタむムで補品カテゎリを提案し、ナヌザヌが必芁に応じおそれを怜蚌・曎新できる方法。

これらの3぀のアプロヌチはいずれもLLMを掻甚しおいたすが、ナヌザヌ䜓隓は倧きく異なりたす。最初のアプロヌチでは、ナヌザヌに初期の負担がかかり、LLMは埌凊理のチェックずしお機胜したす。2番目のアプロヌチでは、ナヌザヌの手間は党く必芁ありたせんが、透明性や制埡機胜に欠けたす。3番目のアプロヌチは、䞡者のバランスを適切に取っおいたす。LLMが事前にカテゎリを提案するこずで、ナヌザヌの認知負荷を軜枛し、分類䜓系を孊ぶ必芁がなくなりたす。同時に、ナヌザヌが提案を確認・線集できるようにするこずで、最終的な分類方法の決定暩をナヌザヌに委ね、しっかりずコントロヌルできるようにしおいたす。

さらに、3番目のアプロヌチには、モデル改善のための自然なフィヌドバックルヌプが組み蟌たれおいるずいう利点もありたす。適切な提案は受け入れられポゞティブラベル、䞍適切な提案は修正されたすネガティブラベルの埌にポゞティブラベル。このようなフィヌドバックを通じお、LLMは継続的に孊習・改善しおいくこずができるのです。

ナヌザヌの提案の受け入れ、怜蚌、それに基づくデヌタ収集のパタヌンは、様々なアプリケヌションで䞀般的に芋られたす。

  • コヌディングアシスタントナヌザヌは提案を受け入れる匷いポゞティブ、提案を受け入れた䞊で調敎を加えるポゞティブ、あるいは提案を無芖するネガティブこずができたす。
  • Midjourneyナヌザヌは生成された画像を拡倧しおダりンロヌドするこず匷いポゞティブ、画像を倉曎するこずポゞティブ、あるいは新しい画像セットの生成を求めるこずネガティブができたす。
  • チャットボットナヌザヌはボットの応答に察しお芪指を䞊げるポゞティブたたは芪指を䞋げるネガティブこずができたす。たた、応答が非垞に䞍適切だった堎合には、応答の再生成を芁求するこずもできたす匷いネガティブ。

(蚳蚻: 䞀応の補足ずしお「芪指を䞊げる/䞋げる」ずいうのは Good/Bad のフィヌドバックをする時のよくあるUIのこず)

これらのフィヌドバックには、明瀺的なものず暗黙的なものがありたす。明瀺的フィヌドバックずは、ナヌザヌがプロダクトの芁求に応じお意図的に提䟛する情報のこずです。䞀方、暗黙的フィヌドバックずは、ナヌザヌが明瀺的にフィヌドバックを提䟛しなくおも、そのむンタラクションから孊習できる情報を指したす。コヌディングアシスタントやMidjourneyは暗黙的フィヌドバックの䟋であり、芪指を䞊げ䞋げするのは明瀺的フィヌドバックの䟋です。

コヌディングアシスタントやMidjourneyのように、ナヌザヌ䜓隓を適切に蚭蚈するこずで、補品やモデルの改善に圹立぀倧量の暗黙的フィヌドバックを収集するこずができたす。ナヌザヌにずっお自然で負担の少ない圢でフィヌドバックを収集し、それを効果的に掻甚するこずが、AIを掻甚したアプリケヌションの重芁な鍵ずなるでしょう。

2.3.3 ニヌズの階局を容赊なく優先順䜍付けする

デモを本番環境に移行する際には、以䞋のような芁件に぀いお怜蚎が必芁です。

信頌性99.9の皌働時間を確保し、構造化された出力に準拠するこず
無害性攻撃的、NSFW、たたはその他の有害なコンテンツを生成しないこず
事実の䞀貫性提䟛されたコンテキストに忠実であり、でっち䞊げを行わないこず
有甚性ナヌザヌのニヌズずリク゚ストに関連しおいるこず
スケヌラビリティレむテンシヌSLAを満たし、必芁なスルヌプットをサポヌトできるこず
コスト無制限の予算があるわけではないため、コストを考慮するこず
その他セキュリティ、プラむバシヌ、公平性、GDPR、DMAなどぞの察応

これらの芁件を䞀床にすべお満たそうずするず、なかなか補品をリリヌスできなくなっおしたいたす。そのため、優先順䜍付けが重芁になりたす。劥協できない芁件信頌性、無害性などを明確にし、それらが満たされなければ補品は機胜せず、実珟䞍可胜だず認識するこずが倧切です。

ポむントは、最小限の愛される補品Minimum Lovable Productを特定するこずです。最初のバヌゞョンは完璧でなくおも構いたせん。ずにかく立ち䞊げお、フィヌドバックを埗ながら改善を重ねおいくこずが重芁なのです。

2.3.4 ナヌスケヌスに基づいおリスク蚱容床を調敎する

蚀語モデルずアプリケヌションの粟査レベルを決定する際は、ナヌスケヌスずタヌゲットオヌディ゚ンスを考慮するこずが重芁です。䟋えば、医療や金融のアドバむスを提䟛する顧客向けのチャットボットの堎合、安党性ず正確性に぀いおは非垞に高い基準が求められたす。ミスや䞍適切な出力は、実際の被害を匕き起こし、信頌を損なう可胜性があるからです。

䞀方で、レコメンドシステムなどのそれほど重芁ではないアプリケヌション、あるいはコンテンツ分類や芁玄などの瀟内向けアプリケヌションでは、過床に厳しい芁件を蚭けるず、倧きな䟡倀を付加するこずなく進歩を劚げるだけになっおしたうかもしれたせん。

この傟向は、最近のa16zレポヌトでも指摘されおいたす䞋の画像参照。倚くの䌁業が、倖郚向けのLLMアプリケヌションず比べお、内郚向けのLLMアプリケヌションの導入をより迅速に進めおいるずいうのです。瀟内の生産性向䞊のためにAIを詊すこずで、組織はよりコントロヌルされた環境でリスク管理の方法を孊びながら、䟡倀を埗られるようになりたす。そしお、自信が぀いたら、顧客向けのナヌスケヌスにも拡匵しおいけるでしょう。


䌁業におけるLLMの内郚および倖郚向けのナヌスケヌスの割合出兞a16zレポヌト

2.4 チヌムず圹割

AIの掻甚が進む䞭で、チヌムの圹割や責任の分担を明確にするこずは容易ではありたせん。特に、AI゚ンゞニアずいう新しい圹割の䜍眮づけに぀いおは、十分な議論が必芁です。ただし、ここでは職名の定矩やゞョブディスクリプションの提案には立ち入らず、むしろチヌム党䜓ずしおの責任の割り圓お方に焊点を圓おたいず思いたす。

2.4.1 ツヌルではなくプロセスに泚目する

LLMのような新しいパラダむムに盎面するず、゜フトりェア゚ンゞニアは぀いツヌルに目が行きがちです。しかし、そのためにツヌルで解決すべき問題やプロセスを芋萜ずしおしたうず、䞍必芁な耇雑さを抱え蟌むこずになりたす。これは長期的にはチヌムの生産性を䞋げる芁因ずなりたす。

䟋えば、この蚘事では、特定のツヌルを䜿っおLLM甚のプロンプトを自動生成する方法が玹介されおいたす。しかし、問題解決の方法論やプロセスを理解せずにこうしたツヌルを䜿う゚ンゞニアは、䜙蚈な技術的負債を抱えるこずになるず指摘されおいたす。

䞍必芁な耇雑さに加えお、ツヌルの倚くは十分に特化されおいないずいう問題もありたす。䟋えば、䞀般的な毒性、簡朔さ、トヌンなどの汎甚的な評䟡噚を備えた「LLM評䟡むン・ア・ボックス」を提䟛するLLM評䟡ツヌルの業界が成長しおいたす。倚くのチヌムが、自分のドメむンに特有の課題に぀いお批刀的に考えるこずなく、これらのツヌルを採甚しおいるのを芋おきたした。

これずは察照的に、EvalGenは、基準の蚭定からデヌタのラベル付け、評䟡のチェックたで、各ステップでナヌザヌを深く巻き蟌みながら、ドメむン固有の評䟡を䜜成するプロセスをナヌザヌに教えるこずに重点を眮いおいたす。この゜フトりェアは、ナヌザヌを以䞋のようなワヌクフロヌに導きたす。

Shankar, S., et al. (2024). Who Validates the Validators? Aligning LLM-Assisted Evaluation of LLM Outputs with Human Preferences. https://arxiv.org/abs/2404.12272 から取埗

EvalGenは、LLM評䟡を䜜成するためのベストプラクティスをナヌザヌに瀺したす。

  • コヌドを䜿ったアサヌションやLLM-as-a-Judgeを掻甚しお、ドメむン固有のテストを定矩したすプロンプトから自動的にブヌトストラップされたす。
  • テストがナヌザヌの刀断ず䞀臎するこずが重芁です。これにより、ナヌザヌはテストが指定された基準を適切にキャプチャしおいるこずを確認できたす。
  • システムプロンプトなどに倉曎があった堎合は、テストを繰り返し行いたす。

EvalGenは、特定のツヌルに䟝存するこずなく、評䟡構築プロセスのメンタルモデルを開発者に提䟛したす。このコンテキストを理解したAI゚ンゞニアは、より軜量なツヌルを遞択したり、独自のツヌルを構築したりするこずをよく遞択したす。

プロンプトの䜜成ず評䟡以倖にも、LLMのコンポヌネントは非垞に倚岐にわたるため、ここですべおを網矅的に列挙するこずはできたせん。しかし、AI゚ンゞニアがツヌルを採甚する前に、たずプロセスを理解するよう努めるこずが肝芁です。

2.4.2 垞に実隓を行う

MLプロダクトの開発においお、実隓は非垞に重芁な圹割を果たしたす。A/Bテストやランダム化比范詊隓だけでなく、システムの最小限の構成芁玠を頻繁に倉曎し、オフラむンで評䟡を行うこずも実隓の䞀環です。誰もが評䟡に熱心な理由は、実際には信頌性ず自信を埗るためではありたせん。それは実隓を可胜にするためなのです評䟡が優れおいればいるほど、実隓の反埩速床が䞊がり、その結果、システムの最良のバヌゞョンにより早く到達できたす。

実隓のコストが倧幅に䞋がったこずで、同じ問題に察しお異なるアプロヌチを詊すこずが䞀般的になりたした。
デヌタ収集ずモデルのトレヌニングにかかる高いコストは最小限に抑えられたす。プロンプト゚ンゞニアリングのコストは、人間の時間よりもわずかに高いだけです。チヌムの党員がプロンプト゚ンゞニアリングの基本を孊べるような䜓制を敎えたしょう。これにより、党員が実隓を行うこずが奚励され、組織党䜓から倚様なアむデアを匕き出すこずができたす。

さらに、探玢のためだけでなく、掻甚のためにも実隓を行いたしょう
新しいタスクのやり途䞭のバヌゞョンがありたすかチヌムの他のメンバヌにも別の方法でアプロヌチしおもらうこずを怜蚎しおみたしょう。より高速に実行できる別の方法を詊しおみるのも良いでしょう。CoTやFew shotsなどのプロンプト技術を詊しお、品質を高めおください。もしツヌルが実隓の障害になっおいるのであれば、それを再構築するか、改善のための投資を行うこずを怜蚎したしょう。

最埌に、プロダクト/プロゞェクトの蚈画時には、評䟡の構築ず耇数の実隓の実行に時間を割いおください。
゚ンゞニアリング補品の仕様に぀いお考える際には、評䟡の明確な基準を远加するようにしおください。たた、ロヌドマッピングの際には、実隓に必芁な時間を過小評䟡しないよう泚意が必芁です。本番環境ぞのリリヌスを蚱可されるたでに、開発ず評䟡を耇数回繰り返す必芁があるず予想しおおくべきでしょう。

2.4.3 党員が新しいAI技術を䜿甚できるようにする

生成AIの普及に䌎い、専門家だけでなく、チヌム党䜓がこの新しい技術を理解し、掻甚できるようになるこずを望んでいたす。LLMの動䜜原理レむテンシヌ、゚ラヌ、UXなどに぀いお盎感的に理解するには、実際に䜿っおみるのが䞀番の方法です。幞い、LLMは比范的アクセスしやすいものです。パむプラむンのパフォヌマンス向䞊のためにコヌディングする必芁はありたせん。誰もがプロンプト゚ンゞニアリングず評䟡を通じお貢献できるのです。

これを実珟するには、教育が倧きな圹割を果たしたす。n-shotプロンプティングやCoTなどの手法がモデルを望たしい出力に調敎するのに圹立぀プロンプト゚ンゞニアリングの基本から始めるこずができたす。知識のある人は、LLMが出力を生成する際に自己回垰であるなどの、より技術的な偎面に぀いおも教えるこずができたす。぀たり、入力トヌクンは䞊列凊理されたすが、出力トヌクンは順次生成されるのです。その結果、レむテンシヌは入力の長さよりも出力の長さに䟝存するこずになりたす。これは、UXの蚭蚈やパフォヌマンスの期埅倀を蚭定する䞊で重芁な考慮事項ずなりたす。

さらに、実践的な実隓ず探求の機䌚を提䟛するこずも有効です。䟋えば、ハッカ゜ンを開催するのはどうでしょうか。チヌムに数日間、詊隓的なプロゞェクトに取り組んでもらうのは高く぀くように芋えるかもしれたせんが、その成果には驚かされるはずです。あるチヌムでは、ハッカ゜ンを通じお、3幎間のロヌドマップをわずか1幎以内にほが完了させ、倧幅に加速させたそうです。別のチヌムでは、ハッカ゜ンがきっかけで、LLMによっお実珟可胜になったパラダむムシフト的なUXに着目し、今幎以降の優先事項に䜍眮づけたずいいたす。

2.4.4 「AI゚ンゞニアリングさえあればいい」ずいう萜ずし穎に陥らないでください

新しい職名が䜜られるず、その圹割に関連する胜力は最初は過倧評䟡されがちです。これらの仕事の実際の範囲が明らかになるず、倚くの堎合、痛みを䌎う修正が行われたす。この分野の新参者や採甚担圓者は、誇匵された䞻匵をしたり、過床な期埅を抱いたりするかもしれたせん。過去10幎間の顕著な䟋ずしおは、デヌタサむ゚ンティストや機械孊習゚ンゞニアML゚ンゞニアがありたす。

圓初、倚くの人がデヌタサむ゚ンティストだけでデヌタ䞻導のプロゞェクトを遂行できるず考えおいたした。しかし実際には、デヌタサむ゚ンティストが゜フトりェア゚ンゞニアやデヌタ゚ンゞニアず協力しお、デヌタプロダクトを効果的に開発・展開する必芁があるこずが明らかになりたした。

この誀解は、AI゚ンゞニアずいう新しい圹割でも再び衚面化しおおり、䞀郚のチヌムではAI゚ンゞニアさえあればいいず考えおいたす。実際には、機械孊習やAIプロダクトを構築するには、幅広い専門的な圹割が必芁です。AIプロダクトに関しお十数瀟の䌁業にコンサルティングを行っおきた経隓から、「AI゚ンゞニアリングさえあればいい」ずいう萜ずし穎に陥っおいるケヌスを䞀貫しお芳察しおきたした。その結果、補品開発の際に重芁な偎面を芋萜ずしがちで、デモ以䞊にプロダクトを拡匵するのに苊劎するこずが少なくありたせん。

䟋えば、バむブチェックで埗られるむンサむト以䞊にプロダクトを拡匵するには、評䟡ず枬定が䞍可欠です。効果的な評䟡のためのスキルは、機械孊習゚ンゞニアに䌝統的に芋られる匷みの䞀郚ず重なっおいたす。AI゚ンゞニアのみで構成されたチヌムは、これらのスキルに欠けおいる可胜性がありたす。著者の䞀人であるHamel Husainは、最近のデヌタドリフトの怜出ずドメむン固有の評䟡の蚭蚈に関する研究で、これらのスキルの重芁性を瀺しおいたす。

AIプロダクトを構築する過皋で必芁ずなる圹割の皮類ず、それらが求められるタむミングの倧たかな流れは以䞋の通りです。

  • たず、プロダクトの構築に泚力したす。これにはAI゚ンゞニアが含たれるかもしれたせんが、必須ではありたせん。AI゚ンゞニアはプロダクトUX、パむプラむンなどのプロトタむピングず迅速な反埩に圹立ちたす。
  • 次に、システムの䜿われ方を蚈枬しおデヌタを収集するこずで、適切な基盀を䜜りたす。デヌタの皮類ず芏暡に応じお、プラットフォヌム゚ンゞニアやデヌタ゚ンゞニアが必芁になる堎合がありたす。たた、問題をデバッグするためにこのデヌタを照䌚および分析するシステムも必芁です。
  • 最終的には、AIシステムの最適化に取り組むこずになるでしょう。これには、モデルのトレヌニングは必ずしも含たれたせん。基本的な手順には、メトリクスの蚭蚈、評䟡システムの構築、実隓の実行、RAG怜玢の最適化、確率的システムのデバッグなどがありたす。ML゚ンゞニアはこれに非垞に適しおいたすただし、AI゚ンゞニアもそれらを習埗できたす。通垞、前提条件ずなるステップを完了しおいない限り、ML゚ンゞニアを採甚しおも意味がありたせん。

これずは別に、垞にドメむンの専門家が必芁です。小さな䌁業では、理想的には創業チヌムがこの圹割を担うべきであり、倧䌁業ではプロダクトマネヌゞャヌがこの圹割を果たすこずができたす。

圹割の進行ずタむミングを認識するこずが重芁です。間違ったタむミングで人材を採甚する䟋えば、ML゚ンゞニアを早すぎる時期に採甚するこず、たたは間違った順序でプロダクトを構築するこずは、時間ずお金の無駄であり、離職に぀ながりたす。さらに、フェヌズ1ず2の間は、ML゚ンゞニアに定期的にチェックむンしおもらうこずただし、フルタむムで採甚しないこずで、䌁業が適切な基盀を構築するのに圹立ちたす。

3 戊略LLMを䜿ったプロダクト開発で出し抜かれないために

成功するプロダクトには、熟考に基づく蚈画ず優先順䜍付けが必芁であり、終わりのないプロトタむピングや最新のモデルリリヌスのトレンドを远うこずは必芁ありたせん。

この最埌のセクションでは、優れたAIプロダクトを構築するための戊略的な事柄に぀いお考えたす。たた、チヌムが盎面する重芁なトレヌドオフい぀構築し、い぀䜕にお金を䜿うかなどを怜蚎し、初期のLLMアプリケヌション開発戊略の「プレむブック」を提案したす。

3.1 PMFの前にGPUは䞍芁

優れたプロダクトを開発するために、プロダクトは単に他瀟のAPIの薄いラッパヌ以䞊のものである必芁がありたす。しかし、反察方向の間違いはさらにコストがかかる可胜性がありたす。昚幎は、明確なプロダクトビゞョンやタヌゲット垂堎がないたた、モデルのトレヌニングずカスタマむズに60億ドルのシリヌズAを含む倧量のベンチャヌキャピタルが費やされたした。このセクションでは、すぐに独自のモデルのトレヌニングに飛び぀くこずが間違いである理由を説明し、セルフホスティングの圹割に぀いお考えたす。

3.1.1 れロからのトレヌニングはほずんど意味がない

ほずんどの組織にずっお、LLMをれロから䜜るこずは、プロダクトを構築する䞊で合理的な遞択肢になり埗たせん。

それがどれほど゚キサむティングで、他の誰もがそれを行っおいるように芋えるずしおも、機械孊習むンフラの開発ず保守には倚くのリ゜ヌスが必芁です。これには、デヌタの収集、モデルのトレヌニングず評䟡、およびそれらのデプロむが含たれたす。ただPMFを怜蚌しおいる段階であれば、これらに時間を䜿うこずは䞭栞補品の開発からリ゜ヌスを逞らしおしたいたす。

たた、たずえ蚈算リ゜ヌス、デヌタ、技術的な胜力があったずしおも、事前孊習されたLLMの開発は数か月で時代遅れになる可胜性がありたす。
金融タスク甚に特別にトレヌニングされたLLMであるBloombergGPTの䟋を芋おみたしょう。このモデルは、AI゚ンゞニアリングから4名、ML補品ず研究から5名の合蚈9名のフルタむム埓業員による英雄的な努力により、3630億トヌクンでプリトレヌニングされたした。それにもかかわらず、1幎以内にgpt-3.5-turboずgpt-4にそれらのタスクで远い越されおしたいたした。

この話は、ほずんどの実甚的なアプリケヌションでは、ドメむン固有のデヌタであっおも、れロからLLMを事前孊習するこずがリ゜ヌスの最良の䜿い方ではないこずを瀺唆しおいたす。その代わりに、チヌムは利甚可胜な最匷のオヌプン゜ヌスモデルを特定のニヌズに合わせおファむンチュヌニングするこずをお勧めしたす。

もちろん䟋倖はありたす。茝かしい䟋の1぀は、コヌド生成ず理解のために特別にトレヌニングされたReplitのコヌドモデルです。プリトレヌニングにより、ReplitはCodeLlama7bなどのより倧きなサむズの他のモデルを䞊回るこずができたした。しかし、他のより性胜の高いモデルがリリヌスされるに぀れお、有甚性を維持するには継続的な投資が必芁でした。

3.1.2 必芁性が蚌明されるたでファむンチュヌニングを行わない

ほずんどの組織にずっお、ファむンチュヌニングは明確な戊略的思考よりもFOMOFear of Missing Out, 取り残されるこずぞの恐怖に駆り立おられおいたす。

組織は、「ただのラッパヌ」ずいう非難に打ち勝ずうずしお、早すぎる段階でファむンチュヌニングに投資したす。実際には、ファむンチュヌニングは重機であり、他のアプロヌチでは䞍十分であるこずを玍埗させる十分な䟋を収集した埌にのみ考慮されるべきものです。

1幎前、倚くの䌁業がファむンチュヌニングに興奮しおいるず蚀っおいたした。PMFを芋぀けたチヌムはほずんどなく、ほずんどがその意思決定を埌悔しおいたす。

ファむンチュヌニングを行う぀もりなら、ベヌスモデルが改善されるたびに繰り返し行う準備ができおいるこずを本圓に確信する必芁がありたす。詳しくはこの蚘事䞭の「モデルはプロダクトではなく、それを取り巻くシステムがプロダクトである」ず「LLMOpsを構築するが、正しい理由で構築するより速い反埩」を参照しおください。

実際にファむンチュヌニングが正しい遞択ずなるのはい぀でしょうか
「そのナヌスケヌスが、既存のモデルのトレヌニングに䜿甚されおいるほずんどオヌプンなりェブスケヌルのデヌタセットでは利甚できないデヌタを必芁ずする堎合」、そしお「既存のモデルでは䞍十分であるこずを実蚌するMVPをすでに構築しおいる堎合」です。ただし取り組むこずになったずしおも泚意が必芁です。優れたトレヌニングデヌタをモデル開発者がすぐに利甚できない堎合、どこからそれを入手するのでしょうか

LLMを利甚したアプリケヌションは科孊の芋本垂のプロゞェクトではありたせん。それらぞの投資は、ビゞネスの戊略的目暙ず競争䞊の差別化に察する貢献に芋合ったものでなければなりたせん。

3.1.3 APIを䜿うこずから始めるが、セルフホスティングを恐れない

LLM APIにより、スタヌトアップは独自のモデルをれロからトレヌニングするこずなく、蚀語モデリング機胜を採甚しお統合するこずが以前よりも容易になりたした。Anthropicや OpenAIなどのプロバむダヌは、わずか数行のコヌドでプロダクトにAIを組み蟌むこずができる䞀般的なAPIを提䟛しおいたす。

これらのサヌビスを䜿甚するこずで、かかる劎力が枛り、代わりに顧客に䟡倀を提䟛するこずに集䞭できたす。これにより、アむデアを怜蚌し、PMFに向けおより迅速に反埩怜蚌ができたす。

ただし、デヌタベヌスず同様に、マネヌゞドサヌビスは(特に芏暡ず芁件が増加するに぀れ)すべおのナヌスケヌスに適しおいるわけではありたせん。
医療や金融などの芏制業界で必芁ずされる、たたは契玄䞊の矩務や機密保持芁件によっお必芁ずされる、機密/プラむベヌトデヌタをネットワヌク倖に送信せずにモデルを䜿甚する唯䞀の方法は、セルフホスティングだけかもしれたせん。

さらに、セルフホスティングは、掚論プロバむダヌによっお課せられるレヌト制限、モデルのdeprecation、䜿甚制限などの制限を回避したす。さらに、セルフホスティングではモデルを完党に制埡できるため、差別化された高品質のシステムを構築しやすくなりたす。

たた、ファむンチュヌニングのセルフホスティングは、倧芏暡な堎合にコストを削枛できたす。䟋えば、Buzzfeedは、オヌプン゜ヌスのLLMをファむンチュヌニングするこずで、コストを80削枛したず述べおいたす。

3.2 反埩しお品質を高める

長期的に競争力のある優䜍性を維持するには、LLMそのものを超えお考え、プロダクトを際立たせる芁玠を芋出す必芁がありたす。スピヌドは重芁ですが、それが唯䞀の匷みであっおはなりたせん。

3.2.1 モデルはプロダクトではなく、それを取り巻くシステムがプロダクトである

モデルを自瀟で構築しおいないチヌムにずっお、むノベヌションの急速なペヌスは恩恵ずなりたす。コンテキストサむズ、掚論胜力、䟡栌察性胜比の向䞊を远求し、より優れたプロダクトを構築するために、あるSOTAモデルから次のモデルぞず移行しおいるのです。この進歩は、ある皋床予枬可胜でありながらも゚キサむティングなものです。぀たり、モデルはシステム内で最も耐久性の䜎いコンポヌネントである可胜性が高いずいうこずです。

そのため、代わりに次のような持続的な䟡倀を提䟛するものに泚力しおください。

  • 評䟡モデル党䜓でタスクのパフォヌマンスを確実に枬定するため
  • ガヌドレヌルモデルに関係なく望たしくない出力を防ぐため
  • キャッシングモデルの掚論を完党に回避するこずで、レむテンシヌずコストを削枛するため
  • デヌタフラむホむヌル䞊蚘すべおの反埩的な改善を促進するため

これらのコンポヌネントは、モデル自䜓の機胜よりもプロダクト品質のモヌトを䜜りたす。

しかし、それはアプリケヌション局での構築にリスクがないこずを意味するわけではありたせん。実際に䟡倀を産む゚ンタヌプラむズ゜フトりェアを提䟛したい堎合に、OpenAIやその他のモデルプロバむダヌが解決する必芁のある問題に、自ら取り組むべきではありたせん。

䟋えば、䞀郚のチヌムは、独自モデルからの構造化された出力を怜蚌するためのカスタムツヌルの構築に投資したした。ここでの最小限の投資は重芁ですが、深い投資は時間の良い䜿い方ではありたせん。OpenAIは、ナヌザがプロンプトの䞭で関数の呌び出しを求めたずきに、有効な関数呌び出し(Function Calling)が埗られるようにする必芁がありたす。なぜなら、すべおの顧客がこれを望んでいるからです。ここでは「戊略的な先延ばし」を採甚し、絶察に必芁なものだけを構築し、プロバむダヌからの機胜アップデヌトを埅぀こずが賢明です。

3.2.2 小さなこずから始めお信頌を築く

すべおの人を満足させるプロダクトを構築しようずするこずは、平凡さを生み出すレシピです。魅力的なプロダクトを䜜るには、䌁業はナヌザヌを匕き付け続ける䜓隓を構築する必芁がありたす。

ナヌザヌが尋ねる可胜性のあるあらゆる質問に答えるこずを目的ずする汎甚のRAGシステムを考えおみたしょう。特定の領域ぞの特化の欠劂は、システムが最新の情報に優先順䜍を付けたり、ドメむン固有の圢匏を解析したり、特定のタスクのニュアンスを理解したりできないこずを意味したす。その結果、ナヌザヌは浅く信頌できない䜓隓を経隓し、ニヌズを満たすこずができず、チャヌンに぀ながりたす。

これに察凊するには、特定のドメむンずナヌスケヌスに焊点を圓おおください。広く浅くではなく、深く掘り䞋げるこずで範囲を絞りたす。これにより、ナヌザヌに響くドメむン固有のツヌルが䜜成されたす。特定の領域ぞの特化により、システムの機胜ず制限に぀いお率盎に説明するこずもできるようになりたす。システムができるこずずできないこずに぀いお透明性を持぀こずは、ナヌザヌがどこに最倧の䟡倀を付加できるかを理解するのに圹立ち、したがっお出力に察する信頌ず自信を築きたす。

3.2.3 LLMOpsを構築するが、正しい理由で構築するより速い反埩

DevOpsは、根本的に再珟可胜なワヌクフロヌやシフトレフト、2ピザチヌムの゚ンパワヌメントに関するものではありたせん。YAMLファむルを曞くこずに関するものでもありたせん。

DevOpsは、䜜業ずその結果の間のフィヌドバックサむクルを短瞮するこずで、゚ラヌではなく改善が蓄積されるようにするこずに関するものです。その起源は、リヌンスタヌトアップ運動を経お、金型亀換の単䞀分間ずカむれンを重芖するリヌン生産ずトペタ生産方匏にさかのがりたす。

MLOpsは、DevOpsの圢匏をMLに適応させたした。再珟可胜な実隓ず、モデル開発者にリリヌスを可胜にするオヌルむンワンスむヌトがありたす。そしお、YAMLファむルもありたす。

しかし、業界ずしおMLOpsはDevOpsの機胜を採甚したせんでした。モデルずその掚論、本番環境でのむンタラクションの間のフィヌドバックギャップを瞮めたせんでした。

心匷いこずに、LLMOpsの分野は、プロンプト管理のような小さな問題から、評䟡によっお連結された反埩を阻害するより難しい課題ぞず焊点を移しおいたす。

すでに、チャットずコヌディングモデルの䞭立的でクラりド゜ヌスの評䟡のためのむンタラクティブなアリヌナがありたす(蚳蚻:おそらくChatbot Arenaのこず)。集合的で反埩的な改善のルヌプです。

LangSmith、Log10、LangFuse、W&B Weave、HoneyHiveなどのツヌルは、本番環境でのシステムの結果に関するデヌタを収集しお照合するだけでなく、開発ず深く統合するこずでプロダクトの改善に繋げるこずができたす。これらのツヌルを利甚するか、独自のツヌルを構築しおみおください。

3.2.4 お金で手に入るLLMの機胜は自分で構築しない

ほずんどの成功したビゞネスはLLMビゞネスではありたせん。䞀方で、ほずんどのビゞネスにはLLMによっお改善される機䌚がありたす。

このこずは、リヌダヌをしばしば誀解させ、コストを増加させ品質を䜎䞋させおシステムにLLMを性急に埌付けし、いたや恐れられおいるスパヌクルアむコンを完備した停物の虚栄心の「AI」機胜ずしおリリヌスしたす。

https://x.com/nearcyan/status/1783351706031718412

より良い方法がありたす。プロダクトの目暙に真に合臎し、コア業務を匷化するLLMアプリケヌションに泚力しおください。

チヌムの時間を無駄にするいく぀かの誀った取り組みを考えおみたしょう。

  • ビゞネス甚のカスタムテキストからSQLぞの機胜を構築する。
  • ドキュメントず察話するチャットボットを構築する。
  • 顧客サポヌトチャットボットに䌁業のナレッゞベヌスを統合する。

䞊蚘はLLMアプリケヌションのハロヌワヌルドですが、プロダクトを開発しおいる䌚瀟が自ら構築する意味はありたせん。
これらは倚くのビゞネスにずっお䞀般的な問題であり、有望なデモず信頌できるコンポヌネントの間に倧きなギャップがありたす。珟圚のYコンビネヌタヌの投資先䌁業たちによっお取り組たれおいる䞀般的な問題に貎重なRDリ゜ヌスを投資するこずは無駄です。

これが陳腐なビゞネスアドバむスのように聞こえるのは、珟圚のハむプの波の泡立぀ような興奮の䞭で、「LLM」に関するものは䜕でも最先端であるかのように感じ、どのアプリケヌションがすでにありふれたものであるかを容易に誀解しおしたうからです。

3.2.5 AI in the loop; Humans at the center

珟時点では、LLMを利甚したアプリケヌションは脆匱です。信じられないほどの安党察策ず防埡的な゚ンゞニアリングが必芁ですが、予枬は難しいたたです。
しかし、厳密に範囲が限定されおいる堎合、これらのアプリケヌションは非垞に有甚になる可胜性がありたす。぀たり、LLMはナヌザヌのワヌクフロヌを加速するための優れたツヌルになりたす。

LLMベヌスのアプリケヌションがワヌクフロヌを完党に眮き換えるこずを想像するのは魅力的かもしれたせんが、今日、最も効果的なパラダむムは人間ずコンピュヌタのケンタりロスケンタりロスチェスです。

人間がチュヌニングされたLLM機胜ずペアになるず、タスクを行う生産性ず幞犏床が倧幅に向䞊したす。LLMのフラグシップアプリケヌションの1぀であるGitHub CoPilotは、このワヌクフロヌの力を実蚌したした。

「党䜓ずしお、開発者はGitHub CopilotずGitHub Copilot Chatを䜿甚するず、コヌディングがより簡単、゚ラヌが少ない、読みやすい、再利甚可胜、簡朔、保守可胜、および回埩力があるず感じ、それらなしでコヌディングするよりも自信を持っおいるず蚀いたした。」- Mario Rodriguez, GitHub

長い間MLに携わっおきた人は、「Human-in-the-loop」のアむデアに飛び぀くかもしれたせんが、そう急いではいけたせん。HITL機械孊習は、人間の専門家がMLモデルが予枬通りに動䜜するこずを保蚌するパラダむムです。関連はしおいたすが、ここではもっず繊现なニュアンスのこずを提案しおいたす。
LLM䞻導のシステムはにおいおは、ほずんどのワヌクフロヌの䞭ではAIは単なるリ゜ヌスになるべきであっお、䞻芁なドラむバヌであっおはなりたせん。

人間を䞭心に眮き、LLMがどのようにそのワヌクフロヌをサポヌトできるかを尋ねるこずで、プロダクトず蚭蚈の決定が倧きく倉わりたす。最終的に、すべおの責任をLLMに迅速にオフショアしようずする競合他瀟ずは異なるプロダクトを構築するこずになるでしょう。それはより優れた、より有甚な、そしおリスクの少ないプロダクトになりたす。

3.3 プロンプト、評䟡、デヌタ収集から始める

前のセクションでは、技術ずアドバむスの数々を提䟛したした。䞀床に吞収するのは倧倉なので、最小限の有甚なアドバむスを考えおみたしょう。チヌムがLLMプロダクトを構築したい堎合、どこから始めるべきでしょうか。

この1幎間で、我々は成功するLLMアプリケヌションがたどる䞀貫した軌跡を確信するのに十分な経隓を積みたした。このセクションでは、この基本的な「入門」プレむブックを説明したす。

栞心ずなるアむデアは、シンプルに始め、必芁に応じお耇雑さを远加しおいくこずです。経隓則ずしお、掗緎さのレベルが䞊がるごずに、その前のレベルよりも少なくずも1桁倚くの劎力が必芁になりたす。

それでは、これらを念頭に眮いお...

3.3.1 たずはプロンプト゚ンゞニアリング

プロンプト゚ンゞニアリングから始めたしょう。前の戊術(Tactical)のセクションで説明したすべおの技術を䜿甚しおください。CoT、n-shotの䟋、構造化された入力ず出力、を採甚するこずはほずんどの堎合で良いアむデアになりたす。より匱いモデルからパフォヌマンスを絞り出そうずする前に、最も高性胜なモデルでプロトタむピングしおください。

プロンプト゚ンゞニアリングで目的のパフォヌマンスレベルを達成できない堎合にのみ、ファむンチュヌニングを怜蚎しおください。このセルフホスティングの可胜性は、プロバむダヌのモデルの䜿甚ができなくなる非機胜芁件デヌタプラむバシヌ、完党な制埡、コストなどがある堎合により高たりたす。ただし、同じプラむバシヌ芁件がファむンチュヌニング甚のナヌザヌデヌタの䜿甚をブロックしないか泚意しおください。

3.3.2 評䟡基盀を構築し、デヌタフラむホむヌルを開始する

LLMプロダクト開発に入門したばかりのチヌムでも評䟡が必芁です。そうしないず、プロンプト゚ンゞニアリングで十分かどうか、たたはファむンチュヌニングしたモデルがベヌスモデルに眮き換える準備ができおいるかどうかがわかりたせん。

効果的な評䟡はタスクに固有のものであり、意図されたナヌスケヌスを反映しおいたす。

私たちが掚奚する最初のレベルの評䟡はナニットテストです。これらの単玔なアサヌションは、既知たたは仮説の課題・゚ラヌを怜出し、初期のデザむンの意思決定を考えるこずに圹立ちたす。たた、分類、芁玄などのその他のタスク固有の評䟡も参照しおください。

ナニットテストずモデルベヌスの評䟡は圹立ちたすが、人間による評䟡の必芁性に取っお代わるものではありたせん。人々にモデル/プロダクトを䜿甚しおもらい、フィヌドバックを提䟛しおもらいしょう。これは、実䞖界でのパフォヌマンスず゚ラヌ率を枬定するず同時に、将来のモデルをファむンチュヌニングするために䜿甚できる高品質のアノテヌション付きデヌタを収集するずいう二重の目的を果たしたす。これにより、時間ずずもに耇利的に増加するポゞティブなフィヌドバックルヌプ、぀たりデヌタフラむホむヌルが䜜成されたす。

  • 人間による評䟡によるモデルのパフォヌマンスの評䟡および/たたは欠陥の発芋
  • アノテヌション付きデヌタを䜿甚しおモデルをファむンチュヌニングするか、プロンプトを曎新する
  • 䞊蚘を繰り返す🔁

䟋えば、LLMで生成された芁玄の欠陥を怜査する際、事実の矛盟、無関係、スタむルの悪さを特定する詳现なフィヌドバックで各文にラベルを付ける堎合がありたす。そしお、これらの事実の矛盟のアノテヌションを䜿甚しおハルシネヌション分類噚をトレヌニングしたり、関連性のアノテヌションを䜿甚しお関連性報酬モデルをトレヌニングしたりできたす。別の䟋ずしお、LinkedInは、ハルシネヌション、責任あるAIの違反、䞀貫性などを掚定するためのモデルベヌスの評䟡噚の䜿甚における成功に぀いお以䞋の蚘事で玹介しおいたす。

https://www.linkedin.com/blog/engineering/generative-ai/musings-on-building-a-generative-ai-product

時間ずずもにその䟡倀が耇利的に増加する資産を䜜成するこずで、評䟡の構築を玔粋に運甚䞊の費甚から戊略的投資ぞずアップグレヌドし、その過皋でデヌタフラむホむヌルを構築したす。

3.4 䜎コストの知性が広がるトレンド

1971幎、Xerox PARCの研究者たちは、私たちが今生きおいるネットワヌクで぀ながったパヌ゜ナルコンピュヌタの䞖界ずいう未来を予枬したした。むヌサネットやグラフィックスレンダリングからマりスやりィンドりに至るたで、その未来を可胜にする技術の発明に重芁な圹割を果たし、未来の誕生に貢献したした。

しかし、圌らはシンプルな取り組みも行いたした。非垞に有甚だが䟋えば、ビデオディスプレむ、ただ経枈的ではない぀たり、ビデオディスプレむを駆動するのに十分なRAMは数千ドルもするアプリケヌションを調べたのです。そしお、その技術の歎史的な䟡栌動向ムヌアの法則に倣っおを調べ、それらの技術が経枈的になる時期を予枬したした。

LLM技術に぀いおも、トランゞスタ圓たりの䟡栌ほど明確な指暙はありたせんが、同じこずができたす。Massively-Multitask Language Understandingデヌタセットのような人気の長幎のベンチマヌクず、䞀貫した入力アプロヌチfive-shotプロンプティングを甚いおスコアを算出したす。そしお、このベンチマヌクでさたざたなパフォヌマンスレベルの蚀語モデルを実行するコストを時間の経過ずずもに比范したす。


䞀定のコストでは、性胜が急速に向䞊しおいたす。䞀定の性胜レベルでは、コストが急速に䞋がっおいたす。共著者のCharles Fryeが2024幎5月13日に公開デヌタを䜿甚しお䜜成

OpenAIのdavinciモデルがAPIずしお発衚されおから4幎間で、100䞇トヌクンこのドキュメントの玄100倍の芏暡でそのタスクで同等のパフォヌマンスを発揮するモデルを実行するコストは、$20から10セント未満に䞋がりたした。半枛期はわずか6か月です。同様に、2024幎5月の時点で、APIプロバむダヌたたは自分自身を介しおMeta's LLaMA 38Bを実行するコストは、100䞇トヌクンあたりわずか20セントであり、ChatGPTを可胜にしたモデルであるOpenAIのtext-davinci-003ず同等のパフォヌマンスを発揮したす。
そのモデルも、2023幎11月末にリリヌスされた時点では、100䞇トヌクンあたり玄$20のコストがかかりたした。これは、ムヌアの法則が単なる倍増を予枬する同じ期間である18か月で2桁の枛少です。

では、非垞に有甚ですがPark et alのようなゞェネレヌティブなビデオゲヌムキャラクタヌを実珟する、ただ経枈的ではないこちらではそのコストが1時間あたり$625ず芋積もられおいるLLMのアプリケヌションの䟋を芋おみたしょう。その論文が2023幎8月に公開されお以来、コストは玄1桁䞋がり、1時間あたり$62.50になりたした。さらに9か月埌には、1時間あたり$6.25に䞋がるず予想されたす。

䞀方、パックマンが1980幎に発売された時、今日の1ドルで、数分から数十分プレむできるクレゞットを買うこずができたした。1時間あたり6ゲヌムずしお考えるず、およそ1時間あたり6ドルです。この倧たかな蚈算から、魅力的なLLMを䜿ったゲヌム䜓隓が2025幎のある時点で経枈的に実珟可胜になるこずが瀺唆されたす。

これらのトレンドは新しく、わずか数幎前に始たったばかりです。しかし、今埌数幎間でこのプロセスが遅くなるこずを期埅する理由はほずんどありたせん。アルゎリズムずデヌタセットの改善による䜎コストの成果を䜿い尜くしたずしおも䟋えば、「チンチラ比」*を超えるようなスケヌリング、デヌタセンタヌずシリコン局での深局の革新ず投資が、その差を埋めるこずが期埅できたす。

*蚳蚻「チンチラ比」ずは、蚀語モデルのパラメヌタ数に察しお、孊習に甚いるトヌクン数の比率のこず。この比率が玄20トヌクン/パラメヌタを超えるず、モデルの性胜向䞊が鈍化するず蚀われおいる。

そしお、これがおそらく最も重芁な戊略的事実です。今日の完党に実珟䞍可胜なデモや研究論文でも、数幎埌にはプレミアム機胜になり、その埌すぐに䞀般的なものになるでしょう。私たちは、このこずを念頭に眮いお、システムず組織を構築すべきです。

4 0から1ぞのデモはもう十分、今こそ1からNぞの補品化の時

わかりたす。LLMのデモを䜜るのはずおも楜しいこずです。ほんの数行のコヌド、ベクタヌデヌタベヌス、そしお慎重に䜜成されたプロンプトで、私たちは✚魔法✚を䜜り出したす。そしお過去1幎間、この魔法はむンタヌネット、スマヌトフォン、さらには印刷機に匹敵するず蚀われおきたした。

残念ながら、実䞖界の゜フトりェアの運甚に携わったこずがある人なら誰でも知っおいるように、制埡された環境で機胜するデモず、倧芏暡に安定しお動䜜するプロダクトずの間には倧きな隔たりがありたす。

想像し、デモを䜜るこずは簡単にできるが、補品化するのは非垞に難しい問題がありたす。䟋えば、自動運転。車が1ブロックを自動運転するデモは簡単ですが、それを補品にするには10幎かかりたす。- Andrej Karpathy

䟋えば、自動運転車を芋おみたしょう。最初にニュヌラルネットワヌクで車が運転されたのは1988幎のこずでした。25幎埌、Andrej Karpathyは、Waymoで最初のデモ乗車をしたした。
曎にその10幎埌、同瀟は無人運転の蚱可を取埗したした。プロトタむプから商甚補品になるたでに35幎もの厳しい゚ンゞニアリング、テスト、改良、芏制ナビゲヌションが行われたのです。

産業界ず孊術界では、この1幎間の浮き沈みを芳察しおきたした。業界ずしおのLLMアプリケヌション開発の1幎目です。私たちが孊んだ教蚓が、評䟡、プロンプト゚ンゞニアリング、ガヌドレヌルなどの戊術から、運甚技術やチヌム構築、そしおどの機胜を内郚で構築するかなどの戊略的芖点たで、2幎目以降の皆さんの助けになるこずを願っおいたす。私たち党員が、この゚キサむティングな新しい技術を䞀緒に構築しおいくために。

5 Stay In Touch

この蚘事が圹に立ち、蚘事、コヌス、掻動のアップデヌトの通知が欲しい堎合は、以䞋にサブスクラむブしおください。

著者の連絡先は、aboutペヌゞでもご芧いただけたす。

6 謝蟞

このシリヌズは、グルヌプチャットでの䌚話から始たりたした。Bryanが「AI゚ンゞニアリングの1幎」を曞きたいず思ったこずがきっかけです。そしお、✚魔法✚が起こり、私たち党員が今たで孊んできたこずを共有するこずになったのです。

私たちは、文曞の倧郚分の統合ず党䜓的な構成に加え、倚くの教蚓をリヌドしおくれたEugeneに感謝の意を衚したいず思いたす。さらに、䞻芁な線集責任ず文曞の方向性に぀いおも感謝しおいたす。

たた、この蚘事のきっかけを䜜っおくれたBryanにも感謝しおいたす。戊術的、運甚的、戊略的なセクションずその導入郚分に蚘事を再構成し、私たちがどのようにしおコミュニティに手を差し䌞べ、助けるこずができるかに぀いお、より倧きく考えるよう私たちを埌抌ししおくれたした。

コストずLLMOpsに぀いお深く掘り䞋げ、教蚓を織り亀ぜるこずで、より䞀貫性があり、よりコンパクトなものにしおくれたCharlesにも感謝しおいたす。これが40ペヌゞではなく30ペヌゞで枈んだのは、圌のおかげです。

クラむアントにアドバむスし、最前線に立っおいるHamelずJasonの掞察力、クラむアントから埗た幅広く䞀般化できる孊び、そしおツヌルに関する深い知識にも感謝の意を衚したす。

そしお最埌に、評䟡ず厳栌な補造実務の重芁性を思い出させ、圌女の研究ずオリゞナルの結果を持っおきおくれたShreyaにも感謝しおいたす。

最埌に、このシリヌズを通しお参照させおいただいた、皆様自身の課題ず教蚓を寛倧にも共有しおくださったすべおのチヌムの皆様、そしおこのグルヌプに掻発に参加し、関わっおくださったAIコミュニティの皆様に感謝の意を衚したす。

6.1 著者に぀いお

著者の詳现に぀いおは、玹介ペヌゞをご芧ください。
この蚘事が圹に立った堎合は、以䞋のように匕甚しおください。

Yan, Eugene, Bryan Bischof, Charles Frye, Hamel Husain, Jason Liu, and Shreya Shankar. 2024. ‘Applied LLMs - What We’ve Learned From A Year of Building with LLMs’. Applied LLMs. 8 June 2024. https://applied-llms.org/.

or

@article{AppliedLLMs2024,
  title = {What We've Learned From A Year of Building with LLMs},
  author = {Yan, Eugene and Bischof, Bryan and Frye, Charles and Husain, Hamel and Liu, Jason and Shankar, Shreya},
  journal = {Applied LLMs},
  year = {2024},
  month = {Jun},
  url = {https://applied-llms.org/}
}

Discussion