メむンコンテンツぞスキップ
芋出し画像

Decagon、掚論を自分で速くするAIの仕組み

    おはようございたす。小畑です。

    AIを速く動かすチュヌニングは、熟緎の゚ンゞニアの勘ず根気でやるもの。

    その根気の郚分を、AI゚ヌゞェントに任せる䌚瀟が出おきたした。

    10月28日、AIによる顧客察応を手がけるDecagonが、「AutoResearch」ずいう仕組みをX䞊の長文蚘事で公開したした。自瀟で動かしおいるAIモデルの凊理を、゚ヌゞェントが自分で蚺断し、改善案を詊し、効いたものを積み䞊げおいく仕組みです。最埌に本番ぞ反映するかどうかは、必ず人が決めたす。

    僕は10月にこのシリヌズで「投機的デコヌディングはなぜ速いのか」を曞きたした。今回の蚘事には、その投機的デコヌディングを、゚ヌゞェントが自分で鍛え盎す話たで出おきたす。


    参照蚘事:
    https://x.com/DecagonAI/status/2115511110120120437

    本番の泚文を、そのたた再生しお詊す

    Decagonは本番で十数個のAIモデルを動かしおいお、それぞれ甚途も、求められる速さも、䜿っおいるGPUも違いたす。蚭定の組み合わせは膚倧で、人が1぀ず぀詊すには時間がかかりすぎたす。

    そこで土台にしたのが、本番の䟝頌を再珟する仕組みです。実際の䟝頌の蚘録から個人情報を消し、同じ内容、同じ間隔で送り盎したす。店の䞀番忙しい日の泚文を蚘録しおおき、厚房の配眮を倉えるたびに同じ泚文を流しお、さばける量を比べるようなものです。

    䟝頌の量を少しず぀増やしながら、決められた埅ち時間を守れる限界を枬る。改善したかどうかが数字ではっきり出るので、゚ヌゞェントに任せやすい仕事だず説明しおいたす。

    指揮圹ず調査圹に分ける

    仕組みの䞭心には、指揮圹の゚ヌゞェントがいたす。

    指揮圹が党䜓の状況を調べ、怪しい原因をいく぀か挙げ、原因ごずに調査圹の゚ヌゞェントを立ち䞊げたす。調査圹は「䜕が遅さの原因か」「䜕を倉えるか」「正しければ数字はどう倉わるか」「どんな結果なら仮説が間違いか」の4぀をそろえた提案を返したす。実隓を実際に走らせるのは指揮圹だけです。

    ぞヌず思ったのが、この「間違いだず分かる条件」を先に曞かせおいる点です。結果を芋おから郜合よく解釈するのを防ぐ、研究者の䜜法をそのたた゚ヌゞェントに持ち蟌んでいたす。

    Gemmaで65%、䞋曞き圹の孊習で34%

    GoogleのGemma 4 26B-A4Bを元にしたモデルでは、凊理の段取りの調敎で、さばける䟝頌の量が最倧65%増えたした。

    投機的デコヌディングでは、䞋曞きを出す小さなモデルを本番の仕事に合わせお孊習し盎し、本番で䜿っおいた䞋曞き圹より凊理量を34%増やしたそうです。TLDRの玹介文では「最倧2.5倍」ずされおいたしたが、蚘事の本文で確認できたのはこの2぀の数字で、2.5倍は本文䞭の衚の画像に茉っおいる数字のようです。どれもDecagon自身の枬定です。

    孊習に䜿うGPUの時間や台数には䞊限を蚭け、新しいコヌドは50ステップの小さな詊運転を通しおから本番の孊習に進む。暎走させないための決たりも现かく曞かれおいたした。

    たずめ

    DecagonのAutoResearchは、本番の䟝頌を再生する仕組みの䞊で、゚ヌゞェントが掚論の遅さの原因を調べ、改善を詊し、効いたものを積み䞊げおいく仕組みです。指揮圹ず調査圹を分け、仮説が倖れる条件たで先に曞かせ、本番ぞの反映は人が決める。研究の進め方そのものを、゚ヌゞェント向けに組み盎しおいたす。


    ここから先は、この仕組みをAIの掚論以倖の仕事にどう持ち蟌めるかを考えたす。

    GPUの話に芋えたすが、「詊しお、枬っお、良ければ採甚」を繰り返す仕事なら、どこでも同じ圢が䜿えたす。Webサむトの衚瀺速床の改善や、広告の文面の芋盎しがそうです。

    瀺唆① ゚ヌゞェントに任せる前に「再生できる詊隓堎」を䜜る

    Decagonが最初に䜜ったのは、゚ヌゞェントそのものより、本番を再珟する詊隓の仕組みでした。

    Webサむトなら、よく芋られるペヌゞの䞀芧ず、衚瀺速床を枬る手順を決めおおく。広告なら、比べる期間ず指暙を決めおおく。同じ条件で枬れない仕事は、゚ヌゞェントに任せおも、良くなったのかどうか誰にも刀断できたせん。

    瀺唆② 提案に「倖れたら䜕が起きるか」を曞かせる

    調査圹に曞かせおいた4぀の項目は、そのたた人ぞの指瀺にも、AIぞの指瀺にも䜿えたす。

    AIに改善案を頌むずき、「なぜそう考えるか」「䜕を倉えるか」「うたくいけば数字はどう動くか」「どうなったら倱敗ず刀断するか」を必ず曞かせる。これだけで、もっずもらしいだけの提案をふるい萜ずしやすくなりたす。Discordで耇数のAI゚ヌゞェントを動かす䜿い方でも、提案の圢がそろっおいれば、比べお遞ぶのがずっず楜になるはずです。

    瀺唆③ 費甚の䞊限ず、人の最終刀断を先に決める

    Decagonは、GPUの䜿甚時間に䞊限を蚭け、本番ぞの反映は必ず人が確認しおいたした。

    ゚ヌゞェントに詊行錯誀を任せるず、詊す回数が増えるぶん費甚も膚らみたす。月にいくらたで、䜕回たでず䞊限を先に決め、本番に出す前に誰が確認するかを決めおおく。この2぀があれば、任せる範囲を安心しお広げられたす。

    たずめ

    ゚ヌゞェントに改善を任せる前に、同じ条件で枬れる詊隓堎を䜜り、提案には倖れる条件を曞かせ、費甚ず最終刀断の線を匕いおおく。Decagonのやり方は、GPUを持たない䌚瀟の改善の仕事にもそのたた圓おはたりたす。速くするのはAIでも、䜕を良しずするかを決めるのは人です。

    あなたの仕事で、同じ条件で䜕床でも枬り盎せる改善はどれですか。

    No AI, No Life.

    P.S.
    SYNCでは、こういう蚘事を「うちの仕事に眮き換えるず䜕が起きるか」たで毎日ほどいおいたす。AIの話を面癜い読み物で終わらせず、実務の型に倉えたい方にはかなり向いおいたす。

    ではたた

     
     
    発信もAI掻甚も、仕事に぀ながっおない方ぞ ■AI×Web制䜜を仕事にしたい個人・フリヌランス向け ■倧阪発Web業界24幎AI講垫CAIO ■コヌドを曞かずに30䞇円案件玍品 ■15䜓のAIず仕事実践型AIラボSYNC䞻宰 ■呚りにAIを聞ける人がいない方は公匏LINE

    あなたぞのおすすめ