メインコンテンツへスキップ
見出し画像

Difyで最新Modelの「llama-3.1-sonar-huge-128k-online」を試してみた

    Perplexity AIが提供する「llama-3.1-sonar-huge-128k-online」という最新モデルが気になり、さっそく試してみることにしました。今回は、DifyでPerplexity APIを利用し、この新モデルを設定し、使用してみた経験をお話しします。

    llama-3.1-sonar-huge-128k-onlineとは?

    まず、このPerplexity AIの新モデルについて少し調べてみました。

    モデルの特徴

    • Perplexity AIが開発し、MetaのLlama 3.1シリーズをベースにした最新の大規模言語モデル

    • 405Bパラメータという巨大なモデルサイズ

    • 128,000トークン(約10万語)という長いコンテキストウィンドウ

    • オンライン機能により、最新情報にアクセスできる可能性

    私にとって、これらの数字や機能は正直なところピンときませんでしたが、「Perplexity AIが提供する最新のモデルで、現在一般公開されている世界最大のLLMの一つ」という説明を見て、ちょっと試してみようと思いました。

    DifyでのPerplexity APIモデルの設定方法

    こちらにおける、「Model Name」で「llama-3.1-sonar-huge-128k-online」のものをDify上で作成。それを利用。

    使用してみた感想

    正直なところ、まだ軽く使ってみただけなので、詳細な評価は難しいですが、以前使っていたモデルと比べて、クオリティが上がったような印象を受けました。

    具体的には:

    • 応答の精度が向上したように感じる

    • より自然な会話ができるようになった気がする

    ただし、これはあくまで私の主観的な印象です。長期的に使用してみないと、Perplexity AIの他のモデルとの本当の性能の違いは分からないかもしれません。

    まとめ

    Perplexity AIの最新モデル「llama-3.1-sonar-huge-128k-online」をDifyで設定し、試してみました。Perplexity APIを通じての設定は意外と簡単で、すぐに使い始めることができました。性能面では向上を感じましたが、まだ詳細な評価はこれからです。

    Perplexity Pro への登録

    初月半額は以下のリンクから(Perplexity Proの友達紹介プログラムです)https://perplexity.ai/pro?referral_code=R33560MM


     
     
    株式会社colbrainは、顧客固有の判断と実務をAIで回す「FDE型AI-BPO」を提供する会社です。現場理解・運用設計から継続実行・改善までを一気通貫で支援。自社でも「1人×AI経営OS×複数プロダクト」のAIソロプレナー経営を実践し、設計・運用ログを公開しています。

    あなたへのおすすめ