
Difyで最新Modelの「llama-3.1-sonar-huge-128k-online」を試してみた
Perplexity AIが提供する「llama-3.1-sonar-huge-128k-online」という最新モデルが気になり、さっそく試してみることにしました。今回は、DifyでPerplexity APIを利用し、この新モデルを設定し、使用してみた経験をお話しします。
llama-3.1-sonar-huge-128k-onlineとは?
まず、このPerplexity AIの新モデルについて少し調べてみました。
モデルの特徴
Perplexity AIが開発し、MetaのLlama 3.1シリーズをベースにした最新の大規模言語モデル
405Bパラメータという巨大なモデルサイズ
128,000トークン(約10万語)という長いコンテキストウィンドウ
オンライン機能により、最新情報にアクセスできる可能性
私にとって、これらの数字や機能は正直なところピンときませんでしたが、「Perplexity AIが提供する最新のモデルで、現在一般公開されている世界最大のLLMの一つ」という説明を見て、ちょっと試してみようと思いました。
DifyでのPerplexity APIモデルの設定方法
こちらにおける、「Model Name」で「llama-3.1-sonar-huge-128k-online」のものをDify上で作成。それを利用。
使用してみた感想
正直なところ、まだ軽く使ってみただけなので、詳細な評価は難しいですが、以前使っていたモデルと比べて、クオリティが上がったような印象を受けました。
具体的には:
応答の精度が向上したように感じる
より自然な会話ができるようになった気がする
ただし、これはあくまで私の主観的な印象です。長期的に使用してみないと、Perplexity AIの他のモデルとの本当の性能の違いは分からないかもしれません。
まとめ
Perplexity AIの最新モデル「llama-3.1-sonar-huge-128k-online」をDifyで設定し、試してみました。Perplexity APIを通じての設定は意外と簡単で、すぐに使い始めることができました。性能面では向上を感じましたが、まだ詳細な評価はこれからです。
Perplexity Pro への登録
初月半額は以下のリンクから(Perplexity Proの友達紹介プログラムです)https://perplexity.ai/pro?referral_code=R33560MM