メインコンテンツへスキップ
見出し画像

第5回: Qwen3-8BをPythonから直接動かしてみる

  • 割引あり

ここまでの内容で

のやり方、意味を学んできました。

今回は、MLX-LM ServerのAPIを経由せず、

PythonからMLX-LMを直接使ってQwen3-8Bを呼び出し

てみます。

現在、qwen-pythonの仮想空間はopenaiをインストールして動かしていますが、ここにmlx-lmもインストールしていきます。

mlx-lmは第1回でqwen-envの仮想空間にもインストールしています。でも、今回は別の仮想空間qwen-pythonなので、こちらにも必要なのです。
行頭に(qwen-python)がついている状況のまま以下を実行してmlx-lmをインストールします。

pip install mlx-lm

インストールできたら、qwen.pyを冒頭から書き換えます。

 
 
プログラミング好きな音楽家。イラレ、フォトショでイラストを、JavaScript、ASP、PHPを使ってウェブを、Blender、UnReal Engine、Unityを使って3D、2Dを、Final Cut Proを使って映像編集、Logic Proで音楽制作をします。

あなたへのおすすめ