自分のPCに最適なローカルLLMを一発自動判定する方法ぉ!!
こんにちは!高橋です(*'▽')
いやー、どんどん新しいローカルLLMが登場しますね。
ここまでくると情報を追うのも大変だ…と思ってちょっと疲れちゃってる方もいるのでは?
そこで今回は、そんなローカルLLMユーザーの悩みをコマンド一つで解決してくれる画期的なCLIツール「whichllm」の最新版(v0.5.10)がリリースされましたので紹介いたしますね♪
単なる「VRAMの容量計算」にとどまらず、
実測ベンチマークに基づいて「今のあなたの環境で一番賢く、かつ快適に動くモデル」をランキング形式で教えてくれるのが最大の特徴です。
もう自分のPCのスペックをみてーローカルLLMのモデルが動くかスペック表とにらめっこしてーの工程が必要なくなりますので、是非つかってみてくださいね!
📥 すぐに試せる!インストール手順とリンク
Python 3.11以上の環境があれば、ターミナル(コマンドプロンプト)からすぐに導入・実行できます。
🐍 事前準備:Python 3.11以上のインストール方法
「whichllm」を動かすには、お使いのPCにPython 3.11以上がインストールされている必要があります。
「Pythonを入れたことがない」「バージョンが古いかも」という方は、OSごとに以下の手順でサクッと準備しましょう。
🪟 Windowsの場合(一番簡単!)
最もおすすめなのは、Microsoft Storeからインストールする方法です。
面倒な設定なしで安全に導入できます。
キーボードの「Windowsキー」を押し、「Store」と入力してMicrosoft Storeを開く
検索バーで「Python 3.12」(または最新バージョン)と検索
公式のPythonアプリが表示されたら「入手」をクリックしてインストール
※公式サイトからインストーラーをダウンロードする場合の注意点 Python公式サイトからダウンロードしてインストールする際は、最初の画面で画面下部にある 「Add python.exe to PATH」に必ずチェックを入れてから インストールを進めてください。これを行わないとコマンドが使えません。
🍎 macOSの場合
Macユーザーなら、パッケージ管理ツールの「Homebrew」を使うのが圧倒的にスムーズです。ターミナルを開いて以下のコマンドを実行するだけで最新版が入ります。
Bash
brew install python
※Homebrewを入れていない場合は、Python公式サイトからmacOS用のインストーラー(.pkg)をダウンロードして実行してください。
🐧 Linux (Ubuntu/Debian) の場合
標準のパッケージマネージャ(apt)を使ってインストールします。最新のUbuntu(24.04など)であれば、以下のコマンドで十分新しいバージョンがインストールされます。
Bash
sudo apt update
sudo apt install python3 python3-pip
✅ ちゃんとインストールできたか確認しよう
ターミナル(WindowsならコマンドプロンプトやPowerShell)を開いて、以下のコマンドを打ち込んでみてください。(Mac/Linuxの場合は python3 と入力してください)
Bash
python --version
Python 3.12.3 のように、3.11以上の数字が表示されれば準備完了です!続いて「whichllm」本体をインストールしましょう。
✅いざwhichllmをインストール!
環境を汚したくない場合は、話題のパッケージマネージャ「uv」を使うのが圧倒的におすすめです。
〇 GitHubリポジトリ: Andyyyy64/whichllmPyPIページ: whichllm
uvを使用する場合(推奨・インストール不要):
uvx whichllm@latestpipを使用する場合:
pip install whichllmHomebrew(macOS)を使用する場合:
brew tap Andyyyy64/whichllm
brew install whichllm
インストール後、ターミナルで 【whichllm】 と入力するだけで、すぐにあなたのPCに最適なLLMのランキングが出力されます。
💻 どんなOS・ハードウェアに対応しているの?
結論から言うと、Windows、macOS、Linuxのすべてに対応しており、事前の面倒な設定は一切不要です。
コマンドを実行した瞬間に、ツールが自動で以下のハードウェア環境を検出してくれます。
GPU: NVIDIA、AMD、Intel、そしてMacのApple Siliconにも完全対応
CPU: コア数やスレッド数を自動判定
RAM(メモリ)とディスク空き容量: モデルのロードや保存に耐えうるかをチェック
「自分が使っているグラボの種類やVRAM容量を正確に覚えていない」という初心者でも、完全にツール任せで最適なモデルを導き出してくれます。
🎯 「コーディング能力優先」のようなカスタマイズは可能?
「とにかく文章力が高いモデルが欲しい」
「プログラミングに特化したモデルを探している」
といった、用途に合わせたモデル選定も強力にサポートされています。
whichllmは、単純なパラメータ数(モデルの大きさ)ではなく、以下のような複数の権威あるベンチマークスコアを統合してランキングを作成しています。
LiveBench: 最新世代の総合力
Aider Polyglot: コーディング・プログラミング能力特化
Chatbot Arena ELO: 人間によるブラインドテスト評価
そのため、用途に合わせて特定のプロファイル(例:--profile vision で画像認識対応のマルチモーダルモデルを優先するなど)を指定することが可能です。
また、モデルの量子化(精度を少し落として軽くする技術)による性能低下も計算に組み込まれており、
「無理して巨大なモデルを動かすより、一つ下のサイズのモデルの方が実は賢くて速い」といったリアルな判断を下してくれます。
🆕 リリースされたばかりの最新モデルもすぐ対象になる?
そして気になるポイント!
AI業界では毎週のように新しいモデルが登場しますが、whichllmは最新モデルへの追従スピードが圧倒的です。
HuggingFace APIと直結: コマンド実行時にHuggingFaceのAPIから「ダウンロード数」「トレンド」「直近のアップデート」を直接取得します。
最新世代を優遇するスコア調整: 古いベンチマークのスコアを過信せず、新しい世代のモデルが正当に評価されるよう「鮮度(Recency)」を加味してランキングを調整します。
そのため、昨日リリースされたばかりの最新モデルであっても、HuggingFace上にアップロードされ、関連するベンチマークデータや派生元のデータがあれば、即座にランキングの判定対象に組み込まれます!ヤッタネ!
🚀 その他の神機能:シミュレーションとOllama連携
個人的に推したいのが、「PC買い替え時のシミュレーション機能」です。 例えば、ターミナルで whichllm --gpu "RTX 5090" と入力するだけで、「もしこのグラボを買ったら、どのモデルがどれくらいの速度(トークン/秒)で動くのか」を仮想的に算出してくれます。高価なパーツを買う前の検討材料としてこれ以上ない機能です。
また、ローカルLLM実行環境として大人気のOllamaとも相性が良く、ランキングで1位になったモデルをすぐにダウンロードできるコマンド(例: ollama pull <モデル名>)を出力してくれたり、whichllm run コマンドで即座にチャットを開始できたりと、導入から実行までのフローが信じられないほどスムーズです。
まとめ
これまでのローカルLLM選びは「とりあえず誰かがブログで紹介していたものを入れる」か「動かなくなるまで試行錯誤する」の2択になりがちでした。
「whichllm」を使えば、あなたのPCのポテンシャルを120%引き出す最高の一台(一つのモデル)にたった数分で出会うことができます。インストールも簡単なので、ローカルAIに興味がある方はぜひ今すぐ自分のPCで whichllm を叩いてみてくださいね!
それでは今回はここまで(*'▽')ノシ
いいなと思ったら応援しよう!
よろしければ応援お願いします!