見出し画像

【ローカルAIの定番】RTX5060ti 16GBのAI力を紹介する話①【みんなのゲーミングPC】


はじめに

昨年gpt-ossが公開された時にローカルLLMの人気が上がりましたが、最近再びローカルLLMの人気が上がっています。

やはり理由は、Claude・ChatGPTの最新モデルを政府によって止められてしまった事が大きいと思います。(もうすぐ解除されそうですが)

AIを補助的に利用する」という時代は終わり、「AIが主」になっている人も多いと思います。

AIが使えないと仕事ができず、日常的に依存してしまいがちなのに、(AIが利用できる事を前提として予定・計画を立てているのに)AIの利用権や仕様、利用料、性能が、大手AI企業や政府の一方的で勝手な都合で突然変更されてしまうという『恐怖』を持つ事は、自然な事だと思います。

今回の「ローカルLLM人気」は、昨年よりも本格的なもののようです。筆者のように、普通の家庭向けパソコン(ミドルクラスのゲーミングPC)を利用するのではなく、中小企業や個人でも、業務に耐えうるような数百万円規模の導入を目にします。

それだけ、人々のAI依存が進んだという事でもあると思いますが、投資を本格的に回収できる世の中になったのだと思います。

個人環境で数百万円のAI設備をホイホイ導入するのは難しいと思いますが、いわゆる「ミドルクラスのゲーミングPC」でも、相当なAI利用が可能になります。

そこで、2026年現在にローカルAIをはじめるなら定番の、NVIDIA RTX5060ti 16GBで、どの程度のAI利用ができるのかを紹介したいと思います。

※ 用途がLLMだけならば、選択肢も多いと思いますが、画像生成その他全般も含めた場合は、NVIDIA(CUDA)一強です

RTX5060ti 16GBでできること

  • 2026年現在、AI利用の主流VRAMが16GBになっているため、(一般的にコミュニティで利用されている)画像生成・動画生成AIその他のほぼすべてが実行可能になります

  • 論理構成力だけならクラウドAIの無料枠に匹敵・凌駕する20B〜35Bパラメータ規模/MoEのLLMを、(調整すれば)64kコンテキスト以上で、50 token/s程度の生成速度で利用できます。 

※ さらに二枚集めれば一気に幸せになれます

RTX5060ti 16GBとは?

基本

GeForce RTX 5060tiは、NVIDIAが2025年4月に発売した、最新のBlackwellアーキテクチャを採用するミドルレンジ向けのグラフィックボード(GPU)です。

ゲーミングPCを使った事のある人であれば常識かもしれませんが、NVIDIAのGPUの番号は、世代とグレードを表します。

  • ✅ 上2桁(50xx):世代(シリーズ)を示す

    • 現在の最新世代である「RTX 50シリーズ(Blackwellアーキテクチャ)」であることを示します。前世代は「RTX 40シリーズ」、次世代が登場すれば「RTX 60シリーズ」となります。

  • ✅ 下2桁(xx50 / xx60 / xx70 / xx80 / xx90):性能のグレードを示す

    • 数字が大きくなるほど、コア数やメモリ性能が高くなり、ハイエンド(高性能・高価格)モデルになります。また、語尾にtiやsuperが付く事で一回り強くなります。通常は「ti > super」です。

      • xx50(エントリー)

      • xx60(ミドルレンジ) ← RTX5060ti

      • xx70(アッパーミドル・準ハイエンド)

      • xx90(ウルトラハイエンド・フラッグシップ)

消費電力

当然のごとく、ハイエンドになればなるほど高価になり処理速度は上がります。しかし注意も必要です。消費電力が一気に上がるため、それに対応したハイエンドの電源・冷却が必要になります。

そういう意味でも、標準的なゲーミングPC構成であれば問題になる事がまずない「ミドルレンジ」GPUは、全ての人にとって扱いやすいと思います。

旧型BTOパソコンでも「ゲーミング」を冠しているものであれば、他部品との干渉などの物理的形状と規格(電源ピンに注意)さえ合致していればGPUカードだけの換装で事足りると思います。

その他注意する事

  • RTX5060tiに限りませんが、同じ型番でも8GB版と16GB版があり、内部仕様も異なります。安いと思ってポチったら8GBだったという事がないように気をつけてください。特にAI用途での16GB版と8GB版は、天地の差があります。

  • ゲーミングPCで利用するGPUは、補助電源が必須でです。さらに40xx以降は、従来の8ピンの補助電源から、より高出力が可能な12VHPWR(新版の12v-2x6もある)に変更されている事が多いので注意が必要です。

  • ミドルレンジRTX5060tiは、従来の8ピン電源もあります。※ 筆者のようにマルチGPUにする場合は、8ピン二本の方が電源との対応・互換性がより高くなります。

  • RTX4060tiも同じですが、物理的形状はx16のPCIeでも、内部ではx8です。PCIe 5.0対応のGPUであっても、旧PCIe 4.0/3.0規格で利用する場合は、本来のフル転送速度の数分の1になってしまいます。ただし、ミドルレンジGPUのAI利用の場合は、ボトルネックがGPU側にある事が多いので強く意識する必要はありません。※ もちろん時々ボトルネックになるAIモデルはあります

ゲーミング性能

発売当初から言われていますが、ゲーミング性能は多くのレビュアーから酷評されています。「悪すぎる事はないが、価格に全く釣り合わない」というものです。

しかし、AI用途を考える場合は妥当だと思います。言い換えると、ゲームがそこそこできるAIパソコンになります。

逆にゲーム性能が良くてもVRAMが8GBやCUDA利用できなければ、AI用途が大きく制限されます。

マルチGPUにする場合

AI用途ではCPU/GPU演算速度よりも、VRAM(GPUメモリー)の容量の大きさが支配的になるため、VRAMの大きなミドルレンジGPUを二枚利用する事で、メモリ容量だけは合算しハイエンド並みになり、利用の幅が一気に広がります。

  • RTX3060 12GB×二枚=計24GB

  • RTX4060ti 16GB×二枚=計32GB

  • RTX5060ti 16GB×二枚=計32GB

※ ただし、メモリ合算できるのはLLM用途だけで、動画・画像生成では限定的な利用にとどまります。

二枚のx16のPCIeスロットが必要になるため、ATX規格(やE-ATX)のマザーボード・いわゆるフルタワーが必要です。電源も冷却もぷちハイエンド対応が必要になりますが、所詮ぷちです。

※ 筆者は試した事がありませんが、OCuLinkを利用した外付けGPUという手もあると思います(PCIe 4.0x4相当です)

また、デメリットとしては、NVMeとPCIeを共有しているので、2台目のGPU(下図PCI 04:00.0)がアクティブになっていると、nvme0n1等のレーンを共有しているSSDの転送速度を下げます。※ ネットワークやSATA接続はそもそも遅いので影響は受けません

lstopo(Linuxコマンド)
赤い枠で囲っているのがRTX5060ti 16GB

※ ただしGPU以外に必要なものもある

システムメモリ(RAM)

筆者の以前の記事でも度々言及していますが、(もちろん高速であることに越した事はありませんが)CPU性能はあまり影響しません。

より必要なものは、GPUと同じく「システムメモリ容量」です。最近のAIモデルが巨大(Stable Diffusion 1.5時代は2GBだったものが、今では20GB)すぎるので、キャッシュ・バッファー利用としてのシステムメモリが重要になります。

※ MacやRyzenAI等のユニファイドメモリ・アーキテクチャでは、CPUをAI演算用途にダイレクトに利用するので、CPU・メモリ性能がAI演算に響きますが、CUDAの場合は補助的な利用(バッファやフロー制御)しかしません

しかし、AI需要によるメモリ不足・高騰が示しているように、ゲーミングPC上でのAI用途でも、メモリの32GB確保は必須、64GBで並み、128GBで快適という状況になってきています。

それらメモリを確保しようとすると、旧型のDDR4であっても、GPUよりも高価になってしまうような状況にあります。最新のDDR5で64GB以上を確保しようとすると、もはや現実的でない業務用価格になっています。困ったものです。

ストレージ(NVMe SSD)

ゲーミングPC上で様々なAIを利用すると、一つが数GB〜数十GBにもなる異なるAIモデルファイルを「取っ替え引っ替え」する必要があります。

もはやハードディスク(150MB/s)では現実的に利用できなくなっています。AI推論(生成)は1分で終わるのに、モデルを変えるだけで10分待ちは現実的ではありません。SSDは必須です。

ただし、(動画作成用途のように)書き込みが必要ないため、高価なSSDは必要ありません。

巨大な連続データのAIモデルを読み込む(シーケンシャル読み込み)だけなので、DDRキャッシュを持つ高価なSSDと比べても差がでません。

まとめ

次回②へつづく

以下、関連する記事の【PR】です


いいなと思ったら応援しよう!