NASがNASを超える日（9）

近況報告

　昨年末に新しく導入した、UGREEN社のNAS、DXP4800Plusですが５ヶ月が経過しました。その間、特に大きなトラブルもなく順調に稼働しています。もう少し整備をしたい事柄もありますが、なかなか手をつけられていません。
　そんな中、最近のAIブームに便乗して独学でAIツールを使い始めました。この分野はまさに「日進月歩」という勢いで急速に発展しており、毎日のように新しいニュースが発信されています。（「新しいニュース」「腹痛が痛い」みたいなw）
正直、この流れについてゆくのは大変です。個人的には情報に振り回されないように腰を据えて取り組んでいるところです。
　今回、NASの環境を使ってローカルLLMの設定を行ったので、軽くレポートしたいと思います。本格的な活用についてはこれからですので、今回は導入編に絞って紹介したいと思います。

NASとローカルLLMについて

　「AI」という言葉はほぼ一般化してきました。ChatGPTは「チャッピー」という愛称で親しまれ、若い人たちも日常的に使われるようになってきているようです。
恐らくこの２、３年で私たちを取り巻く環境も大きく変わってゆくものと思います。
　私こと、仕事や日常生活でAIをどのように取り入れてゆくかについて検討しているところです。最近ではGeminiやClaudeを毎日使うようになりました。世界最先端の技術をとても安価に使えるようになってきたことは驚きです。
　一方でセキュリティの問題や、利用料金の負担などもクローズアップされつつある中、自分のパソコンでAIを動かすという流れも少しずつ広まってきています。
　私も手元のメインPC、Mac StudioにローカルLLMをインストールし評価を始めたところです。クラウドサービスとして提供される超高性能なAIと比較して処理速度や精度は劣るものの、かなり実用的なレベルまで性能が向上してきているという感じがしています。
　そんな中、「NASでローカルLLMを動かしてみたらどうか？」と思い、調べてみると、どうやら動きそうだということが分かってきました。
UGREEN社のNASや、他メーカーの製品は最近、インテル社のCPUを搭載し、かつAI機能を訴求するモデルも登場しています。
NASは24時間365日動いているので、ファイルサーバーとして使うだけではもったい無い。ローカルLLMをセットアップしたら実用になるのか試してみました。

環境構築の前提条件

　さて、ローカルLLMを動かすために必要な条件はなんでしょうか？
AIに聞いてみました。

　これらの項目で一番重要なのは、RAMです。このNASは標準が8GBですが、32GBに拡張してあります。そのため、多少メモリを必要とするモデルは動作するはずです。
ストレージはSSDを推奨とありますが、昨今のSSD価格高騰の折、目をつむることにしました。
CPUはN100なので処理速度は期待できませんが、何とか動いてもらえればと思いました。

ローカルLLMインストール結果

　インストール手順もAIに聞きながら進めていきます。詳細は割愛しますが、Dockerを起動し、ollamaをインストールしてAIのモデルを設定すれば完了です。

Dockerのコンテナの状況を確認すると、無事、ollamaが起動していることが確認できました。
また、OpenWebUIをインストールしてブラウザで使えるよう設定しました。

実行結果

　モデルはご覧の通り、Gemma4をインストールしました。8Bをチョイスしましたが、メモリの使用状況は以下のとおりです。

　32GBのメインメモリに対し、ギリギリですがうまく収まっていて動作しました。レスポンスはCPUの性能上厳しい面がありますが２、３分程度で結果を得られました。

考察など

　このように、UGREEN NAS DXP4800PLUSのメインメモリを32GBに拡張した環境で、ollamaとOpenWeb UIをDocker上で動かし、Gemma4（8B）を実装するところまで進めることができました。
　動作は少々遅いですが、今のところ処理は最後まで完遂できています。
ファイルサーバーとしてのみの利用では、せっかくメモリ増設したのに24時間365日稼働するNASの資源の無駄遣いだと思っていたので、この余剰資源を何かに活用できないかと考えたのがローカルLLMの活用です。
　処理能力や実行速度はそれほど期待できませんが、一日１回バッチ処理を動かすくらいの作業ならこなせると思います。
例えば、NAS上の特定フォルダに音声収録した打ち合わせ音声データを保存すると、自動的に文字化し、議事録として要約してジャーナルデータとしてどこかのフォルダに格納する。
などというデータ処理などは十分可能だと思います。
今後、このような用途を検討し非力ながら役にたつローカルLLMを活用した自動化を実装してみたいと思います。

おまけ

　スマホからのアクセス環境も試してみました。VPN経由での利用もできるように設定したので、自宅のNASにスマホから取得したデータをNASに転送し、再加工して利用する、などの可能性も検討できそうです。
　ちなみに以下の例は、ローカルLLMに「本日の天気は？」と問い合わせてみたところ、インターネット上のデータへのアクセスを制限していることから、「わからない」という回答が返ってきた例です。これによりローカルLLMだということが確認できると思います。

※これらの詳細な設定情報は、別記事にまとめました。
こちらを参照してください。

ーー

最後まで読んでいただき、ありがとうございます！

もし、この記事が気に入ったら「スキ」を、応援してくださる方は
「フォロー」をお願いします。