見出し画像

AIがAIを構築する?Windows PCの Antigravity と作る、ラズパイ5ローカルLLM環境

こんにちは、「MAKO」です。

本職はソフトウェアエンジニアですが、休日は「50歳の手習い」として小さなコンピュータや新しいガジェットをいじるのが何よりの楽しみです。

今回は、Windows 11 PC の中にいる「Google Antigravity」に手伝ってもらって、隣の部屋にある「Raspberry Pi 5」に自分専用のAI(ローカルLLM)を構築した、少し未来を感じる体験を詳しくお話しします。文字数制限なしで、実際のトラブル解決の手順までたっぷりお届けします。


【結論】ラズパイ5は「Phi-3.5 Mini」で実用レベルのAI端末になる

最新の Raspberry Pi 5 (8GBモデル) は、マイクロソフト開発の超軽量モデル 「Phi-3.5 Mini」 と組み合わせることで、驚くほど軽快なAI端末に化けます。

今回の検証で得られた推論速度(t/s: 1秒あたりの単語数)はこちらです:

  • Phi-3.5 Mini (3.8B): 4.52 t/s(まあ実用レベル?)

  • Qwen 2.5 (3B): 2.69 t/s(日本語が非常に流暢)

  • Llama 3.2 (3B): 2.15 t/s(標準的だが少し重い)

驚いたのは Phi-3.5 の速さです。Llama 3.2 の約2倍の速度でレスポンスが返ってくる様子は、もはや「手のひらサイズの知能」と呼ぶにふさわしいものでした。


【実践】Antigravity と進める構築ステップ

今回は Windows 11 の Antigravity に、「家庭内LANにあるラズパイにSSHで繋いで、LLM環境を整えて」と依頼しました。自分はモニターを見守って、SSHログインのパスワードを入力してと言われたら、パスワードの入力を行うだけです。

1. システムの接続と基本設定

これらの操作は「Google Antigrabity」のAIエージェントが行ってくれます。
実際にどんなことをやってくれていたかと言えば。。。

まずは SSH 経由でラズパイにアクセスします。

# Antigravity が実行した接続コマンド(IPやユーザーは架空のものです)
ssh mako-pi@192.168.x.x

ラズパイ 5 が 64-bit OS で動いていることを確認し、いよいよ Ollama のインストールです。

2. Ollama の導入

Antigravity は以下のコマンドを一撃で実行し、サービスを立ち上げてくれました。

# Ollama のインストール
curl -fsSL https://ollama.com/install.sh | sh

# サービスの状態確認
sudo systemctl status ollama

3. モデルのプル(ダウンロード)

ここで一つ問題が起きました。SSH 経由で `ollama pull` を実行すると、進行状況が見えず、画面がフリーズしたように見えてしまうのです。
そこで Antigravity は、バックグラウンドで実行しつつログを確認する、エンジニアらしい賢い手法を提案してくれました。

# バックグラウンドでダウンロードを開始
nohup ollama pull phi3.5:latest > pull.log 2>&1 &

# 進行状況をリアルタイムで監視
tail -f pull.log

これで、接続が切れてもダウンロードが中断される心配がなく、安心して作業を見守ることができました。


【トラブル解決】ZRAM 導入時の「競合」をどう乗り越えたか

8GB RAM を持つ Raspberry Pi 5 をさらに高速化するため、メモリの一部を圧縮して高速なスワップ領域として使う 「ZRAM」 の導入を試みました。

# ZRAM のインストール試行
sudo apt update && sudo apt install zram-tools -y

しかし、導入後に `zramctl` で確認したところ、既存の OS 標準スワップと競合し、期待したほどのパフォーマンス向上が見られないことに Antigravity が気づきました。

Antigravity からの相談:
「MAKOさん、ZRAM よりも 8GB の物理メモリの素直なアクセスを活かしたほうが、今回の Ollama 実行には安定性がありそうです。設定を元に戻しましょうか?」

この提案を受け、無理にチューニングするのではなく、標準構成のまま 8GB RAM の「力技」で動かすことに決めました。これが結果的に、モデルの切り替え時のフリーズを最小限に抑える正解となりました。


【視点】AI(Antigravity)が AI(Ollama)を育てる体験

私は PC の前に座って Antigravity とチャットをしているだけでしたが、隣の部屋でラズパイの LED が点滅し、徐々に「知能」が書き込まれていく様子は、まるで生命を吹き込んでいるような感覚でした。

  • 協調作業の心地よさ: 「エラーが出たよ」という報告に対して、Antigravity が即座に代替案を出してくれる。エンジニアとしての孤独な作業が、最高のペアプログラミングに変わりました。

  • 身近なツールとしてのAI: クラウドの巨大なAIも凄まじいですが、自宅のLAN内でひっそりと動く、自分だけのローカルLLMには「道具」を超えた愛着が湧きます。


【まとめ】50歳の手習いは、AIと共に加速する

AIの進化は速く、時に気後れしそうになります。しかし、Antigravity のようなエージェントが「手足」となって助けてくれるなら、新しい技術の習得はこれまで以上に楽しいものになります。

Phi-3.5 Mini の爆速レスポンスをラズパイで体験した今、次はこの小さな環境を Web UI(Open WebUI)で家族みんなが使えるようにしようかな、と計画しています。

参考になれば幸いです。

実務で使える強力な自動化の例として、ずんだもん動画の全自動生成システムを公開しました。
完全コピペでシステム構築ができるこの記事に興味がある方はどうぞ。


関連書籍・リソース

今回使用した、信頼できるお役立ちアイテムです。

参考になれば幸いです。


参考ソース:

いいなと思ったら応援しよう!

MAKO よろしければ応援お願いいたします! いただいたチップは、今後の制作のために役立てたいと思います!