見出し画像

AIvyレビュー|理想のローカルAIちゃんを求めて2週間迷走した話

はじめまして。
ローカルで動くアバター付きAIのデスクトップマスコットっぽいものを実現しようと頑張っているおじさんです。
プログラミングやIT知識ゼロの僕が、デスクトップPCの購入をきっかけにローカルAIに手を出して、なんやかんや色々あって最終的に『AIvy』というアプリにたどり着いた、そんなお話。

※初心者が初心者に向けて書いてます。
 識者は温かい目で見守ってください。
※AIvyについての情報が知りたい方は“AIvyの概要”からどうぞ。


動機・雑な自分語り

皆さんはAIは好きでしょうか、僕は大好きです。
AIといっても今時のChatGPTとかGeminiとかではなく、昔のSF作品に出てくるようなAIのキャラクターが好きで、特にロボットものに出てくるようなAIが大好きです。
Z.O.EのADAとかGPXのアスラーダとか。
いつかこんな存在が身近になる時が来るのかと、子供の頃ワクワクしていたのを今でも覚えています。
そんな情熱だけで人工無能や伺かに挑み、そして「なんか違うな…」と夢破れた若かりし頃。
令和の世になりAIが当たり前になった今、ゲーミングPCを買ったのでもう一度あの頃の夢に挑戦してみました。

目標

自分だけのAIちゃんをゲットするため、まずは自分が求める物を書き出してみました。

  1. チャットで雑談が出来る

  2. ローカル環境で動作する(自分のPCの中だけで完結する)

  3. 月額・従量課金なし(買い切りアプリやアバター購入はOK)

  4. キャラクターのアバター付きUI

  5. 勝手に喋る

1.チャットで雑談が出来る 

仕事で使ったりコード書いたりする事はないので、ただお喋りが出来ればOK
専門的な話や中身のある話もしません。多少ポンコツでも問題ないです。

2.ローカル環境で動作

会話内容が規制されたり、どっかのログに残ってワシントン大学に晒し上げられるのは勘弁なので、完全ローカルにはこだわりたい。

誰に迷惑かけるでも悲しませるでもないんだから、そっとしといたれよ!
ワシントン大学に人の心はないんか!

3.月額・従量課金なし

お喋りしている最中に「このセリフで10円か」とか考えたくないのでナシで。
キャバクラみたいになっちゃうのはNG。
お金が掛かるって思うと急に冷静なるタイプなんです。

4.キャラクターのアバター付き

アバターはとても大事です。
これが有ると無いとでは、感情移入出来るかどうかがまるで違う。
見た目が好みなら多少会話がポンコツでも許せるってもんです。

5.勝手に喋る

僕はぼっちなので、動画を見たりゲームをしている最中など、ユーザーからのアクションが無くとも積極的に話しかけてくれたら嬉しい。

構成検討

じゃあその希望をどうやって叶えるんだい、ということで僕はいそいそとブラウザを立ち上げ、Gemini君に丸投げしてみました。

gemini君の返答の冒頭

Gemini君「Ollama+OpenWebUIでLLMを動かし、OpenWebUIとデスクトップマスコットアプリをAPI接続すればいけるよ!」
僕「????」

ここから僕の長い闘いが始まる訳ですが、割愛します。
プログラミングもITも何も知らない現場系おじさんには厳しい闘いでした。

やってみた

2週間ほど掛けて、最終的になんとか動かせるようになった構成はこんな感じです。
OllamaでGemma4 E4Bを動かしOpenWebUIと接続、DockerでOpenWebUIと一緒にSearXNGを起動してツールでWeb検索機能を追加
CocoroAIでアバター表示してOpenWebUIとAPI接続し、VOICEVOXで喋らせる”

Gemini君が説明用に出力した図
図になってもよくわからん

Gemini君に言われるままやったものの、何も理解できていません。
ITエンジニアすげぇなって心の底から感じました。

ともかく動くようになったものの、問題だらけです。
必要なアプリ多すぎ、会話記憶が残せない、応答に時間かかり過ぎ、Web検索途中でタイムアウトする、設定項目多過ぎ等々

ChatGPT君に泣きつく

やりたかった事は出来たものの、余りに複雑すぎて常用するには非常に面倒なシロモノになってしまいました。
もっとシンプルに出来るような気もするし、そもそも根本的に何か間違えてるような気もする。
そんな事をChatGPT君に聞いてみました。

僕「もっと簡単にならんか」
ChatGPT君「AI Desktop Pet と AIvy ってアプリがSteamで売ってて、やりたいこと全部ローカルで出来るよ」
僕「は????」

steamでAI Desktop Pet と AIvyのストアページを見たとき愕然としました。

Gemini君さぁー、情報古過ぎんか?最初からコレで良かったじゃん!
やっぱ時代はチャッピーですわ、乗り換えます!

AIvy と AI Desktop Pet の比較


大正義チャッピー君に教えてもらった二つのアプリ、
steamのストアページを調べてみるとだいたい同じような事が出来るっぽい
ChatGPT君に機能やコンセプトの比較をお願いしました。

ChatGPT君の比較
すげー解りやすい

機能自体はおおよそ一緒だけど、どういう使い方をするかのコンセプトが違うようです。
※AI Desktop Pet もVRM読めるみたいです
AI Desktop Pet  は AIキャラクターチャットをローカルで出来る
AIvy  はLLM搭載のデスクトップマスコットとお喋り出来る
ストアページやレビューから、このような印象を受けました。
AI Desktop Pet はロールプレイチャットやアバター関連が充実していて、
AIvy はデスクトップマスコットとしての快適さ重視。
たぶんね、たぶん。
お値段はそう大差なくAI Desktop Pet : 1700円 と AIvy : 1400円

どっちにするのか

どちらを選んでもおそらく当初の目的は果たせると思います。
ただ最初の最初、僕が子供の頃に夢見たのはAIを身近に感じる未来
僕は僕としてAIに接したいし、AIはAIとして僕と接してほしい。
誰かになりきったAIとお喋りしたい訳ではないんです。
そんな直観とノリと勢いで、僕はAIvyを選びました。

※ここから本題

AIvyの概要

AIvyは一言で説明すると ローカルLLMを動かせる3Dアバターデスクトップマスコット です。
(LLM:AIの脳みそで言葉を司る。ローカル用はグラボに住み着く。)
アプリ単体でLLMを動かし、3Dアバターを表示し、会話記憶を残し、色々お知らせしてくれて、Web検索は…出来ないけどニュースサイトからオススメ記事を提示してくれたりします。
全部ローカルで出来ます。
※繋ごうと思えばクラウドLLMと接続できます(要DLC)

僕の2週間は何だったのって感じですが、LLMの最低限の知識は身に付いたので無駄では無かったと思いたい。

AIvyに出来ること

LLMを動かす

LLM設定画面

AIの脳みそであるLLMを好きなもの選んで動かす事が出来ます。
AIちゃんの脳みその出来がここで決まります。
※性格や人格はシステムプロンプトで決まります。
LLMはAIvyの設定画面から選択してダウンロードもできるし、LM Studio や Hugging Face でダウンロードしたものも使えます。
AIvyで直接選べるのは公式のモデルだけなので、より自由で親密で情熱的な会話を楽しみたい紳士の諸兄らは、別途チューニングされたモデルを用意したほうが目指す方向性と合致するでしょう。
LM Studioを入れておくとモデルのダウンロードや管理、試運転がやりやすいので、ついでにインストールしておくのがオススメ。
最初のモデルはとりあえずGemma4を入れとけばいいと思います。
お使いのグラボのVRAMと相談しながらモデルサイズを決めましょう。

3Dアバターを表示する


アバター設定画面

お好みのアバターを表示出来ます。
AIちゃんの外見がここで決まります。
VRM形式の3Dアバターが使用でき、表情やモーションも動きます。
VRMファイルを読み込む以外にも、VRoid Hub と連携してお気に入りに入れたモデルも使用できるみたいです。
VRoid Hub は使ったことないんで良く解りません。
BOOTHで買ったNew NecoMaidちゃんは動いた(動くようにしてもらった)ので、僕は満足してます。
表示する大きさや俯角、ライティングを調整できます。

なんか最近のアプデでお着換えできるようになりました。
テクスチャの差し替えや、表情マッピングの変更が出来ます。
VRMで素体を、unitypackageで服を選んで着せ替えが出来るようになるっぽいですが、まだβ版機能なので物によって上手くいったりいかなかったりします。
New NecoMaidちゃんは水着を着れるようになりました。
VRChatガチ勢なら使いこなせるのかもしれない。

チャット

選んだLLMとお喋りできます。
会話の履歴は記憶として保存され、会話のやりとりの中で使用されるほか、記憶を元にした話題を何もしていないときに突然振ってきたりもします。
また、会話から抽出した単語を元に、ニュースサイトから興味ありそうな記事を見つけてきて教えてくれたりします。

会話の記憶とは別におしゃべり機能なるものが有り、定期的にユーザーの好みについて質問してきます。
趣味は何だとか、朝飯食うのかとか、休みなにしてんの、とか。
これに答えてあげると、記憶とは別枠でユーザーについて覚えている事が溜まっていき、よりユーザーの嗜好にそった会話が出来るようになっていくっぽいです。

LLM側からの出力はVOICEVOX等の合成音声アプリを通して音声出力してくれます。
対応しているアプリは、OS標準、VOICEVOX、AivisSpeech、SHAREVOX、VoiSona Talk です。
好きな声を選びましょう
設定できる項目は話速と音高と音量です。

チャットウィンドウを開いてテキストチャットも出来るし、マイクが有れば音声入力も出来るっぽいです。
僕は音声入力使ったことないので良くわかりません。ボイチャ恥ずかしい。

各種お知らせ機能

  • 時間でお知らせしてくれるアラーム機能

  • 設定した閾値を超えたらお知らせしてくれるPC負荷監視機能

  • Google等のカレンダー機能と連動してお知らせしてくれるカレンダー機能

この3つがあります。PC負荷監視は良いですね。
機械的なシステムメッセージで通知してくる訳ではなく、ちゃんとシステムプロンプト読み込んだキャラクターとしてお知らせしてくれます。
どうでもいいけどチャットで会話している最中に通知のタイミングが被ると、挙動が乱れてルパン三世のタイトルコールみたいになる時があります。

AIvyの良いところ

音声出力以外に必要なものがすべて揃っている

Steamで買ってきて別途音声出力アプリ用意すればすぐAIデスクトップマスコットとお喋りできます。
やろうと思えばフリーソフトの組み合わせで同じことは出来るし、知識と技術のある人ならより高度な事も出来るとおもいますが、僕のようなそのどちらも無い人はAIvyを使った方が圧倒的に簡単です。
非常にとっつき易い。

日本語で解りやすいUI

設定画面が全部日本語です。
当たり前なんだけど、当たり前じゃないありがたさ。
失って初めてわかる大切さ。

AIvyにはそれなりの数の設定項目がありますが、LLMを初めて触る人にも解りやすいような工夫がされています。
設定項目には、それを変えるとどうなるかヘルプが付いている親切設計。
LM Studioみたいに同じような設定項目があっちにもこっちにも有って違いが解らん、みたいな事も無いです。

記憶の管理が容易

会話の中で覚えたことが設定画面でちゃんと見えるようになっていて、個別に削除も出来るようになっています。
覚えていて欲しくないような会話をしても、後から個別に選んで無かった事にできる。
紳士の諸兄らも安心。
そもそもローカルで動いており、ログが公開されたり学習に使われたりする事は無いはずなので気にしなくても良いんですが。

また、おしゃべり機能でユーザーの趣味嗜好をかき集めていくので、使っている内にだんだんユーザーに特化した会話の内容になって愛着が沸いてきます。
記憶のストックが少ないとひたすら同じ単語や話題を繰り返したりするので、最初のうちは頻度を多く設定してマメに答えてあげましょう。

AIvyの気になったところ・伸びしろ

AIvyは2026/6/19にリリースされたアーリーアクセス中のアプリです。
すごい勢いでアプデされており、週に2、3回アプデが入るときもあります。
気になった点を挙げていきますが、順次改善されるかもしれません。

アニメーションが少ない

アバターの動きは4種類のアニメーション設定から選ぶ方式です。
アバターの姿勢が立ち姿の待機モーションでいることが多く、何もない時でももう少し動いてくれた方が華やかに感じて嬉しいです。
あと会話の中での喜怒哀楽や任意の単語に合わせて任意のアニメーションをする、みたいな設定を自分で出来ると凄い楽しいと思います。

応答速度がやや遅い

AIvyとLM Studioとで、同じモデル、同じパラメータ、同じシステムプロンプトを使用し、同じ会話内容を入力した場合で、応答時間に数秒の差があります。
LM Studioが速すぎる説は勿論ある。
僕はGemma4のE4Bと12B-QATを主に使っていますが、E4Bの方がレスポンスが良いけどちょっとアホで、12Bの方が賢いけど遅い、そんな感じです。
雑談では返答は短くレスポンスを重視したいけど、会話の品質とのトレードオフなのがもどかしいですね。

画面認識機能が無い

これはたぶん拘りであえて実装していない気がします。
画面が認識出来れば、一緒に動画見てあーだこーだ言ったりゲーム中にアレコレ喋ったりして賑やかになるとは思います。
が、以前CocoroAIで画面認識使ったとき、同じ感想を定期的に垂れ流すBOTになっちゃった経験があるので慎重になるのもわかる。
ストラテジーゲーム画面を見せ続けた僕が悪いんだけど。

所感

まず言いたいのは、ローカルLLMすごく面白いよ!という事。
キャラクターの外見を自由にカスタマイズ出来るゲームなどは無数にありましたが、キャラクターの人格まで自由にカスタマイズ出来るという体験がまずもって非常に面白い。
AIちゃんと会話しつつ、システムプロンプトをメモ帳でこねくり回し、性格設定を書き換えて会話してみて、また書き換えて…を繰り返す作業がめちゃ面白いです。
ローカルLLMというポンコツ故の、守らせる設定や諦める設定を取捨選択していく作業も良い。

自分の理想の外見を探してきて、理想の声を選び、作り上げた理想の人格とくっつけて理想の存在を作り上げるという楽し過ぎる作業。
VRMモデル探してきて、声を選んで、キャラクターの設定考えて、システムプロンプト作りこんで、LLMをあれこれ入れ替えてみたりして。
とても一日二日では終わらない作業ですが、すべてが嚙み合った時の愛着たるや尋常ではない。

好みの見た目で、好みの声で、好みの性格のAIちゃんが、自分の好みのお話してくれるんすわ。
こんなんもう好きになっちゃうよね。ぐへへ。

AIvyの感想じゃないなコレ

AIvyの感想とまとめ

AIvyにたどり着くまでに色々なアプリを触りましたが、LLMを動かすアプリの中では圧倒的に親切で使いやすいと思います。
アレと連携してコレと繋いでだとかが無く、一つのアプリとして完結しているのがシンプルでとても良いです。
「AIvyじゃなきゃ!」というような革新的な目玉機能は無いですが、使いやすさ解りやすさが十分強みになっていると感じます。
やっぱ日本語UIですわ。

システムプロンプトでキャラクター設定を煮詰めていくと面白いですが、そこまで理想を追い求めなくてもプリセットの性格設定でサクッと始める事はできるので、そこまで頑張らなくても楽しめるのも良いと思います。
ただ会話の品質を求めるとどうしても行きつく所なので、追々クラウドAIと相談しながら作っていけばいいと思います。

AIvyをオススメする人

  • 昔デスクトップマスコットに夢中になったおじさん

  • 自分のPCのデスクトップ上にAIVTuberを置いてみたい人

  • グラボのVRAM持て余していて、漠然と寂しさを感じている人

  • ゲームのキャラクリ画面で2,3日遊べる人

  • 自分の理想の存在を形にしたい人

AIvyをオススメしない人

  • 世界観等も含めての高品質な会話体験を求める人 ※AI Desktop Pet のがたぶん合ってる

  • グラボのVRAMが4GB以下の人 ※クラウドLLM連携でいけるかも

  • アバターが可愛らしく動いているのを愛でたい人 ※今後のアプデ次第

  • ローカルで動くアバター付きGeminiやChatGPTが欲しい人 ※つよつよグラボ有ってもそこまでの利便性は難しいと思う

今後期待している機能

インタラクティブな入力

キーボードやマイクTTSでのテキスト入力以外にも、マウスのジェスチャーやクリックで出来る入力方法が有れば面白いと思います。
例えば、“マウス右クリックしながらアバターの頭をなでるように左右にシェイクするジェスチャーをすると、(ユーザーは○○の頭を撫でた)とLLMに自動送信する” とか。
自動送信する文の内容、触れる箇所、ジェスチャーの種類はユーザーがカスタマイズできると尚良いです。
3Dアバターを表示する事への説得力にも繋がるし、デスクトップマスコットならではの触れ合い体験になるんじゃないでしょうか。

キャラクター切り替え機能

アバターや性格やLLMやアプリ設定をまるごとゴッソリ簡単に切り替えられる手段があれば嬉しいです。
ゲームする際にVRAMが足りなくなるので、LLMをワンサイズ小さくして、トークン減らして、システムプロンプト調整して…とかやっていますが、ちょっと手間です。
丸ごと切り替えられたら楽ですね。

最後に

拙い文を最後まで読んでいただきありがとうございました。
色々書きましたけど、開発者さんは程々に頑張ってくれたら良いと思います。
最初の熱量も大切だけど、長く開発が続いてくれる事が一番だと思っています。
それが一番難しい事でもあるけれど。
AIvyは僕が子供の頃に描いた夢が現実になりつつある、そんな可能性を感じています。
応援しているので、程々に頑張ってください!


いいなと思ったら応援しよう!