見出し画像

MyGAL 3D Pose Editor|3D人物モデル(GLB)を人物画像で自動ポージングし手動で微調整するWebアプリ(プロトタイプ)

DAZ StudioやBlenderを使わず、AvaturnやMeshyなどの3D生成AIでリグ付きの3D人物モデルを、人物画像で自動ポージングし手動で関節の曲がりを微調整するWebアプリのプロトタイプを制作したので紹介します。

Avaturn GLBモデル > 人物画像で自動ポージング
手動で関節の回転を微調整

背景

MyGAL Player

MyGAL Player」Webアプリで、ローカルのブラウザーで、3DCG人物モデルと3DGS背景を、アニメーション付きのリアルタイムレンダリングでシーンをプレビューすることを実現しています。

  1. DAZ StudioでdForceアニメーション

  2. dForce Archmageでモーフ化

  3. DAZ to Blender BridgeでBlenderにエクスポート

  4. BlenderでShapeKeyアニメーション

  5. GLB用にマテリアルやテクスチャを調整

  6. GLBエクスポートしMyGAL Playerに読み込む

けっこう骨が折れる作業なので、気合が必要です。

さらに、DAZモデルのポーズを人物画像から生成したい・・・

人物画像からDAZモデルのポーズをAI生成

そこで、DAZ StudioやBlenderを使わずに、Webアプリで完結できないか?ということを考え始めました。

3D生成AIモデル

ポーズを変えるにはリグが必要なので、Mixamoなどを使わなくても自動でリギングができる3D生成AIモデルを選びます。

Meshy AI

サブスク版Meshy AIサービスはPro版が月額2,467円なので、最初にガンガン3Dモデルを造りたい時は良いのですが、一段落するとサブスクを解約して、Fal AIの従量課金制に移行しました。

Fal AI

従量課金制のFal AIからAPI経由でMeshy AIが使えます。設定により、メッシュ・テクスチャ・リグを同時に1枚の人物画像から生成できます。

Fal AIについては以下の記事などを参考にしてください。

最初に10ドル課金し、画像・動画・3D生成AIモデルを使うと減るので、5ドルを切ると自動的に10ドルがチャージされる仕組みです。普段はGeminiを使っているので、たまにFal AIを使うだけなら、かなりコスパが高いです。

Avaturn

上記のモデルは有料(100円)ですが、以下の本館サイトから無料でダウンロードできるAvaturnモデルを今回は使いました。

★ Avaturnで制作した3Dコンテンツの配布は、Avaturnの利用規約で禁止されているのでダウンロード提供は今後は行いません。

Ash-Avaturn-T-Pose.glb

★ GLBファイルをWebプレビューするには以下のサイトがオススメです。GLBファイルをシーン画面にドラッグ・アンド・ドロップします。

glTF Sample Viewer > Ash-Avaturn-T-Pose.glb

MyGAL 3D Pose Editor

ダウンロード

ZIPファイルをダウンロードし展開するとHTMLファイルがあるので、それを(最新のChrome)ブラウザーの新しいタブにドラッグ・アンド・ドロップします。

MyGAL 3D Pose Editor

使い方

GLBファイルを選択」をクリックし、GLBファイルを読み込みます。

★ リグが見つからない場合は警告メッセージを表示しますが、とりあえず読み込めます。ただし、ポーズの変更はできません。

GLBファイル(リグ付き)を読み込む

以下のような人物画像を用意しておきます。

Magnific AI(旧Freepik)でAI画像生成

★ 全身が映っている人物画像。3DCG的な画像より、実写に近い画像の方がポーズを読み取る確率が高いです。手や足(脚)の様子がよく見えるものが好ましい。

参考画像をアップロード」をクリックし人物画像を読み込みます。

参考画像を読み込む

AIでポーズを抽出して適用」をクリック。

AIでポーズを抽出して適用

手のひらが下を向いているので、手動で上を向かせます。

LeftForeArmを選択

手動ボーン操作(修正)」のメニューから「LeftForeArm」を選択します。

腕をねじる

ギズモが表示されるので、緑の円にマウスカーソルを移動すると黄色に変わるので、ドラッグして腕をねじります。(肘の形状が破綻しない程度)

手のひらを上に向ける

LeftHand」を選択し、手のひらを上に向けます。

★ 現段階では、プレビュー上の人物の関節をクリックしても操作できません。今後の課題とします。

右の手のひらも上に向ける

ポーズデータをエクスポート

ポーズデータ入出力」の「エクスポート」をクリックすると、ローカルフォルダーにJSON形式でテキストファイルとして保存できます。

インポート」をクリックすると、エクスポートしたJSONファイルを読み込んで、GLBモデルに適用できます。

★ まだ各種GLBモデルへの適用性は検証できていないので、参考画像も含め検証し課題を抽出して改善する予定です。

ポーズ付きGLBのエクスポート

現段階では、ポーズ付きGLBファイルのエクスポート機能は実装していません。今後の課題とします。

2026年5月21日 このWebアプリはGemini Advanced(Google One AI Proプラン)のProモードのCanvasで開発していましたが、突然Flash-Liteモードに切り替わり、実質的に開発できなくなりました。

サポートチャットで問い合わせると「24時間おきに使ってください」とのことで、なんだかなぁ・・・

Google One AI Proプランは解約しましたが、先月支払った年額29,000円は返金してもらえないので、非常に残念です。今後のWebアプリの開発はトーンダウンしそうですが・・・💦

まとめ

Webアプリのみで完結できる「MyGAL 3D Pose Editor」のプロトタイプを制作したので紹介しています。

今後は「MyGAL Player」との連携などのパイプラインを考えています。できれば、Fal AIの3D生成モデル(Meshy AIなど)をAPI経由で直接読み込む機能も搭載したいですが、まだ検証が足りないので今後の課題です。

とりあえず、ポーズエディターとパノラマ/3DGS(SPZ)背景シーンをプレビューできるWebアプリ「D'zGAL Studio」アルファ版を制作してみたので以下の記事で紹介しています。

参考リンク


いいなと思ったら応援しよう!