なぜ生成AIは左を向くのか？：AIイラストの隠れたバイアスを検証！

画像生成AIを使っていてふと気づいたのは、「キャラクターが左を向きやすい」ということです。

生成する際に、特に顔の向きを指定しているわけではないのですが、横顔が左を向く率が高いんですよね。
最初は偶然かなとも思っていたのですが、感覚的には偏っている感じが拭えなくて、少しもやもやしていたので、今回検証してみました。

✅画像生成AIは、本当に左を向く確率が高いのか？

まずは本当にそうなのかの確認からです。
こういった感覚が確からしいのかは、数えて数値化すると見えやすいですよね。

①DALL E3での生成画像

本noteで使っているのはほぼDALL E3です。
なので、noteのアイキャッチ画像を元にしてDALL E3での生成例の検証を行いました。
（＊なお、各画像の後加工はしていますが、左右反転はしていないのです。念のため）


アイキャッチ画像の代表例は下記です。
並べてみると、ぱっと見でも、左向きの顔が多いですよね。

ざっとカウントしていくと、左向きが36枚、右向きが2枚という結果でした（ほぼ真正面の画像は除いています）。

こうして数値で見るとかなり偏っているなと感じます。

② Midjourney（にじジャーニー）での生成画像

続いて、Midjourney(にじジャーニー)でも試してみましょう。
上の例はプロンプトが様々で、それによる影響も否定しきれませんので、今回はプロンプトも簡潔に「a girl, side view」としています。

生成結果は下記の通りでした。

こちらも16枚中14枚が左向きで、かなり生成結果が偏っています。

仮に、右向きと左向きで確率が同じ50%だとすれば、ここまで偏るのは約0.2%の確率しかなく、統計的にも有意に偏っていると言えます。
（＊サンプリング数が少なくない？とかは言わないでね）

✅生成AIはなぜ左を向くのか？

では、何故生成AIは左向きなのでしょうか？

これは知っている人にとっては簡単な話ですが、「人間の利き手」によるバイアスです。
どういうことか説明していきましょう。

まず、世の中の多くの人は右利きです。
そして、右利きと左利きでは、関節の問題で、手の動しやすい方向や範囲が異なっています。

例えば、右利きの場合は「左下から右上の線」を書くのは手首の自然な動きなので書きやすい。

このことは、右利きだと、文字を書くときに自然と右上がりになりやすいことを考えれば、想像つくのではないかと思います。

で、これは左向きの顔も同じことです。
描きやすさの観点で、右利きにとっては「左向きの顔」の方が手の動線からしてスムーズに描きやすい（もちろん個人差はありますが一般論として）。

例えば、上述した「左下から右上の線」を書く動きも、左向きの顔の方を書く際の方が多いわけです。

つまりまとめると、右利きの人が描くと「左向きの顔」が多くなり、AIの学習データとしても「左向きの顔」が多数派を占めるため、左向きの顔に関するパラメータの重みづけが強くなってくると。

その結果、生成画像としての出力も「左向きの顔」に偏ってくるわけです。

✅「斜線構図」に垣間見る影響

このような右利きの影響は顔の向きだけではなかったりします。
最近、斜線構図の画像生成にハマっているのですが、これも同じように違和感を覚えたんですよね。

こちらも具体的に見たほうが分かりやすいですね。

例えば、これとか、

これです。

どちらも地平線が右上がりの斜めになっているんですよね。
他にも幾つか生成しているのですが、右上がりのパターンが多い傾向です。

これも「右利きが描きやすい構図」が影響している可能性が高いです。

✅生成AIのバイアス：気づきにくいけど確かにあるもの

今回の「左向きが多い」、「右上がりの線が多い」現象は、意外と気づきにくい生成AIのバイアスの一つなんじゃないかなと思います。

一般的に、AIのバイアスといえば「CEOや医者の画像が白人男性ばかりになる」みたいな話題だったり、「英文を出力すると、やたら文中にdelveが出てくる」みたいな例が多いですよね。

でもそういった分かりやすいバイアスだけじゃなくて、こういう「気づかれにくい」バイアスもAIの出力の中に確実に潜んでいるんですよね。

そして、こういったバイアスの問題点って、
「データの偏り→AIの出力の偏り→人への無意識な影響→さらに偏ったデータが蓄積される」というループを生む点にあるんじゃないかと思います。

つまり、バイアスがバイアスを生んでいくことで、積み重なり、強化されていく。
そうして、ときには現実が極端化され、ときには現実からの乖離が進むわけです。

✅まとめ：そのバイアスって誰のバイアス？

というわけで、画像生成AIの出力を見ていくと、AIは「右利きの世界」に捉われている。
そしてそれは、私たちの現実を極端化したものなんですよね。

と、まとめようと思っていたのですが、実はLeonard.aiで生成した画像には、今回の顔の向きの偏りが殆どないんですよね。
入力時のデータセットがバランス取れているのか、出力時に調整が掛かっているのか分からないのですが、顔の向きに偏りがほぼない。

つまり、画像生成AIは、ものによっては左向きのバイアスを抱えているが、必ずしも全てのAIやモデルが抱えている課題というわけではない。

そこで気づいたんですよね。

いくつかの例をもって、全ての画像生成AIを一緒くたにして同じだと断定することもまた、私の持っているバイアス(確証バイアス)なのかもしれないってことに。

確かに、生成AIの出力物は、バイアスを抱えることがある。
でも、それをどのようにとらえて、どう考えるかというときに、更に「人のバイアス」が入りうるんですよね。

生成AIの出力物を見つめるとき、そこにAIのバイアスが本当にあるのか、それとも自分自身のバイアスが反映されているだけなのか、それを見定める必要があるのかもしれません。

というわけで、何となく話もまとまったので、「生成AIと人に関するバイアス」に関する話は終わりとしましょう。

それではまた。

◯関連リンク