最近のAI分野の技術者の理屈の説明と現実の乖離が拡大していると思う話

はじめに

世の中の科学技術の理論・理屈を雑に２つに分けると、

• ①現象論

  • 根本的な理由は不明であっても、観測される現象の関係性を定式化したり記述したりするもの

• ②本質論・第一原理論

  • （主に）微視的な基本原理から現象を記述するもの。

に分けられます。（※ アプローチの違いであり、どちらが優れているかという話ではありません。本質論が「本質」でない事もあります）

典型例として、流体力学は現象論です。完全に解明されていれば、第一原理から最も適した航空機の形状が一意に決まるはずですが、実際は実験しないと善し悪しがわかりません。

そして、AI技術も①の現象論です。基本原理（ニューラルネットワーク）と性能や現象の整合性はまだ取れていません。原理や理由は未解明でも、上手くいくので使っているという性質が強いものです。

つまり、AI数理モデルを含む設計者が考えた事は、実験しないと想定通りに動作するかわからないという事です。

一方で、従来の一般的なソフトウェア工学は（アルゴリズムという）第一原理論に基づいたものです。実行して想定通りに動作しないのは、「バグ（理由や原因）」があるからです。非常に明確です。

その第一原理に馴染み深いソフトウェア技術者が、現象論が本質であるAIの仕組みやシステムを作っているので、混乱が起きているのだと思います。

Hereticの制作者が「Heretic」モデルのテキストエンコーダは意味がないと主張する

言ってる理屈は理解できますし、「アーティファクトが増える」「追従性が悪くなる」などは共感できます。しかし、それ以外の事実（観測できる現象）は異なっています。実際にhereticモデルを使ってみれば明らかだと思いますが、意味があります（解除します）。特にnsfw関係は ※ おそらく解除の定義と想定した影響が異なるからだと思います

流体力学を利用して航空機の形状を設計しても、それが意図したように動作するかどうかは空洞実験を行わないと正しいかどうかわかりません。同じ状況がAIソフトウェアで起きています。

他にも、Qwen-Image-Edit等の参照画像を利用する時に、プロンプトに「Image」を使うか「Picture」を使うか悩みますが、多くの実装ソースで「Picture」が記述されています。しかし、現実はどちらを使っても生成品質に有意な差が出ません。

計算精度で劣るはずの粗い高量子化モデルの方が良い性能・結果を出す事も珍しくありません。

この手の矛盾は、（第一原理・アルゴリズムの決定論に支配される）ソフトウェア業界においてあまり起こらなかった事ではないでしょうか？明確と考えられる原因や理由があり、技術的に正しいはずの事が正しくない（正しいとは限らない）のですから。

もちろん、製造業等の現実世界の開発現場で現象論に慣れた人であれば、机上の空論と現実が異なる事は当然だと思うかもしれません。

しかし、ソフトウェアが意図したように動作しないのは「現象論」だからだと主張すると違和感を感じるのではないでしょうか？普通は「素直にバグを直せ」と言いたくなると思います。

まとめ

最近はループエンジニアリングという言葉が流行りですが、現象論という考え方をすると、新しい考え方や手法ではなくなると思います。

決定論・アルゴリズムという第一原理で開発してきた人々が、AIによって現象論的（根本原因や理由よりも結果に重きをおく）なマクロ・アプローチに変わってきているのではないでしょうか。その一つがループエンジニアリングであり、その事が混乱を引き起こしているのかもしれません。

しかし現象論は『聖典』を失う事を意味します。机上設計の理論的に完璧な流体形状ではなくとも、明らかに邪魔にみえる突起をつけたものの方が良い実験結果を出す場合は、聖典に反して突起を採用する必要があります。

これは単にバイブコーダーの是否というだけの話ではなく、バグだらけで部分的に明らかな間違いのあるコードであっても、マクロな視点で相対的に良い結果を出すのであれば採用しなければならないというパラダイムシフトでもあると思います。

人間の複雑な免疫システムも、バグがあるからこそ機能し、個は苦しんでも種として有利になるという仕組みは少なくありません。