ポランニーを除外して考えるなら、情報理論や確率論の基礎付けはどうなりますか
ポランニーをいったん括弧に入れると、20世紀の主流では情報理論や確率論の基礎付けは大きく三つの方向に分かれます。
1. 頻度主義（フォン・ミーゼスなど）
最も素朴な立場です。
確率とは
長期的な頻度
である。
例えばサイコロを無限回投げれば、
1/6
に近づく。
という考え方です。
しかしすぐ問題が出ます。
無限回試行など実際にはできない
「ランダムな列」とは何か
が定義できない。
実はあなたが引用したポランニーの批判はかなりここに向いています。
2. 公理論（コルモゴロフ）
現在の数学の標準です。
Andrey Kolmogorov は
確率を
集合
測度
として定義した。
つまり
確率とは何か
を問わない。
代わりに
確率はこういう公理を満たすものとする
と言う。
例えば
P(A) ≥ 0
P(Ω)=1
などです。
数学としては非常に成功しました。
しかし哲学的には、
「それが現実のランダムさとどう関係するのか」
は説明していない。
3. ベイズ主義
こちらは
Thomas Bayes
の系統です。
確率とは
世界の性質
ではなく、
主体の信念の度合い
である。
例えば
明日雨が降る確率70%
とは、
世界に70%が存在するのではなく、
予測者の信念の強さです。
現代AIはこちらにかなり近い。
情報理論はどうか
シャノンはさらに大胆です。
Claude Shannon は
意味を捨てました。
彼の情報量は
H=−∑i pi log pi
です。
これは
メッセージの意味
ではなく、
予測困難性
を測る。
例えば
AAAAAAA
は情報量が少ない。
QX7P2L9
は情報量が多い。
しかし意味があるかどうかは問わない。
ここがポランニーとの最大の対立点です。
シャノン理論では
ランダム性
↓
情報量
です。
しかしポランニーは
秩序の認識
↓
ランダム性の認識
↓
確率論
だと言う。
順序が逆です。
現在のLLMはどうか
LLMは実質的に
コルモゴロフ的確率
ベイズ的推定
シャノン情報量
の巨大な融合です。
しかし、
「なぜその分布が意味を持つのか」
は説明しません。
説明しなくても動く。
そこが革命的でした。
あなたの問題意識から見ると
あなたがずっと追っている問題は、
実は
シャノン
フーコー
LLM
が共有している立場と、
ポランニー
吉本隆明
ド・ブロイ
が共有している立場の違いです。
前者は、
まず分布がある
と考える。
後者は、
まず秩序形成原理がある
と考える。
興味深いのは、LLMの成功によって前者が圧倒的に有利になったように見えることです。
しかしなお未解決なのは、
なぜ世界には学習可能な分布が存在するのか
という問題です。
もし世界が完全な白色雑音なら、
LLMも科学も成立しません。
つまりポランニーを除外しても最後には、
なぜランダムさの中に安定したパターンがあるのか
という問題が残る。
そしてその地点で再び、
ポランニーのいう「秩序形成原理」や、生命論的な問題系が顔を出してくるのです。
