言語AIの進化史③エキスパートシステム

前回は、初期のチャットボットであるイライザ（ELIZA）に注目しました。

イライザによる理解は、ユーザーが入力した文字列からのパターンの認識によるものでした。また、イライザによる応答は、パターンに対応するテンプレートにユーザーからの入力を当てはめるというルールベースの手法によるものでした。

その仕組みは単純でも、上手に設定されたスクリプト（パターンとテンプレート）によって、人々を魅了する力がありました。特に、心理療法士のように振る舞う「DOCTOR」スクリプトが有名で、ユーザーの入力を質問形式で返すことで、会話を続けることができました。

しかし、対話の表面的な流れを維持するだけで、人々に知性を感じさせることができたという意味では、真の知性は会話だけでは測る事はできないことを示唆しています。イライザが人工無能と呼ばれるのは、実際には言葉の意味を理解しているわけではないからです。

これは、会話から知性を判断するチューリング・テストが、機械の知性を評価する一つの方法に過ぎず、真の知性を完全に評価するには不十分であるということを示しています。なぜなら、人々は対話の内容よりも、その表面的な自然さや流れに影響を受けやすいからです。

むしろ、人々が会話に求めているのは知性ではなく、共感や理解なのかもしれません。それが大きな割合を占めていることはおそらく確かでしょう。

だとしたら、知性はどこから来るのでしょうか。

我々が知性の要素として思い浮かべるものの一つに、「知識」があります。専門家は多くの知識を有し、そして駆使します。専門知識を蓄積して利用し、専門家（エキスパート）のように振る舞えたならより知性に近付くのではないでしょうか。

このアイデアを土台に、1960年代頃から登場し始めたシステムは、今日では「エキスパートシステム」と呼ばれるものの先駆けです。

科学者 DENDRAL

DENDRALは、1960年代にスタンフォード大学で開発された世界初のエキスパートシステムです。

DENDRALの目的は、科学者が発見していない有機化合物を特定することです。そのために化学の専門家が提供する知識を蓄積し、化学の専門家の経験による判断を自動化しました。

このような経験則（経験によるルール）をヒューリスティックと呼びます。必ずしも最適解を提供するわけではないですが、不適切な候補を削減し、候補を絞るのに役立ちます。

このシステムによる手法を樹枝状アルゴリズム（Dendritic Algorithm）と呼びます。DENDRALという名前もここから来ています。

DENDRALを開発したエドワード・ファイゲンバウムは、「エキスパートシステム」の父と呼ばれ、1994年にチューリング賞を受賞しています。

ちなみに、DENDRALは、LISP言語で開発されました。LISPは、1958年にMIT（マサチューセッツ工科大学）のジョン・マッカーシーが人工知能（AI）の研究のために考案しました。LISPはリスト構造を基本とし、データ構造やアルゴリズムを表現するのに適しています。

人工知能研究者にはLISPのファンがいて、有名なのはYann LeCunです。

なお、ジョン・マッカーシーはダートマス会議で初めて「人工知能」（Artificial Intelligence）という言葉を使った科学者として有名です。

DENDRALによる知識の集積とルールによる判断の枠組みは有効なものとして、その後のエキスパートシステムにも影響を与えました。

医学者 Mycin

Mycinは、DENDRALから派生したエキスパートシステムです。1970年代に、スタンフォード大学で開発されました。これもLISP言語で書かれています。

Mycinは医者の役割を自動化したもので、感染症を診断します。患者は与えられて質問に対して単純な答え（はい・いいえ）で応答します。これによって、原因と考えられる細菌名のリストを確率の高い順に出力します。その際に、推論した理由や、病状にあった抗生物質を提案することができます。

なお、MYCINの名称は、抗生物質の多くが語尾に「-mycin」がつくためです。

スタンフォード医学部の調査によると、MYCINの診断結果の正しさは65%でした。細菌感染の専門医の診断結果（80%）よりも悪かったが、専門でない医師よりはよい結果でした。

それでも、現場で使われることはありませんでした。

コンピュータを医療に使って誤診をした場合に誰が責任を取るのかという問題があるためです。また、人間の医者からすると、たとえ診断精度が高くとも受け入れ難いものであったようです。

知識ベース構築の難しさ

DENDRALやMycinの経験から分かったのは、知識の蓄積の困難さでした。

まず、専門家の知識を正確に引き出して規則として整理することは多くの労力を必要とします。特に経験的な知識は、暗黙的なものが多く言語化するのが困難でした。そのため、専門家からの知識獲得のためのインタビューシステムも研究されました。

さらに、知識ベースを構築して得た何万もの知識に矛盾が生じないように人間の手で保守維持するのも困難でした。

そのため、労力をかけてせっかく集積した知識を無駄にしないように、正確に記述し記憶する必要がありました。つまり、言葉の意味を正確に表現し、さらに知識として体系化する仕組みが必要なことが明らかとなりました。

これによって、コンピュータで正確に効率良く共有したり再利用する方法が研究されるようになっていきます。（次回扱います）

AI効果

DENDRALやMycinは初期の「エキスパートシステム」で、蓄積された知識を利用することにフォーカスしました。専門家が持つ知性を機械で実現化する試みで、人間の経験則を自動化し応用するものでした。

これは、人工無能であるイライザが行なっていた全てをルールベースで捉える手法に記憶を追加したものと考えることもできるでしょう。そういった意味では、チューリングが考えていた言語の奥にある知性をシステム化する努力ではあります。

ただし厳密には、DENDRALやMycinは言語モデルとは言えません。また、蓄積した知識をルールへの入力データとして扱うだけなので、知識を理解しているとは言えません。ヒューリスティックに従って処理しているだけです。

もちろん、人間の脳だって情報を処理しているだけと言えますが、我々はその仕組みを真に理解していません。不思議なことに、人間が理解できることに対しては、人間は知性を感じないものです。

なお、人工知能がある程度のことを達成すると、それがもはや知能と感じられなくなる現象をAI効果と呼びます。これは、AIがあるタスクを上手にこなすようになると、人々がそのタスクをもはや知能の証拠と見なさなくなる現象です。例えば、画像分類を知性だと考える人はほとんどいないでしょう。

そういった意味では、今日の言語モデルも最初の衝撃は去り行き、すぐに知性なんかあるわけないと感じるようになってもおかしくはありません。

しかし、ChatGPTが登場して一年以上が過ぎましたが、今でも汎用人工知能（Artificial General Intelligence、AGI）や人工超知能（Artificial Super Intelligence、ASI）が盛んに議論されています。

むしろ、人によっては、人間の思考も経験から学んだことを蓄積して利用しているだけで本当の知性があるとしてもかなり限られていると考える人もいるようです。つまり、AI効果とは逆に、人間の知性の限定性が問われているわけです。

少なくとも、現代のチャットボットには、AI効果はまだ完全には効いてこないようです。もちろん、当初の驚きは減りましたが、人工知能は確実に本当の知性に近づいていると多くの人が受け止めているようです。

これは、言語モデルがまるで言葉の意味を理解しているように（なると）考えられているからかもしれません。もちろん、きちんと議論するには意味について定義する必要がありますが。

次回予告

今回は言語から離れて知識の利用による知性の開発に注目しました。

しかし、チューリングに立ち返って、人間の会話の奥には知性が宿っているとするならば、言語に立ち返る必要があります。そして、知識は言葉によって構成されているので、知識を理解するには言葉の意味を知ることは必要不可欠に思えます。

では、「意味」とは何なのでしょうか。

次回は、言葉の意味の定義に挑戦した歴史を覗いてみます。

お楽しみに！