言語AIの進化史⑤オントロジー
前回は、意味ネットワークを紹介しました。意味ネットワークは概念間の関係をシンプルな図（グラフ構造）で表現するものでした。意味ネットワークを利用することで簡単な自然言語理解や文章生成が実験されました。ただし、今日の言語モデルと比べるとかなり限定されたものではありました。
一方で、70年代に登場したエキスパート・システムであるMYCINは、細菌感染症の診断と治療の推奨を行うための推論の機能を持っていました。ただし、初期のエキスパート・システムは単純な推論やルールしか扱うことができなかったのも事実です。
問題は、大量の専門家の知識を矛盾なく蓄積し、推論などの処理を効率良く行うことが簡単ではなかったことです。意味ネットワークは概念間の関係をグラフ構造で表現できましたが、必要なのはさらに体系的に知識をまとめ複雑な行動選択や推論を実行できる仕組みでした。
そこで今回紹介するフレーム理論やオントロジーが登場します。
1974年にマービン・ミンスキーによって提唱されたフレーム理論は、特定の状況やコンテキストに関する知識を「フレーム」と呼ばれる構造体で表現し、それを基に予測や推論を行う方法です。
また、1993年にトム・グルーバーによって提唱されたオントロジーはより体系的に知識を整理するものです。専門的な知識や複雑な関係を整理するためのルールや制約が含まれ、記述のための専用言語も存在します。そのため、より高度な知識表現と推論が可能になります。
もともと、「オントロジー」（Ontology）という言葉は、哲学で使われていました。ギリシャ語のonto-「存在」と-logy「学問」が語源です。
ただし、ここでの「オントロジー」は情報を体系化する文脈で使われており、概念体系といった意味を持ちます。
フレーム理論やオントロジーはエキスパート・システムの発展に大いに貢献しました。
なお、オントロジーを提唱したトム・グルーバーは、2007年にSiri Incの共同創業者になり、デジタル・アシスタントのソフトウェアを開発しました。後の2010年にアップルがSiri Incを買収しiOSに組み込んだのは有名な話です。
フレーム問題（余談）
まず、当時の背景を説明するために1960年ごろに提唱されたフレーム問題を取り上げます。
このフレーム問題は、AIエージェント（ロボット）が行動の結果として何が変わり、何が変わらないかを効率的に推論する難しさを示しています。この時代の多くの研究者たちは、ロジックによって人工知能を実現しようとしていました。
そして、このアプローチは、言語を扱う際の態度にも影響を与えています。
今日の人工知能は、デープラーニングによるパラメータの最適化に多くを依存しています。両者のアプローチの違いが鮮明に浮かび上がります。
フレーム問題は、1969年にジョン・マッカーシーとパトリック・ヘイズによって提唱されました。フレーム問題が指摘しているのは、有限の情報処理能力しかないロボットには、現実に起こりうるすべての問題に対処することができないということです。
ジョン・マッカーシは「人工知能」（Artificial Intelligence）という言葉を初めてダートマス会議で使ったことで有名であり、第一次AIブームの主要な研究者の一人です。LISP言語の開発者でもあります。
例えば、ロボットが命令されたことを実行する際、ロボットのいる環境ではさまざまな出来事が起きる可能性があります。しかし、そのほとんどは無視する必要があります。さもなければ、あらゆることを考慮するのに無限の時間がかかってしまいます。よって、ロボットは環境で起こる多くの出来事の中から、実行に影響を与える重要な出来事だけを選別し、効率的に推論を行い、適切な行動を決定することが求められます。つまり、人工知能は枠（フレーム）を作って、その枠の中だけで思考しなくてはならないというのが、フレーム問題です。
有名な例として、哲学者ダニエル・デネットが示したものがあります。
洞窟の中にロボットのためのバッテリーがあり、ロボットは「洞窟からバッテリーを取り出してくること」を命令されます。しかし、そのバッテリーの上には時限爆弾が仕掛けられていました。ロボットが命令通りにバッテリーを持ち帰ったら、爆弾も一緒についてきます。爆弾に触ったら爆発するかもしれず、爆弾を素早く投げたら洞窟が崩れるかもしれません。いろいろと考えているうちに爆弾が爆発するかもしれないのです。
目的と無関係な事項をすべて考慮しようとするロボットは、無限に思考し続けて何もできなくなってしまいます。
しかし、考慮する範囲をどこまで広げるべきなのかを、あらゆる状況に照らし合わせることなく論理的に決めるのは難しいという問題が存在します。それでも人間は通常、無限に考え続けてフリーズすることはありません。人間がフレーム問題を解決しているかどうかは別として、少なくともそれなりに様々な状況に対して（どこかで見切りをつけ）柔軟に対応できているのは間違いありません。人工知能もどんな状況下にあってもフレーム問題に対応できるようになる必要があります。
なお、フレーム問題は、この後に紹介するフレーム理論と名前が似ていますが、直接の関係はありません。しかし、フレーム理論の提唱者であるマービン・ミンスキーはジョン・マッカーシらと同時代の研究者です。よってお互いになんらかの影響があったとしても不思議ではありません。
フレーム理論（本題）
アメリカの人工知能学者マービン・ミンスキーは、1974年にフレーム理論を提案しました。この理論では、状況や概念を「フレーム」と呼ばれる構造で表現します。
フレームとは、「特定のリビングルームにいる」とか「子供の誕生日パーティーに行く」など、定型的な状況を表すデータ構造です。各フレームには、いくつかの種類の情報が添付されています。
A frame is a data-structure for representing a stereotyped situation, like being in a certain kind of living room, or going to a child's birthday party. Attached to each frame are several kinds of information.
フレーム理論は、プログラムにおけるオブジェクト指向のクラスに似ています。各フレームには様々な属性（スロット）があり、具体的なフレームにはこれらの属性の値が設定されます。
ちなみに、オブジェクト指向言語（Object Oriented Programming、OOP）は、古くは1962年のSimulaや1972年のSmalltalkなどがあります。よってその歴史はフレーム理論よりも早く始まってます。
フレーム理論がOOPの影響を受けたという明確な証拠はありませんが、あったとしても不思議ではありません。
例えば、「車」という物体をフレームとして考えます。このフレームには、車に関する様々なスロットとその値が含まれます。
フレーム名：車
スロットとその値
メーカー：トヨタ
モデル：カローラ
年式：2024年
色：青
などなど
また、「レストランに行く」というイベントを表現するフレームも考えられます。
フレーム名：レストランに行く
スロットとその値
場所：レストランの所在地
時間：19:00
メニュー：提供される料理の一覧
同行者：家族
目的：誕生パーティ
などなど
さらにフレームでは、次に何が起こるかの期待や、期待が外れた場合の対応方法などを含めることができます。つまり、ある典型的な状況下では、どのようなことが起こりえるのかなどが予測・推論できるわけです。各スロットには特定の状況に対する期待値がデフォルト値として含まれます。
例えば、「洞窟からバッテリーを取り出す」というフレームを考えてみましょう。このフレームには以下のようなスロットとデフォルト値が含まれます。
フレーム名：洞窟からバッテリーを取り出す
スロットとその値
場所: 洞窟
目的: バッテリーを取り出す
道具: ランプ、袋
時間: 昼間
同行者: なし
期待されること：洞窟に入ってバッテリーを見つけ、取り出す
期待外れの場合：爆弾などの危険物が発見される
対処方法：危険物の処理班に連絡する。
このように、フレームには予期しない事態に対する対応方法も含めることができます。これにより、フレーム理論は単なる知識の整理だけでなく、動的な状況への適応を可能にします。
つまりミンスキーは、フレームというデータ構造を使って、人間の知識や思考のプロセスを説明しようとしています。
ちなみに、マービン・ミンスキーもダートマス会議の参加者の一人でした。彼は元々ニューラルネットワークの研究者としてキャリアをスタートしました。
1951年にミンスキーはエドモンド・バークスとともに、初期のニューラルネットワークモデルの一つであるSNARC（Stochastic Neural Analog Reinforcement Computer）を開発しました。SNARCは、ニューラルネットワークを模倣する初期のアナログコンピュータの一つであり、ある種の強化学習を利用してパターンを学習するものでした。
しかしその後、ミンスキーはニューラルネットワークに批判的になります。
1969年にミンスキーとシーモア・パパートは著作『パーセプトロン』（Perceptrons）の中で、フランク・ローゼンブラットが考案したニューラルネットワークモデルであるパーセプトロンの限界を指摘しました。それはパーセプトロンが線形分離できる問題しか解決できないということです。この批判が引き金となり、当時のニューラルネットワーク研究は一時的に停滞し、いわゆる「AIの冬」と呼ばれる時代が到来したとも言われています。
このミンスキーの態度の変化は、今日の我々から見ると大失敗に映ります。しかし、ロジカルに人工知能を捉える流れがあった当時のことを考えると、むしろ当然な行動だったのかもしれません。
その後、ミンスキーは知識表現や推論に関する研究に焦点を移し、フレーム理論を提案しました。ミンスキーのフレーム理論を基に、フレームを扱うためのシステムや言語が開発されました。
ミンスキーのフレーム理論をもとに、フレームを扱うためのシステムや言語が開発されました。
例えば、KRL (Knowledge Representation Language)は、1970年代後半にダニエル・ボブロウ（Daniel G. Bobrow）とテリー・ウィノグラード（Terry Winograd）によって開発された知識表現言語です。フレーム理論の概念を取り入れ、知識をフレームとスロットで構造化して表現します。KRLは、フレームの継承やデフォルト値の使用などの機能を提供します。
他の例として、FRL (Frame Representation Language)があります。1970年代に開発されたフレームベースの知識表現言語です。LISPで書かれています。エキスパートシステムや知識ベースシステムの構築に使用されました。
また、KL-ONEは、1970年代末から1980年代初頭にかけて開発された知識表現言語で、意味ネットワークやフレーム理論を基に、概念間の階層的な関係を表現することを重視しています。これによって知識のモジュール化と再利用が容易になっています。
以上より、フレーム理論に基づく知識表現システムの特徴である、階層的な知識表現、フレームとスロットの利用、推論エンジンの統合などは、後続のシステムに大きな影響を与えました。
オントロジーの台頭
1960年代頃からの単純な言語モデル（イライザ）から、初期のエキスパート・システム、意味ネットワーク、フレーム理論などの発展が続き、理論的なアプローチによる知識の表現と推論ルールの研究は脈々と続きました。
特に1970年代後半から1980年代にかけて、エキスパートシステムが大きく注目されました。すでに紹介したDENDRALやMycinなどのシステムは、特定の分野における専門家の知識を基に、問題解決や意思決定を支援するものでした。初期のエキスパートシステムの成功は、知識表現と推論の重要性を強調し、フレーム理論のような手法の重要性が注目されました。
1990年代初頭には、知識の共有と再利用の重要性が広く認識されるようになりました。そして、1993年にトム・グルーバーがオントロジーを提唱しました。
オントロジーとは、プログラムの仕様のようなもので、概念や関係が明確に定義されており、その意味や使い方が一貫しています。よって、定義された概念や関係が、標準的な方法で共有され理解されるようになっています。
オントロジーとは、エージェントや複数のエージェントにとって有効な概念や関係を記述したものです（プログラムの正式な仕様のようなもの）。この定義は、概念の定義の集合としてのオントロジーという使い方と一致していますが、より一般的です。そして、これは哲学での使用とは異なる意味を持ちます。
An ontology is a description (like a formal specification of a program) of the concepts and relationships that can formally exist for an agent or a community of agents. This definition is consistent with the usage of ontology as set of concept definitions, but more general. And it is a different sense of the word than its use in philosophy.
この定義に基づき、オントロジーは知識を体系的に整理し、異なるシステム間で共有・再利用を可能にするための枠組みとして利用されます。これにより、情報の一貫性と相互運用性を確保することができました。
グルーバーはインターネット上での知識共有と再利用を目的とした標準化プロジェクトに関わりました。彼が開発したオントロジーの具体的な例としては、メタデータを記述するためのRDF（Resource Description Framework、資源記述の枠組み）や、インターネットでデータ交換をするためのOWL（Web Ontology Language、ウェブオントロジー言語）があります。
また、オントロジは目的や用途に応じて作られることが多く、たくさんの異なるオントロジーが登場しました。
Cycプロジェクト
Cycは、一般常識を体系化し人間と同等の推論能力を構築することを目的としたプロジェクトです。その名前は百科事典（encyclopedia）から来ています。1984年にダグラス・レナートによって開始されました。
ダグラス・レナートは2023年に亡くなりましたが、2021年にLex Fridmanによるインタビューが行われ、その画像が残っています。
そして、Cycは、現在もなおCycorpという社名のもとに存続しています。そのウェッブ・ページには次のように書かれています。
ダグ・レナットは、「脆弱なエキスパート・システム」や「ビッグ データで訓練され相関関係を見つけるだけの機械学習 AI」だけでは不十分であることを理解していました。80 年代半ばに議会の法律の助けを借りて、彼はマンハッタン計画のような取り組みとして Cycorp を立ち上げ、一連のステップに従って論理的な推論を行うシステムを構築しました。
Doug Lenat understood that brittle expert systems and machine learning AI trained on big data to spot correlations were not enough. With the help of an Act of Congress in the mid-eighties, he launched Cycorp as a Manhattan Project-like effort to build a step-by-step logical reasoning system.
Cycは、日常の知識から専門的な知識まで、非常に広範な知識をカバーしています。これには、一般常識、科学的知識、社会的ルールなどが含まれます。また、知識ベースに基づいて論理的に推論を行うエンジンを備えています。これにより、入力された情報に対して適切な結論を導き出すことができます。
継続して新しい知識を追加し、既存の知識を更新できるので、時間とともにますます強力な推論能力を獲得することができます。実際に、数十年にわたって膨大な知識を収集し続けています。
よって、Cycは非常に広範で詳細な知識を利用して高度な推論を行うことができます。この規模と複雑さから、Cycは「重量級オントロジー」とも呼ばれます。
重量級がある一方で、特定の用途に特化した「軽量級オントロジー」も多く登場しました。特定の目的に応じた必要最小限の概念と関係を定義します。
セマンティックWeb
セマンティックWebは、ウェッブ・ページの意味を扱うことを目的としてティム・バーナーズ＝リーによって提唱されました。
ティム・バーナーズ＝リーは、World Wide Web（WWW）を考案したことで有名です。ハイパーテキストシステムを実装・開発したました。また、彼はURL、HTTP、HTML の最初の設計を行いました。
ウェブ上のデータ（コンテンツ）を意味的に結びつけることを目的としています。XMLで定義される軽量級オントロジーを利用してデータの意味を標準化しています。これにより、異なるデータソース間で情報の共有と再利用が容易になることを目指しました。
なお、セマンティックWebには、トム・グルーバーによるRDFやOWLなどのツールが含まれています。
IBMワトソン
IBMワトソンは、質問応答や意思決定支援のためのシステムです。
自然言語処理と機械学習を組み合わせたもので、IBMはワトソンを拡張知能（Augmented Intelligence、AI）と定義しています。
医療、法務、金融などの特定のドメインで、広範な知識ベースと詳細な概念モデルを利用するため、重量級オントロジーを使用することがあります。しかし、特定のタスクにおいては、迅速なデータ統合や応答生成のために軽量級オントロジーを利用することもあります。
有名な話として、20011年に米国の人気クイズ番組「ジェパディ！」に登場し、人間と対戦しました（YouTube）。インターネットに接続されておらず、音声認識機能を持っていなかったので文字で自然言語のクイズを受け入れ回答しました。結果として人間のチャンピオンに対して勝利しています。
東ロボくん
東ロボくんは、「ロボットは東大に入れるか」を研究するプロジェクトで、国立情報学研究所らによる開発が行われました。プロジェクトの中心人物である新井紀子によるプレゼンテーションをTEDで見ることができます。
問題文というテキストと過去問データと照らし合わせるプログラムに従って「最も確からしい」答えを出すという仕組みを利用し、センター試験模試で受験者の80％を上回る成績を残しました。しかし、東大の合格圏には届きませんでした。2016年には当時の技術では東大合格は不可能と判断され、プロジェクトは凍結されました。
一方で、この研究は「文脈を理解できないAIよりも成績が低い人間の受験生が8割もいる」という事実を明白にしました。また、「多くの中高生も文脈を理解しないまま計算や暗記によって問題を解いている」ことが判明しました。このことから、新井紀子は「AIの性能を上げるよりも、中高生の読解力向上が直近の課題」と考えるようになっとそうです。（括弧内は、ウィキペディアより引用）
複雑な問題解決や推論を行うために、詳細で広範な知識ベースを必要とするので、重量級オントロジーと考えられます。
もっとオントロジー
オントロジーのアプローチは、システムにし易いため、様々なものが開発されています。
医療オントロジー (SNOMED CT)：医療分野で使用される概念を体系化したオントロジー。 病気、症状、治療法、診断手順など、医療に関連する概念を詳細に定義。電子カルテシステム、医療情報システムでのデータ統合と共有。
Gene Ontology (GO)：生物学分野で使用される遺伝子やタンパク質の機能を体系化したオントロジー。分子機能、生物過程、細胞構成など、遺伝子の役割を詳細に定義。遺伝子データベースの統合、バイオインフォマティクス研究でのデータ解析。
Financial Industry Business Ontology (FIBO)：金融業界で使用される概念を体系化したオントロジー。金融商品、取引、リスク管理、規制など、金融に関連する概念を詳細に定義。金融データの標準化、リスク管理システムでのデータ統合と分析。
Friend of a Friend (FOAF)ソーシャルネットワークにおける人間関係を表現するオントロジー。個人、組織、関係性、活動など、ソーシャルネットワークに関連する情報を定義。ソーシャルネットワーキングサイトでのデータ共有、プロファイル管理。RDFを使用。セマンティックWebの一種。
大規模言語モデル（LLM）が登場して数年経ちますが、今後もいくつかのオントロジーは存続し進化し続けるでしょう。それは、曖昧さを排除して、システムの一部として利用するのに適しているからです。
しかし、言語モデルの発展という意味では、文脈などの曖昧さをどう扱うかも重要なテーマです。
次回予告
これまで知識工学とも呼ばれる「知能を論理的に扱う手法」の発展を見てきました。しかし、あくまでも人間が指定した定義や推論ルールがカバーできる範囲での話であって、より広範囲なデータから情報を抽出するディープラーニングなどのアプローチとは異なります。当時、ニューラルネットワークの研究は主流ではありませんでした。
それでも、オントロジーは発展し、エキスパート・システムはそれなりの成功を納めました。あとは、さらにデータを豊富に定義・蓄積したり、ロジックを強固にしていけば、やがては人間と同等（あるいはそれ以上）の知能が達成できる（かも）という方向性が見えました。少なくとも知識を体系的に整理し共有・利用するのに適した手法ではあります。
しかし、言語や知能の研究には他の流れもありました。
次回からは、統計的に言語を処理するアプローチについて解説します。言語の意味や関係をテキストデータから抽出する工夫の歴史です。
お楽しみに！
