ディープラーニングの応用例#5:言葉を扱うAIはどう発展してきたのか(NLP入門)
自然言語処理(Natural Language Processing; NLP)
自然言語処理(NLP) は、人間が日常的に使う「言葉」をコンピュータに理解・処理させるための技術分野です。文章や会話、文書といった非構造データを扱う点が特徴で、検索エンジン、翻訳、チャットボットなど、私たちの身近なサービスの多くに組み込まれています。
NLPの基本タスク
自然言語処理が扱うタスクは多岐にわたりますが、代表的なものには次のようなものがあります。
文書分類
文章の内容に応じてカテゴリを判定するタスクです。メールのスパム判定や、問い合わせ内容の自動振り分けなどで使われています。
感情分析
文章に含まれる感情や評価を推定します。SNS分析やレビュー分析などで活用されています。
情報抽出
文章から特定の情報(人名、地名、日付など)を取り出します。ニュース解析や契約書処理で重要な役割を果たします。
機械翻訳・要約
言語間の変換や、文章の要点抽出を行います。近年の精度向上により、実務での利用が一気に広がりました。
これらは人間にとっては直感的な処理ですが、コンピュータにとっては「言葉の曖昧さ」「文脈依存性」が大きな壁となります。

ルールベース・統計的手法からの出発(N-gram)
ディープラーニング以前の自然言語処理では、統計的手法が主流でした。その代表例が N-gram モデルです。
N-gramは、文章を連続するN個の単語の並びとして扱い、出現頻度から次に来る単語を予測します。
仕組みはシンプルで分かりやすい一方、
長い文脈を扱えない
未知語や語順の違いに弱い
といった限界がありました。
この段階では、「言葉の意味」を理解しているというよりも、「統計的な並び」を処理しているに過ぎませんでした。
単語をベクトルで表すという発想(Word2Vec)
次の大きな転換点が、Word2Vec に代表される分散表現の登場です。
Word2Vecは、単語を高次元の数値ベクトルとして表現し、意味的に似た単語同士が近い位置に配置されるよう学習します。
これにより、
「意味の近さ」を数値として扱える
文脈を考慮した処理が可能になる
という大きな進歩がありました。
Word2Vecは、その後のディープラーニング型NLPの基礎となる重要な考え方です。
ディープラーニングによるNLPの本格化
ディープラーニングの導入により、自然言語処理はさらに大きく進化します。
単語ベクトルを入力として、ニューラルネットワークが文脈や構造を自動的に学習できるようになったことで、
長文理解
文脈を踏まえた翻訳
高精度な要約
が可能になりました。
この流れの中で登場したのが、ニューラル機械翻訳です。
従来のフレーズベースの翻訳に比べ、文全体を考慮した自然な翻訳が可能となり、自然言語処理の実用性を一気に高めました
自然言語処理は、
N-gram → Word2Vec → ディープラーニング → ニューラル機械翻訳
という段階的な進化を経て、現在の大規模言語モデルへとつながっています。
次回の記事では、その具体的な手法の変遷を見ていきます。
ここまでお読み頂きありがとうございます。
AIって何? AIの歴史から最新情報まで、わかりやすく説明した、
これまでの記事(マガジン)の一覧をプロフィールページにまとめています。
AIの全体像をつかむヒントになると思いますので、ぜひご覧ください。
<前へ
ディープラーニングの応用例#4|音声認識はどう進化した?FFTから深層学習まで
次へ>
ディープラーニングの応用例#6|自然言語処理-RNN・Attention・Transformerで何が変わったのか
免責事項
・本記事は生成AI(ChatGPT等)を活用して執筆しています。内容の正確性・最新性には十分配慮しておりますが、誤りや古い情報が含まれる場合があります。ご利用・ご判断はご自身の責任でお願いいたします。万一、著作権等に問題がある場合はご連絡ください。
