見出し画像

AIコラム:AIの歴史を大きく変えた2大スター、AlexNetとResNet

AIの歴史を語る中で外せないのが、大きなブレイクスルーを起こしたAlexNetResNetという画像認識技術です。
この2大スター、AlexNetとResNetについて、どこがすごかったのか見ていきましょう。難しい数式などは使わず、専門家でなくてもわかりやすいように説明していきます。


ILSVRC-画像認識アルゴリズムの競技大会

AlexNetResNetは、ILSVRC(ImageNet Large Scale Visual Recognition Challenge)という、2010年から2017年まで開催された画像認識アルゴリズムの競技会で発表されました。
ILSVRCは、ImageNetという数百万枚規模の大規模画像データベースを使用し、物体認識を競う課題を中心とした国際的な競技会でした。(ILSVRCは、AI・ディープラーニングの進展を知る上で非常に興味深いので、文末に年表をつけました。)

AIの歴史を塗り替えたAlexNetのすごさ

まずは、AlexNetのすごさから説明します。

「手本」を教えるのをやめた:

それまでは人間が「猫は耳が尖っていて、ひげがある」といった特徴(ルール)を手作業でプログラムしていました。
しかし、AlexNetは畳み込みニューラルネットワーク(CNN)を本格的に使い、「大量のデータから、AI自身が勝手に特徴を見つける(ディープラーニング)」手法で圧倒的な精度を見せつけ、ディープラーニングの実用性を証明しました

技術的な革新(GPUのパワーを解放):

今では当たり前ですが、ゲーム用のグラフィックボード(GPU)をAIの計算に使う手法を確立しました。これにより、気の遠くなるような膨大な計算を現実的な時間で終わらせることが可能になったのです。
他にも、ReLU活性化関数(学習を高速化する新しい計算方法)やドロップアウト(過学習を防ぐ工夫)など、現在も広く使われている革新的な手法が採用されています。

圧倒的な性能差:

2012年の競技会で、AlexNetはエラー率15.3% を記録し、2位(26.2%)に約10.9ポイント差で優勝しました。これは、従来の研究を数年分一気に飛び越えるような衝撃的な成果でした。
スポーツに例えるなら、マラソンで2位が3時間台なのに、1位が2時間15分で走るような、圧倒的な差です。

AlexNetを例えるなら

それまでのAIが「先生に言われたことだけを必死に覚える生徒」だったのに対し、AlexNetは「教科書を100万回読んで、自分で勝手に法則を見つけ出した天才児」のような存在です。

特徴を自動で学ぶAlexNet

AlexNetの登場は、第3次AIブームを引き起こしました。「ディープラーニングの夜明け」と言えるでしょう。

深さの壁を打ち破ったResNetのすごさ

AlexNet以降、研究者たちは「ネットワークを深くすれば性能が上がる」と考えました。
しかし、実際には深くしすぎると逆に性能が悪化するという問題に直面しました。その壁を打ち破ったのがResNetです。

「残差学習」という天才的なアイデア:

ResNetの開発者は「スキップコネクション(スキップ接続)」という仕組みを導入しました。
これは、情報が途中の層を飛び越えて直接先に伝わる道を作るものです。
わかりやすく言うと:

  • 従来: 情報が1階→2階→3階...と順番に階段を上る

  • ResNet: 階段だけでなく、1階から10階へ直通のエレベーターも設置

これにより、深い層でも情報がスムーズに流れ、152層という驚異的な深さ(従来は20層程度が限界)のネットワークでも学習できるようになりました。

人間を超えた瞬間:

ResNetは画像認識の精度で初めて人間を上回りました
この「深さ」のおかげで、画像認識において初めて人間(エラー率約5%)を上回る精度(3.57%)を叩き出しました。
これは、特定の条件下では、AIが人間よりも正確に画像を判別できることを示した歴史的瞬間でした。

ResNetを例えるなら:

長い伝言ゲームを想像してください。
人数が多すぎると最後には内容がめちゃくちゃになりますが、ResNetは「時々、後ろの人に元のメッセージを直接見せてあげる」仕組みを作ったことで、150人経っても正確に情報を伝えられるようになったのです。

ResNetは階段とエレベーターがある建物のよう

ResNetは、ディープラーニングをさらなる高みへ引き上げる進化の道を開いた存在です。

2つの関係をまとめて言えば、AlexNetが「ディープラーニングは使える!」と示し、ResNetが「こうすればもっと深く、もっと賢くできる!」と証明しました。
この2つの技術が、今の画像認識・自動運転・医療画像AI・生成AIなどの発展につながっています。

ILSVRC年表

ILSVRCの歴史とトピック

黎明期:手法としての限界(2010年~2011年)

2010年

初代王者はNEC-UIUC(NECとUIUCなどの連合チーム)。初期のILSVRCでは、SIFTやHOGなどの手工芸的な特徴量とSVMという分類法を組み合わせた従来型のパターン認識手法が主流であった。エラー率は30%前後と高く、大規模画像分類の困難さが改めて認識された年でもある。

2011年

空間ピラミッドや改良BoW(Bag of Visual Words)など特徴表現の工夫が進み、わずかながら性能が向上した。しかし依然として人手での特徴設計が中心で、ブレークスルーには至っていなかった。優勝チームのエラー率は約26%まで改善された。

ディープラーニングの衝撃(2012年~2013年)

2012年

転換点となったのが、ジェフリー・ヒントン教授らが率いるトロント大学のチームによる「AlexNet」の登場である。GPUを用いた大規模CNN学習、ReLU活性化関数、ドロップアウトなどを導入し、エラー率を15.3%まで劇的に改善。ディープラーニングが画像認識の主流となる契機となった。

2013年

CNNベースのアプローチが急速に普及し、ネットワークの層数増加やデータ拡張、アンサンブル手法が活発に研究された。ZFNetなど、可視化を通じてCNNの内部構造を理解しようとする試みも注目された。優勝チームのエラー率は11.7%まで改善された。

「深さ」の競争(2014年~2015年)

2014年

VGGNetやGoogLeNet(Inception)が登場。VGGは小さな畳み込みフィルタを積み重ねたシンプル構成で深さの重要性を示した。GoogleのGoogLeNetはInceptionモジュールにより計算効率と表現力を両立し、エラー率を6.7%まで低減させて優勝した。

2015年

MicrosoftのチームによりResNet(残差ネットワーク)が発表され、100層を超える超深層ネットワークの学習が可能に。スキップコネクションによる勾配消失問題の緩和が大きなインパクトを与え、エラー率は3.57%まで低下し、人間の認識精度(推定約5%)を初めて上回った。

完成と幕引き(2016年~2017年)

2016年

ResNetを基盤とした改良モデルやアンサンブルが主流となり、精度はさらに向上。分類だけでなく、物体検出・セグメンテーションとの統合的アプローチも進んだ。
優勝チームは、複数のResNetを組み合わせるなどの高度なアンサンブル手法を用い、エラー率を2.99%まで下げた。

2017年

DenseNetなど、より効率的な接続構造を持つネットワークが登場し、パラメータ効率と性能の両立が焦点となった。最終年の優勝チームは2.25%というエラー率を記録した。
画像分類というタスクにおいて、アルゴリズムは十分な成熟に達したと判断され、この年をもってILSVRCは一区切りを迎えた。物体認識タスクにおいて既に人間を超える精度が達成され、研究の焦点が他の課題へと移行する時期を迎えた。

ILSVRCは終了しましたが、その遺産は計り知れません。ここで開発された技術は、自動運転、医療画像診断、顔認識など、様々な分野で応用され続けています。
また、この大会が示した「大規模データセットと標準化されたベンチマークの重要性」という教訓は、AI研究全体に大きな影響を与え続けています。

第3次AIブームについてはこちらから

スキップコネクション(スキップ接続)、ResNetについてはこちらの記事もどうぞ

おすすめマガジンです。

ここまでお読み頂きありがとうございます。
AIって何? AIの歴史から最新情報まで、わかりやすく説明した、
これまでの記事(マガジン)の一覧をプロフィールページにまとめています。
AIの全体像をつかむヒントになると思いますので、ぜひご覧ください。

<前へ
AIコラム|AIは感情を持つのか?― ELIZA(イライザ)が教えてくれた人間とAIの境界線

次へ>
AIコラム|人はなぜ推しにハマるのか ─AI時代の推し活とエコーチェンバー


免責事項
・本記事は生成AI(ChatGPT等)を活用して執筆しています。内容の正確性・最新性には十分配慮しておりますが、誤りや古い情報が含まれる場合があります。ご利用・ご判断はご自身の責任でお願いいたします。万一、著作権等に問題がある場合はご連絡ください。

いいなと思ったら応援しよう!