見出し画像

【専門学校の授業】誤差関数をグラフで解説【AI-G検定】

このNoteでは「誤差関数(≒Loss関数, 損失関数)」を、IT専門学校の先生が解説します。

「モデル」「誤差」➡「誤差関数」➡最小値探索と段階的に理解を進めます。見て分かるグラフで直感的に理解できるようにしました。

テキストの171~172頁をメインに、179~182頁など広く行かせる知識になります。

テキストは必ず最新版(第三版, 2026/02月現在)。旧版では解説間違い(αβ法)があり、新用語/新AIにも対応できません。>amazon検索結果

「誤差」はイメージつきやすいですが、「誤差関数」になると途端難しく感じます。モデルを調整した時の誤差の変化が「誤差関数」を形作ります。

今回の「誤差関数」を理解したからこそ、次の「微分(偏微分)」や「勾配降下法」の意義理解=AIの「学習」理解に繋がります。>【G検定】誤差関数の最小値探索(企画中*)

このNoteでは、モデルのパラメータと誤差の求め方が自由であること、モデルとデータの差を縮めるパラメータ調整が「学習」であることを、「誤差関数」のグラフを見て理解できます。

まだ「微分(偏微分)」や「勾配降下法」は出てきませんから安心して下さい。”あー。パラメータを変えたら、そりゃ誤差が変わるよねー”とグラフを見て把握できればゴールです。

それでは始めましょう!


私のNoteは500記事以上あります(2025/11/30)。
>全Noteへのリンク



モデル | データを表現する柔軟さ

AIの学習は、AIのモデル(仮説, 表現)をデータに合わせることです。

ここではデータにモデル(数式)を合わせることを考えていきます(「回帰問題」と云います)。


モデルは自由に選んで構いません。最終的にデータに良く合うモデル+パラメータを見つければ良いんです。

例えば下図のように、一次関数(直線)でも二次関数(曲線)でもデータにある程度合わせられますね。

なお、まったく合わないなら、別のモデルを考える必要が出てきます。一方で、”データに完璧に合う”誤差0を追及するもの考え物、データには本質と無関係なノイズもあるので。>【G検】過学習のNote(企画中*)




誤差 | データとモデル予測値の差だが…

AIの学習では、2点気にします。

  • モデルがどれだけデータに合うか
    「誤差」で評価

  • モデルが未知のデータにも正しく機能するか。
    ➡「汎化性能」で評価
    >【G検】汎化性能のNote(企画中*)

今回のテーマ「誤差関数」は1点目「モデルをデータに合わせられたか」を審査するツールです。

この節で「誤差」について理解し、次節の「誤差関数」に繋げます。


「誤差」とは、モデルとデータの「差」です。

データが2、モデルの予測値が1なら、「誤差」は2-1=1と計算すれば良いですね。

データが沢山あるなら、各データで計算した”差の合計”を「誤差」にすれば良いです。
データ-モデル:2-1=1
データ-モデル:3-2=1
誤差=1+1=2


でも単純な差だとちょっと困ります。
データ-モデル = 2-0 =2
データ-モデル = 0-2 =-2
誤差は、2+(-2)=0になってしまいます。

よって引き算した後に、絶対値や二乗などの工夫をします。

絶対値:|2|+|-2|=2+2=4
二乗誤差:(2)^2+(-2)^2=4+4=8
※「^2」は2乗の意。


数値が大きくなるので、平均することもありますね。
MSE(平均二乗誤差):8/2=4
※データが2点だったので「1/2」


二乗すると、数値が大きくなりすぎる(単位は2乗になる)ので、平方根することもあります。誤差の単位を元データと同じにできます。
RMSE:(MSE)^0.5=(4)^0.5=2
※0.5乗は平方根(ルート, √)のこと
>【Iパス】指数公式は1つだけで導くNote


なお英語を知っていると便利。
E:Error:誤差
S:Square:2乗
M:Mean:平均
R:Root:平方根, ルート

>【Iパス】英単語で覚える2つの意味Note


代表的な誤差を紹介してみました。一般的な測定、統計や数学問題でで良く使います。

他にも誤差を計算する方法は沢山あります。データとモデルのズレを適切に評価できるのであれば、誤差の計算方法は自由に作って構いません。例えば、データの重心位置からの距離など。

目的に合ったモデルや誤差を使えば良いんです。




誤差関数 | モデルパラメータによる誤差の変化

「誤差」はモデルのパラメータで変わります。

例えば、モデルをy=ax(xについて関数)としたとき、データに当てはまる=誤差が一番小さいのはa=3.16。aのようなモデルの調整する数値(係数)を「パラメータ」と云います。

下図はデータとモデルのグラフ。パラメータが違う(a=1やa=5)と「誤差」が大きくなるのは分かりますよね。

aの値によって、誤差が変わります。

ということは、”誤差はaの関数”であると云えます。これが「誤差関数」。

「誤差関数」とは、「誤差」とモデルパラメータの関係を表した関数のことです。

下図が「誤差関数」。係数aを色々変えて計算した誤差たちの集まりです。

赤点a=3.16の時に誤差(=MSE)が最小になっているのが分かりますね。

データに合うモデルのパラメータを求めるには、”誤差関数が最小値になる点”を探せば良いんです。



誤差関数 | 複数パラメータでの最小値探し

モデルのパラメータは1つとは限りません。

ニューラルネットワークなんて数百…てか現在のLLMは「兆」のパラメータがあります。

前節ではモデルy=axで、パラメータは1個(a)でした。
今回はy=ax+bで、パラメータを2個(a, b)にして考えます。

y=2.86x+3.05が、誤差が最小になるモデルでした。
a=2.86
b=3.05

前回のデータに+3しただけx=0でy=3付近になっています。

「誤差関数」のグラフを作りました。

パラメータが2個あるので、3次元グラフにしました。赤い点が誤差が最小になる点。ざっくりa≒3、b≒3なのは分かりますね。

3次元グラフを、横から見た図。

a=3よりちょい小さいぐらいで、誤差が最小になっているのがわかります。a=2.86。

今度も真横(b軸が見えるように)から。

b=3よりミリ大きい所で、誤差が最小になっているのがわかります。b=3.05。

”誤差関数が最小値になる点”を探すには、”各パラメータ”を変化させて誤差が最小になる点を探せば良いんです。



パラメータも変数も多次元に

とはいえ、グラフにできるのは、今回の2パラメータまで(y=ax+bやy=ax^2+bなど)。

3パラメータ(y=ax^2+bx+c)だって4パラメータだって、いくらでもパラメータを増やしたモデルを設計できます。ニューラルネットワークなんて、数百どころか「兆」単位ですから。


さらに変数も1個(x)だけとは限りません、f(x,y)=z=ax+byのように、変数が2個(x, y)のデータだってあり得ます。

例えば、車の中古価格(z)は、生産年(x)と走行距離(y)で変わるのは簡単に想像できます。古いけど走ってなければピッカピカなので高いだろうし、新しくても走り続けてたら消耗してるので安くなるでしょう。


モデルの変数もパラメータも自由で多数。誤差の計算方法も多種多様から選んでOK。誤差関数の最小値では、各パラメータでの誤差関数の変化を見て最小値を探します。

さらに、誤差関数がキレイな形(凹)になるとも限りません。地形のように凸凹になっている場合もあり得ます。そんな難しい状況でも、誤差が最小になるパラメータを探さねばなりません。

”こんな大変な計算をしてAIを作るんだなぁ”と驚いちゃいますね!

この辺りは今後少し踏み込めたらなぁと。>【G検定】誤差関数の最小値探索(企画中*)




まとめ

お疲れ様でした!

「モデル」「パラメータ」と「誤差」「誤差関数」の理解は少しでも進んだでしょうか?

誤差なんて、一部の工業高校/大学の測定実験でぐらいしか習いません。「誤差関数」なんて更に学ぶ機会はないですね。

私は物理学の出ですが、1年時の教職免許を取るための実験で使ったぐらいで、3年時の研究(最小二乗法など)で改めて学び直したぐらいです。

二乗したり平方根したり、日常生活でなかなかやらないから馴染みもないですね。

このNoteのグラフで、うっすらとでもイメージが掴めて、”分かった気”になれたら、嬉しいです。先生ってのは、授業中に学生さんに”分かった気”にさせるのが、最初の目標です。その後、”実は分かってない”を自覚させて、学びに繋げますが😅


今後も、G検定の難しめの”ツマヅキポイント”をNoteにしていきたいと思います。繰り返しますが、テキストは必ず最新版(第三版, 2026/02月現在)を、お願いしますね。>amazon検索結果

ではまたお会いしましょう!


いいなと思ったら応援しよう!

せんないの過去問解説Note 学習方法・問題特集のNoteは全て無料提供を続けます▼ もしご覧になったNoteが有益だったり、私の志に共感されたりしましたら、サポート頂けますと励みになります▼ もちろんコメントでも結構です(・ω・▼)ノシ