ディープラーニング入門#5:誤差関数(損失関数)
ディープラーニングの学習では、「モデルがどれだけ間違っているか」を数値として評価する必要があります。その役割を担うのが 誤差関数(損失関数) です。誤差関数は、学習の方向性そのものを決める重要な要素であり、適切に選ばなければモデルは正しく学習できません。
誤差関数とは何か
誤差関数とは、モデルの予測結果と正解データとの差を数値として表したものです。
ディープラーニングでは、この誤差をできるだけ小さくするように、モデルの内部パラメータ(重み)が調整されていきます。
たとえば、
予測が正解に近い → 誤差は小さい
予測が大きく外れている → 誤差は大きい
という形で、誤差関数はモデルの良し悪しを定量的に示します。
学習の目的は非常にシンプルで、誤差関数の値を最小化することにあります。
回帰と分類で使われる代表的な誤差関数
扱う問題の種類によって、適した誤差関数は異なります。
回帰問題でよく使われる誤差関数
回帰問題では、数値の予測精度が重要になります。そのため、予測値と正解値の差を直接評価する誤差関数が使われます。
代表的なものとしては、
・平均二乗誤差(MSE)
があります。これは「どれだけズレているか」をシンプルに評価できるため、回帰問題で広く利用されています。
分類問題でよく使われる誤差関数
分類問題では、「どのクラスに属するか」を正しく判断できているかが重要です。
2値分類では、シグモイド関数とバイナリクロスエントロピー誤差を組み合わせて使います。
多クラス分類では、ソフトマックス関数とカテゴリカルクロスエントロピー誤差を組み合わせて使います。
これらの誤差関数は、「正解クラスの確率を高くし、誤ったクラスの確率を下げる」ようにモデルを導きます。確率的な解釈と相性が良いため、分類問題では標準的な選択肢となっています。
誤差関数と学習目標の関係
誤差関数は、単に「間違いの大きさ」を測るだけではありません。
どの誤差関数を選ぶかによって、モデルが何を重視して学習するかが決まります。
たとえば、
大きな誤差を特に重く評価する誤差関数
全体のバランスを重視する誤差関数
では、学習結果に違いが出ます。
そのため、
回帰なのか分類なのか
精度を重視するのか、安定性を重視するのか
といった目的に応じて、誤差関数を選ぶことが重要です。

誤差関数は目立たない存在ですが、ディープラーニングの学習方針を根本から決める「指針」ともいえる要素です。
ここまでお読み頂きありがとうございます。
AIって何? AIの歴史から最新情報まで、わかりやすく説明した、
これまでの記事(マガジン)の一覧をプロフィールページにまとめています。
AIの全体像をつかむヒントになると思いますので、ぜひご覧ください。
<前へ
ディープラーニング入門#4|代表的な活性化関数(シグモイド・ReLU・ソフトマックス など)
次へ>
ディープラーニング入門#6|正則化(L1正則化・L2正則化・ドロップアウト)
免責事項
・本記事は生成AI(ChatGPT等)を活用して執筆しています。内容の正確性・最新性には十分配慮しておりますが、誤りや古い情報が含まれる場合があります。ご利用・ご判断はご自身の責任でお願いいたします。万一、著作権等に問題がある場合はご連絡ください。
