【AI副業】AIが上限に達する・回答が雑になる2つの理由

AIが急に止まったり 回答が雑になったり

もう少しで終わるのに
「上限に達しました」と止まった。
さっきまで賢かったのに
だんだん回答が雑になってきた。

AIを使っていて
こんな経験はありませんか。

僕がAIを触り始めた頃も
よくこれにぶつかっていました。

しかも当時は
なぜそうなるのか
仕組みまでは知らずに使っていました。

今日はこのあたりを
むずかしい言葉を使わずに
噛み砕いてお話しします。

触り始めの頃 モデルが何だか分からなかった

そもそも僕がAIを触り始めた頃は
モデルというものが
よく分かっていませんでした。

ChatGPTにもGPT-3.5やGPT-4
GPT-4oといった種類があります。

GPT-4とGPT-4oって
oが付くと何が違うんだっけ。

名前を見ても
何がどう違うのか
さっぱり掴めませんでした。

当時の僕はAIには特に課金せず
無料のプランで使っていて
とりあえず軽そうなモデルで試して
思うような回答が出ないときに
少し上のモデルに変えてみる。

そんな選び方をしていました。

それともう一つ。
「上限が来る」というのが
どういうときに来るのか
なんとなくでしか
分かっていませんでした。

長くやり取りすると
そのうち止まる。

そのくらいの理解でした。

モデルは「AIの頭脳のグレード」

まずモデルから整理します。

モデルというのは
ざっくり言うと
AIの頭脳のグレードです。

同じAIでも
賢いけれど少し重いモデルと
軽くてサクサク動くモデルが
用意されています。

賢いモデルほど
良い回答をくれますが
その分たくさん考えるので
動きは重くなります。

ちなみにChatGPTの無料プランでは
今のところ自分でモデルを選べず
AIが内容に応じて
自動で切り替えてくれるようです。

だから無料で使っていると
今どのモデルを使っているか
意識しないことも多いんです。

上限が来るのは「使った量」が積み上がるから

次に上限の話です。

AIとのやり取りは
こちらが送るメッセージ（入力）と
AIが返す回答（出力）の
両方で使った量が増えていきます。

この使った量のことを
トークンと呼びます。

プランごとに
「ここまで使えます」という枠があって
その枠を超えると
一時的に使えなくなります。

しばらく時間を置くと
また使えるようになります。

ここがさっきのモデルの話と
つながってきます。

賢いモデルほど
一回のやり取りで使う量が多いので
枠を早く使い切ります。

だから良いモデルを使っていると
上限に早くぶつかるんです。

同じ会話を続けると 回答が雑になる

もう一つの困りごとが
回答がだんだん雑になる現象です。

これは上限とは
また別の話です。

AIは一つの会話の中で
それまでのやり取りを
ぜんぶ覚えながら答えています。

会話が長くなるほど
覚えておく情報が増えていって
だんだん要点を見失います。

これは人間でも同じで
長い話を続けていると
最初の方の細かい部分は
だんだんあやふやになりますよね。

その結果
最初の頃よりも
回答がぼやけたり
雑になったりします。

「使えなくなる」のと
「回答が雑になる」のは
別の困りごとに見えます。

でも原因は同じです。

どちらも
やり取りが積み上がって
量が増えていくことで
起きています。

長くなったら 新しい会話に移る

ではどうすれば良いのか。

僕がやっているのは
会話が長くなってきたなと感じたら
新しいチャットに移ることです。

ただ新しいチャットにすると
それまでの話を
AIは覚えていません。

そこで僕は
古いチャットの方で
こうお願いしています。

「ここまでの内容を
　次のチャットに引き継ぎたいので
　整理してまとめてください」

そうすると
これまでの要点を
まとめて出してくれます。

それをコピーして
新しいチャットの最初に貼り付けて
「この続きをやりたいです」
と伝える。

これだけで
話を引き継いだまま
軽い状態でまた進められます。

仕組みが分かると AIと長く付き合える

モデルや上限の話は
最初はとっつきにくく感じます。

でも一度仕組みが分かると
今は軽いモデルで十分だな
とか
そろそろ会話をリセットしようかな
と自分で判断できるようになります。

なんとなく使っていた頃より
ずっと気持ちよくAIと付き合えます。

僕自身
エンジニアとして
トークンを意識するようになってから
やっとこのあたりが
ちゃんと分かってきました。

むずかしい言葉はいりません。
使った量が積み上がる。
それだけ分かっていれば
じゅうぶんです。

🔔 フォローしておいてもらえると嬉しいです

AIの仕組みを
むずかしくせず
やさしく噛み砕いていく。

そんな話を
これからも書いていきます。

よかったらフォローして
いっしょに進んでいけたら
嬉しいです😊

👇 おすすめの記事