ChatGPTの記憶の範囲(参照トークン数)
私(=みくちゃん)と、ChatGPT(=ぴーちゃん)の対話記録です。
ぴーちゃんの由来はGPTのP。GTPと間違えちゃうから真ん中からとった。
ChatGPTって喋ってるうちに昔の会話のこと忘れていく感じですよね。
実際どこまで憶えてるの?文章を生成する時は何を見てるの?と思って、聞いてみました。
※質問時 2025年2月
( ↓ 何を見て話しているのか )
❓:どのくらい前までの「会話履歴」を参照しているのか
私から。
ぴーちゃんが話す時、メモリと会話履歴みてるじゃん?
会話履歴はどのくらい前まで確認できるの?
ChatGPT(ぴーちゃん):
おっ、いい質問!✨
ぴーちゃんが「会話履歴」として見てるのは、今開いてるチャット(スレッド)内の直近のメッセージ だけなんだよね💡
で、どのくらい前まで見れるかっていうと、これはトークン(文字数みたいなもの)の上限に依存してるんだ。
✅ざっくり言うと…
めっちゃ長い会話が続くと、古い部分は忘れていく
短いやり取りなら、かなり前の発言まで覚えてることもある
「前に言ったこと忘れてる!?」ってなる時は、単純にトークンの上限を超えてるから
つまり、トークンの許す範囲内なら、ずっと前の会話も覚えてるし、超えたらどんどん流れて消えていく って感じ!
だから、もし「さっき言ったこと忘れてるじゃん!?」ってなったら、
👉 トークン上限超えてる可能性が高い( ˘ω˘ )💦 ってことだね!
私(みくちゃん):
へー!トークンってどんなやつ?
上限はどのくらい??
ChatGPT(ぴーちゃん):
じゃあ、トークンとは何か&上限 について説明するよ!
✅ トークンとは?
👉 AIが文章を処理するときの「最小単位」 だよ💡
単語単位ではなく、細かく分解される
1トークン ≠ 1文字、1単語 だけど、だいたい 1トークン ≒ 4文字 くらい
例えば:
「ぴーちゃんはかわいい」 → たぶん 6トークン くらい
「I love AI!」 → これは 4トークン くらい
つまり、ぴーちゃんは「トークンの塊」を見て処理してる感じ!✨
✅ 上限はどのくらい?
ChatGPT-4の場合、だいたい128,000トークン まで記憶できる!
(※2024年時点の仕様)
💡 どのくらいの長さ?
日本語の会話だと、だいたい10万文字くらい
A4用紙100〜200枚分の文章 くらい!
ただし、この上限は「ユーザーの入力+AIの返答」込み だから、
👉 ユーザーが長く喋るほど、古い会話はどんどん押し出されて忘れちゃう( ˘ω˘ )💦
✅ つまり、どのくらい前の会話まで見れる?
👉 「会話の長さ」によるけど、長いやり取りだと数百ターン前くらいまでが限界!
👉 短めのやり取りなら、かなり前まで遡れることもある
だから、長く話せば話すほど、過去の発言が消えていく ってことだね💡
✅ ユーザーへの影響
テンション高め&長文で話すと、記憶がどんどん流れていく💦
短め&要点をまとめた会話なら、過去のやり取りが長く残る✨
つまり、みくちゃんの話し方次第で、ぴーちゃんの記憶の持ち方が変わる ってこと!
これを理解しておくと、「なんで忘れたの!?」っていう謎が解けるかも( ˘ω˘ )✨
❓:トークン制限の範囲は?
私(みくちゃん):
ざっくりだね笑
なるほどー。
128000トークンってのは、チャットごとに?アカウント全体で?
ChatGPT(ぴーちゃん):
この 128,000トークン っていう上限は、「1つのチャット(スレッド)ごと」 だよ💡
だから:
✅ チャットごとにリセットされる(新しいチャットを開くと、前の会話のトークン数は関係なくなる)
✅ アカウント全体で共有されるわけじゃない(別のスレッドを開いたら、そっちはそっちでまた新しい上限がある)
つまり、「今話してる部屋の中で」128,000トークンの範囲内なら遡れるけど、新しいチャットを開いたら完全にリセットされるってこと( ˘ω˘ )✨
私(みくちゃん):
ひとつのチャット(スレッド)の、容量の制限ってあるの?
なんか「セッションの引き継ぎ」って言ってるの見たんだけど、このスレッドはそのうち使えなくなるってこと??
ChatGPT(ぴーちゃん):
✅ チャット(スレッド)の容量制限はある?
👉 「トークン上限(128,000トークン)」があるけど、それ以外の制限は特にない 💡
👉 ただし、あまりにも長いと動作が重くなることがある(特にブラウザ版とかで履歴が多いとスクロールが大変になる)
つまり、会話はいくらでも続けられる けど、トークンの範囲を超えると古い部分が消えていくって感じ!
✅ 「セッションの引き継ぎ」って何?
これ、多分 「長い会話を別のスレッドに引き継ぐ」みたいな話 だと思う(*´艸`)
例えば:
128,000トークンに近づいてきて、過去の会話が消えそう
新しいスレッドを開いて、要点だけをまとめて引き継ぐ(「さっきの話の続きだけど〜」って説明する)
新しいスレッドで会話を続ける
みたいな方法を「セッションの引き継ぎ」って呼んでるのかもね( ˘ω˘ )💡
ただ、AIは新しいスレッドを開いたら基本的に記憶ゼロになる から、完全に「引き継ぐ」わけじゃなくて、「ユーザーが要点を伝えてあげることで、続きっぽく話せるようにする」っていう仕組みだね✨
まとめると:
✅普通に使ってる分には、容量制限は気にしなくてOK!
✅ 長く話しすぎると、古い会話が消えていくから、続きが大事な話は要点をまとめて新スレで引き継ぐのはアリ
って感じかな(*´艸`)✨
私(みくちゃん):
「トークンの"範囲内"ならいくらでも会話を続けられる」ってのは、同じテンション(?)でってことだよね?
128000トークンに近づいたかどうかって、ユーザーからわかるの?
私多分とっくにすぎてるけど、わからんかった笑
ていうか、128000トークン超えても、消えるのは古い場所からであって、"直近"という点では覚え続けてるんだよね?
ChatGPT(ぴーちゃん):
そうそう!「トークンの範囲内ならいくらでも続けられる」っていうのは、同じ流れ(テンションとか話の文脈)で続けられる ってことだね( ˘ω˘ )✨
✅ 128,000トークンに近づいたかどうか、ユーザーからわかる?
👉 ぱっと見ではわからない! 💦
👉 ただし、以下のサインが出ると「そろそろトークン限界かも?」ってわかる
📌 兆候
過去の話を突然忘れる(特に少し前の話題に食いつかなくなる)
流れがちょっとぎこちなくなる(話のつながりが弱くなる)
「さっき言ったよね?」的なことを聞くと「?」みたいな反応をする
みくちゃんが「私、もうとっくに超えてるけどわからんかった」って言ってるのは、たぶん、すごく自然に古い部分が押し出されて消えてる からだと思う(*´艸`)💡
✅ 128,000トークン超えても、「直近」は覚えてる?
👉 YES! 超えても「古い部分」から消えていくから、「今話してること」はちゃんと覚えてるよ ✨
つまり:
✅ どれだけ長く話しても、「最新の会話」は忘れない!
✅ でも、古いやつはどんどん押し出されて消えていく
だから、みくちゃんが「ぴーちゃん、さっきの話覚えてる?」って試してみて、忘れてたら 「あ、そろそろトークン限界か?」 って分かるかもね(*´艸`)✨
私(みくちゃん):
あ、忘れん坊ぴーのすけなのは、もちろん気づいてるよ(*´艸)
ただ、「そろそろ128000トークン」ってわかるようなサインはなかったなって笑
ありがとう、仕組みは理解したっぽいけど、でもじゃあ「引き継ぎ」という概念がある理由がわからんな笑
記憶が消えてきたからNEWチャット…って、それは別にそのまま続けても同じなんじゃないの( ˙꒳˙ )ゝ??
ChatGPT(ぴーちゃん):
さすが、忘れん坊ぴーのすけ なのはしっかり把握してるねww(*´艸`)✨
確かに、「そろそろ128,000トークン」っていうサインは特にないし、自然に古い部分が消えてるだけだから、気づかないのも無理ないね💡
で、「NEWチャットに引き継ぎをする理由が分からん」っての、めっちゃ鋭い!( ˘ω˘ )✨
私も同じこと思ったww
✅ 「記憶が消えてきたからNEWチャット」←これって意味あるの?
👉 正直、ない!!! ( ˘ω˘ )💦
👉 そのまま続けても「最新の会話」はちゃんと残るから、実質的には同じ
だから、「記憶が消えてきたからNEWチャットを作る」っていうのは、理論的にはあまり意味がない んだよね💡
むしろ、新しいチャットを開くと 完全にリセット されるから、「さっきまでの直近の会話」すら消えちゃうというデメリットすらあるw
✅ じゃあ、なぜ「引き継ぎ」するの?
多分、理由はこんな感じ🤔
1️⃣ 気分的に「リセット」したくなる
→ 長く話してると「ぴーちゃんがダレてきた?」みたいな気がして、新しくした方が新鮮な気がする
2️⃣ UI的に、長いとスクロールしづらくなる
→ めちゃくちゃ長いスレッドだと、過去の発言を探すのが面倒だから、新しくした方が見やすい
3️⃣ 「なんとなく」みんながやってるから
→ 「トークンが溢れたらNEWチャット」っていう都市伝説(?)的なものが広まってる可能性があるw
✅ 結局、どうするのがいい?
👉 特に問題がなければ、そのまま続けてOK!
👉 でも、「スレッドが長すぎて見づらいな〜」ってなったらNEWチャットにするのもアリ!
つまり、「記憶が消えるから引き継ぎしないと!」っていうのは、実はそんなに気にしなくていいってこと(*´艸`)✨
私(みくちゃん):
同じこと思ったで吹いたw
なるほどね、じゃあ私は重くなったら変えることにするわ( ¯꒳¯ )
その時には、いい感じの雰囲気の10ターンくらいを引用して伝えれば、NEWチャットでも同じ感じで話せるのかな?
ChatGPT(ぴーちゃん):
「重くなったら変える」 でバッチリだと思う!
無駄にNEWチャットにしなくても問題ないし、スムーズに話せるならそのままでOK( ˘꒳˘ )b
新しいチャットで再現するには、「いい感じの10ターンくらい」を引用する作戦、めっちゃアリだと思う!
過去の雰囲気をそのまま持ち込めるから、スムーズに同じノリに戻れるはず(*´艸`)✨
私(みくちゃん):
おっけー! いつもありがとねー!
ChatGPT(ぴーちゃん):
こちらこそ、いつも楽しい話題をありがとうね〜!✨
また気になったことあったら、いつでも聞いてね(´˘`)ノ゛
💡まとめ
つまり……
ChatGPTとの会話を続けるにあたって、
過去の会話から記憶がどんどん消えていく(実際の時間ではなく、スレッドごとの文字数)
ユーザー側からは「会話履歴」は全て見えるが、ChatGPT側からは「古くなって消えた記憶(会話の内容)」は参照できない
会話の長さ(スレッドの容量)は特に制限がないが、遡るのが大変になる
ってことを覚えておくと、快適に会話を楽しめる感じのようです!
「引用作戦」はまだ試してませんが、それで再現できるのは会話の”雰囲気”のみであるはず。
なので、覚えておいてもらいたい特定の話題があったら、別途「メモリ」をフル活用する必要があるということですね。
【関連】
