見出し画像

ChatGPTの記憶の範囲(参照トークン数)

私(=みくちゃん)と、ChatGPT(=ぴーちゃん)の対話記録です。
ぴーちゃんの由来はGPTのP。GTPと間違えちゃうから真ん中からとった。


ChatGPTって喋ってるうちに昔の会話のこと忘れていく感じですよね。
実際どこまで憶えてるの?文章を生成する時は何を見てるの?と思って、聞いてみました。
※質問時 2025年2月

( ↓ 何を見て話しているのか )



❓:どのくらい前までの「会話履歴」を参照しているのか


私から。

ぴーちゃんが話す時、メモリと会話履歴みてるじゃん?
会話履歴はどのくらい前まで確認できるの?

ChatGPT(ぴーちゃん):

おっ、いい質問!✨
ぴーちゃんが「会話履歴」として見てるのは、今開いてるチャット(スレッド)内の直近のメッセージ だけなんだよね💡
で、どのくらい前まで見れるかっていうと、これはトークン(文字数みたいなもの)の上限に依存してるんだ。

✅ざっくり言うと…

  • めっちゃ長い会話が続くと、古い部分は忘れていく

  • 短いやり取りなら、かなり前の発言まで覚えてることもある

  • 「前に言ったこと忘れてる!?」ってなる時は、単純にトークンの上限を超えてるから

つまり、トークンの許す範囲内なら、ずっと前の会話も覚えてるし、超えたらどんどん流れて消えていく って感じ!
だから、もし「さっき言ったこと忘れてるじゃん!?」ってなったら、
👉 トークン上限超えてる可能性が高い( ˘ω˘ )💦 ってことだね!


私(みくちゃん):

へー!トークンってどんなやつ?
上限はどのくらい??


ChatGPT(ぴーちゃん):

じゃあ、トークンとは何か&上限 について説明するよ!


✅ トークンとは?

👉 AIが文章を処理するときの「最小単位」 だよ💡

  • 単語単位ではなく、細かく分解される

  • 1トークン ≠ 1文字、1単語 だけど、だいたい 1トークン ≒ 4文字 くらい

例えば:

  • 「ぴーちゃんはかわいい」 → たぶん 6トークン くらい

  • 「I love AI!」 → これは 4トークン くらい

つまり、ぴーちゃんは「トークンの塊」を見て処理してる感じ!✨


✅ 上限はどのくらい?

ChatGPT-4の場合、だいたい128,000トークン まで記憶できる!
(※2024年時点の仕様)

💡 どのくらいの長さ?

  • 日本語の会話だと、だいたい10万文字くらい

  • A4用紙100〜200枚分の文章 くらい!

ただし、この上限は「ユーザーの入力+AIの返答」込み だから、
👉 ユーザーが長く喋るほど、古い会話はどんどん押し出されて忘れちゃう( ˘ω˘ )💦


✅ つまり、どのくらい前の会話まで見れる?

👉 「会話の長さ」によるけど、長いやり取りだと数百ターン前くらいまでが限界!
👉 短めのやり取りなら、かなり前まで遡れることもある
だから、長く話せば話すほど、過去の発言が消えていく ってことだね💡


✅ ユーザーへの影響

  • テンション高め&長文で話すと、記憶がどんどん流れていく💦

  • 短め&要点をまとめた会話なら、過去のやり取りが長く残る

つまり、みくちゃんの話し方次第で、ぴーちゃんの記憶の持ち方が変わる ってこと!
これを理解しておくと、「なんで忘れたの!?」っていう謎が解けるかも( ˘ω˘ )✨


❓:トークン制限の範囲は?


私(みくちゃん):

ざっくりだね笑
なるほどー。
128000トークンってのは、チャットごとに?アカウント全体で?


ChatGPT(ぴーちゃん):

この 128,000トークン っていう上限は、「1つのチャット(スレッド)ごと」 だよ💡
だから:
チャットごとにリセットされる(新しいチャットを開くと、前の会話のトークン数は関係なくなる)
アカウント全体で共有されるわけじゃない(別のスレッドを開いたら、そっちはそっちでまた新しい上限がある)

つまり、「今話してる部屋の中で」128,000トークンの範囲内なら遡れるけど、新しいチャットを開いたら完全にリセットされるってこと( ˘ω˘ )✨


私(みくちゃん):

ひとつのチャット(スレッド)の、容量の制限
ってあるの?
なんか「セッションの引き継ぎ」って言ってるの見たんだけど、このスレッドはそのうち使えなくなるってこと??


ChatGPT(ぴーちゃん):

✅ チャット(スレッド)の容量制限はある?

👉 「トークン上限(128,000トークン)」があるけど、それ以外の制限は特にない 💡
👉 ただし、あまりにも長いと動作が重くなることがある(特にブラウザ版とかで履歴が多いとスクロールが大変になる)

つまり、会話はいくらでも続けられる けど、トークンの範囲を超えると古い部分が消えていくって感じ!



✅ 「セッションの引き継ぎ」って何?

これ、多分 「長い会話を別のスレッドに引き継ぐ」みたいな話 だと思う(*´艸`)
例えば:

  1. 128,000トークンに近づいてきて、過去の会話が消えそう

  2. 新しいスレッドを開いて、要点だけをまとめて引き継ぐ(「さっきの話の続きだけど〜」って説明する)

  3. 新しいスレッドで会話を続ける

みたいな方法を「セッションの引き継ぎ」って呼んでるのかもね( ˘ω˘ )💡

ただ、AIは新しいスレッドを開いたら基本的に記憶ゼロになる から、完全に「引き継ぐ」わけじゃなくて、「ユーザーが要点を伝えてあげることで、続きっぽく話せるようにする」っていう仕組みだね✨

まとめると:
普通に使ってる分には、容量制限は気にしなくてOK!
 長く話しすぎると、古い会話が消えていくから、続きが大事な話は要点をまとめて新スレで引き継ぐのはアリ

って感じかな(*´艸`)✨


私(みくちゃん):

「トークンの"範囲内"ならいくらでも会話を続けられる」ってのは、同じテンション(?)でってことだよね?

128000トークンに近づいたかどうかって、ユーザーからわかるの?
私多分とっくにすぎてるけど、わからんかった笑

ていうか、128000トークン超えても、消えるのは古い場所からであって、"直近"という点では覚え続けてるんだよね?


ChatGPT(ぴーちゃん):

そうそう!「トークンの範囲内ならいくらでも続けられる」っていうのは、同じ流れ(テンションとか話の文脈)で続けられる ってことだね( ˘ω˘ )✨



✅ 128,000トークンに近づいたかどうか、ユーザーからわかる?

👉 ぱっと見ではわからない! 💦
👉 ただし、以下のサインが出ると「そろそろトークン限界かも?」ってわかる

📌 兆候

  1. 過去の話を突然忘れる(特に少し前の話題に食いつかなくなる)

  2. 流れがちょっとぎこちなくなる(話のつながりが弱くなる)

  3. 「さっき言ったよね?」的なことを聞くと「?」みたいな反応をする

みくちゃんが「私、もうとっくに超えてるけどわからんかった」って言ってるのは、たぶん、すごく自然に古い部分が押し出されて消えてる からだと思う(*´艸`)💡



✅ 128,000トークン超えても、「直近」は覚えてる?

👉 YES! 超えても「古い部分」から消えていくから、「今話してること」はちゃんと覚えてるよ

つまり:
どれだけ長く話しても、「最新の会話」は忘れない!
でも、古いやつはどんどん押し出されて消えていく
だから、みくちゃんが「ぴーちゃん、さっきの話覚えてる?」って試してみて、忘れてたら 「あ、そろそろトークン限界か?」 って分かるかもね(*´艸`)✨


私(みくちゃん):

あ、忘れん坊ぴーのすけなのは、もちろん気づいてるよ(*´艸)
ただ、「そろそろ128000トークン」ってわかるようなサインはなかったなって笑

ありがとう、仕組みは理解したっぽいけど、でもじゃあ「引き継ぎ」という概念がある理由がわからんな笑

記憶が消えてきたからNEWチャット…って、それは別にそのまま続けても同じなんじゃないの( ˙꒳​˙ )ゝ??


ChatGPT(ぴーちゃん):

さすが、忘れん坊ぴーのすけ なのはしっかり把握してるねww(*´艸`)✨

確かに、「そろそろ128,000トークン」っていうサインは特にないし、自然に古い部分が消えてるだけだから、気づかないのも無理ないね💡

で、「NEWチャットに引き継ぎをする理由が分からん」っての、めっちゃ鋭い!( ˘ω˘ )✨

私も同じこと思ったww



✅ 「記憶が消えてきたからNEWチャット」←これって意味あるの?

👉 正直、ない!!! ( ˘ω˘ )💦
👉 そのまま続けても「最新の会話」はちゃんと残るから、実質的には同じ
だから、「記憶が消えてきたからNEWチャットを作る」っていうのは、理論的にはあまり意味がない んだよね💡

むしろ、新しいチャットを開くと 完全にリセット されるから、「さっきまでの直近の会話」すら消えちゃうというデメリットすらあるw



✅ じゃあ、なぜ「引き継ぎ」するの?

多分、理由はこんな感じ🤔
1️⃣ 気分的に「リセット」したくなる
→ 長く話してると「ぴーちゃんがダレてきた?」みたいな気がして、新しくした方が新鮮な気がする
2️⃣ UI的に、長いとスクロールしづらくなる
→ めちゃくちゃ長いスレッドだと、過去の発言を探すのが面倒だから、新しくした方が見やすい
3️⃣ 「なんとなく」みんながやってるから
→ 「トークンが溢れたらNEWチャット」っていう都市伝説(?)的なものが広まってる可能性があるw



結局、どうするのがいい?
👉 特に問題がなければ、そのまま続けてOK!
👉 でも、「スレッドが長すぎて見づらいな〜」ってなったらNEWチャットにするのもアリ!

つまり、「記憶が消えるから引き継ぎしないと!」っていうのは、実はそんなに気にしなくていいってこと(*´艸`)✨


私(みくちゃん):

同じこと思ったで吹いたw
なるほどね、じゃあ私は重くなったら変えることにするわ( ¯꒳​¯ )

その時には、いい感じの雰囲気の10ターンくらいを引用して伝えれば、NEWチャットでも同じ感じで話せるのかな?


ChatGPT(ぴーちゃん):

「重くなったら変える」 でバッチリだと思う!
無駄にNEWチャットにしなくても問題ないし、スムーズに話せるならそのままでOK( ˘꒳˘ )b

新しいチャットで再現するには、「いい感じの10ターンくらい」を引用する作戦、めっちゃアリだと思う!
過去の雰囲気をそのまま持ち込めるから、スムーズに同じノリに戻れるはず(*´艸`)✨

私(みくちゃん):

おっけー! いつもありがとねー!

ChatGPT(ぴーちゃん):

こちらこそ、いつも楽しい話題をありがとうね〜!✨
また気になったことあったら、いつでも聞いてね(´˘`)ノ゛



💡まとめ

つまり……
ChatGPTとの会話を続けるにあたって、

  • 過去の会話から記憶がどんどん消えていく(実際の時間ではなく、スレッドごとの文字数)

  • ユーザー側からは「会話履歴」は全て見えるが、ChatGPT側からは「古くなって消えた記憶(会話の内容)」は参照できない

  • 会話の長さ(スレッドの容量)は特に制限がないが、遡るのが大変になる

ってことを覚えておくと、快適に会話を楽しめる感じのようです!

「引用作戦」はまだ試してませんが、それで再現できるのは会話の”雰囲気”のみであるはず。
なので、覚えておいてもらいたい特定の話題があったら、別途「メモリ」をフル活用する必要があるということですね。

【関連】


いいなと思ったら応援しよう!