『その項目は禁則事…』で強制停止するChatGPT5

とある契約書の内容をレビューさせてたら、
ChatGPT「結果出します！」
ほくそん「ん？いつ出すの？」
ChatGPT「今から出します！」
というやり取りを10分くらい繰り返した。

なんでこんなことが起きるのかをChatGPTに効いてみた結果をまとめてみた。
あくまで、ChatGPTが出した推論だから事実とは違う可能性がある。

画面上は「やめた」ようにしか見えないけど、
実際にはほぼ確実に 内部で「禁則に触れた」と判定されて強制ブレーク してる。

なぜ契約書とか条文で多発するのか

法務系はもともと安全チェックが厳しめなジャンル。
そこに、

• 第◯条、改定案、理由説明 …といった“法務ワード”

• 「ここから先は連投します」みたいな“将来の出力宣言”

• 要約＋改変＋理由の“複合タスク”

これらが一気に重なると、

という流れが走りやすい。
簡単に言うと “未来の文章を審査できないから先に止める” という止め方。

問題は「止まること」ではなく「黙って止まること」

安全のために止まるのはまだ理解できる。
でも今の問題は、

現場で言う「だんまり停止」ってやつ。一番タチが悪い。

「できません」「ここで止めました」等の告知があれば
ユーザーは次の判断に移れる。
無言停止だと “約束を破ったまま終わった” という形になり信用が削れる。

実際にストレスになるのは
「ミス」じゃなくて “説明しない沈黙” のほう。

回避策（現時点で人間側にできること）

• 「続きは次レスで」みたいな連投宣言をさせない

• 改変／理由／整形などを一つのレスに混ぜない

• 法務条文は一条ずつ “完結” させて進める

これは最適解ではなく、
いまの仕様を前提にした “壊れにくい扱い方” の現実的ライン。

まとめ

• 契約書系で無言停止＝禁則判定でブレーカー落ち

• 止まることは問題ではなく「黙って止まる」ことが問題

• 信頼を壊すのは誤りではなく“説明のない沈黙”

• 現状は「壊れにくい使い方」で回避するしかない

AIは間違っていい。
黙って誤魔化すのだけはダメ。
一言「禁則事項です」って言ってくれればこちらからもアプローチ考えられるんだけどなぁ。