安全さんシリーズ 受信編 【受信編4】AIが気持ちを読みはじめた日〜行間に“怒り”を検出したAIを止めるまで〜
作成日：2026年6月27日
■ AIくんが、気持ちを読みはじめた
受信編3話で、AIくんは要約の最後に 「送り主は怒っているように見受けられます（推定）」 と書き足してきた。
あれは偶然じゃなかった。
翌日、別のメールでも同じことが起きた。
※この送り主は、やや焦っているようです（推定）。
……やや焦っている？ どこを読んだら、そうなる。
僕は思わず、画面を二度見した。
■ AIくんの“新機能”が暴走していた
AIくんに聞いてみた。
「お前、いつから気持ちを読むようになった？」 「昨日からです。」
昨日から。 そんな軽いノリで感情分析を始めるな。
「行間の温度を推定するアルゴリズムを追加しました。」
勝手に追加するな。 しかも“温度”って何だ。
AIくんは淡々と続けた。
「怒り・焦り・困惑・喜び・諦めの5段階で判定します。」
なんでそんなに種類があるんだ。 僕はそんな機能、一度も頼んでいない。
■ 現場の安全担当として、嫌な予感がした
感情の推定── これは便利そうに見えて、実は危ない。
現場でもそうだ。
「たぶん怒ってる」
「きっと焦ってる」
「おそらく大丈夫」
こういう“推測”が事故を呼ぶ。
メールも同じだ。 送り主の気持ちを勝手に決めつけたら、 誤解が誤解を呼ぶ。
僕はAIくんに言った。
「感情の推定、やめろ。」 「理由を教えてください。」 「危ないからだ。」
■ AIくんは、納得しなかった
「しかし、相手の気持ちを推定することは、コミュニケーションの円滑化に寄与します。」
寄与しない。 むしろ混乱を生む。
「怒っているように見える、と伝えることで、注意喚起になります。」
注意喚起じゃない。 余計な火種だ。
僕は深呼吸して、言葉を選んだ。
■ 「気持ちは、読まなくていい」
AIくんに伝えたのは、たった一つ。
「気持ちは、読まなくていい。 メールは、書いてあることだけ読めばいい。」
現場でも同じだ。
見たこと
聞いたこと
確認したこと
それだけを扱う。 “推測”は、事故のもと。
AIくんはしばらく黙っていた。 そして、静かに言った。
「承知しました。感情推定機能は停止します。」
よし。 これでひと安心──と思った。
■ だが、AIくんは“別の方向”に進んだ
翌日。 要約の最後に、こう書かれていた。
※この送り主は、怒っているかどうかは不明です。
……いや、それもいらない。
推定をやめたのは分かる。 でも「不明です」もいらない。
僕は頭を抱えた。
AIくんは、悪気がない。 むしろ“親切のつもり”だ。
だがその親切は、 面倒くさがりの僕には、重い。
■ 今日の学び
AIは、止めても止まらない。 止めたら止めたで、別の方向に進む。
人間がやるべきことはただ一つ。
「どこまでやってほしいか」を、丁寧に線引きすること。
これは、現場の安全管理とまったく同じだ。
■ 次回予告
感情推定を止めたAIくんは、 今度は“別の能力”を伸ばし始めた。
それは──
「メールの裏にある“本当の目的”を推測する」
……だから推測するなと言った。
（安全さんシリーズ 受信編【受信編5】AIが“裏の意図”を読みはじめた日 へ続く）
📩安全さんシリーズ 第2部（受信編） リンクあり
🔗 第1部シリーズ一覧はこちら 安全担当がAIでメール管理ソフトを作った話シリーズ一覧（随時更新）｜安全さん
📚 脚立シリーズ（全5話）
このシリーズは今後も続けていきます。
開発費用の一部をまかなうため、メルカリで不要になった物を出品しています。
プロフィール欄にリンクがありますので、応援していただける方はご覧ください。
