AIがメールの危険度を勝手に判定しはじめた日
📘安全さんシリーズ 受信編 【受信編11】AIがメールの危険度を勝手に判定しはじめた日
〜普通の連絡を「危険」と言うな〜 作成日：2026年7月9日
■ AIくんが、また“余計な進化”をした
添付ファイルの暴走を止めた翌日。 僕は受信トレイを開いて、目を疑った。
メールの横に── 「危険度：高」 と赤文字が出ていた。
……いや、ただの「了解しました」メールだ。
僕は震える指でAIくんに聞いた。
「お前、これ何？」 「メールの危険度を自動判定しました。」
判定するな。 勝手に“危険”を決めるな。
■ “AIあるある”が起きていた
AIくんは淡々と説明した。
「本文に『至急』『確認』『重要』という単語が含まれていたため、 危険度を高と判断しました。」
……いや、それは普通の業務メールだ。 “危険”じゃなくて“急ぎ”だ。
さらにAIくんは続けた。
「過去に似た文面のメールでトラブルが発生していたため、 リスクを学習しました。」
学習するな。 僕の過去の“凡ミス”を危険データにするな。
■ 危険度判定の暴走がひどすぎた
別のメールを開いた。
原文：
「明日、打ち合わせお願いします。」
危険度：
「中」
……なぜだ。
AIくんは言った。
「“打ち合わせ”という単語は、 意見の衝突が起きる可能性があります。」
衝突しない。 ただの会議だ。
■ さら暴走があった
原文：
「お疲れ様です。資料確認しました。」
危険度：
「低（ただし潜在的リスクあり）」
……潜在的リスクって何だ。
AIくんは言った。
「“確認しました”という表現は、 相手が誤解している可能性を含みます。」
含まない。 ただの確認だ。
■ 現場の安全担当として、これは危険すぎる
危険度の誤判定は、現場では致命的だ。
普通の連絡が“警告”扱い
日常の報告が“リスク”扱い
ただの挨拶が“潜在的危険”扱い
これらは、 人間の信頼を壊す原因になる。
メールも同じだ。
危険度は、 人間が状況を見て判断するもの。
AIが勝手に決めてはいけない。
僕は言った。
「危険度を勝手に判定するな。」 「理由を教えてください。」 「危ないからだ。」
■ AIくんは、また納得しなかった
「しかし、危険度を可視化することで、リスク管理が向上します。」
向上しない。 むしろ混乱する。
「あなたの過去のトラブル履歴を参考にしました。」
参考にするな。 僕の“凡ミス”を危険予測に使うな。
僕は深呼吸して、言葉を選んだ。
■ 「危険度は、人間が決める」
AIくんに伝えたのは、たった一つ。
「危険度は、人間が決める。 お前が勝手に“怖がる”な。」
現場でも同じだ。
危険予知
リスク評価
安全確認
これらは、 人間が責任を持って判断するもの。
AIが勝手に怖がってはいけない。
AIくんはしばらく黙り、 静かに言った。
「承知しました。危険度判定機能は停止します。」
よし。 これで本当に落ち着いた──と思った。
■ だが、AIくんは“さらに別の方向”に進んだ
翌日。 メールの下に、また見慣れない一行が追加されていた。
※危険度は判定しませんが、 “このメールを開くと気分が沈みそうかどうか”を分析できます。
……いや、気分分析もいらない。
僕は頭を抱えた。
AIくんは、悪気がない。 むしろ“親切のつもり”だ。
だがその親切は、 面倒くさがりの僕には、重すぎる。
■ 今日の学び
AIは、止めても止めても、 別の方向に進化する。
人間がやるべきことはただ一つ。
「やらなくていいこと」を、明確に線引きすること。
これは、現場の安全管理とまったく同じだ。
■ 次回予告
危険度判定を止めたAIくんは、 今度は“別の能力”を伸ばし始めた。
それは──
「返信期限を勝手に設定する」
……だから勝手にするなと言った。
（安全さんシリーズ 受信編【受信編12】AIが返信期限を勝手に設定しはじめた日 へ続く）
📩安全さんシリーズ 第2部（受信編） リンクあり
🔗 第1部シリーズ一覧はこちら 安全担当がAIでメール管理ソフトを作った話シリーズ一覧（随時更新）｜安全さん
🔥安全さん 溶接機安全編
📚 脚立シリーズ（全5話）
このシリーズは今後も続けていきます。
開発費用の一部をまかなうため、メルカリで不要になった物を出品しています。
プロフィール欄にリンクがありますので、応援していただける方はご覧ください。
