今日から使えるAI安全運転の3つの合言葉
ここまで、AIのセキュリティについて、いくつかの角度から見てきました。プロンプトインジェクションという脅威、DoS攻撃、RAGの活用と注意点。どれも大切な話ですが、学校現場の先生方にとって、もっとシンプルに「今日から使える」形にまとめられないか。
そんなことを考えながら、総務省のガイドラインを読み返していて、気づいたことがあります。実は、AIの安全な使い方には、3つの合言葉があるんです。この3つを覚えておくだけで、AI活用は一気に「安全運転」になります。
合言葉その1：AIの答えは「正解」じゃなくて「出力」
これは、生徒にも、先生自身にも、ぜひ伝えたい言葉です。
AIが出した答えは、確かに便利です。でも、それは「正解」ではありません。「出力」です。この言葉の違いを理解することが、安全なAI活用の第一歩です。
たとえば、生徒が探究学習でAIを使うとき。「このテーマについて調べて」と頼んで、AIが出した答えをそのままレポートに書いてしまう。これが、よくある失敗です。でも、「AIの答えは出力だから、必ず確認しよう」と伝えておけば、生徒も立ち止まって考えるようになります。
先生自身も、校務でAIを使うときは、同じように考えたいですね。AIが出した通知文の案を、そのまま使うのではなく、一度読み直して確認する。AIが出した教材案を、そのまま使うのではなく、内容を確認してから使う。この「確認する」という一手間が、大きな事故を防ぎます。
「AIの答えは出力」という合言葉を、ぜひ教室でも、職員室でも、使ってみてください。
合言葉その2：怖いのは質問より「AIに読ませた情報」
プロンプトインジェクションという脅威について、前回詳しく見ました。でも、学校現場で特に気をつけたいのは、直接的な攻撃よりも、間接的な攻撃の方かもしれません。
「AIに読ませた情報」が汚染されていれば、出力も汚染されます。これは、探究学習でWebページを参照させるときも、校内チャットボットで資料を参照させるときも、同じです。
たとえば、生徒が「このWebページの内容をまとめて」とAIに頼むとき。そのWebページが本当に信頼できる情報源なのか、確認させましょう。あるいは、校内チャットボットを作るとき、どんな資料を入れるか、最初から慎重に選ぶ。この「読ませる情報を選ぶ」という意識が、安全なAI活用の鍵になります。
「怖いのは質問より、読ませた情報」。この合言葉を覚えておくと、AIを使うときの視点が変わります。
合言葉その3：AIには「できること」を渡しすぎない
「便利だから全部つなぐ」。この発想は、確かに便利です。でも、便利さと引き換えに、リスクも大きくなります。
AIにできることを広げすぎると、事故が起きたときの影響も大きくなります。だからこそ、「最小権限の原則」が大切なんです。AIに本当に必要な権限だけを与えて、それ以外は与えない。この慎重さが、安全なAI活用の鍵になります。
校内チャットボットを作るときも、最初は安全な資料だけから始める。使える人も限定する。出力ルールも決めておく。この「できることから始める」という発想が、長期的には大きな違いを生みます。
「AIにはできることを渡しすぎない」。この合言葉を覚えておくと、AIを使うときの判断基準が明確になります。
3つの合言葉が生む「安全運転」
この3つの合言葉。どれもシンプルですが、組み合わせることで、AI活用は一気に「安全運転」になります。
「AIの答えは出力」と覚えておけば、確認する習慣がつきます。「怖いのは読ませた情報」と覚えておけば、参照する情報を選ぶ意識が生まれます。「できることを渡しすぎない」と覚えておけば、慎重に始める判断ができます。
完璧を目指すのではなく、できることから始めて、少しずつ安全度を上げていく。この「重ねがけ」の発想が、学校現場でのAI活用には、きっと役に立つと思います。
総務省のガイドラインは、技術的な内容も多いですが、その根底にあるのは、こうした「慎重さ」や「確認する習慣」です。難しい技術を覚えるよりも、まずはこの3つの合言葉を覚えて、今日から実践してみませんか。
AIのセキュリティ評価について、より詳しく知りたい場合は、AISIの「AIセーフティ評価ツール」も参考になります。こちらは、AIシステムの安全性を評価するためのツールやガイドがまとめられています。
作成日：2026-01-28
