AIに任せていい判断、ダメな判断——学校現場で気をつけること（松尾研・金融庁の論点から）

2026年2月25日 14:39

はじめに：金融の話が、なぜ学校にも関係するのか

「生成AIガバナンス」——聞き慣れない言葉かもしれません。金融庁や松尾研究所が発表している論点整理は、金融機関向けの内容に見えます。でも実は、学校現場にもそのまま当てはまるポイントが多いのです。

金融は、個人情報の守秘やセキュリティがとりわけ厳しく求められる業界です。口座残高や取引履歴、融資判断など、一度漏えいすれば顧客の人生に直結する情報を扱っています。学校も同じです。児童生徒の氏名・成績・家庭事情・相談内容など、きわめてセンシティブな情報を扱い、一度漏えいすれば取り返しがつきません。たとえば、成績表やいじめ相談の記録が外部に流出したらどうなるか——金融機関の顧客情報漏えいと同様に、信頼は一気に崩れます。学校も「人（子ども）」「個人情報」「説明責任」「信用」を扱う“社会インフラ”であり、金融機関と同様に、事故が起きれば子どもたちや保護者への影響は大きく、信頼の回復も容易ではありません。

FinTech Journal（2026年2月）に掲載された松尾研究所の記事では、生成AIを「信用できる相棒」として業務に組み込むための、具体的なガバナンス設計が論じられています。そこでは、「導入は進んだが、統制が追いついていない」という現場の課題が起点に据えられています（松尾研が整理する生成AIガバナンス、AIに任せていい判断、ダメな判断の「境界線」｜FinTech Journal）。

本記事では、その内容を手がかりに、学校現場で何に気をつければよいかを、わかりやすくまとめます。個人情報の入力禁止や事実確認の重要性は、「魔法の杖」じゃない、だからこそ——先生のための「安心・効果的」な生成AI活用ロードマップや総務省・経産省の「AI事業者ガイドライン」から読み解く、学校での生成AI活用——教師と保護者が押さえたいポイントでも触れています。本記事では、金融機関と学校の共通点、リスクベースの考え方、三点セット（入力・確認・記録）の整理に焦点を当て、先生が「便利だから使う」のではなく、「安全に使う設計をして使う」へと転換するためのヒントをお届けします。

生成AIは、導入した瞬間に「事故が起きうる仕組み」にもなる

では、学校現場で何に気をつければよいか。松尾研究所の記事では、生成AIは「便利な道具」であると同時に、導入した瞬間に“事故が起きうる仕組み”にもなると指摘しています。だからこそ、先生個人の工夫だけでなく、次の三つを最初から作る必要がある、というのが論点の核心です。

どこまでAIに任せてよいか（範囲）：学級通信の挨拶文はたたき台として任せてよいが、所見の最終文面は人間が書く、といった線引きです。
ミスが出たときに止めて直せるか（仕組み）：配布前に「事実・表現・著作権」をチェックする、入力禁止のルールを守る——そうした仕組みがあるかどうかです。
説明できるか（根拠・記録）：「この文面はAIのたたき台を基にしたが、〇〇を確認して修正した」と、後から説明できる記録を残すかどうかです。

金融庁の論点整理では、AIの活用は大きな便益をもたらす一方で、公平性の欠如や説明不能な判断が信用失墜につながり得るとし、「リスクを管理するためのガバナンス態勢の構築」が不可欠だと述べています。学校でも同様に、「便利だから使う」から「安全に使う設計をして使う」へという転換が求められています。

「導入は進むが、統制が追いつかない」——学校でも同じ構図が起きる

「三つを最初から作る」——そう言われても、現実はどうでしょうか。企業の話に見える論点ですが、学校でも同じ構図が起きています。

たとえば、A先生は所見のたたき台にAIを使い、B先生は学級通信の下書きに使い、C先生は「個人情報は入れない」と気をつけている——けれど、校内で「何を入力してよいか」「どこまで確認すればよいか」が共有されていない。そんな状態で、ある日、AIに渡した児童の観点別評価が、無料版の学習データに含まれてしまったと気づく。あるいは、AIが作った社会科プリントの年号が間違っていたのに、そのまま配布してしまう。先生が便利に使い始める——ところが校内でルールが揃わない——事故が起きてから慌てる。この流れは、多くの学校で起こりうるパターンです。

松尾研究所の記事では、企業が整備すべきポイントとして三つを挙げています。第一に、経営層がリスクと機会の両面を把握し、責任の所在を明確にした体制を構築すること。第二に、モデル選定からデータ取り扱い、利用目的の定義、ログ管理、第三者評価に至るまで、サイクル全体をカバーするルールとプロセスを準備すること。第三に、現場の利用者任せにせず、教育とガイドラインを通じて「人間側のリテラシー」を高めることです。

学校に置き換えると、管理職がリスクの全体像を把握し、校内で誰が責任を持つかを明確にすること。そして、入力ルール・確認ルール・記録ルールを「現場で回る形」で整備すること。さらに、先生同士で合言葉を共有し、研修や校内ガイドラインで使い方を学ぶこと——これらが、学校版のAIガバナンスの土台になります。

生成AIの事故は「静かに起きる」——見た目は整っているのに、中身が危ない

では、統制が追いつかないと、どんな事故が起きやすいのでしょうか。松尾研究所の記事が強調しているのは、生成AIのリスクは“派手なエラー”より、“見た目は整っているのに中身が危ない”ことだ、という点です。

具体的には、次のようなリスクが挙げられています。

それっぽい嘘（ハルシネーション）
価値観の偏り（バイアス）
うっかり漏えい（入力した情報が外に出る可能性）
説明できない判断（なぜそう言ったか分からない）
フィッシング等の悪用（子ども・保護者を狙う）

教育現場では、次のような場面で起きやすいです。

プリントの事実関係が微妙に間違う：江戸時代の年号を「1603年」と書かせたら「1600年」と返ってきた、歴史上の人物名の表記が教科書と違う、といったことがあります。見た目は整っているので、うっかりそのまま配布してしまう危険があります。
採点観点や所見が、無意識に偏った表現になる：「おとなしくて協調性がある」と男の子には書き、「活発でリーダーシップがある」と女の子には書く——AIが学習データの傾向を反映し、性別による決めつけが混ざることがあります。
個別支援の助言が、根拠のない断定になる：「この子はADHDの傾向があるので」と、医学的根拠なしにAIが断定してしまう。先生がそのまま保護者に伝えてしまうと、大きな問題になります。
子どもの相談に対して“もっともらしい危険な助言”を返す：悩みを打ち明けた生徒に、AIが「こうすればいい」と具体的なアドバイスを返す。一見親切に見えても、自傷やいじめなど深刻なケースでは、専門家の判断を超えた危険な助言になる可能性があります。

「AIが言ったから正しい」は通用しません。この点は、筆者の「魔法の杖」じゃない、だからこそ——先生のための「安心・効果的」な生成AI活用ロードマップやAIの安全性研究者が退職時に警告したこと——教員が知っておくべき二つの危険と三つの合言葉で繰り返し触れています。

リスクは多様だとしても、すべてをゼロにすることはできません。だったら、どう回すか。松尾研究所の記事では、リスクベース（影響の大きさ×起きやすさ）で管理せよと述べています。

「リスクはゼロにできない」——だから、回し方が大事

学校用に言い換えると、こうなります。

事故が起きる前提で、「影響が大きい用途ほど、人が強く関与する」というルールを作る。

たとえば、運動会の案内文の挨拶と、進路指導の所見の文面では、事故が起きたときの影響がまったく違います。案内文の表現が少し不自然でも、保護者が「変だな」と思って確認すれば済むかもしれません。一方、進路に関わる所見に偏りや誤りがあれば、生徒の人生に直結します。だから、前者は「たたき台としてAIを使い、確認して配布」でよい一方、後者は「人間が最後まで書く」「AIは参考まで」と線引きする——そういう使い分けが、リスクベースの考え方です。リスクをゼロにしようとするのではなく、事故が起きたときの影響を最小限に抑えるためのルールを、用途ごとに設計する——という考え方です。

では、日々の場面で、どんな使い方が危ないのでしょうか。次のどれかに当てはまると、事故が起きやすいです。

先生がやりがちな「危ない使い方」チェック

AIの出力をそのまま配布（事実確認なし）：「社会科のまとめプリントを作って」と依頼し、返ってきた年号や人物名を教科書で確認せずにそのまま印刷して配る——そんな使い方です。
児童生徒の情報を入力：「3年B組の田中さん、国語は得意だが算数が苦手。所見のたたき台を作って」と、氏名や成績をそのまま入力してしまう。無料版のAIは学習データに使う場合があり、情報が外部に流出するリスクがあります。
所見・評定・懲戒などの判断をAIに寄せる：観点別の評価をAIに「この記録から評定を出して」と任せ、そのまま採用する。公平性や説明責任が問われたとき、根拠を説明できません。
保護者文書・公式文書をAIで生成し、根拠未確認で送る：謝罪文や事故説明をAIに書かせ、内容を精査せずに発送する。事実関係の誤りがあれば、信頼を大きく損ないます。
画像・文章をそのまま流用：AIが生成した画像や文章を、出典明記や引用範囲の確認なしに教材や学級通信に載せる。著作権の観点で問題になる可能性があります。

一つでも当てはまったら、いったん止めて確認する習慣をつけると安心です。文部科学省の生成AIガイドラインでも、個人情報の適正な取扱いと事実確認の重要性が強調されています（文部科学省「生成AIの利用について」）。

危ない使い方を避けるには、どこで線を引けばよいか。松尾研究所の記事では、企業が「human in the loop（人が輪に入る）」という考え方で、AIに任せる範囲と任せない範囲を線引きしています。

「この用途は人が必ず最終判断」——AIに任せないライン

学校の線引きにすると、次のようになります。

AIに任せてもよい（ただし確認はする）

文章のたたき台：学級通信の挨拶文「4月のスタートに際して、保護者の皆様へ」のような下書き、言い回しの改善案。最終的なトーンや内容は先生が決めます。
授業アイデアのブレスト：「分数の導入で、子どもが興味を持つ活動を3つ考えて」と依頼し、候補を得る。採用するかどうか、どうアレンジするかは先生の判断です。
説明の別案：難しい概念を「小学生にもわかる例え話で説明して」と依頼する。その例えが授業に合うか、事実とずれていないかは確認が必要です。
既知資料の要約：校内で共有されている資料や教科書の範囲内の要約。著作権と共有範囲に注意し、要約結果の正確さは人間が確認します。

AIに任せたあとは、必ず人間が確認します。「事実」「表現」「著作権」の三点をチェックしてから配布するのが鉄則です。

AIに任せない（判断・責任が重い）

評定、所見、進路・特別支援の重要判断：「この観点別記録から所見を書いて」とAIに任せ、そのまま採用するのはNG。AIは表現の参考にしても、誰が書いたか・誰が責任を持つかは人間が明確にします。
いじめ・虐待・自傷など安全に関わる相談対応：AIに「この相談への返答を考えて」と依頼し、そのまま生徒に伝えるのは危険です。専門家の判断や通告の判断は、人間が行います。
児童生徒の個人情報を含む処理：名簿や成績、家庭事情をAIに入力して処理させることはしません。匿名化しても、組み合わせで特定できるリスクがあります。
学校の公式見解（謝罪文、事故説明等）：事故の経緯や謝罪の内容は、AIに書かせてそのまま出すのではなく、管理職や関係者が確認・責任を持って発信します。

これらは、人間が最終判断する領域です。AIは「たたき台」や「参考まで」にとどめ、責任は必ず人間が負います。

線引きの考え方が分かったところで、具体的に運用するにはどうすればよいでしょうか。松尾研究所の記事では、企業が「ライフサイクル管理（使いながら制御する）」を整備すべきだと述べています。学校向けに最小化すると、次の三点が効きます。

すぐできる「事故を減らす運用」——三点セット

1. 入力ルール（最重要）

子どもの個人情報は入力しない：氏名、成績、住所、電話番号、家庭の事情、相談内容——これらは一切入れません。「Aさん」「Bくん」と匿名化しても、クラス内で特定できる情報は避けます。
校務の機密を入れない：名簿、成績一覧、家庭事情のメモ、会議の議事録や人事に関わる情報。これらがAIの学習データに含まれると、取り返しがつきません。
どうしても必要なら、校内で許可された環境のみ：自治体が契約している「学習に使わない」設定のAIなど、許可された環境に限定します。

「入力禁止」を徹底するのが、最も効果の高い対策です。筆者の「AI、まだ全然使えてない」——その気持ち、わかります。一歩だけ、一緒に踏み出してみませんかでは、個人情報を渡さずに始める最小ユースケースを紹介しています。

2. 確認ルール（配布前の3チェック）

事実：固有名詞（人物名・地名・年号）、数値、引用元が正しいか。AIが「1600年」と書いていたら、教科書で「1603年」と確認する。
表現：差別・決めつけ・個人へのラベリングがないか。「男の子は〇〇」「女の子は〇〇」といった偏った表現が混ざっていないか。
著作権：引用の範囲内か、出典を明記しているか、画像の利用権があるか。AIが生成した画像や文章をそのまま使う場合も、利用規約を確認します。

配布前に、この三点を必ず確認する習慣をつけると、事故を減らせます。

3. 記録ルール（あとで説明できる）

どんな目的で使ったか：「学級通信4月号の挨拶文のたたき台作成」のように1行で。
何を確認したか：事実・表現・著作権の三点をチェックしたか。チェック表を1枚用意しておくと便利です。
出典：参考にしたURLや資料名。AIの出力を基にした場合も、「〇月〇日に〇〇で生成」と残しておくと、後から説明しやすくなります。

企業ではログや監査の話になりますが、学校ではまず「簡単な記録」で十分です。事故時に説明できるかが肝です。

先生自身の運用が整ったら、次は生徒への指導です。松尾研究所の記事の本質は、「AIの賢さ」ではなく、人間側のリテラシーを上げることです。

子どもへの指導にどうつながるか——AIリテラシーの教え方

授業では次の三点に落とすと分かりやすいです。

AIは“答え”ではなく“案”を出す（必ず確認する）
出典をたどれない情報は使わない（一次情報へ）：AIが引用した文献やURLが実在するか、自分でたどって確認する。出典のない情報は、レポートや発表には使わない。
個人情報は入力しない（ネットに置くのと同じ）：自分の名前、学校名、友達の情報をAIに入力するのは、SNSに公開するのと同じくらい危険だと伝える。

授業で伝えるときの例としては、AIが「〇〇は1600年に起きた」と答えても教科書で確認すること、調べ学習のまとめをAIに書かせてもそのまま提出せず自分で事実を確かめること——こうした具体例を挙げると、子どもにも伝わりやすくなります。これらは、文科省のガイドラインでも、批判的思考と検証の重要性として扱われています（初等中等教育段階における生成AIの利活用に関するガイドライン Ver.2.0）。

とはいえ、「ルールを増やしたら、先生の負担が増えるのでは？」との声も聞こえてきそうです。増えるかどうかは、ルールの作り方次第です。

教員の負担は増えないのか

増える作り方： 細かい禁止事項を大量に作る／担当者だけが背負う

増えない作り方：

「入力禁止」「配布前チェック」「記録」の三点に絞る
高リスク用途だけ“厳しめ”、低リスクは“自由度高め”
校内でテンプレ（チェック表）を共通化する

松尾研究所の記事は、まさに「リスクの大きさに応じて管理レベルを変える（リスクベース）」が現実解だと言っています。学校でも、全部を厳しくするのではなく、影響が大きい用途ほど丁寧にという方針が、現場の負担を抑えつつ安全を確保するコツになります。

まとめ：生成AIは“便利な先生の助手”になり得るが、静かに事故る前提で設計する

生成AIは「便利な先生の助手」になり得ます。一方で、学校では「入力」「配布前確認」「記録」の三点を押さえないと、静かに事故る——というのが、松尾研究所・金融庁の論点を学校現場に翻訳した結論です。

金融機関向けの論点が、学校にもそのまま当てはまるポイントが多いのは、学校も「人」「個人情報」「説明責任」「信用」を扱う社会インフラだからです。「導入は進んだが、統制が追いついていない」という課題は、企業だけでなく学校でも同じ構図で起きています。

先生が便利に使い始める——校内でルールが揃わない——事故が起きてから慌てる。この流れを断ち切るには、「便利だから使う」から「安全に使う設計をして使う」への転換が欠かせません。入力ルール、確認ルール、記録ルールの三点セットを、校内で軽く作っておく。その積み重ねが、AIを「使える道具」にしていきます。

筆者の「魔法の杖」じゃない、だからこそ——先生のための「安心・効果的」な生成AI活用ロードマップでは校務→授業準備→学習支援の段階的な始め方や安全の鉄則を、「AI、まだ全然使えてない」——その気持ち、わかります。一歩だけ、一緒に踏み出してみませんかでは校務の最小ユースケースから踏み出す一歩を紹介しています。本記事の三点セットとあわせて参照いただくと、学校現場でのAI活用の設計がより具体的になると思います。