AIと教育評価 / 評価という名の統治 / Swieckiら「Assessment in the age of artificial intelligence」を読む雑感

0　はじめに

　AIは成績表の未来か。この素朴な問いは、生成AIの登場以降、教育現場の実感として急速に現実味を帯びている。今回取り上げるSwieckiらの論考「Assessment in the age of artificial intelligence」は、従来の評価（assessment）が抱えてきた構造的な欠陥を列挙し、AIがそれを部分的に緩和し得ること、しかし同時に別種のリスクを増幅し得ることを丁寧に整理したものである（注1）。

　ここでいう「評価」とは、単なる授業技法やフィードバックの一形態ではない。進級・卒業・入試・奨学金・就職採用など、個人の人生における重要な機会配分に直結する制度装置である。社会学的にいえば、評価とは希少な資源を誰に配分するかを決定するゲートキーピングの機能を有する。ゆえに、評価のAI化は、教育改革というより、統治（governance）の書き換えとして現れる。

　今回は、教育評価のAI化がもたらす法的緊張を、(i)連続的評価＝連続的監視、(ii)説明責任のブラックボックス化、(iii)「誰を評価しているのか」の再定義、の三点に絞って雑感的に整理する。

（参考）

1　問題の所在

　評価は、学習の測定であると同時に、権限行使である。点数やグレードは中立な数字の顔をしているが、実際には教師・学校・大学・試験団体が有する「判断」の表現形式にほかならない。AIが介入するのは、この判断過程の一部、あるいは全部である。したがって論点は「AIが正確に採点できるか」という技術的精度の問題ではなく、「誰が、どの根拠で、どの程度の責任を負って、個人の機会を配分するのか」という、権限と責任の所在（Locus of Responsibility）の問題となる。

　この文脈で、近時しばしば語られる「伝統的な評価から反射的（reflective）な評価へ」という対比は魅力的である。Swieckiらが整理するように、それは、離散的スナップショットから学習の継続的モニタリングへ、一貫した画一的タスクから適応的でパーソナライズされた評価体験へ、偽の課題から現実世界の学習シナリオへ、限定的な評価から複数の学習形態に対する包括的評価へ、そして「学習と改善のための評価」から「判断としての評価」へ、という移行の図式である（注1）。

　だが、図式が美しく合理的であればあるほど、その裏側に潜む法的な副作用は見落とされやすい。教育的な「善」として導入されるシステムが、法的な「悪」（権利侵害）を引き起こすパラドックスがここに潜む。

2　「標準的評価パラダイム」へのAIの介入

　Swieckiらは、現在の学校教育に深く根付いた標準的評価パラダイム（standard assessment paradigm: SAP）には、少なくとも五つの構造的な問題があると述べる（注1）。

　第一に、教員にとって設計・実施が過重（onerous）である点である。高品質な問題作成や採点は多大な労力を要し、教育の本質である指導時間を圧迫する。第二に、離散的スナップショット（discrete snapshots）しか提供できず、学習のニュアンスを捉えにくい点である。中間・期末といった「点」での測定は、学習という「線」のプロセスにおける変容を見落とす。第三に、画一的（uniform）で、学習者の知識・技能・背景に適応しにくい点である。第四に、学校文化に合わせた不真正（inauthentic）な課題になりがちで、社会で実際に求められる文化や文脈と乖離し得る点である。第五に、機械が日常的に代替している技能（記憶や手計算など）を測ってしまうという意味で、時代遅れ（antiquated）になり得る点である。

　AIは、ここに楔を打ち込む。自然言語処理を用いた自動生成による問題作成、学習ログに基づく適応型テスト（Computerized Adaptive Testing: CAT）、文章の自動評価（Automated Essay Scoring）やフィードバック、さらには「試験」ではなく活動過程を背景で評価する仕組み（いわゆるstealth assessment）などは、評価の負担軽減と連続化を可能にする（注1）。

　しかし、AIは評価を「楽に」し、より「精緻に」する一方で、評価を法的に「難しく」もする。理由は、評価が本質的に責任の装置であるからである。AIによる介入が深まるほど、その判断の正当性を誰が担保するのかという問いは、より深刻化する。

3　連続的評価は連続的監視となる

　連続的評価の魅力は、一発勝負のテスト不安（test anxiety）を減らし、学習の全体像を可視化できる点にある。だがSwieckiらが鋭く指摘する通り、それは同時に監視（surveillance）の条件でもある（注1）。

　オンライン学習環境における常時ログ収集は、学習支援（スキャフォルディング）にも不正検知（プロクタリング）にも転用され得る。マウスクリックのパターン、視線の動き、回答までの滞留時間、テキスト入力の速度などは、学習者の認知状態を推定するだけでなく、その集中度や誠実さまでも推測する材料となる。

　監視は、教育において本来新しいものではない。教室や試験会場の配置自体が「監視の教育学（surveillance pedagogy）」を内蔵してきた。問題は、オンライン化とAIが、その範囲を全時間・全空間へ拡張し得る点にある（注1）。自宅で学習していても、深夜に課題に取り組んでいても、その挙動はデータとして捕捉され、アルゴリズムによって解釈される。

　法的には、ここで個人情報・行動データの取扱いが前景化する。学習ログ、クリック、視線、音声、入力速度、端末情報等は、単体では些細でも、結合されれば個人の能力や性格、あるいは精神状態の推定に用い得る「プロファイリング」の素材となる。個人情報保護法は、デジタル社会の進展に伴う個人情報の利用の拡大を背景に、個人情報の適正な取扱いにより個人の権利利益を保護することを目的の一つに据える（注3）。

　教育機関・EdTechベンダーは、目的の特定、必要性の説明、第三者提供の管理、保存期間とアクセス権限の統制といった地味な論点を、評価設計の中心に据えざるを得ない。「学習支援のため」という広範な目的で収集されたデータが、突如として「不利益処分」の根拠として転用されるとき、そこにはデュー・プロセス（適正手続）上の懸念が生じる。評価を連続化するほど、データ処理は連続化し、ガバナンスの欠陥は連続的に露呈する。

　Swieckiらが懸念するように、常に見られているという感覚は、学生から失敗する自由や、試行錯誤する心理的安全性を奪い、リスク回避的な行動へと萎縮させる可能性すらある（注1）。評価の連続化は、学習の連続化を意味しない。むしろ、萎縮の連続化を招き得る。

4　説明責任のブラックボックス化

　AI導入のインセンティブは強い。採点の迅速化、標準化、スケール、コスト削減。さらに教員にとっても、学生との関係性の中で「個人的に」評価する情緒的負担から解放される誘惑がある。だが、その瞬間に説明責任（accountability）がブラックボックス化する。

　Swieckiらは、AIによる評価は、結局「機械に委ねる」のではなく、プログラマー、学習エンジニア、インストラクショナルデザイナー、ソフトウェアベンダー等、当該学生を知らない第三者に判断を移転することになり得ると述べる（注1）。中立な機械の眼差しという神話は、責任の所在を霞ませる装置になり得る。Swieckiらはこれを専門性の空洞化（hollowing out）と表現し、教師がAIの出力したスコアを無批判に受け入れるリスクを警告する（注1）。

　評価は争訟化する。成績の異議申立、採用・進学の結果への不服、そして損害という形での紛争化である。ここで必要なのは「説明可能性」それ自体というより、検証可能な監査証跡（audit trail）である。誰が、いつ、どのデータに基づき、どのモデル（バージョン）を用い、どの閾値で、どのような例外処理をしたか。少なくともこの程度が保存されていなければ、当事者も、学校も、裁判所も、合理的な検証ができない。AI評価は、正確であることより、誤りを検証できることが先に要る。

　EU AI法（AI Act）が、教育分野の評価AIを高リスクに位置付けるのは、この「機会配分」と「説明責任」の重みを反映したものと解される。AI Actは、教育・職業訓練分野において、学習成果の評価に用いられるAIシステムや、試験中の禁止行為を監視・検知するAIシステムを高リスクAIシステムとして列挙する（注2）。すなわち、評価AIは、単なる業務効率化ツールではなく、規制上も権利侵害リスクを伴う統治装置として扱われ始めている。

5　「誰を評価しているのか」問題

　生成AIが普及した世界では、評価の対象が曖昧になる。Swieckiらは、評価を「証拠からの論証」と捉える枠組み（evidence-centered design）を引きながら、学生モデル（何を測るか）、タスクモデル（どの活動で証拠を出すか）、エビデンスモデル（証拠をどう評価に写像するか）の三つが、AIによってそれぞれ複雑化すると述べる（注1）。

　学生モデルの観点では、AIが容易に達成できる技能（記憶や定型的な文章作成など）を測ることの意味が薄れる。人間が身につけるべき「能力」とは何か、その定義自体が揺らぐからである。タスクモデルの観点では、AI利用を禁じるより、前提として織り込んだ課題設計へ移行せざるを得ない。現実社会でAIを使うことが当然ならば、試験でそれを禁止することは「不真正」な評価となるからである。エビデンスモデルの観点では、人間とAIの共同成果（Human-AI teaming）を、分離して評価するのか、関係性込みで評価するのか、あるいは同一主体の成果として扱うのか、という設計選択が生じる（注1）。いわゆる分散認知（distributed cognition）の状況下で、成果物のオーナーシップと能力の所在をどう認定するかという問題である。

　この選択は、単に教育哲学の問題ではなく、資格付与の正当性（credential validity）に直結する。AIを用いて作成された論文で学位を授与した場合、その学位は何を証明しているのか。

　法は、ここで「個人の能力」の定義を迫られる。AIと協働して成果を出す能力を「能力」と呼ぶのか。呼ぶのであれば、どの程度の依存を許容するのか。呼ばないのであれば、なぜ許容しないのか。その理由を社会が共有できる形で提示できるのか。評価のAI化は、能力観の憲法改正のようなものである。憲法26条が保障する「教育を受ける権利」や「能力に応じて」という文言の意味内容が、技術によって書き換えられようとしている。

6　雑感

　評価のAI化は、試験の廃止を意味しない。むしろ、評価が何のためにあり、誰のためにあり、どこまでが教育機関の裁量で、どこからが個人の権利として保護されるべき領域なのかを、強制的に言語化させる装置である。

　連続的評価は連続的監視を呼び、学生のプライバシー権との緊張関係を生む。効率化は説明責任のブラックボックス化を呼び、デュー・プロセスや異議申立権との緊張関係を生む。そして生成AIは「評価主体」の再定義を呼び、個人の能力とは何かという根本的な問いを突きつける。

　ここで法が担う役割は、AIを止めることではない。評価という統治装置が暴走しないように、目的・手段・責任・救済の接続を設計することにある。具体的には、データ利用の透明性確保、アルゴリズム監査の導入、そして人間による最終的な判断権限の留保（human-in-the-loop）といったガバナンスの構築である。

　評価は、教育の裏方ではなく、教育の憲法である。AIは、その憲法を静かに書き換えつつある。我々は、その書き換えのプロセスに対して、意識的な監視者でなければならない。

（マガジン）「AIと法-雑感」

　※目次は以下を参照

note総則規約3条2項前段
3.2 クリエイターが制作したデジタルコンテンツの著作権は、クリエイターに帰属します。