ミシガン大AI不正疑惑訴訟 / 障害特性とAI生成の境界 / 執筆プロセスの評価 雑感

Ⅰ　障害特性とAI利用疑義の交錯

　米国ミシガン大学の学部生が、人工知能を用いて課題を作成したと不当に非難されたとして、同大学を相手取り連邦裁判所に訴訟を提起した〔注1〕。原告の学生は強迫性障害および全般性不安障害の診断を受けており、自身の執筆スタイルに見られるフォーマルな文体や緻密な文章構造は、これらの障害の特性に由来するものであると主張している。教育現場におけるAI検知と人間の多様性の衝突という法的課題を、本件は正面から提示している。

1　事案の経緯と大学の対応

　訴状等によれば、原告の学生は初年次向けの講義において、担当教員から複数回にわたりAIを不当に使用したと疑われ、学生学務局から懲戒観察等の処分を受けた。さらに記録なしの成績評価を受けたことで、卒業が危ぶまれる事態となっている。学生側は、障害が文章スタイルにどのような影響を与えるかを示す医療記録を大学側に提出した。しかし大学側はその証拠を退け、障害に配慮した調整を実施することなく手続を進めたとされる。

　担当教員は、学生の文章スタイルに対する主観的判断に加え、学生自身のアウトライン等を用いた自己確証的なAI比較出力に依存して不正を認定したと主張されている。担当教員が採点作業によって疑心暗鬼になり至る所にAIの影を見るようになったという趣旨の発言を公にしていたとの記述もある。人間の直感と不透明な判定基準が組み合わさった結果生じた事案と理解される。

2　主観的評価と機械の誤認

　本件において筆者が着目するのは、人間の精神的および神経的特性がAIの出力と類似していると見なされた点である。原告の臨床医は、強迫性障害や不安障害に由来するフォーマルなトーン、細部まで行き届いた構造、文体の一貫性といった特徴が、人工的あるいは不誠実な振る舞いとして誤解されるおそれがあると警告していたとされる。

　AI検知システムは文章の予測可能性や表現のばらつきを統計的に分析して判定を下す。そのため、論理的で整然とした文章を書く人間の所産を機械による生成物として誤判定しやすいという技術的限界が存在する。障害に起因する高度に組織化された表現がAIの出力と類似して見えるという現象は、十分に起こりうる。あえていえば、アルゴリズムによる画一的な判定基準が人間の多様性を機械的であるとみなして排除する構造は、看過できない問題を孕む。

Ⅱ　教育機関に求められる適正手続と立証構造

1　反差別法理の適用と配慮義務

　原告は、大学の対応がアメリカ障害者法およびリハビリテーション法に違反すると主張している。障害に起因する特性を不正行為の証拠として扱い、学業上の誠実性を問う手続において合理的な配慮を提供しなかったという構成である。教育機関がAI利用の有無を判定する際、人間の表現の揺らぎを当然の前提とするような評価基準を用いることは、特定の障害を持つ学生に対する不利益取り扱いとして機能しうる。既存の反差別法理が、生成AIという新たな技術環境下でどのように適用されるかが問われているといえそうである。

2　立証負担の不均衡

　現状の教育現場において、AIによる不正を疑われた学生は、自身が自力で文章を書いたことを証明するために、執筆プロセスのタイムスタンプや編集履歴といった客観的記録の提出を余儀なくされる。整然とした文章を書くこと自体が疑いの対象となるのであれば、学生はあえて文章に不完全さを残すという不合理な対応を迫られることになりうる。

　教育機関が教員の主観や不完全なツールの結果のみを根拠に学生の成績や卒業資格を奪うことは、手続的な正当性を欠くおそれがある。AIの使用を疑う側が十分な立証を行わないまま処分を下し、無実の証明を事実上学生側に転嫁する構造は、当事者間の立証能力の格差に鑑みると著しく不均衡であると思われる。

Ⅲ　むすびにかえて

　ミシガン大学の事案は、技術に対する教育現場の過剰な警戒が、いかにして立場の弱い学生の権利を制約しうるかを示す具体例である。AIの生成物を排除しようとする試み自体が、特定のマイノリティを意図せず排除する構造を持ちうる。教育機関には、技術の限界を謙虚に認識し、人間の多様な表現方法を正当に評価しうるきめ細やかな事実認定の仕組みを再構築することが求められるともいえそうである。

（参考）

（マガジン）「AIと法-雑感」

　※目次は以下を参照

note総則規約3条2項前段
3.2 クリエイターが制作したデジタルコンテンツの著作権は、クリエイターに帰属します。