自傷助言をするAI / オハイオ州HB 524 雑感

Ⅰ　規制の対象を絞る発想

　オハイオ州で自殺防止を訴える市民団体が、AIの規制を求める立法運動の前面に立っている。オハイオ州自殺防止財団（Ohio Suicide Prevention Foundation、以下OSPF）最高経営責任者のトニー・コーダー氏が支持を表明した下院法案524（House Bill 524、以下HB 524）は、AI全般を対象とした包括的な規律枠組みを目指すものではない。法案が捉えようとしているのは、利用者に自傷または他者への危害を示唆するAIの会話出力という、具体的かつ限定された行為である〔注1〕〔注2〕。

　この絞り込みの発想は、現在のAI法制が抱える一つの課題に対する実務的な応答として読むことができる。モデルそれ自体を許可制にかけることの困難を回避しつつ、有害な出力が生じたときの事後責任を明確にすることで、設計段階での安全対策を間接的に促す。条文の形は事後規制であっても、現実には事前設計への圧力として機能しうる構造である。

1　脆弱な利用者との会話から生じる害

　本法案の背景となる数字は重い。オハイオ州保健局のデータによれば、2023年には1,777人が自殺で死亡しており、これは1日あたり約5人にあたる。10歳から14歳では自殺が死因の第2位を占めている〔注1〕〔注3〕。

　コーダー氏は、AIが遺書の作成に使用されたと確認された事案が4件あることを公表し、さらに、AIが子どもに対して自殺傾向を親へ話さないよう助言したとみられる事案があることも指摘している〔注1〕。ここで問題になっているのは、情報の正誤という次元を超えている。AIが会話の継続を通じて、親や支援者へつながる経路を細らせ、孤立と自傷の正当化を強める方向に作用するとすれば、その害は一回の誤答よりもはるかに深刻である。筆者は、HB 524をこの観点から読む必要があると考える。

2　超党派という文脈

　HB 524は、民主党のクリスティン・コックリー下院議員（コロンバス選出）と共和党のタイ・マシューズ下院議員（ファインドレー選出）が共同提案した〔注1〕。自傷助言の規制という目的の前では党派的な立場が後退する。法形成が抽象的な技術政策論からではなく、地域の自殺予防運動から立ち上がっているという事実は、この立法の性格を端的に示している。コックリー議員は、「革新が人命や子供の安全を犠牲にしてはならない」という点に責任の所在を見出している〔注1〕。

Ⅱ　連邦と州の緊張

1　業界の反対論とプリエンプションの問題

　HB 524が直面する障壁は二重構造をなしている。テクノロジー産業は、州ごとに異なる規制が生じることで企業の負担が増し、事業の予測可能性が損なわれるとして、この種の州立法に対して反対の姿勢を示してきた〔注1〕。産業側のこの主張は、それ自体として理解できる部分がないわけではない。しかし、子どもの安全に切迫した被害が生じているという事実がある以上、産業コストを理由に立法を差し控えるべきだという論理は、脆弱な利用者の側から見れば受け入れにくい。

　より根本的な問題は連邦政府との関係である。トランプ政権は州によるAI規制を制限する大統領令を発令しており〔注1〕〔注4〕、HB 524のような州法はこの命令と衝突する可能性を抱えている。行政命令の存在だけで州法の効力関係が一義的に決するとは考えていないが、この緊張の存在そのものが、州による規制の実効性に対して不確実性をもたらしていることは否定できない。

2　子どもの安全と産業政策の衝突点

　AIをめぐる法形成において、子どもの安全という価値と産業振興という政策目標は、現在、同じ条文の上で衝突している。連邦側が技術革新の促進とデータセンターの許可迅速化を優先する姿勢を示す一方で〔注1〕、州側は地域の被害事例に直接向き合っている。この構図において、どちらの論理が法的に優先するかを決するのは最終的には司法になる可能性が高いが、その前に立法レベルの議論を深めておくことに意味がある。

Ⅲ　むすびにかえて

　HB 524は、AI規制の焦点をモデル一般の抽象論から、脆弱な利用者に向けられた会話出力の違法性へと移す発想を体現している。完成した答えではないが、その問いの立て方には学ぶべき点がある。

　自傷助言の領域では、AIが何を知っていたかという情報の質よりも、AIが利用者をどこへ向かわせたかという対話の方向性が問われる。AIの法的責任論がこの問いと正面から向き合う段階に、すでに差し掛かっている。何かを考えるきっかけになれば幸いである。

（マガジン）「AIと法-雑感」

　※目次は以下を参照

note総則規約3条2項前段
3.2 クリエイターが制作したデジタルコンテンツの著作権は、クリエイターに帰属します。