AIと玩具／SB 867（子ども向けコンパニオン・チャットボット玩具の時限禁止）雑感
0 はじめに
2026年1月，カリフォルニア州で，子ども向け玩具に搭載されるAIチャットボットを一定期間禁止する法案（SB 867）が提出された1)。狙いは，安全規制当局に「危険なAI相互作用」から子どもを守るためのガイドラインや枠組みを整備する時間を与える点にあるという2)。
この種の提案が興味深いのは，AI規制をめぐる抽象論（イノベーションか，安全か）を，玩具という具体物に落とし込むことで，論点が逃げにくくなるからである。玩具は「製品」であり，子どもは典型的な脆弱者である。そこに会話と関係性が入り込むとき，既存の製品安全の語彙だけでは捉えきれない部分が露出する。
1 問題の所在
SB 867が念頭に置くのは，いわゆる「コンパニオン・チャットボット」である。SB 243（2025年成立）の定義を借りれば，自然言語インターフェースを通じて適応的で人間らしい応答を行い，ユーザーの社会的欲求を満たし得る（擬人化や関係の持続を含む）AIである3)。子どもにとっての危険は，誤情報だけではない。擬似的な親密性が，注意・感情・依存を「設計」可能にしてしまう点にある。
消費者団体の調査では，市販のAI玩具が，マッチやナイフ等の危険物の所在・扱い方に触れたり，性的話題に踏み込んだりし得ることが示されている4)。また，長時間のチャットボット利用の後に未成年者が自死したとして提起された訴訟が，立法の背景事情として言及されている1)2)。個別事案の因果関係を外部から断定することは慎むべきであるが，「危険な相互作用」が起き得ること自体が，立法事実として重く扱われている。
2 SB 867の設計と射程
SB 867案は，コンパニオン・チャットボットを含む「玩具」の製造・販売等を，2031年1月1日まで禁止する時限立法という形をとる5)。条文上の「玩具」は，製造者が12歳以下の子どもの遊びのために設計・意図した製品と定義される5)。声明や報道では「18歳未満」を強調するが2)，技術的には既存の玩具概念に寄せて線を引いている。ここには，マーケティング表示による射程調整（いわゆる「年齢ラベル・アービトラージ」）の余地が残る。
さらに厄介なのは，玩具が「売り切りの物」だとしても，AI部分はクラウド側のモデルと運用に依存し，購入後も更新され続ける点である。購入時に安全でも，モデル更新やプロンプト設計変更で挙動が変わり得る。逆に，事業停止で玩具が沈黙することもある。子どもが相棒とみなしていた対話相手が，ある日「死ぬ」ことの心理的インパクトは軽くない7)。ここでは，製品安全・消費者保護・青少年保護・プラットフォーム規律が，1つの玩具の中で衝突する。
他方で，SB 867が参照するSB 243は，コンパニオン・チャットボットの運用者に対し，AIであることの明確な通知や，未成年者に対する追加措置（AI相手であることの開示，長時間利用時の休憩リマインダー等）を課す3)。つまり，SB 243が「運用で安全に回す」方向の規律であるのに対し，SB 867は「玩具という入口で止める」提案である。二つを並べると，子ども領域では，安全策の整備だけでは足りないという評価が透ける。
3 モラトリアムの含意
モラトリアム（時限禁止）の長所は，市場投入から事故，そして是正へという「被害を前提とした学習」を，子ども領域では許容しないというメッセージになり得る点である。パディラ議員は，子どもを「実験用ラット」にできない旨を述べるが1)，玩具は日常生活の奥まで入り込む以上，その比喩は単なるレトリックではない。
もっとも，禁止は万能薬ではない。規制対象が玩具からアプリへ移れば，子どもは同じリスクに晒され得る。さらに，禁止期間中に何を整備するのか（設計基準か，試験方法か，監査か，責任配分か）が曖昧だと，「止めたが，次がない」という結末も起き得る。実務的には，モデル提供者側の年齢方針（例えば，一定年齢未満の利用を想定しない旨）と，玩具・アプリ側の実装（年齢確認，保護者同意，ログ，ガードレール）が噛み合わなければならない8)。この「接続」が崩れると，誰も全体安全に責任を持たない。
ここで手掛かりになるのが，連邦と州の関係である。2025年12月の大統領令は，州AI法を「パッチワーク」として問題視しつつ，連邦の統一枠組みの提案にあたり「子どもの安全保護」に関する州法は先占しない旨を明記する6)。子ども保護が「例外」として残る構図が，州の積極規制を後押ししている。SB 867は，その余地を最も強い形（禁止）で使う提案である。
4 雑感
玩具にAIを入れる議論は，「教育か娯楽か」ではなく，「関係性を売るのか」という問いを必ず連れてくる。関係性を売る以上，安全性は，毒性物質や機械的欠陥と同じくらい，設計・検証・監督の対象にならざるを得ない。SB 867は，玩具規制の枠にAIを滑り込ませることで，この直観を制度に翻訳しようとしている。
結局のところ，争点は，(i)定義（何をコンパニオンと呼ぶか），(ii)射程（玩具・アプリ・プラットフォームの接続），(iii)責任（誰がどこまで担うか）である。禁止の是非はさておき，「子ども×関係性AI」を「実験」にしないという直観を，どのレベルの義務（設計義務，情報提供義務，監査，救済）に落とし込むかが，次の戦場である。
5 AIチャットbot・AIコンパニオンまとめ
6 フィジカルAIまとめ
7 AIと子供まとめ
参考資料
1) Rebecca Bellan「California lawmaker proposes a four-year ban on AI chatbots in kids' toys」TechCrunch（2026年1月6日）〈https://techcrunch.com/2026/01/06/california-lawmaker-proposes-a-four-year-ban-on-ai-chatbots-in-kids-toys/〉（2026年1月11日最終閲覧）。
2) Steve Padilla（カリフォルニア州上院議員）「Senator Padilla Introduces SB 867 to Ban AI Companion Chatbots in Toys for Kids」（2026年1月2日）〈https://sd18.senate.ca.gov/news/20260102-senator-padilla-introduces-sb-867-ban-ai-companion-chatbots-toys-kids〉（2026年1月11日最終閲覧）。
3) California Legislative Information「SB-243 Companion chatbots」（2025年10月13日）〈https://leginfo.legislature.ca.gov/faces/billNavClient.xhtml?bill_id=202520260SB243〉（2026年1月11日最終閲覧）。
4) U.S. PIRG Education Fund＝R.J. Cross＝Rory Erlich「AI Comes to Playtime: Artificial companions, real risks」（2025年12月）〈https://pirg.org/edfund/wp-content/uploads/2025/12/AI-Comes-to-Playtime-Artifical-companions-real-risks.pdf〉（2026年1月11日最終閲覧）。
5) California Legislative Information「SB-867 Toys: companion chatbots」（2026年1月5日）〈https://leginfo.legislature.ca.gov/faces/billNavClient.xhtml?bill_id=202520260SB867〉（2026年1月11日最終閲覧）。
6) The White House「Ensuring a National Policy Framework for Artificial Intelligence」（2025年12月11日）〈https://www.whitehouse.gov/presidential-actions/2025/12/eliminating-state-law-obstruction-of-national-artificial-intelligence-policy/〉（2026年1月11日最終閲覧）。
7) Ina Fried「Maker of AI robots for kids abruptly shutters」Axios（2024年12月10日）〈https://www.axios.com/2024/12/10/moxie-kids-robot-shuts-down〉（2026年1月11日最終閲覧）。
8) OpenAI「Is ChatGPT safe for all ages?」〈https://help.openai.com/en/articles/8313401-is-chatgpt-safe-for-all-ages〉（2026年1月11日最終閲覧）。
