「規約で同意したから」はもう通用しない。— 英米で始まった、巨大IT企業への『天文学的ペナルティ』と設計責任

皆さん、こんにちは。Social Pentagon マーケ部（仮）です。

私たちは、社会に潜む見過ごされがちな課題を「ビジネスの力」で解決しようと取り組んでいる、ソーシャルビジネスのスタートアップです。

以前の記事では、オーストラリアなどで進む「16歳未満のSNS禁止」について触れました。これは「子供に使わせない」という、ユーザー側の行動制限でした。

しかし今、アメリカやイギリスでは、もっと本質的で、巨大IT企業が震え上がるような法律が動き出しています。それがアメリカの「KOSA（キッズ・オンライン・セーフティ法）」と、イギリスの「オンライン安全法」です。

この2つの法律のターゲットは、子供ではありません。「危険なアルゴリズムを放置したプラットフォーム企業」そのものです。

今回の記事は、世界が突きつけた「同意書（利用規約）無効化」の流れと、違反した企業に課される莫大なペナルティについて解説します。

2. 名言の引用：安全な設計

名言の引用:（ラルフ・ネーダー、消費者運動家の言葉をもじって）

SNSにおけるトラブルは、ユーザーの使い方だけの問題ではありません。もっと長く画面を見続けさせるために、あるいは過激な画像を作れるように開発された、欠陥のあるブレーキ（アルゴリズム）の問題なのです。

3. 【事例】Xの「Grok」騒動がもし英国だったら？

なぜ今、法規制が必要なのか。その答えとなる象徴的な出来事が、直近で起きています。X（旧Twitter）のAI「Grok」を使って、一般女性や未成年の性的な画像が生成・拡散された騒動です。

これまでのインターネットの常識（通信品位法230条など）では、プラットフォーマーたちはこう逃げることができました。「私たちは道具を提供しただけ。悪いのは悪用したユーザーであり、利用規約違反だ。」

しかし、新しい法律のレンズを通すと景色は一変します。他社のAIが備えている「安全装置（ガードレール）」をあえて外し、誰でも簡単に性被害画像を作れる状態で提供したこと自体が、プラットフォーム側の「設計ミス（安全配慮義務違反）」と見なされるのです。

4. 【英国】売上の10%を没収する「オンライン安全法」

特に厳しいのが、イギリスの「オンライン安全法（Online Safety Act）」です。もし、Xの事例がこの法律に照らして「違法コンテンツの拡散防止義務を怠った」と判断されれば、どうなるでしょうか？

• ペナルティの規模：
  最大で「全世界売上高の10%」、または「1,800万ポンド（約35億円）」の高い方が科されます！
  
  
  Meta社やGoogle規模であれば数兆円、Xでも数百億円規模の罰金になり得ます。「罰金を払った方が、安全対策をするより安い」という計算が成り立たないレベルの金額を設定することで、本気で設計を変えさせようとしているのです。

5. 【米国】KOSAが問う「設計責任」

一方、アメリカで進む「KOSA（Kids Online Safety Act）」も、同様に「設計責任」を問うものです。

KOSAはプラットフォーム企業に対し、未成年者への危害を予防する機能を「デフォルト（初期設定）」で提供するよう義務付けています。「中毒的な機能の無効化」や「最も厳しいプライバシー設定」など、子供が使うことを前提に「安全に作れ（Safety by Design）」と命じています。

XのGrokのように「何でも作れる自由」を売りにしたツールは、未成年がアクセスできる環境にある限り、この「安全設計義務」と真っ向から衝突することになります。

6. 【転換点】「場所貸し」の免罪符は消えた

これら英米の動きが示しているのは、インターネットの歴史的な転換点です。

かつて、プラットフォーマーは「広場（場所）を提供しているだけ」と主張し、利用規約で責任を回避してきました。しかし、2026年、その理屈は崩壊しました。「その広場、わざと子供が迷子になったり、怪我をしたりするように作ってあるよね？」

そう指摘された瞬間、企業の「免責」は剥奪され、製造物責任（PL法）に近い責任を負わされるようになったのです。Xの騒動は、まさにこの「無法地帯の終わり」を告げる警鐘と言えるでしょう。

7. まとめ：同意の先にある責任

「利用規約に同意する」 そのボタンは、企業が責任逃れをするための魔法の呪文ではなくなりつつあります。SNS規制の流れは、デジタル空間にもようやく「法の支配」が及ぶことを意味します。

一方で、この強力な薬は「副作用」も潜んでいます。企業が巨額の罰金を恐れるあまり、本来守られるべき正当な発言まで削除してしまう「表現の自由」への萎縮効果。そして、有害情報を検知するために個人のDMなどをスキャンすることで「通信の秘密」が侵されるリスクです。

「安全か、自由か」。この究極のバランスをどう取るか。私たちは単に規制を歓迎するだけでなく、その運用が過度な監視社会につながらないか、厳しい目を向け続ける必要があります。

最後までお読みいただき、ありがとうございました。

いかがでしたでしょうか。「自由」と「責任」のバランスが、デジタル社会で大きく書き換えられようとしています。次回も、皆さんの生活に潜む「同意」や「契約」にまつわる課題について、一緒に考えていきたいと思います。