Twitterの内部文書と従業員から、違法コンテンツ削除のために大規模な投資が必要であることが判明 - しかし、経営陣は耳を貸さなかった。

Twitter社内部の様子を文章化したものです。社員が対処しきれないほどの児童性的搾取の画像·動画が溢れ、指摘されてもその後長い時間放置されていたことが分かります。ペドフィリアの温床になっているTwitter。最初から児童性的搾取の目的でTwitterは作られたのではないのでしょうか?🤔そして、逆を言えば、ペドフィリアの犯罪証拠は山のようにあるのですね💡日本人もきっと利用していることでしょう。

文章を削らずそのまま載せています。deepL翻訳

Twitter の児童ポルノ問題は、OnlyFans の競争相手になるという彼らの計画を台無しにしました。 Twitter の従業員のチームによって行われた内部レビューでは、ソーシャル メディア プラットフォームは、児童の性的搾取と同意のないヌードを大規模に正確に検出できないと判断されました。彼らの調査結果にもかかわらず、Twitter の経営陣が児童ポルノ問題を真剣に受け止めようとしている兆候は見られません。

https://t.me/LizCrokinReport/1278

2022年春、Twitterはプラットフォームの抜本的な変更を検討した。何年も黙認してきたアダルトコンテンツを、収益化しようというのだ。その提案とは、アダルトコンテンツ制作者がOnlyFansのような有料会員制サービスを販売できるようにし、Twitterはその収益の一部を確保するというものだった。

もしこのプロジェクトが承認されていたら、Twitterは、同社の収益の大部分を占める広告主から大きな反発を受ける危険性があっただろう。しかし、このサービスは、損失を補填するのに十分すぎるほどの収益を上げることができただろう。アダルトクリエイターサイトの中で圧倒的な人気を誇るオンリーファンズは、今年の売上が25億ドル（ツイッター社の2021年の売上の約半分）を見込んでおり、すでに黒字企業である。

TwitterはすでにOnlyFansのクリエイターにとって主要なマーケティングチャネルとなっているため、その資金を簡単に獲得できると考えた幹部もいた。そこで、ACM（Adult Content Monetization）と呼ばれる新しいプロジェクトに資源を投入することになった。

しかし、最終的なゴーサインが出る前に、Twitter社は84人の従業員を招集し、「レッドチーム」と呼ぶ組織を立ち上げた。The Vergeが入手した文書やTwitterの現・元社員へのインタビューによると、その目的は「Twitterが安全かつ責任を持ってこれを行うにはどのように見えるかに特に焦点を当て、アダルトクリエイターがプラットフォーム上で収益化することを許可するという決定を圧力テストする」ことだった。

🍓この問題については
経営陣もよく理解しているようで、
会社はほとんど修正をしていない。

レッドチームが発見したことが、プロジェクトを頓挫させた。Twitterは、プラットフォーム上の有害な性的コンテンツを効果的に取り締まっていなかったため（現在も）、アダルトクリエイターが購読料を販売することを安全に許可することができなかったのだ。

「Twitterは児童の性的搾取や同意のないヌードを大規模に正確に検出できない」 と レッドチームは2022年4月に結論づけた。また、アダルトコンテンツの作成者と消費者が合法的な年齢であることを確認するツールも不足していることも判明した。その結果、イーロン・マスク氏が同社を440億ドルで買収することに合意した数週間後の5月に、同社はプロジェクトを無期限に延期した。もしTwitterが今日、プラットフォーム上の児童性的搾取コンテンツを一貫して削除できなかったとしたら、どうやってポルノの収益化に着手するのだろうか？

ACM(新しいプロジェクト)の開始は、この問題をさらに悪化させることになる、と研究チームは考えている。クリエイターがコンテンツを有料化することは、より多くの違法なコンテンツがTwitterに流れ込むことを意味し、さらに多くの違法なコンテンツが視界から外れてしまうことになるのだ。Twitterには、違法コンテンツを発見するための有効なツールがほとんどない。

レッドチームの報告を真摯に受け止めた経営陣は、Twitterがより健全で安全な対策を講じるまで、ACM(新しいプロジェクト)を開始しないことを決定しました。

Twitterは、プラットフォームから
有害なコンテンツを検出、削除、防止するために
十分なリソースを投入していません。

Twitterの広報担当者Katie Rosborough氏は、「Red Teamのレポートは議論の一部であり、最終的に正しい理由からワークストリーム（作業効率化のための一連の流れ）を一時停止することになった」と述べている。

しかし、この報告書によって、1年以上前からTwitter社内の社員が警告していた問題はほとんど変化しなかった。The Vergeが入手した58ページの内部文書や、現職・元職員へのインタビューによると、Twitterは依然として、子どもを性的搾取するコンテンツに問題を抱えている。

幹部はこの問題をよく理解しているようだが、会社としてはほとんど手を打っていない。

「Twitterは児童の性的搾取を一切許さない」とTwitterのRosborough氏は述べた。「私たちはオンライン児童性的虐待に積極的に対処し、ポリシーを実施するためのテクノロジーとツールに多大な投資を行ってきました。当社の専門チームは、悪意のある行為者の先を行き、オンとオフラインの両方で、未成年者を被害から確実に保護するために働いています。」

レッドチームの活動はアダルトコンテンツ収益化プロ ジェクトを遅らせることに成功しましたが、このチームが 発見したことはTwitterの経営陣にとって驚くべきことではありなかった。その15ヶ月前、Twitterをより市民的で安全なものにすることを任務とするチームの研究者たちは、Twitterの児童性的搾取（CSE）検出ツールの脆弱性に警鐘を鳴らし、それを解決するためのリソースを追加するよう幹部に懇願していた。

TwitterがCSEを発見するために大きく依存していた
システムが壊れ始めていた。

「オンライン上のCSE(児童性的搾取)の量が指数関数的に増加する一方で、その増加を検知・管理する技術へのTwitter社の投資はされていない。この報告書は、同社の健康管理チームが2021年2月に発表したもので、その冒頭でこう述べている。「各チームは、既知のブレイクウィンドウを備えた従来のツールを使って作業負荷を管理しています。要するに（以下に詳しく説明しますが）、（コンテンツモデレーターは）Healthからのサポートが限られている、あるいは全くない状態で、船を浮かせているのです。」

私たちが話を聞いた従業員は、経営陣が同社のCSE(児童性的搾取)問題を知っているにもかかわらず、Twitterはプラットフォームから有害なコンテンツを検出、削除、防止するために十分なリソースを投入していないと繰り返し述べている。

問題のひとつはその規模だ。どのプラットフォームも、ユーザーがサイトにアップロードする違法な素材を管理するのに苦労していますが、その点ではTwitterも同じだ。毎日2億2,900万人が利用するグローバル・コミュニケーションの重要なメディアであるこのプラットフォームは、インターネット上のあらゆる大空間の運営に伴うコンテンツ調整の課題を抱え、さらに政治家やメディアからの監視という桁外れの苦労を強いられているのだ。

しかし、グーグルやフェイスブックを含む大規模な同業他社とは異なり、ツイッターは過去10年のうち8年間も利益を上げることができず、管理不行き届きや一般的に弱いビジネスで苦しんできた。その結果、同社はコンテンツの節度やユーザーの安全性に対して、ライバル企業よりもはるかに少ない投資を行ってきた。2019年、マーク・ザッカーバーグは、フェイスブックが安全機能に費やす金額は、ツイッターの全年収を超えると自慢している。

一方、TwitterがCSE(児童性的搾取)を発見するために大きく依存していたシステムは壊れ始めていた。

長年にわたり、技術系プラットフォームは、PhotoDNAと呼ばれる広く展開されているデータベースと画像を照合することにより、既知のCSE素材を見つけるために協力してきた。マイクロソフトが2009年に作成したこのサービスは、SCE(児童性的搾取)の特定には正確ですが、PhotoDNAは既知の画像にのみフラグを付けることができる。法律により、CSEを検索するプラットフォームは、この問題を追跡し、法執行機関と情報を共有する政府出資の非営利団体であるNational Center for Missing and Exploited Children（NCMEC）に発見したものを報告することが義務付けられている。Twitterのワーキンググループが引用したNCMECの分析によると、毎月提出される100万件の報告のうち、84%は新たに発見されたCSEであり、PhotoDNAがフラグを立てるようなものはないとのことだ。実際には、Twitterはプラットフォーム上の相当量の違法コンテンツを検出できていない可能性が高いということだ。

ツイッターは動画を削除せず、
"何十万人ものユーザーに閲覧されることを
許可していた"
​

2021年の報告書では、TwitterがCSE(児童性的搾取)を特定し削除するために使用しているプロセスが非常に不十分であることが判明した。大企業がPhotoDNAでフラグが立てられない素材を捕らえることができる自動化システムにますます注目している現在、大部分が手動となっている。報告書によると、Twitterの主要な執行ソフトウェアは、RedPandaと呼ばれる「レガシーでサポートされていないツール」だ。「RedPandaは、私たちが提供するツールの中で最も脆弱で、非効率的で、サポートが行き届いていないツールの一つです。」と、報告書で引用されたエンジニアは述べている。

Twitterは、NCMECに報告書を提出するために手動システムを考案した。しかし、2月の報告書によると、非常に手間がかかるため、審査すべき案件が滞留し、CSEの多くの事例が法執行機関に報告されるのを遅らせているとのことだ。

Twitterの機械学習ツールは、ツイートやライブ動画に含まれるCSE(児童性的搾取)の新たな事例を特定することがほとんどできないことが、報告書から判明した。2022年2月までは、ユーザーがコンテンツに「センシティブメディア」以上の具体的なフラグを立てる方法がなかった。あるケースでは、違法な動画が不正使用として広く報告された後でも、23時間以上プラットフォーム上で閲覧可能だった。

Twitterのワーキンググループは報告書の中で、「これらのギャップは、Twitterを法的リスクと評判のリスクにさらすことになる。」と書いている。

ロスボローは、2021年2月以降、CSE検出への投資を大幅に増やしたと述べている。彼女は、Twitterが採用のペースを落とした時期に、現在、子どもの安全に関する役割の募集を4件行っていることを指摘した。

今年初め、NCMECは、John Doe #1 et al. v. Twitterの第9巡回区に提出したアミカスブリーフで、Twitterが「明白」かつ「生々しい」児童性的虐待を含む動画を放置していると非難している。子どもたちは、自分たちが未成年であること、動画を作成するために「おだてられ、嫌がらせを受け、脅された」こと、法執行機関が捜査中の「性的虐待」の被害者であることを同社に伝えた」と、準備書面には書かれている。しかし、Twitterはその動画を削除せず、「何十万人ものユーザーに閲覧されることを許した」のだ。

このことは、Twitter社の社員が2月に発表した報告書でも指摘されている。同社は、他のテクノロジープラットフォームとともに、アダルトコンテンツを許可しながら、それを効果的に監視できるシステムへの投資を怠り、「CSEコンテンツの作成と配信のペースを加速し、手動による検出、レビュー、調査がもはやスケールしない限界点まで達した」と書いているのだ。

🍓CSEに対処するための長年の努力は、ユーザー数と
収益数の大幅な増加という、
Twitterの優先事項の競合にぶつかりました。

この問題に対処するため、ワーキンググループはツイッター社の幹部に対し、一連のプロジェクトに取り組むよう要請した。作業部会は、CSEレポートを処理し、関連データを収集・分析しNCMECにレポートを提出するための単一ツールを最終的に構築することを提言した。また、発見したCSEのユニークなフィンガープリント（ハッシュと呼ばれる）を作成し、そのフィンガープリントを他の技術プラットフォームと共有することも必要である。また、虐待被害者の顔をぼかしたり、画像の彩度を落としたりして、コンテンツモデレーター（その多くはサードパーティベンダーに勤務）の精神衛生を保護する機能を構築する必要がある。

しかし、マスク氏による波乱の買収劇が始まる前の2021年の時点でも、ワーキンググループは、必要なリソースを集めることが困難であることを認めていた。

〈CSEツールの "修正 "というタスクは大変なものです。〉と彼らは書いている。〈Healthチームの戦略は、優先順位が高すぎる罠を避けるために、最も優先順位の高い機能から時間をかけてこれらのニーズを削っていくことです。〉

結局、プロジェクトが大きすぎて、優先順位がつかなかったのかもしれない。CSEのアプリ内報告を可能にした以外、グループの他の提言にはほとんど進展がないように見える。TwitterのCSE検出システムの修正について最も発言していた研究チームの1つが解散した。(Twitterのロスボロー氏によると、このチームは「子どもの安全という中核的な目的を反映させるために焦点を絞り直され」、専門のエンジニアが加えられたとのことだ。従業員によると、Twitterの幹部はこの問題を知っているが、同社は何度も行動を起こしていない。

長年にわたるCSEへの対処のための闘いは、Twitterではユーザー数と収益数の大幅な増加という、競合する優先事項にぶつかった。2020年、アクティビスト投資家エリオット・マネジメントは、当時のCEOジャック・ドーシーを追い出そうと、Twitterの大きなポジションを取得した。しかし、ドーシーはCEOに留まるために、「ユーザー数を1億人増やす」「収益拡大を加速する」「デジタル広告でシェアを拡大する」という、守るのが難しい3つの約束をした。

ドーシーは2021年11月、これらのマイルストーン達成に向けてほとんど進展がないまま、CEOを辞めた。エリオットの要求を実現するのは、彼が指名した後任の元最高技術責任者パラグ・アグラワルに任されたのである。

前製品責任者のケイボン・ベイクプールの下で、Twitterは過去数年間、クリエイター向けの製品を追加してきた。昨年夏には、クラブハウスのようなライブオーディオ製品へのアクセスをユーザーに有料で提供する「チケット制スペース」の展開を開始した。また、昨年9月には、ユーザーが性的に露骨でないコンテンツの購読を提供する方法である「スーパーフォロー」が追加された。いずれの場合も、同社はユーザーの収益から一定割合を徴収するため、本業の広告ビジネス以外で収益を上げることができる。

「アダルトコンテンツはツイッターの
大きな差別化要因であり、
収益に取り組む人々にとっては
未開拓のリソースだった」

このような展開の一方で、Twitterは別の種類のコンテンツ、つまりポルノの主要な目的地になっていた。Tumblrがアダルトコンテンツを禁止してから約4年、Twitterは、ユーザーが性的な写真や動画をアップロードできる唯一の主流サイトの1つになっていた。また、Twitterをマーケティングやビジネス拡大のために利用するパフォーマーも多く、写真や短いビデオクリップをOnlyFansなどの有料サービスの広告として利用している。

「アダルトコンテンツはTwitterにとって大きな差別化要因であり、収益に関わる人々にとっては未開拓のリソースでした」と、ある元社員は語っている。

Twitterはポルノ界にとって非常に重要な存在であるため、同社がいずれ外部の圧力に屈して閉鎖されるのではないかという懸念が、アダルトクリエイターの世界を時折騒がせてきた。しかし実際には、この春までに同社は、ポルノを新たな収益計画の中心に据えることで、プラットフォームにとってのポルノの重要性をさらに高めるような動きを検討していた。

Twitterにはすでに、露骨でないコンテンツのためのスーパーフォローがある、と考えたのだ。アダルトコンテンツ制作者向けの機能を追加するのはどうだろう？特に、昨年OnlyFansがアダルトコンテンツを禁止すると言ってユーザーを遠ざけ、その数日後にその姿勢を翻した後では、このタイミングは適切であると感じた。

幹部たちは、アダルト・コンテンツの発信地としてのOnlyFansの人気についてほとんど語らない。(The Vergeが入手したある文書によると、同社はこのテーマに関する「注目と報道を最小限に抑える」戦略を持っているようだ）。しかしこの2年間、同社はアダルトコンテンツに非常に真剣に取り組み、ユーザー向けにOnlyFansのようなサービスを積極的に模索し始めた。

この春までに、Twitterは最終的な決断を下そうとしていた。4月21日と22日、Twitterは再びレッドチームを招集し、今度はACM（Adult Creator Monetization）と呼ばれるプロジェクトに着手した。

TwitterがOnlyFansと競合することになった場合、いくつかの強みがあることがレッドチームの調査で分かった。アダルトクリエイターは、Twitterのコンテンツ配信の容易さにより、同社に対して概して好意的な態度を示している。また、このプロジェクトは「言論の自由と表現の自由におけるTwitterの原則に合致している。」と彼らは述べている。また、合法的に決済を行うために、送金業者としてのライセンスを取得する予定であった。

この機会の大きさから、レッドチームは、〈ACMは、プラットフォームの残りの部分に対するインフラストラクチャ・エンジニアリングの改善のための資金を援助することができる 〉と書いている。

しかし、チームは、いくつかの重要なリスクも発見した。レッド・チームは、〈私たちは、トップクラスの広告主から大きな収益を失う可能性があります。〉と書いている。また、顧客を遠ざけ、議会から大きな監視の目を向けられる可能性もあると推測している。

しかし、最大の懸念は、CSEと非合法ヌードを検出するための同社のシステムに対処しなければならなかった。〈今日、我々は違反コンテンツを積極的に特定することができず、アダルトコンテンツ（ポリシー）と執行に一貫性がない〉と、チームは書いている。〈製品を安全に保つためのセキュリティ機能が弱い 〉と。

twitterはこれまでにも
何度かデータ流出事件を起こしたことがある。
結局、twitter社はこのプロジェクトを断念した。

〈このような事態を解決するのはコストがかかるし、同社は実施上のミスを犯す可能性が高い。同意のないヌードが投稿され、収益化されると、人生を台無しにする可能性がある。〉と彼らは書いている。

さらに報告書は、〈これを最優先事項として維持するためには、いくつかの課題がある。...我々は、健康を前提条件とするのではなく、マネタイズと並行して考えている。〉

Twitterの前製品責任者であるBeykpour氏は、TwitterにリアルID（ユーザーが自分の身元を証明するために政府発行の書類のアップロードを要求する機能）を展開するよう働きかけていた。Twitter社がアダルトコンテンツを収益化しようと思えば、そのコンテンツを作っている人とそれを見ている人の年齢を確認する必要がある。しかし、社員はすでにリアルIDに重大な問題があると判断していた。IDを政府のデータベースと照合するには、コストがかかる上に、安全なネットワークが必要だったのだ。Twitter社では、これまでにも何度か有名なデータ流出事件が起きている。結局、Twitter社はこのプロジェクトを断念した。

間もなく、グループの優先順位は完全に変わることになる。8月23日、Twitterはヘルスチームを再編成し、スパムアカウントの特定を任務とするチームと統合すると発表したのだ。この動きは、プラットフォーム上のボットの数について同社が嘘をついていると主張するイーロン・マスクからの圧力が強まる中で行われた。

チームの元研究員は、「ガッツポーズでした。」と語る。「イーロン・マスクは、スパムが、彼が会社を買うために答える必要があった単一の最も重要な質問であると宣言するために、ばかばかしいです。」

しかし、Twitter社のMusk氏とのトラブル、そしてそれが引き起こすであろう社内の混乱は、まだ始まったばかりであった。