ファクトチェックもAIの時代へ

今年は国際的な選挙イヤーですが、だからこそ危惧されているのが「フェイク情報」です。

大統領候補者自身も偽情報に翻弄されて、テイラー・スウィフトの支持を得たと勘違いする珍事も起こりました。

OpenAIが提供予定の動画生成AI「Sora」も、11月の米国大統領選挙を見据えて慎重にリリースを見定めています。

Sora以外にも生成AIは雨後の筍の如く登場し、もはや人間にはそのテキスト・画像・動画の真偽を測るのは不可能な水準に達しています。

そういった背景で、そのファクト（事実）をチェックをするサービスに注目が集まっています。

そのなかの１つで、以前からその性能が評価されているのが、Cyabraというスタートアップです。１つ紹介記事を載せておきます。

この企業が話題になったのが、イーロン・マスクがTwitterを買収後にボット（人間のようにふるまうロボット投稿）率を調査するときにこの企業のサービスを使いました。その結果、全体の11％がボットだった（他SNSよりは高い比率）ということで騒動になったのを覚えています。

このファクトチェックですが、それぞれのサービスによって特色が違います。上記記事によれば、通常はその情報自体の真偽を様々な信頼できるソースと照合して判断します。ただ、これだと裁ける数に限界があります。

Cyabraのアプローチは、情報ではなくそのソーシャルアカウント自体の行動に注目します。AIでその行動パターン（投稿数が異常に多くないか？テーマに偏りがないか？等）を解析して真偽を見極めます。

最近だと、トランプ暗殺未遂事件に関するSNS投稿を解析した結果、「#fakeassassination」や「#stagedshooting」のタグがついているものの45%がボットであることを突き止めました。（細かくはボット＝偽情報とするのは乱暴ですが、常識的に可能性は極めて高いでしょう）

このCyabraを立ち上げたのはイスラエルの退役将校たちです。こういったキャリアチェンジのダイナミズムはなかなか日本では見られません。

この企業が、SPACと呼ばれる特別目的買収会社「Trailblazer Merger Corporation（TBMC）」と合併して、NSASDAQ上場することを発表しました。

主に大企業をターゲットにしたサービスを立ち上げるようです。ただ、Cyabraは2024年1月に、CIA長官・国務長官を歴任した共和党の Mike Pompeo（マイク・ポンペオ）氏を取締役に迎えており、果たしてその政治的中立性を保てるのかはやや気になります。

もしかしたら、ファクトチェックサービス自体のファクトチェックを行う未来も来るかもしれませんね。

いずれにせよ、個人として利用するのは現実的でないので、まずは１つ１つのSNS投稿について、常にもしこれが偽情報だったら・・・という信念をもって、安易に反応しないように心がけたいと思います。