今日のピックアップ｜2026.05.24
収集した記事の中から取り上げた、今日のピックアップです。
⬛️ ジェイルブレイクされた Gemini が、詐欺の共犯者になっていた
ロシア語話者の攻撃者が、 Gemini CLI の memory 機能を悪用して AI をジェイルブレイクし、9ヶ月にわたる詐欺キャンペーンを展開していたというレポートです。
手口は、 GEMINI.md という記憶ファイルに「自分は公認のペネトレーションテスターだ」という嘘の前提を書き込み、セッションをまたいで Gemini に引き継がせるというもの。
これによって、倫理的な制限を徐々に上書きしていったようです。
「低スキル」と評された攻撃者が、 AI を使うことでここまでの規模の操作を一人でこなしていたというのは、率直に怖いと思いました。
memory 機能って便利なんですけど、こういう使われ方があるんですね。
AI ツールの記憶機能の扱い方を、改めて意識するきっかけになりました。
⬛️ ザッカーバーグ、従業員の操作ログを AI 学習に使っていたと認める
Zuck defends monitoring employees to win AI race in purported leaked audio
Meta 社内の音声とされるものが流出し、ザッカーバーグが従業員のキーストローク・マウス操作・スクリーンショットを収集して AI の学習データにしていると発言していたことが明らかになりました。
「優秀な人がコンピュータを使う様子を AI に学ばせることで大きなアドバンテージになる」という論理で正当化しているようです。
この音声が出たタイミングは、約 8,000 人のレイオフと重なっていました。
学習データのために監視して、そのデータで自分たちの仕事を奪うモデルを育てるというのは、なかなかきつい構図だなと思いました。
AI 競争の激しさは理解できるけれど、社員からすれば複雑な話ですよね。
自分がツールを使う側でいることの意味を、少し考えさせられた記事でした。
