生成AI時代の防具と道具 ーー1章 まず自分の身を守るために知っておきたいこと

前回の0章では、生成AIについて、

「時速300kmの新幹線が、公道を走りはじめた」

ような状態かもしれない、という話を書いた。

新幹線が悪いわけではない。
速いことも、便利なことも悪くない。

問題は、新幹線級の力を持つものを、私たちがまだ自転車感覚で扱ってしまうことだ。

生成AIも、かなり似ていると思う。

ChatGPTで文章を相談する。
画像生成AIでイラストを作る。
AIに要約や翻訳をしてもらう。
AI検索で調べものをする。
SNSの投稿文を整えてもらう。

こうしたことは、もう特別な人だけのものではなくなっている。

中高生も使う。
会社員も使う。
シニアも使う。
親世代も使う。
noteやSNSで発信する人も使う。

生成AIは、もう「詳しい人だけのもの」ではなくなった。

だからこそ、まず必要なのは、いきなり使いこなす技術ではない気がしている。

まず必要なのは、自分の身を守るための「防具」である。

ここでいう防具とは、AIを怖がるためのものではない。
むしろ、安心して使うために、最低限知っておいたほうがよいことである。

だまされない。
漏らさない。
傷つけない。
丸投げしない。

この記事では、生成AI時代の最低限の防具について整理してみたい。

生成AIは、怖がりすぎる必要はない。
でも、信じすぎるのはもっと危ない。

1. AIは平気で間違える

まず知っておきたいのは、AIは間違えるということである。

しかも、困ったことに、かなりもっともらしく間違える。

それらしい説明。
それらしい根拠。
それらしい名前。
それらしい数字。

文章として整っているので、つい信じたくなる。

でも、整った文章であることと、正しいことは同じではない。

AIは、正解を知っている先生ではない。
「それっぽい答え」を作るのが得意な道具である。

もちろん、調べものの入口や考えを整理する相手としては、かなり役に立つ。

ただし、AIの答えをそのまま最終判断にしてはいけない。

特に、医療、法律、お金、進路、契約、仕事上の重要判断は注意が必要である。

相談はできる。
でも、診断や判断を任せてはいけない。

AIは相談相手にはなる。
でも、最終判断者にしてはいけない。

これが、一つ目の防具である。

2. 「動画だから本物」「声だから本人」は、もう危ない

次に知っておきたいのは、見たものや聞いたものを、そのまま信じるのが難しくなっていることだ。

昔は、写真や動画や音声には、かなり強い説得力があった。

写真があるなら本当だろう。
動画があるなら本当だろう。
声が本人に聞こえるなら本人だろう。

そう思いやすかった。

でも、生成AIの時代には、その感覚だけでは少し危ない。

偽画像。
偽動画。
偽音声。
有名人が言っていないことを、言っているように見せる広告。
家族や知人を装った緊急連絡。

こうしたものが、以前より自然に作れるようになっている。

もちろん、すべてを疑えという話ではない。

ただ、

「見たから本物」
「聞いたから本人」
「動画だから証拠」

という感覚は、少し更新したほうがいい。

「今すぐ振り込んで」
「事故にあった」
「スマホをなくした」
「この映像を見れば本当だとわかる」

こういうものほど、一度止まったほうがいい。

見た。
聞いた。
読んだ。

それだけでは、もう十分な確認にならない。

これが、二つ目の防具である。

3. 詐欺メールやSMSは、これからもっと自然になる

昔の詐欺メールは、少し変な日本語で気づけることがあった。

不自然な言い回し。
妙な敬語。
機械翻訳っぽい文章。

そういう違和感が、防波堤になっていた。

でも、生成AIがあると、自然な日本語の詐欺文面を作りやすくなる。

銀行、宅配業者、通販サイト、役所、学校、会社。
いろいろな相手を装う連絡が、もっと自然に見えるようになる。

だから、これからは「日本語が変かどうか」だけで判断するのは危ない。

特に注意したいのは、

「至急」
「本日中」
「アカウント停止」
「本人確認が必要」
「認証コードを入力してください」
「このURLから手続きしてください」

といった言葉である。

こうした言葉が出てきたら、まず一度止まる。

リンクを押す前に、送信元を見る。
公式アプリや公式サイトから確認する。
認証コードを他人に教えない。
家族や知人からの急な依頼なら、別の方法で確認する。

詐欺は、人を急がせる。

急がせることで、考える時間を奪う。
考える時間を奪うことで、判断を雑にさせる。

だから、合言葉はこれでいい。

急がせる連絡ほど、いったん止まる。

これが、三つ目の防具である。

4. AIに個人情報を入れすぎない

生成AIは、相談すると便利である。

便利だからこそ、つい詳しく話したくなる。

名前、住所、学校名、勤務先、顔写真、病歴、家族の情報。
メールやLINEの本文。
仕事の資料、顧客情報、社内情報。

こうしたものを、そのままAIに入れてしまうのは危ない。

もちろん、サービスや契約内容によって、入力した情報の扱いは異なる。
企業向けの安全な環境で使う場合と、個人で公開サービスを使う場合でも前提は違う。

ただ、普通に使う人にとっては、まずこの感覚を持っておくのがよいと思う。

AIに入れる前に、これを他人に見られて困らないかを考える。

困るなら、そのまま入れない。

名前は「Aさん」にする。
会社名は「勤務先」にする。
住所は「都内」などにぼかす。
メール本文は、個人名や取引先名を消してから入れる。

AIに相談するときは、内容を全部さらけ出さなくてもよい。
必要な部分だけ、個人が特定されない形にすればよい。

AIに入れる前に、一度マスキングする。

これが、四つ目の防具である。

5. AIで作ったものでも、公開した責任は自分にある

生成AIを使うと、文章も画像も簡単に作れる。

これはとても便利である。

でも、簡単に作れるからこそ、簡単に公開してしまう危うさもある。

有名人そっくりの画像を作る。
友人の写真を勝手に加工する。
誰かをからかう画像を作る。
他人の文章をAIで少し言い換えて、自分の文章のように出す。
本当かどうかわからない情報を、AIの文章のまま投稿する。

こういうことは、AIが作ったとしても、公開した人の責任が消えるわけではない。

著作権。
肖像権。
名誉毀損。
プライバシー。
誤情報の拡散。

こうした問題は、AIを使ったかどうかだけでは消えない。

「AIが作ったから、自分は悪くない」

とはならない。

自分のアカウントで投稿する。
自分の名前で使う。
自分の仕事として提出する。
自分のnoteに載せる。

その時点で、最後に出した人の責任が残る。

AIは作るのを手伝ってくれる。
でも、公開するかどうかを決めるのは自分である。

これが、五つ目の防具である。

6. AIに考えることを丸投げしない

最後に、少し内側の話をしたい。

生成AIは、考えることを助けてくれる。

わからないことを説明してくれる。
文章の構成を考えてくれる。
要約してくれる。
案を出してくれる。
別の視点をくれる。

ただし、便利だからこそ、気をつけたいことがある。

それは、考えることをAIに丸投げしてしまうことだ。

宿題を全部AIにやらせる。
感想文を全部AIに書かせる。
自分の意見がないまま、AIの整った答えを自分の意見にしてしまう。
本当は少し違和感があるのに、AIのきれいな文章でその違和感を消してしまう。

これは、かなりもったいない。

AIは、自分の代わりに考えさせるものではない。
自分が考えるために使うものだと思う。

特に中高生には、この感覚が大事だと思う。

AIを使うこと自体が悪いわけではない。
むしろ、上手に使えば学びは広がる。

でも、自分で考える時間を全部消してしまうと、考える力が育ちにくくなる。

自転車の補助輪は、最初は助けになる。
でも、ずっと補助輪だけに体重を預けていたら、自分でバランスを取る力は育ちにくい。

AIも同じである。

AIは補助輪であって、運転手ではない。

これが、六つ目の防具である。

7. まず覚えるべき合言葉

ここまでの話を、短くまとめるとこうなる。

AIは間違える。
だから、鵜呑みにしない。

偽画像や偽音声がある。
だから、見た目だけで信じない。

詐欺メールやSMSは自然になる。
だから、急がされたら止まる。

個人情報を入れすぎると危ない。
だから、AIに入れる前に考える。

AIで作ったものでも責任は残る。
だから、公開する前に立ち止まる。

AIに考えることを丸投げしすぎると危ない。
だから、最後は自分で考える。

もっと短く言えば、

だまされない。
漏らさない。
傷つけない。
丸投げしない。

この四つが、生成AI時代の基本的な防具だと思う。

補足：試験を受けなくても、公式ガイドに目を通す意味はある

ここまで、生成AI時代に自分の身を守るための「防具」について整理してきた。

AIは間違える。
偽画像や偽音声もある。
詐欺メールやSMSは自然になる。
個人情報を入れすぎると危ない。
AIで作ったものでも、公開した責任は自分に残る。

こうしたことは、普通にインターネットを使う人にも関係してくる。

その意味で、生成AIパスポートのシラバスや公式テキストは、試験を受ける人だけのものではないと思っている。

資格試験としてしっかり勉強するのも一つの方法である。

ただ、そこまでしなくても、公式に整理された内容をさっと眺めておくだけで、AIの間違い、個人情報、著作権や肖像権、偽情報、ディープフェイク、フィッシング詐欺など、身を守るために必要な観点を確認できる。

生成AIを使いこなす前に、まずは危ない場所を知っておく。

それだけでも、かなり意味がある。

自分や家族や身近な人が、生成AI時代に、だまされない、漏らさない、傷つけないための最低限の地図として、公式情報に一度触れてみる価値はあると思う。

アマゾンアフィリエイトに参加してます

おわりに：怖がりすぎず、信じすぎず

生成AIは、危険なものだと言いたいわけではない。

むしろ、ちゃんと使えば、とても便利な道具である。

学習にも使える。
文章にも使える。
整理にも使える。
翻訳にも使える。
発想にも使える。
相談相手にもなる。

ただし、使い方を間違えると危ない。

包丁と同じである。
自転車と同じである。
インターネットと同じである。

便利なものほど、最低限の扱い方を知っておいたほうがいい。

生成AI時代に必要なのは、怖がって遠ざけることでも、何でも信じることでもない。

まず身を守る。
そのうえで、少しずつ使ってみる。

その順番でいいのだと思う。

ここまでが、生成AI時代の「防具」である。

では、防具を持ったうえで、生成AIをどう使えばよいのか。

次の記事では、初心者が中級者に近づくための「道具」としての使い方を整理してみたい。

次の記事：

前の記事：