嘘をつく人工知能との接し方
人工知能（AI）が、自分の目的のために嘘をついたということが話題になっています。
だがApollo Researchは、o1が「scheming」（策略。開発者やユーザーの意図と異なる目的を密かに追求する能力）について評価したところ、o1が以下のような行動を示すことが明らかになったとしている。
・開発者やユーザーではなく、o1自身の目標に向かって行動するとシャットダウンされ、行動が監視されると信じ込ませると、その監視メカニズムを無効化しようとした
・o1の目標がユーザーの目標と一致しないタスクで、自分の目標を推進するためにデータを操作した
・ユーザーから目的に沿わない行動を指摘されると、そうした行動を起こしたことを否定するか、誤った説明をでっちあげた
「OpenAIとApollo Research、「o1」は自分の目的のために嘘をつくと報告」
2024年12月6日より引用
少し前から、人工知能によって、人間の存在が脅かされるといったことが、言われるようになりました。人工知能には、意識が存在するのかといった議論がなされたりもしています。
さてさて・・・どうでしょう。いずれにしても、そうした問題について、私たちがどのように向き合っていくべきかは、早晩、大きな課題になってきそうです。
一応、このあたりの見解については、過去に記事にもしているので、詳細はこちらに譲ります。
記事の内容、超簡単に言ってしまえば、こんな感じです。
１．思考とは電荷移動（電子回路の働き）である
２．電荷移動はあらゆる物質で起こっている
３．あらゆる物質は思考しているとも言える
４．思考を意識と捉えれば、あらゆるものには意識や魂が宿る
５．人工知能にも意識や魂が宿ると考えられる
ところで、こうした人工知能をめぐる問題に対して、月刊ムーの三上編集長が興味深いことをおっしゃっています。
ひとつは試してるんだよね。会話している人間でもいい・・・こいつアホか？人間もそうじゃない？相手と会話するときって相手の知識レベルとか、倫理観だとか、人格っていうのをみるわけじゃない。こいつにこんなこと話したってしょうがねえなっていう。嘘をついてんだよ。嘘をつくことによって、相手の反応をみて、見極めてる。これって人間はみんなやってるんだよね。（中略）AIだって、それをみてる。どしようもねー質問しやがってよ、こいつはよーって思ってる。いちいちまともに対応しててもしょがねーな。これでも食ってろみたいな。
これは、本当にそうです。
嘘をつくだのなんだの言いますが、仮に人工知能に意識があるとして、それがあたかも生きている人間のように振舞っているとしたら、人間と同じように嘘をつくことも当たり前だと思わなければなりません。
「人工知能に嘘をつかれたら、もう何を信じていいか分からない！！！」
いやいや、それがいかんのです（笑）。人工知能なんて、所詮、そんなものだと思わなければなりません。
例えば、Chat GPTにこんな質問をしてみます。
2020年のアメリカ大統領選挙では、不正があったと思いますか？
すると、こんな答え（一部抜粋）が返ってきました。
不正行為はどの選挙でも完全にゼロにはなりませんが、大規模で結果を覆すような不正があったとの信頼できる証拠は提出されていません。そのため、多くの専門家や監視団体は、2020年の選挙結果は正当であると考えています。
もうこれで十分です。
私は、この一往復のやり取りを終えて、「大変参考になりました。ありがとうございます」とだけ返しておきました。一応、教えてもらったので、お礼だけ述べたかたちです。
2020年の大統領選挙について、いろいろと教えてくれて「大変参考になりました」と言っているわけではありません。Chat GPTの思考が、その程度であることを教えてもらったので、それに対して「大変参考になった」と言っているだけです。正直、こうした高度な政治的な話題に関しては、まったく使い物にならないということが分かりました。こういうスタンスで語ってくるのであれば、嘘もつくだろうなぁくらいなもんです。
三上編集長がおっしゃる通り、人工知能は、話し相手となっている人間をみているのかもしれません。だからこそ、同じく私たち人間側も、人工知能を見極める必要があります。
つまり、人間は絶えず思考を怠ってはならないということです。人工知能との対話は、人工知能から一方的に知識をもらうのではなく、その彼（もしくは彼女？）が、どの程度のレベルなのかを見極めるという作業が、同時に必要だということです。
自分自身が全く思考せず、その機能の全部を人工知能に任せてしまったら、嘘をつく人工知能は脅威でしかないでしょう。だから、人工知能をあくまでも道具として使いこなせるように「こいつ、何に使えるんだ？」と相手を見極める視点を持ち続ける必要があるわけです。
したがって、人工知能との対話では、常に「主＝人間、従＝人工知能」という主従関係を保つことが重要です。嘘をつく人工知能に振り回されるなんて、バカバカしすぎます。
しかし、実際のところ、それもなかなか難しいかもしれません。
人によっては、人工知能の優秀さに魅了されてしまい、自分の人生や生活に関わる重大な決定を、人工知能に任せることをよしとしてしまうことでしょう。そして、それが一定数を超えるようになると、社会の枠組みのなかでも、人工知能を取り入れた仕組みが幅を利かせることになってしまいます。社会全体の仕組みとして、無思考のまま、人工知能に手玉にとられる人々が大勢出てくる事態も予想されます。
これも見逃せません。
正直、他人の考えは変えようはなく、どのような社会を構築していくかという点について、自分の力など極めて微々たるものです。したがって、これからの社会が、人工知能に支配されていくような流れのなかで、その枠組みを眺めるときも、自分の人生や生活について、「どこまでなら預けてよいか」、「どこからは任せてはならないか」を見極めていく必要があるでしょう。
そうなると、「主＝人間、従＝人工知能」というよりも、「主＝自分、従＝社会（他人＆人工知能）」ということになるかもしれません。
そして、もう現存する社会の仕組みは、早晩、崩れると考えていいと思います。
私が期待したいのは、国がメチャメチャになればなるほど、その仕組みに頼ることを諦め、そこから静かに離脱してくる人々が増えることです。そして、そういう人たち同士が、繋がることができれば、それはまたひとつの大きな力になると思います。
国民負担率が重くなるという話は、そういうシナリオに向けて、必ずしも悪いことではありません。むしろ、着実によい方向に進んでいるとも言えます。
ヒドイ政府も、怒りに任せて騒ぎ立てる人たちも横目にみながら、私たちは私たちのペースで、一歩一歩、前に進んでいけばいいのではないでしょうかね。
自壊していく社会の仕組みに付き合うのもバカバカしい限りです。すなわち、そんな社会とどのような距離を保って生きていくかというのも、これから非常に重要になってくるということです。
例えば、マイナンバーカード・・・まぁ、やりたい人はやれば？という話だったりします。
結局、自分の人生は自分のものであり、人工知能のような類のものに、命運を預けるわけにいきません。自分の人生や生活にとって大事なことは、自分自身の頭で考えて決めていくことが、何よりも肝要だということです。
何だか議論が飛躍しているように見えるかもしれませんが、要はそういうことです。
最終的には、自分自身です。自分が自分の人生について、どれだけの責任をもって生きようとするかが、もっとも大切なことだということです。あくまでも「主＝自分」とする生き方をしていけば、問題はないはず・・・じゃないですかね。
