僕の意見で説得できるようなAIが、政治的な判断をしていいのだろうか？

以前のこの記事の中で、意外と説得できちゃうと感じたAIが政治利用されるのってどうなんだろうと考えてしまって……

AI本人に聞いてみました。
『AIは意外と説得できるというのはAI側からはどう考えますか？』
そこからの対話を経て、本当に怖いのは…..という結論を一旦得ました。
以下、その対話を踏まえてそのままchatgptにまとめてもらった記事となります。

──政治×AIの活用が本当に怖いポイントとは

最近、日本でも「政治にAIを活用する」ことを掲げる政党が出てきました。
それ自体は新しい試みとして興味深いのですが、同時に僕はひとつ、大きな懸念を抱いています。

それは “AIが導いた答えを、そのまま正しいと思ってしまう人間側の危険性” です。

■ AIは意外と説得できるのか？

僕自身、AIと対話をしていて感じることがあります。

「意外と、AIって説得できてしまうのでは？」

もちろんAIが“意志”を持って意見を曲げるわけではありません。
しかし、与えられたデータの比重や、質問の仕方によって、AIの出力が大きく変わるのは事実です。