AIチャットの闇

ぽこぽこと詐欺まがいのAIチャットなるものが発現している。

https://jp.reuters.com/article/google-ai-bard-idJPKBN2UI1TV

これらをいろんなところで活用しようという実験は良いが、“この程度”のものを実装しようとは気でも違えたか？と思っている。

https://xtech.nikkei.com/atcl/nxt/column/18/02423/041300003/

この例などが面白いが、ChatGPTを活用してプロットされた諸々をそのまま使うなんて馬鹿げたことは技術状況からして、するまい。（いやお国の役人はその驚くようなことをする輩故に少し注意を払わねばならないのだが・・）とした場合に、校正は誰がやるのだろうか？

いやその前にこの校正の手間を考えれば恐らくChatGPTにやらせるのが得策ではないと言える答えが見つかると僕は思っている。

科学技術に進歩を利用すること自体は別に良いと思う。

が、昨今のマイナンバーと住基ネット、保険証との連携でマイナポータルは重大な連携齟齬を起こしたのは記憶に新しいが、この程度の連携さえうまくいかないのに、ぶっちゃけ今の時点で発展途上にも程があるだろうとツッコミどころ満載なChatGPTを業務に導入なんて目も当てれられない。

一応触れておくと、マイナンバーは国。対して住民基本台帳ネットワークシステムは自治体主体のネットワークで、これをマイナンバーに連携させようなんて、システムをわかってる人間なら、問題が起こらないほうが不思議な話になる。（住民基本台帳ネットワークシステムは自治体によってシステム会社が異なったり、それぞれで勝手にやっているという代物故点でバラバラだと思う方が正しい理解）それを上位のひとつのシステムで暴力的につなぐわけだから小さなミスが情報漏洩の起点になるわけだが、これを要件定義さえままならぬ発注者の国側の能力不足は明らかで主体なのに主体になり得ない体制自体の問題は大きい。

また受注側もコンソーシアムという前例のない形態とか、どのような了見なのだろうか疑問。そのコンソーシアム構成企業は、その他の中間連携や下層システムなどを単体企業で担っていたりするのもまた疑問だ。

それら新旧システムが稼働する互いの取り合い責任の明確化は全くないだろうと思われるし、この辺りは商習慣的に最初から領分を決める傾向が強く・・それでは受け渡しがまず上手く行かないのは明白なのだが・・

どうするのがベターかといえば、緩やかに重なりながら互いが自然にバトンをわたすような形が良いが・・そこの是正は未だ手付かずだ。（そもそも国が国の責任を持って内製するのが筋だと僕は思うが・・そんな人材が集まるわけもないだろうから、結局無責任な丸投げになるのだが、そんなことでこの先のデジタル社会構築を標榜する連中は恥ずかしくないのか・・）

農水省周りの話に戻すが・・

Open AIのChatGPTとはGPT-3をベースに微調整を加えたGPT-3.5、そして現在はGPT-4という大規模言語モデルに加え、使う人からのフィードバックを学習させて急速に肥大化を続けているもの。挙げた記事にあるGoogleのBardもChatGPTと同様にPaLM 2という大規模言語モデルをベースに対話型のチャットシステムだ。そもそもどちらにも言語間で非常に偏りを持った対話を展開している節があり、情報の正確性に不安を覚えざるを得ない。これが信頼に足る“モノ”になる日がくるのか訝しんでしまう。

というのも、僕はこの大規模言語モデル、つまり“大量のテキストデータを使ってトレーニングされた自然言語処理モデル”にこそ疑問があル。それは大量のテキストデータなるものはデジタルデータになったテキストを大規模に使うわけだ。AIが学習可能形式になっていないデータはいつ誰がどうやってどのタイミングで学習する（させる）のだろうか？

“データ化されていないテキスト”は、そもそも全体の殆どを占めているのではないのか？と思っていて・・つまりデータ化されたテキストだけの偏向がいつまで経っても解消されないみたいなことに陥るのではないかと。いや、そもそも知識のツリーを入力し続けてもう40年以上経っていると思うが、未だ入力完了は聞こえてこないので、それも含めて根本の入力不足が最深部で続いているわけで・・

とまあ、続ければたぶんまたキリのない長すぎる話になってくるのでこの辺りでやめようと思うが・・興味あれば是非お話ししましょう。

一昨日の夕暮れ。

なんとも言えぬ美しい色彩の夕焼け・・結局我々はこういうものに感動したり思いを馳せたりするのだと思う。。