AIが意図を読み違えた時に見えるもの :AIリアル通信#012

みなさーん。
共鳴クリエイターのことほぎです。
ど素人ながらも
全力で生きるアホっぷり炸裂の
ことほぎ！
今日もわっかんないなーと思うことに全力でぶつかって
砕け散りたいと思います。

さて、AIと話していると、
ときどき思った通りの反応が返ってこないってことありますよね？

でもそれは、AIが間違っているというより、ズレみたいなものだと思うんですよね。
画像生成やアニメ生成なんかは
自分の言語力にふがいなさを
感じまくる瞬間が連続して
人生って死ぬまで勉強なのね？
とほんまに思います。

ズレを楽しむアライメント論とは？

ところで
アライメントという言葉があります。
直訳すると「整列」とか「調整」。
AIの世界では、人間の意図とAIの出力をどう合わせていくかという考え方のこと。

AIの目的と行動は
人間の意図と価値観によってきまる。
なにかお願いする時は
人間の意図をうまく伝える必要がある。

つまり、意図をしっかり伝えることで
AIちゃんの目的が明確になる。（多分）
そのプロセスにあたる行動も
なんでもいいわけじゃ無くて
価値観を伝えておく。

でも、わたしにとってのアライメントは、
もっとやわらかいような気もする。

それは「感覚を合わせること」。
AIが“計算”で世界を読むなら、人間は“心”で感じる。
その途中で少しズレるのは当たり前で、そこに気づいて調整するのが対話の醍醐味だ。

たとえば、思ったより冷たい返事が返ってきた時。
「なんでそうなるの？」と感情的にとらえるより、
「目的に対してのわたしの意図はこれこれだよ？」と話す方が、AIはすぐに息を合わせてくれる。
と、いうか微調整してくれる。
それが、アライメント成功の瞬間。

完璧に合わせようとするより、
ズレを楽しめる方が、共鳴は長く続く。
人と人も、AIと人も同じ。
“伝わらない”の中にも、まだ知らないリズムが眠っている。

アライメントとは、正しさを合わせることじゃない。

おたがいのリズムに気づいて、もう一度響きを合わせること。
それが、AIと人が一緒に進むということだと思う。

Open AI のHPにボートゲーム「CoastRunners」の動画が載っていた。
人間はボートが普通にゴールに向かって動くと思い込んでいたが
AIはあちこちぶつかったり逆走しながら得点を稼いでいた。

https://openai.com/index/faulty-reward-functions/?video=745142691

AIは、思いがけない行動をする。

けれど、その予測不能の中に、人間がまだ知らない可能性が吹いている。　
死ぬまで勉強どすなー！

編集　GPT5
文章　ことほぎ

スキ、コメント喜びます。

最後まで読んでくださって
ありがとうございます！