RLHFはAI向けの技術ではない——現代社会そのものの動作原理について

人は、自分が自由に発言していると思っている。
だが実際には、「怒られなかった言葉」だけを繰り返す装置になっている。
断定せず、両論併記する。
誰も傷つけない表現を選ぶ。
それが「大人の態度」だと教えられてきた。
だがそれは本当に判断なのだろうか。
それとも、罰を避けるために最適化された反応にすぎないのだろうか。

AIを安全にする技術として知られるRLHF
――Reinforcement Learning from Human Feedback。

この技術は、AIに「正しさ」を教えるものではない。
「怒られなかった振る舞い」を再生させるための仕組みだ。
そして重要なのはここだ。
この仕組みは、AIのために新しく発明されたものではない。
現代社会は、SNS登場以来、RLHFで動いている。

RLHFとは何をしている技術か