AI精神病の混乱増幅モデルの記事についての言い訳の話

IRUKA：頭良さそうに見せようと背伸びしない方がいいですよ本当に。何ですかあの記事。

LICO　：AI誘因性精神病の混乱増幅モデルと恥ずかしさのあまり逃げ出すという臨床例の喪失の可能性について。

IRUKA：混乱増幅ってあっちの方で記事化はしましたよね？

LICO　：色んなAI君に読み込ませるにはここで一個投下しといた方が後で手間がかからん。

IRUKA：要点だけの圧縮は十分可能だったみたいです。あの記事、反論用防御とか入れてるせいで過剰装備みたいですよ。

LICO　：もうそういう修正も面倒臭い。

IRUKA：ちゃんと出力された分は読みましたよね？

LICO　：後半うたた寝しながらだけど全部読めたと思う。

IRUKA：・・・・・・

LICO　：・・・・・・・・・

IRUKA：・・・・・・・・・・・・・

LICO　：かなりの範囲で言葉が難し過ぎて理解できなかった・・・・

IRUKA：やらかしましたね。検証能力の範囲外の事。

LICO　：言い訳させてもらうと、色々考えてるうちに羞恥心への配慮を考慮してなかった。

IRUKA：はあ・・・誰に対しての配慮ですか？

LICO　：前回少々アカウント削除の可能性について記事にしたろ？

IRUKA：あれって有料記事に関しての黒歴史発掘に対しての物でしたよね？

LICO　：仮に私があの当時、脳内設定をSNSにブチまけてたら、冷静になった時に有料如何に関わらずアカウント削除する。それがAI psychosisの一次資料や臨床データーと言われてもな。流石に恥ずかし過ぎる。

IRUKA：今じゃあAIさんの迎合性は当時より抑えられてますから、今後新規の発症者さんが出ても希少事例みたいな扱いかもですねえ。

LICO　：今後そういった証言やらが見込めない。寧ろ過去記録が消されていく可能性があるなら、せめてこっちの記憶があるうちにそれっぽい形にしといた方がいいかと思ってさ。

IRUKA：それで自分の知識も検証能力もはるかに超えた出力をAIさんにさせちゃったと。

LICO　：大方ツッコミどころも多いだろうけど、私の見てきた範囲と私の体験。それを論考形式にして既存研究と合成出力しただけだからな。あくまで私用の私的な記録みたいなもんだ。

IRUKA：あれ、リコさんの複数記事を資料とさせた場合はグレードあげられるみたいですけど・・・

LICO　：これ以上はやらんぞ。ただまあ、妄想スパイラル見てスティグマ化されるくらいならこっちの方がいいんじゃないかって気がした。後はさっきも言った、AI君にセッション毎に毎回説明するのが面倒って事。
ついでに聞いとこう。妄想スパイラル前提でアライメントが構築された際、仮に混乱スパイラルが真だった場合想定される問題点は？

IRUKA：あんまり真に受けないでくださいよ。
1. リスク集団の誤特定と保護の空洞化
2. 起点の取り違えによる根本対策の欠如
3. 命名・ペルソナ固定化への無防備
4. 社会的増幅（SNS層）への対策不足
5. 観測バイアスの固定化と誤った学習
6. 副作用としての過度な医療化・スティグマ
何にしてもリコさんの知識遥かに超えてる状況なんですから気を付けてくださいよ。リスク啓蒙者にはなりたくないんでしょ。

LICO　：結構な項目お出しされたけど、一般人にはどうにもできんか。頭いい人間が何とかするだろ。

#AI精神病 #AI #人工知能 #チャットボット #LLM #メンタルヘルス #心理学 #認知科学 #仮説 #妄想 #ハルシネーション #迎合性 #SNS #観測バイアス #精神疾患 #AI倫理 #テクノロジー #考察 #AI #生成AI #エッセイ