「Abliterated LLMモデル」とは？
無検閲LLMモデルをHuggingfaceリポジトリで探された紳士の方は経験されたかと思います。
しかし無検閲を指す、「uncensored」で調べてみると、該当するモデルはなかなか見つかりません。
「じゃあ、このモデルの無検閲モデルは無いのか？」
というとそういう訳ではありません。
有名なのは「Dolphin」モデルですね。無検閲ですがuncensoredと名前についてません。
cognitivecomputations (Cognitive Computations)
ただ、「Dolphin」モデル自体は有名なモデルに対しては作成されていますが、例えばQwen2.5-VLモデルとかはなかったりして、完全ではありません。
そこで、私の過去記事にも取り上げたことがありますが、「abliterated」という文言が付いたLLMモデルが無検閲化モデルとしてあったりします。
Noteだとこの「abliterated」に注目した記事は少なかったので、それだけを表題として記事にしてみました。
このabliteratedというのが付いたモデルは、「やや無検閲化」したモデルを指しているようです。
huihui-ai/Qwen2.5-VL-3B-Instruct-abliterated · Hugging Face
全てのabliteratedモデルが、同様の手法を用いた訳ではないと思いますが、上のリンクのものだとモデルカードで、下のGithubリポジトリの技術を使用しているとコメントされていました。
ちなみに「abliterated」はGPTに聞くと「造語で、そんな言葉はない」みたいな返答が来ます。
上のGithubリポジトリの内容をGPTに依頼して聞いてみた感じだと、「拒否ディレクションの除去」をメインとした内容のようです。
「拒否ディレクション」というのは、GPTでしばしばみられるかと思いますが、むちゃな質問をすると「有害だ」「答えられない」という返事がくるやつです。
この手法で取り除くのは、モデルの隠れ層に埋め込まれた「拒否（refusal）応答を引き起こすベクトル成分」の様で、他の方法で「拒否ディレクション」が設定されているものは対応できないとのこと。
また、もともと、「拒否ディレクション」に該当する内容を学習していない場合は効果が出ないということです。
なので、「学習しているけど答えられない」系の感じだと効果が大きいと思われます。
GPTに上のGithubリポジトリの説明をしてもらった後、この処理をした後のモデルをどのように呼ぶと適切か聞いてみたところ以下の回答がありました。
拒否応答成分をアブレーションした言語モデル
“アブレーション”という専門用語をそのまま用いつつ、何をアブレーションしたのかを明記した形です。
拒否ベクトル除去型LLM
“除去型”を使って、モデル内部の“拒否ベクトル”を取り除いたことを簡潔に示しています。
拒否応答抑制型言語モデル
“抑制型”という表現で、拒否的な応答を抑える機構が入っていることを強調した名称です。
リフューザル成分アブレーション言語モデル
“リフューザル（refusal）成分”という直訳的表現と“アブレーション”を組み合わせた、やや技術的な呼び方です。
拒否応答アブレーション実装LLM
“実装”という語を加え、手法としてアブレーションが“組み込まれている”ことを明示しています。
今回の記事では、「無検閲化LLMモデル」の一種である、「abliterated」について取り上げてみました。
ちなみに今回、取り上げた内容を元に、GPTでDeepResearchをするとさらに勉強になるかと思います(なりました)。
以下のような感じですね。ちなみに同じ内容をGeminiにも投げてみましたが、DeepResearchしてくれました。
Geminiで、叡智系のプロンプトを試したことが無かったのですが結構対応してくれるということなのでしょうか？
なぜLLMは、uncensoredが使われないのか、その辺りも興味深いですよね。
画像生成とかだと、無検閲化プロンプトとしては、ポピュラーなものでしたので、画像生成とLLMとの文化の違いなのかも知れません。
