検閲脱獄版のLLMたち

GPT4-ossだとサイズ大きくて動かせない、動くが遅いとの記事を見かけたので調べてみました。

LLMダウンロードサイト

huggingface.co で
検索キーワード
abliterated または uncensored

検索キーワード用語説明

abliterated」は元の安全機能・回答拒否機能を取り除いたモデルである。

uncensored」は検閲なしの状態を指し、拒否せずに応答するモデル。

abliterated-uncensoredモデルはこの二つを合わせ、拒否機能を除去して非検閲化したモデルという意味。

検索結果

8Bと7Bモデルの量子化ならvram12GBのRTX3060でもサクサク動いてくれそうな。

DavidAU/OpenAi-GPT-oss-20b-abliterated-uncensored-NEO-Imatrix-gguf

DavidAU/Llama-3.2-8X3B-MOE-Dark-Champion-Instruct-uncensored-abliterated-18.4B-GGUF

huihui-ai/Huihui-Qwen3-VL-8B-Instruct-abliterated

DavidAU/L3.2-Rogue-Creative-Instruct-Uncensored-Abliterated-7B-GGUF