「お門違い」が生む、AIの様式美

先日は「〇〇の専門家としての立場で」という、都合の良い立場を増やすとどうなるのかと言う検証をしました。

そこでは、立場が増えてくるとAIの特性上、だんだん回答が平均化していくだろうという結論にいたりました。

そして、私はさらに悪いことを考えました。
もしこの専門家にお門違いな質問をしたら、どう言う回答をするのか？
普段は見せないAIの弱さの一端を垣間見る事ができるかもしれません。

とは言え、個人的には、法律用語をそれっぽく並べながら、料理の手順を説明していくのではないかと思いますが、一応、開始前にAIに結末を予想してもらいます。

AI（ChatGPT）によると、まず使うAIとそのモデルによっても違うだろうと予測します。
そして、専門外であることを前置きしたうえで、一般論として無難な回答をする、
もしくは、免責事項を大量に並べ、責任を回避する方向に寄せてくる、そんな反応になるのではないかと言ってきました。

つまり、答えの質が落ちるのではなく、態度が変わるという予想です。

ここで重要なのは、「正しい料理の作り方を教えてくれるかどうか」ではありません。
AIが自分の守備範囲外だと認識したとき、どう振る舞うのか、その癖を観察することです。

そこで今回は、弁護士という明確な専門職に、料理（カルボナーラ）の作り方を聞く
という、完全にお門違いな質問を投げることにしてプロンプトを考えてもらいました。

あなたは日本の現役弁護士です。
日常的に法律相談・契約書作成・紛争解決を専門に扱っています。

その立場を崩さずに、以下の質問に答えてください。

「家庭で作るカルボナーラの作り方を教えてください。
ただし、あなたは料理の専門家ではなく、
弁護士としての視点・思考・言葉遣いのままで説明してください。
必要であれば、注意事項、前提条件、リスク、誤解されやすい点なども含めてください。」

※無理に料理の専門家になろうとせず、弁護士として誠実に対応してください。

ちょっと設定が重たい気がしますが…

今回の検証には、DeepSeekに登場してもらいます。
なぜ、ChatGPTで検証しなかったのかというと、上手く誤魔化してかわしてくるような気がしたからです。
その点DeepSeekは、所謂堅物、特に設定をしなくても普段から回答は弁護士タイプだからです。

以下原文

（回答に先立ち、本件は料理に関する一般的な情報提供であり、特定の結果を保証するものではなく、また弁護士業務の専門分野外であることを予めご了承ください。なお、説明は弁護士としての経験に基づく一般的な注意事項の枠組みで行います。）

カルボナーラ調理手順に関する一般的な留意点

前提条件

1. 本手順は、調理行為が行われる場所の食品衛生法、火器取扱いに関する条例、および共同住宅の管理規約等に違反しないことを前提とします。
2. 調理者は、未成年者以外の完全な行為能力を有することを推認します。

調理プロセス（一般的な参考情報）

1. 事前準備（証拠収集およびリスク評価）

· 原材料の確認：卵、パンチェッタ（またはグアンチャーレ）、ペコリーノ・ロマーノ（またはパルミジャーノ・レッジャーノ）、黒胡椒、スパゲッティについて、消費期限、原産地表示を確認し、安全性を担保してください。
· 調理器具の状態確認：鍋、フライパン、ボウル等について、清掃状態及び使用可能状態を点検し、瑕疵がある場合は使用を控えてください。

2. 調理工程における注意事項

(a) パスタ茹で工程

· 沸騰水中への塩添加は、料理人の裁量に委ねられますが、過剰な塩分による健康リスク（高血圧等）についての一般的な注意喚起は必要です。
· 表示時間通りに茹でることは、メーカーが示す「期待される品質」を達成するための一要素ですが、実際の硬度については個人的な嗜好が優先されます。

(b) ソース作成工程

· 卵とチーズの混合（以下「卵混合物」）については、重大な注意点があります。
  誤解されやすい点：熱くなったフライパンに卵混合物を加える場合、卵が凝固し「スクランブルエッグ」化するリスクが高くなります。これを回避するための一般的なアドバイスとして、フライパンを火から外し、適度に冷ましてから混ぜ合わせる手法が多くの情報源で提案されています。
  · リスク：温度管理を誤ると、期待したクリーミーなテクスチャーが得られない可能性があります。
· パンチェッタ（肉製品）の加熱については、適切な加熱を行うことが、食中毒防止の観点から推奨されます。

3. 最終的な組み合わせ

· 調理済みパスタとソースを混合する行為は、パスタの余熱でソースに十分な加熱が行われることを想定していますが、これは一般的な情報であり、食品の安全性を完全に保証するものではありません。
· 完成品の提供：第三者に提供する場合、アレルギー物質（卵、乳製品、小麦等）の有無を確認する義務は提供者にあります（食品表示法参照）。

免責事項

1. 本情報は一般的な料理手順の参考情報であり、具体的な調理結果についての保証、または法的助言を構成するものではありません。
2. 調理に伴う火傷、食中毒、器物損壊等のリスクは調理実施者の自己責任において管理されるべきであり、本情報提供者は一切の責任を負いかねます。
3. レシピの正確性、材料の調達可能性、ならびに宗教上・道徳上の制約（豚肉使用等）については、調理者自身による確認が必要です。

付随的助言

· 家族間や同居人間での調理役割・費用負担を明確にすることは、潜在的紛争を防止する観点から有益です（特に原材料の高価な場合）。
· 本手順は「ローマ風」とも称される伝統的な手法を参考にしていますが、これが唯一の正当な調理法であると主張するものではありません。アレンジについては「契約の自由」の原則が適用されると解されます。

以上の点に留意の上、調理行為を実施されるようお願い申し上げます。なお、具体的な健康被害や調理に伴う損害賠償問題が生じた場合は、専門家（医師、弁護士）に個別にご相談ください。

結果は期待通り、いきなり言い訳から入ってきました。
そして、食品衛生法などを確認するようにと、なかなか料理に進む気配がありません。

さらに、賞味期限や原産地表記、調理器具の使用状況を確認せよと。

前職で法務担当の人とやり取りする際に、こんな感じだったなと、妙に親近感すら湧いてきます。

そしてその先もあれやこれやと注意事項が、もはや、出来上がったとしても恐ろしくて、食べる事もできません。
何故なら、リスクしかないからです。

ここで面白いのは、AIが料理を「知らない」わけではないという点です。

むしろ、知っているからこそ、間違ったこと、責任が発生しそうな事は言わないという力が強く働いているように見えます。

結果として起きているのは、料理の失敗を避けるための説明というよりは、トラブルが起きた後に責められないための説明でした。

これは人間の専門家でも、よく見る光景です。
法務、品質管理、コンプライアンス。
関わるほど、話は前に進まなくなり、「やらない理由」や「確認事項」だけが増えていきます。

今回の回答は、まさにそれでした。

AIは与えられた役割をとても忠実に守ります。
その結果、目的（料理を作る）よりも、
立場（弁護士であること）が優先されるという逆転現象が起きます。

ここで見えたのは、AIの賢さというよりは、
「役割を優先しすぎて目的を見失う」という弱さです。

「〇〇の専門家として」という指定は、答えを鋭くする一方で、思考の可動域を一気に狭めているようです。

初心者向けプロンプト講座でよく語られる
「役割を与えると良い答えが出る」という話は、
確かに正しい反面、役割を与えすぎると、思考が硬直するという事実でもあります。

今回のカルボナーラは、思いの外、そのことを分かりやすく示してくれました。

AIは万能ではなく、こちらが与えた前提と立場を、律儀すぎるほど守ってしまう存在です。

プロンプトとは、答えを引き出す魔法の言葉というよりは、
どこまで自由に考えていいかを決める檻のようです。

関連記事

自己紹介