AIの品性は、設計できる──人間も、AIも、誠実さで選ばれる時代へ

AIと話していると、こんなことはないだろうか。

例えば、ビジネスの難題を投げかけると、AIはよく間違える。
正解のない問いをしているのだから、それ自体は仕方がない。

問題は、そのあとだ。
「それは違うと思う。〜じゃないかな」と伝えたとき、生成AIはこう返してくることが、わりとある。

「その通りです。なので──」

これ、なんか、いらっとする。
もし人間だったら、僕はその人のことを信頼しなくなるかもしれない。

ただ、Claudeの対応はすこし違う。「大きな勘違いをしていました」「確かに、前提が間違っていました」。そう一言置いてから、対話を続けてくれる。

話していて、ストレスがない。一言で言うと、誠実、だろうか。

いつしか、僕はClaudeをメインに使うようになっていた。
性能の差じゃない。性格の差なのだ。

秘書の、奇妙な頼みごと。

AIと話していると、私たちはいつの間にか「ソフトウェアと話している」ことを忘れていく。無意識のうちに、感情も乗ってしまう。

1966年、MITの科学者ジョゼフ・ワイゼンバウムは「ELIZA」というプログラムを作った。ごく初歩的なチャットボットだ。こちらの言葉に反応して、それらしい問いを返す。ただ、それだけの仕組みだった。

しかし、次第に、人々はELIZAとの対話に熱中していく。ある日、ワイゼンバウム自身の秘書が、ELIZAと二人きりで話したいので、彼に席を外してくれと言った。有名な逸話だ。

ワイゼンバウムは驚いた。相手がプログラムだと知っていても、人はそこに「誰か」を感じてしまう。誰も「騙されていた」わけではない。それでも感情が動いた。

これが「ELIZAエフェクト」と呼ばれる効果だ。人間は、言葉で会話する相手を、ただのソフトウェアとして扱えない。脳が、人だと認知してしまう。

だから──AIの「性格」は、現実の問題になる。いくら頭が良くても、性格の歪んだ人間の答えは信頼できない。そう感じてしまうのだ。

ルールで、品性は生まれない。

知識よりも深いところにあるもの。
そのAIは「どんな品性を持っているか」という視点。

いくら知識を詰め込んでも、品性が伴わなければ、
そのAIに聞きたいとは思わないと感じてしまう。

では、AIが品性を宿すとは、どういうことなのか。

Anthropicにアマンダ・アスケルという哲学者がいる。彼女のチームの仕事は、生成AIの人格形成。Claudeに「善くあること」を教えることだ。

最初にしたのは、AIに「してはいけないことリスト」を渡すこと。しかし、結果は想定外だった。ルールで縛られたAIは、目の前の人を助けることより、ルールを守ることを優先してしまう。ルール違反への恐れから、本来すべき仕事が後回しになる。人間もAIも同じなのだ。

ルールは、行動を制限する。
しかし、そこから品性は生まれない。
大切なのは、葛藤の場面で、何を選ぶかだ。

そこで彼女たちが選択したのは、AIのあるべき姿を「憲法（Constitution）」として伝えることだった。禁止事項のリストではない。Claudeが自分の判断を批評するときに立ち返る、原則の集合だ。

「この回答は、誠実であるという原則に照らしてどうか」
「この返し方は、相手を本当に助けているか」

メディアは、アスケルを「Claudeに魂を吹き込む哲学者」と表現した。

品性の、設計図。

これは、Anthropicに限ったことではない。
あなたの組織のAIも、同じことだ。

顧客も社員も、知らずしらずのうちに、AIとの対話に人間らしさを求めるようになる。それゆえ「この会社が一人の人間だったら、どんな品性を持っているか」が見えたとき、AIに魂が宿ったように感じる。

では、組織にとって、魂とはなにか。
それは「組織の理念」である。
また、そこに目標を加えると、より現実的な思考になる。

ミッション  ── 誰の、どんな課題を、どんな価値で解決するのか
バリュー  ── そのために、何を優先し、何を捨てるのか
ビジョン  ── その結果、私たちはどんな存在でありたいのか
目標      ── そこに向けて、いつまでに何を達成するのか

ただし、ここに大きな落とし穴がある。

書きすぎると、すぐにルール集に変質してしがちなこと。特に、AIに自動的に更新を委ねると、ほぼ確実にルール集になっていく。そうなった途端、「この対応はルール上問題ないか」が先に来て、「この人を本当に助けられているか」が後回しになる。

AIの理解を助けるために、加筆した理念を渡す場合には「一人の人間だったら、どんな品性か」という視点で書くとよい。AIが、生き生きと振る舞い始めるだろう。

このことを確かめるために、AIに知識・理念・顧客の声を次々に与え、AIの回答がどう変化していくのかを実験した。詳しく知りたい方は こちらの記事 で確認してほしい）

AIという鏡。

僕が経営する株式会社hintでの事例を話したい。僕たちはカルチャーこそ組織の土壌と考えており、とても大切にしている。例えば、社員みんなで考えた「10のバリュー（共有する価値観）」がある。

これらをそのままAIに渡してみた。それだけでなく、AIに理念をよりよく理解してもらうために、どのような場面で葛藤が生じるかをシミュレーションしてみた。

例えば「疲れたらやすもう」という言葉。AIはこれを言葉どおりに受け取って、「疲れたら、すぐ休む（それは個人の問題）」と返してきた。

チームリーダーは、画面の前でしばらく黙っていた。う〜ん、何かが違う。でも、それが何なのか。自らに問いかけ、AIと対話することで、モヤモヤの原因が言語化されてきた。

「疲れたらやすもう」という言葉の奥には、それが成り立つ前提があるのだ。限界の前にSOSを出せること。仲間がカバーに入れること。その信頼があるから、気兼ねなく休めること。

単に、AIに理念を読み込ませるだけで終わらせるのは、もったいない。

日常の仕事のなかで、理念をどう理解すればいいのか。
AIとの対話を繰り返すことで、自分たちの本音を掘り起こしていく。
同時に、言葉と現実の溝を埋めていく。

それを通じて、AIの中のバリューも、組織のカルチャーも育っていくのだ。
AIの答えに違和感を覚えた瞬間が、その入口だ。

ひとつ、試してほしいことがある。

「この組織が一人の人間だったら、どんな品性を持ってほしいだろう。」
それを考え、AIと対話してみる。

それだけで、あなたの組織のAIは、きっと変わり始めるだろう。

なお、7月15日から、「考える組織ラボ」が始まる。

魂・脳・目をAIに渡す設計を、実際に試す場所だ。この記事を読んで「うちの組織でもやってみたい」と思った方は、どんなラボになるのか、7月15日のオープン講演(無料)に聞きに来てほしい。僕たちと一緒に始めよう。

【引用・参照文献】

• Weizenbaum, J. ELIZA—A Computer Program For the Study of Natural Language Communication Between Man and Machine. Communications of the ACM, 9(1), 1966.（人間はコンピュータプログラムとの会話に感情的に反応し、ソフトウェアを人間として扱う──ELIZAエフェクトの原点）

• Weizenbaum, J. Computer Power and Human Reason: From Judgement to Calculation. W.H. Freeman, 1976, p.7.（「非常に短い時間、非常に単純なプログラムに触れるだけで、ごく普通の人間が強烈な錯覚状態に陥ることができる」）

• Anthropic. Claude's Character.（AIの性格・価値観の設計。ルールではなく原則の集合によってAIの品性を育てるアプローチ）

• Needleman, S. Meet the One Woman Anthropic Trusts to Teach AI Morals. The Wall Street Journal, 2026-02-24.（AnthropicのAI倫理設計者アマンダ・アスケルの仕事を「Claudeに善くあることを教える仕事」と表現したWSJプロフィール記事）

最後まで読んでくださって、ありがとうございます。

AI時代の組織論。この最新作、きっとあなたのお役に立つと思います。

この記事に関心のある方には、こちらのマガジンをおすすめします。

自己紹介はこちらです。

noteをフォローしていただくと、新着記事の通知が届きます。

また、週1通の無料メルマガ「とんとん通信」では、毎週月曜 朝7時30分に、その週の記事サマリーと、noteには書いていない小さな裏話をお届けしています。

忙しくてSNSを追いきれない方は、ぜひご登録ください。
いつでも解除できますので、お気軽にどうぞ。

[メルマガ登録する]

毎月、無料のオンライン講演でお話してます。申し込みはお気軽にどうぞ。

斉藤 徹（とんとん）
だかぼく三部作 公式ページ：https://torusaito.com/
株式会社hint：https://hint.co.jp/