夜明けの青い時間の知 第三章‐３：自由と、そしてシステム設計の倫理（後編）――透明性・責任・民主性・無為
ひとりのオンライン・レストラン・レヴュアーを召喚しよう。「彼女」は十年まえ30歳設定でデビューした、「フランス文学専攻、東大院卒、ときどきモデルもしています、恩師は蓮實重彦大先生、おまけに私は現役プロのパリッパリの物書きよ♡」と連呼しながら美女画像も添えて。「彼女」は若作りのはしゃいだ文体で、「飲み込める物ならば、それは美味しい物」という謎の主張を掲げ、おおむね踊り踊った大絶讃の、地下アイドル的レストラン批評を書きまくる。しばらく「彼女」はオン・ラインで小人気を獲得した。
ところが数年経って、「彼女」のプロフィール画像が韓国系モデルのパクりであることがばれ、フランス料理の日本語訳メニューさえも読めないことが判明、しかもその味覚は「醤油と油脂のまったり感、そして甘味」にしか反応できない重度の味覚障害であることに読者は気づく。やがて「彼女」は飲食店に出没する熊とさえ言われるに至る。さらには「中の人」は半ば実食せずにレヴューを書いていて、もしかして寝た切りで胃婁のじいさんではないか、と祭りがはじまってしまう。こうしてもはや読者はネカマじじいの珍芸を愉しむようなり、他方、じいさんはじいさんでなんとしても「私」は若い女なんだと証明すべくキャピキャピ語尾を強調するようになり、街中華でタンメン召し上がって、なにを血迷ったか、「全裸になっても香るものが、センス」とか言い始める。気がつけば、文体はどんどんグロテスクを極めるようになってゆく。
私は溜息をつき呆れたものだ。これが私もまた生息する私たちのオン・ライン空間というものなのだ。なんというわけのわからないカーニヴェルに私たちは参加しているだろう？ 果たしてこの一件はじいさんの無邪気とおっちょこちょい、後先を考えない愚かさ、すなわち自己責任に起因するコメディだろうか？ 私はそうは思わない。なぜ私がそう考えるか、それについては本稿最後に示したい。
さて、ここからが本題である。AIが〈環境（E）〉を部分的に設計しはじめた世界において、私たちはどのようにして善を、自由を、責任を確保するのか？
すなわち、「設計の倫理」は、AI時代にどのように変貌するのか。私たちは引き続き環境設計について考えなければならない。私たちが健やかに、快活に、パッピーにいられる環境を作るために。
７|環境設計の倫理ーー〈環境をつくる者〉の責任と自由
AI時代の「善」
AI時代において、「善」や「悪」はもはや個人の心の問題であるばかりではない。いまや善は、インターフェースであり、プロトコルであり、設計思想なのである。
つまり、今日もっとも倫理的に影響力を持つのは道徳哲学者ではなく、UXデザイナー、アルゴリズム設計者、そして環境をつくるエンジニアたちだ。彼らが生み出す環境の中で、私たちは選び、迷い、怒り、愛し、疲れ、希望を持つ。私たちの心の多くは、すでに「設計された気候」によって形づくられている。
ならば、と問おう、“環境を作る力” を得てしまった人類は、どのような倫理を持つべきなのか？
Ⅰ）環境の力は、いつも個人の力を上回る（クルト・レヴィンの再解釈）
もう一度クルト・レヴィンは、場（フィールド）の理論を思い出してみよう。
行為は、個人（P）と環境（E）の関数である。
B = f(P, E)
だがAI時代、この式の意味は決定的に変わった。環境（E）は、もはや自然や社会の“背景”ではなく、”完全に設計可能な“前提の総体”になったからである。
スクロール速度、
通知の頻度、
レイアウトの色、
アルゴリズムの閾値、
フィードバックループ。
これらの“些細な設定”が、怒り・快楽・欲望・疲労・協調・孤独といった内面を直接変化させる。
つまり、AI時代の最小の倫理単位は、行為そのものではなく、行為を誘発する“環境の微細設計”である。近代の倫理学者たちが想像したこともない場所で、いまや人間の精神は形づくられているのだ。
Ⅱ）最強の悪とは、悪意ではなく“中立の設計”である
もっとも恐ろしいデザインとは何か？ それは、悪意を持つデザインではない。むしろ中立を装った設計”こそが、もっとも危険なのである。
なぜなら、
人間の注意を奪い
ミスリードを誘発し
情動を最大化し
不安を増幅し
分断を促進し
循環的依存をつくり
それでいながら、しかしそれをつくった本人は「私はたださまざまなユーザーに公平に中立に最適化しただけですから」といけしゃあしゃあと言えてしまうからである。
AI時代の倫理において最も重い罪は、「何もしていないように見えるのに、じつは構造的暴力を増幅する設計」である。これは、ハンナ・アーレントが言った“悪の凡庸さ”の、AI時代のアップデート版である。アーレントが描いたアイヒマンは、「悪魔的な意図」を持っていたのではなく、「深く考えることの放棄」、すなわち「ただ職務を遂行しただけ」という凡庸な論理によって、巨大な構造的暴力を実行した。
AI時代の設計者もまた、「ただユーザー体験を向上させただけ」「ただエンゲージメントを最大化しただけ」という中立的な目的を遂行することで、構造的な不自由や分断という「悪」を、無自覚に、大量生産する。AI時代の倫理において最も重い罪は、「何もしていないように見えるのに、じつは構造的暴力を増幅する設計」なのである。
Ⅲ）設計者は、もはや“神”に近い場所に立っている
これまで、神の領域に属していた行為がある。それは、他者の行為の“条件そのもの”をつくることである。
AIとアルゴリズム設計者は、いまやこの領域に足を踏み入れた。ユーザーの心の輪郭を少しずつ変え、思考の予測可能性を高め、意志の軌道に偏りをつくる。これはもはや、誘導でも、説得でも、操作でもない。
もっと根源的な、“世界の微細構造を設計してしまう力”そのものなのである。
つまり、設計者とはいまや人間の“自由の気候”を定義する準・神的な存在である。ならば、カントがかつて「人間の善意」に期待したように、AI時代は “設計者の善意” ではなく、“設計の原理”が必要なのだ。
Ⅳ）AI時代の設計者に必要なのは、技術ではなく“感情の気候学”である
とりわけ、AI時代の設計者が学ぶべきは、倫理学でもコンピュータサイエンスでもない。必要なのは、「感情がどのような環境で生成されるか」を知る新しい“気候学”である。
感情は内側から湧くものではなく、外側の環境（気候）の変化として立ち上がる。
怒りは“風のように立ち上がる”
希望は“湿度のように滲む”
孤独は“気圧の変化として訪れる”
これは、東洋思想の“縁起” “空” “間柄” “気”とも深く接続する。
つまり、設計者は、
心理のメカニズム
生理反応の閾値
文化的表象
社会的偏差
技術的制約
だけでなく、“人間の感情がどのように世界と共鳴するか”という深い感性を持たないといけない。
Ⅴ）設計の倫理（第一原則）：環境は「可逆的」でなければならない
AI時代において、もっとも危険なのは“不可逆的な設計”である。
人間を特定の行動へ誘導し、抜け出せないループを作り、依存と疲弊を蓄積させる。これは、いまのSNSがすでにやっていることだ。
AI時代の設計者は、まず第一に環境を“戻れる場所”として設計する義務がある。
中毒に陥らないUX
依存ループを切断するインターフェース
可視性と選択可能性の担保
ユーザーが「自分の立っている場所」を理解できる設計
これらは、倫理ではなく基礎であり、最低限である。
Ⅵ）設計の倫理（第二原則）：あなたの環境は、他者の“自由の可能性”を広げているか？
自由は、内なる意志”ではなく、“外から与えられる可能世界の広さ”によって測られる。
たとえば、
学習アプリがユーザーの「苦手」を固定化するか
SNSが同質性バイアスを強めるか
レコメンドが多様性を奪うか
プラットフォームが弱者の声を埋もれさせるか
これらはすべて、自由の“可能性”を狭める設計である。
AI時代の倫理は、善悪ではなく、
あなたの設計は、他者の可能性空間を拡大しているか？
だけを問う。
８｜設計の倫理（第一原則）：環境は「可逆的」でなければならない
AI時代において、もっとも危険なのは
“不可逆的な設計”である。
人間を特定の行動へ誘導し、
抜け出せないループを作り、
依存と疲弊を蓄積させる。
そんなにユーザーを沼らせてどうするのだ？
しかし、これはいまのSNSがすでにやっていることだ。
AI時代の設計者は、まず第一に
環境を“戻れる場所”として設計する義務がある。
ユーザーを沼らせず、中毒に陥らせないUX
依存ループを切断するインターフェース
可視性と選択可能性の担保
ユーザーが「自分の立っている場所」を理解できる設計
これらは、倫理ではなく 基礎であり、最低限である。
９｜設計の倫理（第二原則）：あなたの環境は、他者の“自由の可能性”を広げているか？
自由は、
“内なる意志”ではなく
“外から与えられる可能世界の広さ”
によって測られる。
たとえば、
学習アプリがユーザーの「苦手」を固定化するか
SNSが同質性バイアスを強めるか
レコメンドが多様性を奪うか
プラットフォームが弱者の声を埋もれさせるか
これらはすべて
自由の“可能性”を狭める設計である。
AI時代の倫理は、
善悪ではなく、
あなたの設計は、
他者の可能性空間を拡大しているか？
だけを問う。
10｜設計の倫理（第三原則）：環境は「共感の伝導率」を高めなければならない
AI時代の最大の危機は分断だ。
その根源には、
共感の伝導率の低下
がある。
アルゴリズムが
“似た者同士を固める”から、
異なる価値観の人の痛みは届かない。
ならば、AI時代の設計者は
こういう環境をつくる必要がある。
対立する声を安全に可視化する場
過剰な怒りを沈静化する循環構造
ゆっくりとした対話のための時間の設計
反射的な攻撃を抑制するUI
弱い声が拾われるプロトコル
これは倫理ではなく、
感情の生態系の設計である。
10|例のネカマじじいの悲喜劇は、けっしてじいさんの自己責任ではない
さて、もう一度冒頭のネカマじいさんの話題に戻ろう。この現象の本質は、個人の「P（パーソナリティ）」の問題ではなく、むしろレストラン・レヴュー・サイトのプラットフォームの「E（環境）」の設計にあるのだ。
匿名性と自己演出を煽る設計： 真実性の担保を緩くし、理想化されたアイデンティティ（若さ、学歴、美しさ）がアクセスや承認を得やすい構造がある。
承認欲求のループ： 「いいね」やフォロワー数といった即時的フィードバックが、演出を過激化させ、リアリティからの乖離を不可逆的に進めてしまった。じいさんは架空の自分に夢中になって、もうどうにも止まらなくなってしまったのだ。
分断されたコミュニティ： 批評の真実性より、「珍芸」や「ネタ」として消費するフォロワーを生み出す、感情的消費を誘発するアルゴリズムになっている。（ごめん、じいさん、私もまたじいさんの珍芸に拍手喝采を送ったものだ、ついうかうかとシステムに乗せられて。）
すなわち、孤独なじいさんは考えたのだ、「多くの承認を勝ち得て、このサイトで人気者のなるためには、この環境が要求する最強のペルソナになりきるしかない！」ーーはやいはなしがじいさんは設計された環境の罠に絡めとられた犠牲者なのである。この物語は、「悪意なき滑稽な個人」の責任ではなく、むしろ「設計によって誘発された構造的な問題」として再解釈されるべきなのだ。
なお、このレストラン・レヴュー・サイトは他にも多くの問題が指摘されている。一方でサイトに毎月1万数千円から5万円ものカネを払う飲食店のなかから百名店を選出し、他方で人気レヴュアーの選出を行う。そうかと思えばユーザーへの連絡なしのシャドウバンをおこない、中間業者からの薄謝をともなうサクラ・レヴュアーの投稿さえも横行していると見なさざるを得ない。やりたい放題である。私はこのサイトを、システム設計倫理を考えるための優れたケーススタディであると考える。もっとも、公平のために記すならば、このサイトは意外にも個人経営の弱小優良飲食店に光を当てもすれば、インド圏の料理ブームを引き起こすことに貢献もしたけれど。
11｜人類は、環境をつくる動物であり、環境に飼われる動物である
私たちは初めからずっと、環境（E）の中で生き、その中で選び、その中で自由を錯覚し、その中で敗北し、その中で何度も立ち上がってきた。
AI時代になって突然「環境が重要になった」のではない。
むしろ、太古から連綿と続いてきた〈場の力〉が、いまようやく可視化されただけだ。
ではAI時代の何が決定的に新しいのか？
それは、
環境（E）が、初めて「人間の外部」によって部分的に設計されはじめたことだ。
私たちはまだこの事態の意味を理解していない。
アルゴリズムは意志を持たない。
AIは目的を持たない。
しかし、だからこそ怖いのだ。
「意図なき設計」が、意図をもたない暴力を静かに増幅させる。
では私たちは、どうやって善を選ぶのか？
どうやって自由を守るのか？
どうやって責任を確保するのか？
ネカマじじいは、たしかに無残なコメディだった。
しかし、あのじいさんは「愚か者」ではない。
むしろ環境に飼わてしまったた人間の、もっとも正直な、
あまりにも正直すぎる、姿なのだ。
承認ループに最適化し、
匿名性に酔い、
“物語として消費される自分”に中毒し、
脱出口のない演出へと追い詰められていく。
そこで「自己責任」ばかりを問うのは不当である。
あきらかにそこには、「構造の責任」が強固に存在しているのだ。
では、その構造をつくるのは誰か？
私たちであり、設計者であり、AIであり、そして無数の微細な設定である。
AI時代の倫理とは、
善意ではなく「環境の原理」を問うことだ。
カントが「善意の形而上学」を作ったのは、
人間の内側に自由の源泉を求めたからだ。
しかしAI時代では、自由は内側からではなく、
外側＝環境の設計から生まれる。
したがって私たちは、次の原則を持たなければならない。
Ⅰ）環境を可逆的にすること
戻れる道を必ず残せ。
沼をつくるな。
Ⅱ）環境は他者の可能性空間を広げること
自由とは「与えられる選択肢の広さ」である。
Ⅲ）環境は感情の伝導率を高めること
分断を増幅する設計は“悪”だ。
共感を媒介する設計は“善”である。
これらは抽象的理念ではない。
UXの粒度で、アルゴリズムの閾値で、フィードバックループの単位で、
微細なレベルで判断されるべき倫理の最低線である。
そして最後に――
私たち自身もまた、小さな設計者である。
ツイートひとつ、レビューひとつ、コメントひとつ。
それらはすべて、誰かの心に影響する「環境の微細構造」だ。
つまり私たちは、
「環境の犠牲者」であると同時に、
「環境の創造者」でもある。
だからこそ、和辻哲郎の“間柄”が、
そして西田幾多郎の“場所”が、
いまふたたび希望として甦る。
かれらが言っていたのは、こういうことだったのだ。
人間は、世界に投げ出されているのではない。
世界とともに生成している。
そして、その生成の仕方こそが「倫理」である。
AI時代は、その生成の速度を極限まで上げた。
ならば私たちは速度に酔うのではなく、
新しい静けさ＝“無為”の倫理を取り戻さなければならない。
無為とは、何もしないことではない。
「余計な影響を与えないようにする設計の技法」
そのことである。
繰り返そう。
世界が透明な悪に満たされていようとも、
善い環境をつくるほうが、結局は得なのだ。
それは信仰ではなく、
人類がこれまで繰り返してきた歴史的経験の結論である。
環境が悪で満ちるとき、
世界は壊れる。
環境が善で満ちるとき、
人は自由になる。
AI時代の倫理とは、
“世界を壊さないための設計”
ただそれだけの、しかし最大の哲学である。
『第三章‐４：自由／余白／生態系／環境設計』へ続く。
