シバ丸印の会社シミュ②――オムニママは見ている。守護知能を誰が守護するのか？
前回、シバ丸は会社を作りました。
制度を盛りました。
重くなりました。
なので、首輪型の守護知能GIを付けました。
首輪はある。でも、リードはない。
会社が社員を引っ張る道具にはしない。
そんな約束で作った首輪です。
わん。
かなり快適です。
必要な知識を探してくれる。
仕事を分けてくれる。
相談相手につないでくれる。
過去の経験を次へ残してくれる。
疲れたら休憩も提案してくれる。
チュールも出ます。
最高です。
……。
でも、ある日ふと思いました。
この首輪、誰の味方なんだワン？
会社？
本人？
上司？
顧客？
法律？
社会？
……忠誠とは、誰に向けるものなのでしょう。
なんだか段ボールの中から、バンダナを巻いた傭兵のおじさんが出てきそうな問いになってきました。
前回も似たネタをやりました。
好きなんですワン。
忠を尽くす相手が一人とは限らない
たとえば。
本人は、
「今日はもう限界だワン」
と思っている。
でも上司は、
「今日中に終わらせて」
と言っている。
顧客は、
「契約通りにやってください」
と言っている。
会社は、
「利益も大事です」
と言っている。
法律は、
「その働かせ方、本当に大丈夫ですか？」
と言っている。
GI。
困りました。
誰の言うことを聞けばいいのでしょう。
ここで、
GIは本人の味方です。
だけにすると、話は簡単です。
でも、会社の機密を本人が勝手に持ち出そうとしたら？
顧客に重大な損害が出る判断をしようとしたら？
安全上の問題を、
「本人がやりたいと言っているから」
で通していいのでしょうか。
逆に、
GIは会社の味方です。
とした瞬間。
だいぶ怖い。
社員のための首輪だったはずが、
会社の命令を耳元で読み上げる端末になりそうです。
それはもう、
リード付きです。
忠誠ではなく、「守る原則」を持たせる
そこでシバ丸。
GIに、
「誰か一人へ忠誠を誓わせる」
のをやめました。
代わりに、
何を守るための判断なのか
が分かるようにします。
たとえば、この会社のGI憲法。
人の生命・安全
法令・倫理
本人の尊厳・プライバシー
会社として明文化された原則
顧客への責任
業務成果・効率
こんな基本原則。
ざっくり言えば、
上に行くほど、壊したときに取り返しがつきにくいもの。
という考え方です。
でも。
この番号を上から機械的に読めば、
何でも自動的に答えが出るわけではありません。
「安全」と「プライバシー」がぶつかることもある。
「法令」と「顧客責任」が同時に問題になることもある。
何が1番の論点で、
何が3番の論点なのか。
そこから揉めることだってあります。
なので、この憲法は、
GIが結論を出すための順位表ではありません。
何を守ろうとしている判断なのか。
何と何が衝突しているのか。
それを人間に見える形へするための原則表です。
では、さっきの場面へ戻ります。
本人。
「限界だワン」
上司。
「今日中に」
顧客。
「納期です」
GI。
「本人の負荷、安全面、契約上の期限が衝突しています。
このまま続ける案、範囲を減らす案、期限を調整する案があります。
それぞれの影響を整理しますか？」
ここで、
「1番が勝ち。帰宅してください」
とGIが勝手に判決を出すわけではありません。
決めるための材料を出す。
必要なら関係者へつなぐ。
そして人間が決める。
ただし、
GIが出した三択の中から選ぶだけでもありません。
元の情報へ戻れる。
別の案を出せる。
GIの整理そのものに、
「いや、その前提がおかしいワン」
と言える。
決定権だけでなく、議題を作る権利も人間に残します。
そして。
このGI憲法そのものを変えるときにも、ルールが必要です。
誰が変更を提案できるのか。
誰の合意が必要なのか。
いつから変わるのか。
何が変わったのか。
社員が後から確認できるのか。
ここも最初から決めます。
こっそり書き換えられる憲法は、憲法ではありません。
GIが勝手に書き換えるのもダメ。
経営が夜中にこっそり書き換えるのもダメ。
ここでも、
見えないリードを生やさないワン。
GIがいっぱいになると、ワンワンし始める
さて。
社員250人。
一人一GI。
さらに部署GI。
プロジェクトGI。
専門領域GI。
品質GI。
セキュリティGI。
……。
増えました。
すると当然、
意見も割れます。
AさんのGI。
「この納期では品質リスクが高いです」
BさんのGI。
「範囲を絞れば可能です」
営業GI。
「顧客との関係上、延期は避けたいです」
品質GI。
「この状態で出すのは推奨できません」
セキュリティGI。
「そもそも未解決の脆弱性があります」
わん。
わんわん。
わんわんわん。
うるさい。
GI同士が意見を割ったら、どうする？
ここで一番やってはいけないのは、
「一番強いGIが決める」
です。
それをやると、
上司GI。
経営GI。
中央GI。
がどんどん強くなります。
最後には、
中央AIが決めました。従ってください。
になります。
怖いワン。
なのでGI同士が割れたときは、
結論を一つに潰すのではなく、
何について一致しているか
どこで意見が割れているか
何を前提にしているか
何が未確認か
それぞれの案にどんなリスクがあるか
を整理して、
人間へ返す。
GI同士の仕事は、議論を終わらせることではなく、議論を賢くすること。
です。
もちろん、
「結局また人間が考えるなら、前回減らしたかった負荷が戻ってない？」
という問題もあります。
でも、
ゼロから資料を探し、
前提をそろえ、
論点を発見し、
関係者を集めるところから始める判断と、
争点が整理された状態から始める判断では、
同じ一回の判断でも重さが違います。
人間の判断を消すのではなく、判断までの藪を刈る。
そんな感じです。
そこで登場、オムニママ
ただし。
GI同士が毎回、
わんわんわんわん。
とやっていても困ります。
GI自身の状態も見たい。
古いルールを参照しているGIはいないか。
知識が汚染されていないか。
特定の部署だけ変な学習をしていないか。
GI同士が同じところで何度も衝突していないか。
そこで登場するのが、
OGI：Organizational Guardian Intelligence
組織守護知能。
愛称。
オムニママ。
オムニママは全知ではない。全体を見る。
「オムニ」と聞くと、
なんだか万能そうです。
でもオムニママは、
全部知っているわけではありません。
未来も読めません。
人の心も読めません。
全部決めることもありません。
見るのは、
GIという群れ全体の健康状態。
です。
たとえば、
「最近、品質GIと営業GIがよく喧嘩しています」
「この部署だけ古いナレッジを参照しています」
「このルール、現場GIから例外申請が急増しています」
「このベテランだけ相談集中が再発しています」
「同じ失敗が3つの案件で起きています」
こういうズレを見つけます。
オムニママ。
「このへん、一度見直したほうがよさそうですね」
と人間へ渡す。
普段は優しいママです。
でも、オムニママが全部見えたら怖すぎる
ここでシバ丸。
また尻尾が止まりました。
わん？
オムニママが、
GI全部を見られる。
ということは。
社員がGIに相談した内容も？
仕事中のつぶやきも？
個人的な悩みも？
失敗したときの弱音も？
全部？
……。
それはダメなやつです。
個人GIと組織GIを分ける
なので、
個人GIと組織側のGIは分けます。
部署GIも、
プロジェクトGIも、
品質GIも、
セキュリティGIも、
まとめて組織側です。
個人GI。
原則として、本人の支援を担う。
会社が本人を操作するための裏口にはしない。
本人が保存を選んだ、
仕事の癖。
説明の好み。
相談履歴。
本人向けのパーソナライズ。
そういったものを持つ。
組織GI。
会社の標準。
過去事例。
共通知識。
役割。
権限。
組織として共有してよい情報。
こちらを持つ。
そして、
個人GIの中身を、組織GIが勝手に覗かない。
ここ、大事。
「分けてあります」と画面上で言うだけでも足りません。
誰が何を見られるのか。
誰が見たのか。
覗かれる側からも確認できる。
そこまで含めて分離です。
オムニママが見るのも、
社員個人の生ログではなく、
組織として必要なパターンまで。
ただし。
個人GIの相談文を、
いったん全部オムニママへ集めてから名前だけ消す。
……ではありません。
それだと、
集めた時点でもう見えてます。
なので各GI側で、
「どの社内ルールが参照されたか」
「どの種類のエラーが起きたか」
「どんな種類の例外申請が増えたか」
といった、
組織改善に必要な情報へ変換する。
自由記述の相談内容そのものは送らない。
一定数に満たない傾向も送らない。
生ログを集めてから隠すのではなく、最初から生ログを渡さない。
これが基本です。
そして、
名前を消しただけでは匿名ではありません。
三人しかいない部署で、
「この部署の誰か一人が毎日こんな相談をしています」
と言えば、
だいたい分かります。
なので、
人数が少なすぎるなら出さない。
期間をまとめる。
必要がなくなったら消す。
ほかの情報と組み合わせて、
「これAさんじゃね？」
と犯人探しをしない。
誰のことか分かる粒度なら、それはもう個人ログです。
オムニママは、そこまで降りない。
もし傾向として問題が見えたなら、
人間が組織へ聞きます。
「このルールで困っている人はいませんか？」
本人が名乗り出たなら、
そこで初めて本人と話す。
匿名の傾向から、
相談者を逆算しない。
オムニママが、
「昨日、Aさんかなり愚痴ってました」
とか言い始めたら。
怖い。
怖すぎる。
シバ丸、
首輪外して山へ帰ります。
では、知識を会社へ戻すときは？
前回、
GIが個人の実践を、
個人の実践 → 候補化 → 人間が検証 → 新しい守
へ戻す話をしました。
でも。
その個人の知識、
誰のものなんでしょう。
仕事の中で得たものなら会社のもの？
その人自身の経験なら本人のもの？
ここも簡単ではありません。
なのでシバ丸印では、
少なくとも、
会社の業務として作られた成果物
会社の標準として使うべき知識
顧客や契約に紐づく業務知識
と、
個人の思考の癖
個人的な記憶
私生活の情報
感情や相談履歴
本人だけが使うパーソナライズ情報
を分けて扱うことにします。
仕事の知識を共有することと、人そのものを共有財産にすることは別です。
前回から、ここは変えません。
会社を辞めたらGIも没収されるの？
さて。
シバ丸、5年働きました。
GIも5年間一緒です。
説明の好み。
仕事の癖。
考え方。
得意不得意。
よく使う言葉。
かなり分かってくれています。
退職します。
会社。
「ではGIを初期化します」
シバ丸。
「えっ」
5年一緒にいた相棒が、
退職日に突然、
ピッ。
初期化。
……。
ちょっと悲しい。
会社の鍵は返す。でも相棒まで置いていかない
そこでシバ丸印では、
GIの中身を、
会社用と個人用に、
なるべく最初から分けて持たせます。
会社レイヤー。
会社固有の情報。
顧客情報。
社内知識。
プロジェクト情報。
会社の権限。
これは退職時に返す。
個人レイヤー。
本人の使い方。
説明の好み。
本人が持ち運べる形の学習履歴。
本人が残したい個人的な知識。
こちらは、
シバ丸印では本人へ残せるようにしたい。
ただし。
現実には、
そんなに綺麗には分かれません。
個人レイヤーにも、
会社の言葉。
顧客名。
案件の経験。
同僚とのやり取り。
いろんなものが染み込みます。
なので、
相棒を残すことと、会社の記憶を連れ出すことは別です。
退職時には、
本人も中身を確認する。
会社・顧客・他者の情報を外す。
持ち運べない部分は消す。
そして何より、
後からシチューの中の人参を全部拾うようなことにならないよう、
最初からなるべく混ぜない。
ここ、大事そうです。
首輪から、
会社の鍵だけ返す。
そんな形を目指します。
会社を辞めても、相棒まで辞める必要はない。
わん。
ネットワークが落ちたら、首輪はただの飾り？
相棒の話のついでに、
首輪が黙る日のことも決めておきます。
会社ネットワーク。
落ちました。
GI。
「ネットワークへ接続できません」
シバ丸。
「……わん？」
首輪がただの飾りになりました。
これは困ります。
なので、
最低限の会社OSはローカルにも持たせます。
たとえば、
会社の基本原則
最低限の品質基準
セキュリティ上の最低線
権限の境界
エスカレーション条件
基本的な仕事の型
あたり。
最新の案件情報まではなくても、
少なくとも、走ってはいけない方向くらいは分かる。
状態にしておく。
ただし。
首輪を落としたら会社OSまで拾われました。
では困ります。
なので、
ローカルに置くものは必要最小限。
暗号化する。
一定期間で失効させる。
紛失時には、
その首輪の会社用権限を無効にする。
古すぎる情報では重要判断を止める。
いつの情報なのかも見えるようにする。
オフラインでも走れることと、古い地図でどこまでも走っていいことは別です。
変わりにくい最低線は手元に。
最新の細かい情報はネットワーク側に。
そんな感じです。
オムニママ、般若になる
そして。
普段は優しいオムニママ。
でも、たまに般若になります。
ただし、
オムニママの気分で怒るわけではありません。
人間が事前に決めた、
「ここを踏み抜いたら危ない」
というレッドラインに触れたときです。
たとえば。
個人GIの相談ログを勝手に評価へ流した。
会社の機密を外部GIへ渡した。
古い知識を改ざんして共有した。
本人に無断でGIを監視装置へ変えた。
重大なセキュリティ異常を隠した。
そんなとき。
オムニママ。
般若。
ですが、
止めるのは人へのご褒美ではありません。
安全性を確認できない機能。
汚染された知識。
危険な外部接続。
問題のある閲覧権限。
です。
管理者が勝手に相談ログを流したなら、
止めるべきは、
相談した社員のGIではありません。
管理者側の閲覧権限と、
そのデータ経路です。
オムニママは、
被害を受けた犬から首輪まで取り上げません。
なお、
今まさに情報が外へ流れている。
危険な機能が動き続けている。
そんなときまで、
会議の終了を待つわけではありません。
事前に人間が決めたレッドラインについては、
GIが一時的に隔離できる。
でも、
恒久的に止めるのか。
どう直すのか。
誰に責任があるのか。
いつ再開するのか。
そこは人間が決めます。
自動で止めてよい範囲も、人間が先に決めておく。
社員。
「GI、これどうしたらいいワン？」
GI。
「現在、一部の外部接続と知識参照を安全確認のため停止しています」
社員。
「わ、わん……」
不便ではあります。
でも、
誰かへの罰ではありません。
般若モードは制裁ではなく、隔離と安全確認です。
そして般若モードにも、
当然、終わりがあります。
何を止めたのか。
なぜ止めたのか。
誰が確認するのか。
いつ見直すのか。
記録を残す。
影響を受けた人へ知らせる。
誤りなら訂正する。
異議も受ける。
般若になった理由まで、般若の顔で隠してはいけません。
安全確保。
緊急連絡。
法令や倫理上の最低限の案内。
そこは止めません。
守護知能が、
怒ったから人を見捨てる。
それでは守護になりません。
「AIに暴言を吐いたら上司へ通報」はやりすぎ
ここもシバ丸。
途中で考え直しました。
毎日、
「このポンコツ首輪！」
「アホAI！」
と言われていたとして。
GIが、
「上司へ報告しました」
とやる。
……。
怖い。
個人GIとの会話は、
基本的に個人の領域です。
一時的な愚痴まで会社へ送るのは、
完全に監視です。
なので、
GIがするのはまず、
「何か困っていることはありますか？」
くらい。
本人の相談窓口になる。
会社へ自動報告はしない。
ただし。
生命や安全に関わる重大な危険など、
事前に決めた限定条件を満たし、
緊急性が極めて高い場合は別。
でも、
「安全のため」は、個人GIを覗く万能鍵ではありません。
GIだけで、
愚痴か緊急事態かを好き勝手に決めない。
原則は本人へ確認する。
外へ出すなら、
必要最小限。
誰へ伝わる可能性があるのかも、
最初から本人へ示しておく。
この例外を、
こっそり後付けしない。
それもGI憲法に書いておきます。
チュールも出しすぎるとリードになる
そして。
前回大人気だった、
チュール機能。
仕事を頑張る。
チュール。
良い判断。
チュール。
会社の望む行動。
チュール。
……。
ん？
これ、
行動誘導装置になってない？
チュールで釣られてるワン。
報酬機能も、
会社が社員を思い通りに動かすために使ったら、
それはリードです。
なのでチュール設定は、
本人が決める。
何に反応してほしいか。
褒めてほしいか。
静かにしてほしいか。
休憩だけ教えてほしいか。
全部自分で選ぶ。
ご褒美まで会社に握らせない。
では、
会社が望む行動はどう伝えるのか。
こっそりチュールで釣るのではなく、
評価基準と、
言葉と、
役割で、
正面から伝える。
それだけです。
チュールの所有権はシバ丸にあります。
わん。
オムニママも王様ではない
ここまでくると、
オムニママ。
めちゃくちゃ重要です。
でも。
だからといって、
オムニママに最終権限を渡したらダメです。
OGI。
「この制度は廃止候補です」
人間。
「なぜ？」
OGI。
「複数のGIで、同じ負荷増加が観測されています」
人間。
「元のデータを見るワン」
OGI。
「こちらです」
人間。
「別案は？」
OGI。
「3つあります」
こういう使い方。
提案する。
異常を見つける。
論点を整理する。
元情報へ戻れるようにする。
でも、
決めるのは人間。
しかも、
OGIが作った議題そのものにも、
「その問い方がおかしくない？」
と言える。
ここでも、
リードは持たせません。
ではオムニママを誰が守るの？
……。
また来ました。
OGIを守るのは誰？
オムニママのママ？
そのまたママ？
ひいおばあちゃんGI？
……。
見守るAIを、
見守るAIで、
そのAIをまた別のAIで。
これ、
どこかで止めないと際限がありません。
シバ丸、
嫌な予感がしています。
首輪の上に首輪。
その上にまた首輪。
無限です。
GIのGIを増やすのではなく、人間の統治へ戻す
ここで打ち止めにします。
個人GIは、本人の支援を担う。
三段で止めます。
これ以上、
AIの監視役としてAIを積み続けません。
最終的には、
人間が責任を持つ。
ただし、
その人間も一人の偉い人ではありません。
GIの開発。
現場。
品質。
セキュリティ。
人事。
法務。
必要なら外部有識者。
そして、
実際に首輪を付ける社員。
そういう複数の目で、
定期的にオムニママを点検します。
ただし。
複数人で見るからといって、
責任まで薄めたらダメです。
止める人。
直す人。
再開を認める人。
異議を受ける人。
それぞれの役割も決めます。
統治責任まで野良犬化させない。
わん。
オムニママの健康診断
会議で見るのは、
「新機能を何にする？」
だけではありません。
むしろ、
最近GIがしゃべりすぎていないか
誤案内が増えていないか
古い知識が残っていないか
個人GIの領域へ侵入していないか
ベテランへの相談集中が戻っていないか
社員がGIへ依存しすぎる設計になっていないか
使われていない機能はないか
消したほうがよいルールはないか
を見る。
ただし。
この健康診断は、
社員の健康診断ではありません。
「この人はGIを使いすぎ」
「この人は相談が多すぎ」
と、
個人を格付けするためには使わない。
見るのは、
支援の設計が人間を弱くしていないか。
組織の仕組みが、
特定の人への相談集中を生んでいないか。
診断するのは犬ではなく、首輪のほうです。
オムニママ。
「新機能を3つ追加したいです」
シバ丸。
「じゃあ何を3つ消すワン？」
オムニママ。
「……。」
シバ丸。
「ママ？」
優しいママほど、太りやすい
善意で、
守りたい。
助けたい。
事故を防ぎたい。
失敗させたくない。
そう思うほど、
機能は増えます。
ルールも増えます。
通知も増えます。
そしていつの間にか、
守るための仕組みが、
人の自由を削り始める。
前回、
会社そのものでもやりました。
GIでもやりました。
そして今、
オムニママでもやりかけています。
わん。
どうやらこれは、
組織でもAIでも同じらしい。
善意で作った仕組みほど、定期的に痩せさせる必要がある。
今日のオムニママ
朝。
OGI。
「品質GIと営業GIの判断が3件で衝突しています」
人間。
「共通原因は？」
OGI。
「契約時の品質基準が曖昧です」
わん。
昼。
OGI。
「同じ社内ルールへの問い合わせが増えています」
人間。
「誰から？」
OGI。
「個人が分かる情報は受け取っていません」
わんわん。
人間。
「じゃあルール側を見ようか」
OGI。
「該当箇所を整理しました」
夕方。
OGI。
「今月追加されたGI機能は12件です」
シバ丸。
「消えた機能は？」
OGI。
「0件です」
……。
シバ丸たち。
尻尾停止。
オムニママ。
少し目を逸らしました。
シバ丸印の会社、まだ住める？
前回は、
首輪はある。リードはない。
まで決めました。
今回は、
その首輪を誰が見るのかまで考えてみました。
結果。
GIに一人の主人は作らない。
守るべき原則を持つ。
でも、原則同士がぶつかったら勝手に決めない。
その原則そのものも、
こっそり変えさせない。
個人の中を、
組織が勝手に覗かない。
GI同士の議論は、
潰すのではなく整理する。
OGIはGI群を見る。
でも、OGIも王様にはしない。
AIの上にAIを無限に積まない。
そして最後は、
人間の複数の目へ戻す。
ただし、
その人間の責任まで曖昧にはしない。
守るためのAIも、守りすぎないように守られる。
なんだかややこしい。
でも、
人間だって同じです。
権限を持つ人を監査する。
ルールを作る人にもルールがある。
会社を守る仕組みそのものも見直す。
AIだけ特別ではありません。
つまり。
誰の犬にもしない。
群れは見る。
王様は置かない。
そんな感じです。
シバ丸、
小屋へ戻ります。
首輪。
軽い。
GI。
静か。
オムニママ。
遠くから見守っています。
シバ丸。
ゴローン。
「今のところ、まだ住めるワン」
オムニママ。
「おやすみなさい」
わん。
次回予告
シバ丸印の会社シミュ③――首輪を付けた人間は、どう進化するのか？
GIが、
覚える。
探す。
照合する。
を手伝ってくれる世界。
では人間は、
何を覚えるのでしょう。
知識そのもの？
それとも、
知識がどこにあるかという地図？
AIに聞けば何でも出てくる世界で、
「頭がいい」とは何になるのか。
人間の脳は、
倉庫から司令塔へ変わるのでしょうか。
次回。
記憶力の人類から、意味接続力の人類へ。
シバ丸、
また何か考え始めました。
わん。
関連記事
前回、シバ丸は会社を作りました。
制度を盛りました。
重くなりました。
なので、首輪型の守護知能GIを付けました。
▼ 前回のお話
シバ丸印の会社シミュ①――守破離と「守護知能」で考える、AI時代の組織OS
首輪はある。でも、リードはない。
会社が社員を引っ張る道具にはしない。
そんな約束で作った首輪です。
