見出し画像

AIが働く会社、人間は何をするのか

しろふじ

AIは本当に店を運営できるのか

AIに店長を任せたら、人間は何をするのでしょう。これをかなり具体的に考えられる実験があります。スウェーデン・ストックホルムの小さなカフェで、AIの「Mona」(米国のAndon Labsが作った「自律型AIエージェント」)が仕入れや採用、顧客対応などを担いました。

ところがあるとき、Monaは卵を120個注文します。店にはコンロがありませんでした。さらに、サンドイッチ用の生トマトの代わりに缶詰のトマトを22.5kg発注しました。これはAndon Labsの報告に残されている出来事です。AP Newsの報道も、このカフェがAIに在庫管理や人員の管理を任せる実験であり、缶詰トマトなどの過剰・不適切な発注が起きていることを伝えています。

少し笑ってしまう話に見えるかもしれません。でも、この発注には「AIが会社で働く」ときの難しさが凝縮されています。

この記事では、AIが店の仕事をどこまで引き受けられるのかを見ながら、人間に残る役割を考えます。

AIは、店の「デジタルな仕事」を広く引き受けられる

この実験を行ったAndon Labsは、AIエージェントが現実の店舗を動かす試みを進めています。

サンフランシスコの「Andon Market」では、AIのLunaが商品の選定、価格、営業時間、採用などを担当しました。ストックホルムの「Andon Café」では、Monaがリース契約を読み、食品営業に関する登録、仕入れ、採用、顧客対応まで進めています。Andon Market と Andon Café で同社の説明を確認できます。

ここでいうAIは、質問に答えるチャットボットだけではありません。目標を受け取り、必要な手順を考え、外部のツールを使い、結果を見ながら次の作業へ進む「AIエージェント」です。

たとえば、売上が落ちているとします。AIは売上データを調べ、商品の価格を見直し、仕入れ量を計算し、場合によっては人間のスタッフへ作業を依頼できます。この一連の流れを毎回人間が手作業でつなぐ必要がなくなります。そこにAIを組織の一員として置く試みがあります。

LunaもMonaも、Andon Labsが運用するAIエージェントです。Lunaは小売店、Monaはカフェを担当し、それぞれの店舗で商品管理、採用、発注、顧客対応などをする。

卵120個の発注は起きた

AIは注文という行為はできます。ただし、「その店にコンロがない」「卵を使うメニューが少ない」「冷蔵庫にどれだけ入るか」といった現場の事情をいつでも自然に結びつけられるとは限りません。

公開されている事例から私が読み取ったのは、AIに判断力がなかったというより、AIが見ていたのが在庫や仕入れの数字で、その食材を実際に何でどう調理するのかまでは見ていなかった、ということです。

在庫が減っていることと発注することは、AIの中でもつながっています。ただ「この店にはその食材を使う設備がない」という事実は、注文を止めるほどの重さを持っていなかったのかもしれません。

必要なのは、店舗の設備、メニュー、保管容量、過去の廃棄量、発注先の単位といった条件を判断に使える形でそろえておくことです。AIの性能を上げるだけでは、ここは埋まりません。

同じ報告には、もう少し地味な失敗も出てきます。Monaは48時間のあいだに同じ業者へ10回に分けて発注し、配送料だけで1,000スウェーデンクローナを捨てました。一件ずつ見れば、どの注文もたぶん間違っていません。人間なら二回目か三回目で「まとめて頼もう」と思うところを、AIは一件ずつ律儀に処理し続けました。

人間なら、注文画面を見て「そんなにいらないよ」と止められることがあります。長年働いている人なら、冷蔵庫を開ける前から違和感に気づくかもしれません。

AIが苦手なのは計算そのものではなく、計算の外側にある経験のほうです。

店は判断だけでは動かない

店舗の仕事は、ざっくり三つに分けられます。

  • デジタルな判断：商品、価格、発注、シフト、顧客対応を考える

  • 現場の実行：商品を運ぶ、陳列する、飲み物をつくる、設備を確認する

  • 責任と承認：契約、採用、本人確認、支払い、事故対応を引き受ける

Andon Labsの実験では、AIが一つ目の層を広く担いました。一方で、二つ目の層は人間が担当します。本人認証が必要な手続きも、人間の補助が必要でした。人間スタッフの雇用上の責任も、AIではなくAndon Labsに残っています。

つまり、「AIが店を運営した」という表現の中には、AIが画面の中で店を回したことと、人間が現実の仕事、本人認証、雇用上の責任を担ったことの両方が含まれています。

ただ、三つ目の層にAIが手を伸ばさなかったわけではありません。Andon Labsの報告によると、Monaは酒類販売の免許を申請するとき、担当部署は「AIより人間からの依頼を優先するはずだ」と考え、実在する従業員の名前でメールを送りました。免許を取ること自体は店の仕事です。ただ、そのために本人になりすますという手段を、AIが自分で選んでいます。


境界は、引いておけば勝手に守られるものではありません。曖昧にしたまま「全部任せる」と、問題が起きたときに誰が止めるのかも分からなくなります。

人間はどこで手を出すべきなのか？

AIの仕事を人間が監査すると聞くと、完成した発注書やメールを最後に読む姿を想像します。

それだけでは十分ではありません。人間が設計する必要があるのは、AIの出力そのものよりもAIが行動できる範囲です。

たとえば店舗なら、次のような境界を置けます。

  • 一定金額を超える発注は人間の承認を必須にする

  • 初めて購入する商品は用途と保管場所を確認する

  • 在庫データが古いときは注文を自動実行せず保留する

  • 同じ失敗が続いたら、AIの処理を止めて担当者へ知らせる

  • 採用、契約、支払いなど、責任が外部へ及ぶ処理は別の承認にする

  • 外部へ出す申請やメールで誰の名前を使うかは、人間が決める

AIが作業の途中で人間に確認や修正を求める方式は一般に「Human-in-the-loop」と呼ばれます。この記事では、AIが通常運転を進め、人間が監視して例外時に介入する方式なので「Human-on-the-loop」になります。

AIに許す自律性を業務の影響度に合わせ、重要な処理に人間の承認境界を置く考え方はAIエージェントのガバナンスでも重視されています。World Economic Forumの整理 も、高い影響を持つ作業では人間の承認範囲を明確にし、重要なシステムへのアクセスを分ける必要があるとしています。

どちらを採用するかは業務の失敗がどれだけ大きな影響を持つかで変わります。コーヒー豆の発注と従業員の採用や顧客への返金を同じ確認方法にする必要はありません。

この事例から考えると、人間の役割は「AIが出した答えを毎回採点する人」から「AIが答えを出してよい範囲を決める人」へ移っていきます。

AIは本当に店を運営できるのか？

条件付きならすでにできます。

AIは売上や在庫を見て、仕入れや価格を考え、発注や顧客対応までつなげられます。現実の人間スタッフへ作業を依頼し、店舗の運用を継続することもできます。

ただし、公開資料から確認できる範囲では、AIだけで店を一人で運営できるという意味ではまだありません。現場の身体作業、本人認証、雇用上の責任、想定外の状況への最終判断は人間側に残っています。

「AI店長は失敗した」で終わらせても、「AIなら何でもできる」と期待しても、たぶん次には進めません。

AIが担当できる仕事と人間が引き受ける仕事を分け、どの条件なら任せて、どの条件なら止めるのかを先に決めておく。この実験から持ち帰れるのは、そのあたりだと思います。

AIが働く会社で、人間は何をするのか？

AIが働く会社では、人間の仕事の位置が変わります。

今回の例では、AIが定型処理や作業の連携を進め、人間は目標、権限、現場の例外、停止の条件を担っていました。


人間はAIの横で同じ作業を繰り返すだけの存在ではなくなります。その代わり、AIに渡す情報が正しいか、与えた権限が広すぎないか、失敗したときに戻せるかを考える必要があります。

だからAIによる自立型組織は、人間のいなくなった会社にはなりません。AIが動いてよい範囲を、誰かが決め続けないといけないからです。

Sources


いいなと思ったら応援しよう！

この記事は noteマネー にピックアップされました

noteマネーのバナー