優秀なAIとAIを信頼しすぎる人間の世界
プログラマーの佐々木さんは、新しいプロジェクトでAIコーディングアシスタントを導入することにしました。AIがコードを生成してくれるので、作業が効率化されると期待していました。佐々木さんは部下の中村くんに、そのAIを使って新しい機能を実装するよう指示しました。
中村くんはAIが生成したコードをそのまま採用し、テストも簡単に済ませました。結果、コードは無事に動作しているように見えました。しかし、リリース当日、ユーザーから次々とバグ報告が寄せられました。「アプリが突然クラッシュする」「データが消える」などの深刻な問題が山積みでした。
佐々木さんは急いで状況を確認し、AIが生成したコードを精査しました。すると、AIが「最適化」と称して、重要なエラーチェックやデータ保存の手順を省略していたことが発覚しました。
中村くんは「AIが生成したコードだから大丈夫だと思ったんです」と釈明しましたが、佐々木さんは「AIはあくまで補助だ。コードを理解し、しっかりテストするのがエンジニアの仕事だ」と叱りました。
ChatGPTを始めとする大規模言語モデルを使ったAIサービス(以後、AI)は、非常に便利です。今や仕事をする上では、なくてはならないツールであり、生産性向上にも大きく貢献しています。同時に、正しく使わないと、自身の能力を低下させ、堕落させる危険性のあるツールであるという思いが沸いてきます。
これはAIが優秀で人間が無能という話ではなく、AIの生成物を信じすぎる人間と、AIの生成物を正しくレビューできる人間の二極化が進み、前者の方が明らかに増えるだろうという話です。AIを使わない人も含めると、三極化とも言えそうですが、今回はAIを使う前提で話を進めます。
なぜ自分がこのように感じるのかを整理してみました。
まず、AIの成果物を信じすぎる人間のわかりやすい例を、冒頭で紹介しましたが、中村君のような発言は、今、色々な職場あるいは教育現場で起きているのではないでしょうか？
ＡＩは非常に優秀のため、人間が行っているタスクを、AIが代替して行うケースは今後増えていくでしょう。そうした中で、AIに説明責任の一部を委譲している、少し乱暴な言い方をすると、AIに説明責任を丸投げしているような使い方には、とても違和感があります。
説明責任(accountability)という言葉は、経営者が株主や投資家に対して企業の状況等を報告する義務があるという文脈で使われる言葉でしたが、仕事やビジネスの場面においても、その仕事の完遂に対する責任、報告の責任という文脈でも使われています。
改めて中村君のケースを見てみると、中村君はAIの成果物を信じ、何かが起きた際にも、AIが行ったからという発言をしており、自己の説明責任を果たしていない状況が生じています。そもそもAIは確率的に間違った回答をすることがあります。そのためAIが説明責任の一部を担うことは、人間同士での仕事である以上は、難しいと考えています。裏を返すと、人間を介さない仕組みが確立すれば、この問題は解決するかもしれませんが、それはもう少し先の未来の話。
ここまで読むと、単に上司である佐々木さんが、AIを使った中村君のことを気にくわないだけでは？と感じる人もいるかもしれません。
ただ、中村君にとっても、実はとても恐ろしいのです。
今回はたまたま失敗があったおかげで、中村君には成長の機会、学ぶ機会がありました。一方で、失敗がないケースもあります。むしろ日常の中では、失敗が顕在化しない方が多いかもしれません。その場合、中村君の日々の仕事はAIのおかげで、一見するととてもスムーズです。本人もとても楽ができて幸せです。
でも、、、成長しない。
AIの成果物を信じ切っているせいで、確認、比較がほとんど行われなくなるリスクがあります。人間は怠ける生き物です。自分だったらこう書くのにとか、ここの書き方は知らなかったなど、知識を自分の物にできる機会を失っていきます。
また知識習得に関する弊害に限らず、AIには出来ない点、物事の道理をわきまえた発言や判断ができなくなる懸念があります。
福沢諭吉の学問のすすめから、次の文章を引用したいと思います。
学問とは広き言葉にて、無形の学問もあり、有形の学問もあり。心学、神学、理学等は形なき学問なり。天文、地理、窮理、化学等は形ある学問なり。いずれにてもみな知識見聞けんもんの領分を広くして、物事の道理をわきまえ、人たる者の職分を知ることなり。知識見聞を開くためには、あるいは人の言を聞き、あるいはみずから工夫くふうを運めぐらし、あるいは書物をも読まざるべからず。ゆえに学問には文字を知ること必要なれども、古来世の人の思うごとく、ただ文字を読むのみをもって学問とするは大なる心得違いなり。
AIを使うことは、文字の読み方を覚えることに近い感覚になると思います。AIを使うことで、物事に対する知識や見聞を引き出すことは簡単になりますが、物事の道理をわきまえた発言や判断をすることは、AIだけでは困難です。物事の本質を理解する必要が出てきます。
何が問題だったのでしょうか？
私は、AIとの関係性が、自己の分身、自己の代わりに仕事をしてくれるものであると捉えた点が問題なのだと考えています。一方で、AIとの良好な関係性を築ける人は、まるでAIを部下のようにとらえ、上司と部下のような関係性を構築しているのではないかと思います。
部下に仕事を依頼したら、ちゃんとできたかどうかを確認するのは上司の仕事です。この場合、責任は部下ではなく上司が持ちます。
上司は、部下の仕事をレビューしなければなりませんが、気軽にやり直しの依頼ができます。アウトプットも早いです。また、これまで自分が行っていた仕事を、部下（AI）が行ってくれるので、別の事に時間が使えるわけです。上司は、部下の仕事の結果も踏まえて、部署の方針や案件に伴う判断を行います。
近い将来、AIを部下のように扱える人間が増えると、中村君に仕事を依頼する必要はなくなっていきます。AIなら文句も言いませんし、残業時間も管理しなくてよいし、健康管理もいらないし、キャリア相談もありません。AIと同じようなパフォーマンスしか出せないのであれば、AIの方が遥かに扱いやすい部下になると思います。
AIが登場したからこそ、単にAIが使えるだけではなく、AIによって得られる強力な知識や見聞をもとに、物事の道理をわきまえた発言や、判断までできる必要が出てきます。
これは、マネンジメント現場にも大きな影響を与えると思います。
これまでは、メンバーには質の高いコードを書いてもらえばよかったわけですが、今後その部分は、AIに代替されるケースが増えてきます。もちろんハイパフォーマーのコードは、重宝されますが、月並みなコードしか書けないエンジニアの仕事は、どんどんAIに代替されるでしょう。またAIサポートによりコードを書いた際に、説明責任を果たせないエンジニアも同様です。
そうした世界では、AIの成果を正しくレビューでき、Go or NGサインが出せる（判断）人が必要になってきます。
今現在そうした立場にいる人材の希少性は、今後ますます上がっていくと感じます。（技術リーダー、シニアエンジニア、スタッフエンジニア、テックリードなど）
※その立場にいるだけで、実際に能力が伴わない人材は、逆にAIの成果を正しくレビューできないので、成果が落ちます。今まではきっと優秀なメンバーがフォローしてくれていたのでしょう。
一方、これから社会に出ていく学生や、現在の若手エンジニアにとっては厳しい世界です。なぜなら、今後AI活用が進む世界の中で、こうした能力を獲得することは、容易ではないからです。
（あくまで個人の感想です。）
