AIを疑う力──インフラエンジニア×AI

「AIの回答をそのまま信じ切ってしまうのは、本当に危険だなと思っています。結局、最後は人間が『疑う力』を持たないといけないんです」

開発現場でAIの導入が急速に進むなか、SREチームからはそんな冷静な言葉が聞こえてきました。

AIは、魔法のようにあらゆる課題を解決してくれる存在ではありません。時にはもっともらしい誤った回答を返すこともあり、その精度は与えられた文脈に大きく左右されます。だからこそ重要なのは、AIを使うことではなく、AIをどう使いこなすかという視点です。

では、インフラ運用の最前線では、AIをどのように業務へ取り入れ、どのような価値と課題を感じているのでしょうか。

今回は、iCAREのDevelopment部 SREチームでインフラ運用・保守を担当する目黒さんに、現場でのリアルなAI活用と、これからのエンジニアに求められるスキルについて伺いました。

※本インタビューは2026年5月に実施したものです。掲載内容は当時の情報に基づいているため、現在の取り組みとは一部異なる場合があります。あらかじめご了承ください。

SREチームにおけるAI活用の現在地

── 目黒さんは現在、SREチームでどのようなミッションを担当されているのでしょうか。

目黒： 最近だと、Carely健康管理クラウドのOCR（光学文字認識）機能に関するインフラ周りをメインで担当しています。SREチームは現在3名体制で動いていて、AIを活用するためのサンドボックス環境の用意から、それを本番環境へどう適用していくかといった基盤作りも並行して進めています。

── AIを実際の業務で使い始めたのはいつ頃からですか？

目黒： 一昨年の秋頃ですね。世間でChatGPTなどが騒がれ始めて、徐々に実用性が見えてきたタイミングです。そこから、組織としても本格的に導入していこうという流れになりました。

── 具体的に、日常の業務ではどのような場面でAIを使っていますか？

目黒： 大きく分けると3つあります。1つ目はセキュリティチェックの文脈。2つ目は、カスタマーサクセス（CS）チームからの技術的な問い合わせに対する文章作成やチェックです。そして3つ目が、私自身がメインで使っている「壁打ち」としての活用ですね。

── 壁打ち、というのはトラブルシューティングなどのことでしょうか。

目黒： そうです。インフラをコード化するTerraformを使っているのですが、コード上の構成と実際のインフラリソースに差分が出ることがあります。その差分がなぜ出ているのか、自分でもパッと見でわからない時に、現状のコードとリソースの情報をAIに投げて「これ、なんで差分が出てるの？」と壁打ちします。

あとは、ワークフローがこけたり、ヘルスチェックが失敗した時ですね。Datadogなどの監視ツールからエラーログを拾ってきて、「何時何分にこういう障害が起きたんだけど、このログから推測できる原因は何？」とAIに聞いてみる。いわゆる、トラブルシュートの初動におけるトリアージ（優先順位付けと切り分け）として使うことが多いです。

「優秀なアシスタント」だが、文脈は読めない

── トラブルシューティングの初動をAIに任せることで、業務は楽になりましたか？

目黒： 最初のトリアージに関しては、すごく楽になりました。以前なら、すべてのログを自分で一行ずつ追いかけて、公式ドキュメントや技術ブログを漁って……と、かなり時間と体力を削られていた作業です。それをAIが「こういう原因が考えられます」といくつか当たりをつけてくれるので、初動のスピードは間違いなく上がっています。

── AIの回答精度についてはどう感じていますか。

目黒： ここが難しいところで、初回の回答はだいたい間違っていることが多いんですよ。なんとなく肌感で正しそうなことを言ってくるんですが、実際の我々の環境とはズレている。

── それはなぜなのでしょうか。

目黒： 文脈（コンテキスト）の蓄積量が、人間とAIでは圧倒的に違うからです。 例えば、過去にインフラ側で大きめの変更をリリースする際に、想定外のエラーが発生しました。チームのメンバー3人でAIを使いながら原因を調査したんですが、AIが出してくる回答は見事にバラバラで、しかもどれも的外れだったんです。

理由を深掘りしていくと、AIへのプロンプトのやり取りの回数が影響していました。私たちのインフラ環境は特殊な構成をしている部分もあって、その「前提条件」や「過去の経緯」をしっかり伝えないと、AIは一般的なセオリーに基づく回答しか返してきません。

大規模なコードレビューをAIに頼もうとした時も同じでした。コードの変更量が多すぎると、AIは全体像を把握しきれずに「よくわかりません」と匙を投げてしまう。一部のコードだけ切り取って読ませても、システム全体の文脈がわからないから、ピントのずれたレビューしか返ってこないんです。

── つまり、AIは現状のリソースの一部しか見ていない。

目黒： そういうことです。だから、AIが返してきた回答に対して「ここがおかしいから、この条件を追加してもう一度考えて」というように、プロンプトを通して人間側が軌道修正をしてあげる必要があります。結局、正しい答えにたどり着いたのは、地道にログを追いかけて公式ドキュメントを確認した自分の見立ての方だった、ということも珍しくありません。

疑う力と、泥臭い検証の価値

── 業務でAIを使うようになって、エンジニアに求められるスキルは変わりましたか？

目黒： 「疑う力」と「レビュー能力」が、これまで以上に問われていると感じます。

先ほども言ったように、AIはもっともらしい嘘をつきます。経験豊富なエンジニアであれば、「あ、これは違うな」と直感的に気づいて、AIの回答を自分の中で修正しながら使えます。ですが、経験が浅い人やその技術領域に詳しくない人が使うと、AIの回答を鵜呑みにしてそのまま実装に落とし込んでしまうリスクがあります。

── 気づかずに間違ったコードを適用してしまう、と。

目黒： それが一番怖いですよね。AIに任せきりにするのではなく、AIが出力したものを自分がレビューする立場にならないといけません。

「AIがこう言ってるから合っているだろう」ではなく、「AIはこう言っているけど、本当に今のシステム構成でこれを適用して問題ないか？」と、公式ドキュメントにあたって検証する。結局、最後は人間が泥臭く判断して決断を下すという部分は、AIが普及しても変わらない、むしろより重要になっている気がします。

── 組織として、AI活用を進める上での課題はありますか？

目黒： 現状はまだ個人のスキルやスタンスに依存している状態なので、そこをチームや組織としての「文化」に落とし込んでいくことが課題ですね。

AIへのプロンプトの出し方一つとっても、エンジニアによって上手い下手があります。属人化してしまっている知見をどう共有し合うか。そして何より、AIの回答に対して「本当にそうか？」と議論し合える健全な懐疑主義を、チームの中にどう根付かせていくか。ただツールを入れるだけではなく、そのツールを正しく使いこなすための組織のルール作りが、これから必要になってくると思っています。

AIは確かに便利で、優秀な壁打ち相手になってくれます。でも、システム全体を俯瞰し、プロダクトの文脈を理解して最終的な責任を持つのは、私たちエンジニアです。AIに答えを求めるのではなく、AIの答えを素材にして、自分の頭で考え抜く。そんな泥臭い検証を楽しめる人と一緒に、これからのインフラ基盤を作っていけたら嬉しいですね。

AI時代だからこそ、人間に求められる「疑う力」

インタビューを通して印象的だったのは、AIが優秀になるほど、人間の役割が小さくなるわけではないということでした。

AIは、トラブルシューティングの初動を支え、膨大な情報の中から有力な候補を素早く提示してくれる優秀なアシスタントです。一方で、システム固有の背景や過去の経緯といった文脈までは理解しきれず、ときにはもっともらしい誤りを返すこともあります。

だからこそ、AIの回答をそのまま受け入れるのではなく、「本当に正しいのか」と問い直し、公式ドキュメントやログをもとに検証する姿勢が欠かせません。AIに任せる範囲が広がるほど、人間には判断し、レビューし、責任を持つ役割がより強く求められるようになっています。

AIを導入することがゴールではなく、AIを前提とした開発文化をどう育てていくか。個人のノウハウをチームへ共有し、「本当にそうだろうか」と健全に議論できる文化を築いていくことが、これからの開発組織には欠かせないのかもしれません。

読んでくださってありがとうございました。
この記事が「なるほど」と思えたら、「スキ」や「フォロー」もらえるとうれしいです。チームにもシェアしてもらえると、次の記事のモチベーションになります。

iCAREではエンジニアを募集しています

iCAREでは、「Carely健康管理クラウド」を共に開発していくエンジニアを募集しています。 これまでの経験を活かし、複雑な社会課題の解決に技術で挑戦したい方、ぜひ下記より詳細をご覧ください。

herp.careers X02_オープンポジション(社員リファラルもこちらから)

株式会社iCARE

募集要項をみる